“AI内容鉴定”！国家反诈中心App上线新功能
网购时遇到商品问题，随手拍张照片申请售后，本是消费者维权的常规操作。可近期，不少电商商家反映， 有买家使用 AI 伪造出来的 “ 问题图 ” 申请仅退款，不用退货还能白拿商品， 这让商家叫苦不迭。
对此，部分网友推荐使用 国家反诈中心 App 近期上线的 “AI 内容鉴定 ” 功能， 用户可通过上传图片、视频、音频或文本来检测 AI 生成痕迹，主要用于识别诈骗场景中的伪造内容。
也有部分网友提出疑问，用 AI 治理恶意 AI 能有效果吗？是否能利用“ AI 内容鉴定”功能进行维权？
买家以 AI 伪造枯黄果苗图片
申请 “ 仅退款 ”
河北辛集市的张先生是一名无花果树种植户，上个月他把店开到了某直播电商平台，售卖无花果苗。然而仅卖出 12 单，他就收到了一份 “ 仅退款 ” 申请， 对方的理由是收到的无花果苗已干枯死亡，随申请附上的，是一张叶片全黄、毫无生机的果苗图片。
张先生满心疑惑，自己明明是带盆发货，两天时间果苗怎么会完全枯死？“直播选的苗，他选了一棵特别健壮的。我是带盆发货的，发货之前也会保证土壤湿润。发货到客户收到就两天时间，苗不可能干到颜色枯黄。缺水枯黄至少要5天到7天。”
凭借多年种植经验，张先生找出了图片中的破绽。 “ 如果真的失水，就是运输途中有问题的话，它的叶子不会展开，应该是皱且下垂的。 这个图片枯萎死亡的状态，完全是把正常植物的叶片改成枯黄的颜色，稍微有点经验的人都能看出来。”
张先生断定，这就是 AI 造假。他随即驳回了申请，并联系买家退货退款，但买家直接申请了平台介入。尽管张先生据理力争， 平台还是依据顾客发来的这张图片，几分钟内就批准了 “ 仅退款 ” 申请。 最终，这笔 45 元的订单让张先生直接启动退店流程，不再在该平台卖苗。
记者调查发现，张先生的遭遇并非个例。在社交平台上，不少商家现身说法，讲述自己见过的 AI 伪造售后图片。五只衣架在同一位置整齐断裂、塑料手机壳断裂边缘出现毛刺、手串破碎后呈空心壳状 …… 记者梳理多位商家晒出的疑似 AI 造假图发现，这些图片虽然乍看逼真，但细看却漏洞百出，存在逻辑硬伤。
国家反诈中心App上线鉴定功能
记者体验 AI 鉴真工具使用效果
在 AI 生成图像泛滥的当下，如何精准鉴别真伪已成为绕不开的现实问题。近期， 国家反诈中心 App 正式上线 “AI 内容鉴定” 功能， 引发网友关注。该功能支持图像、视频等内容的 AI 识别检测，与此同时，各互联网平台也在积极布局 “AI 鉴真工具” 。
记者在网络上随机选取了十张商家宣称的疑似AI生成“售后图”，上传国家反诈中心App及多个AI鉴真工具，结果无一例外，均被系统判定为“图像含AI生成痕迹”。张先生提供的干枯无花果图片也被系统认定“图像含AI生成痕迹”。与之相对比，记者上传一张自己随手拍摄的照片，系统则提示“未检测到合成痕迹”。
某网络平台安全内容视觉算法负责人兰钧介绍，检测方法由两部分组成，一部分是小模型来学习AIGC模型生成内容的模式，基于大量的内容学习和训练，然后进行判断。另外会用大模型来关注内容本身，看它内容上有没有物理上的瑕疵，比如文字有没有乱码；此外也会看它逻辑语义上是否会出现不符合逻辑的问题。最终小模型和大模型结合，一起来进行判断。
“我们希望它不要出现误识别。用户或者商家可以尝试外部的一些 AI 鉴真工具，来辅助进行判断。对于目前这种 AIGC 的技术生成内容还是比较有效的。”