“AI张文宏”带货：去伪存真不能只靠网友比拼眼力
“AI张文宏”带货：去伪存真不能只靠网友比拼眼力
2024年12月16日 06:56
作者：
然玉
□然玉
最近有网友向媒体发来一段视频询问“张文宏是不是带货了？”视频中，张文宏在卖一种蛋白棒，家里的老人信以为真，已经下单，还转发了很多群。记者核实发现，这个账号在视频中，高仿“张文宏”反复介绍一种产品，口型是他的，声音也是他的。可是从视频来看，尽管口型和声音都模仿得惟妙惟肖，可稍加甄别，不难发现AI伪造手法的拙劣。所谓张医生真人带货，实为AI合成的深度伪造。
网谚有云“宇宙的尽头是带货”，如今似乎还可为之加上后半句：“如果你不愿带货，那么自有AI帮你带货。”自从AI大爆发以来，各种场景化的落地运用层出不穷。由此所带来的，除了“效率倍增”的震撼，也有“以假乱真”“擦边整活”的惊诧。前不久，就有明星企业家遭AI合成“原声”骂遍全网，一度激起轩然大波。而最近，又有AI复刻张文宏公然直播间带货，这波操作，胆子之大、路子之野，实在令人大开眼界。
应该说，此次事件中的“高仿张文宏”，尚属于“精度一般”的低水平AI，稍加甄别就能看出端倪。可就是此等“低端AI”，依旧蒙骗了不少人。人们除了叹息某些老年人“太好骗”，还应关注其背后的根本性问题。那就是，大众习惯性的识别、采信、认知的经验模型，已经严重滞后于可以“生成一切”的信息生产模型——这里所谓的“信息”，既是指图文、视频等内容信息，在某种程度上，也指诸如人脸、声音等生物信息。
生物信息，理论上是独一无二、无法仿冒的，通过专业技术手段，那些合成的“人脸”“人声”大致都会现出原形。但并非所有人都有这种“技术手段”和“火眼金睛”。如果说，粗粝的 “AI张文宏”更多只是让一些老年人中招。那么，如果是更逼真、更高水平的AI人物呢？面对“AI人”，去伪存真，不能纯靠个体的眼力比拼。网友擦亮眼睛、提高警惕固然是一方面，而更重要的，显然还要在生产端、渠道端发力设防、前置过滤。
“AI张文宏”直播带货一事，有两个值得关注的细节。一，其并没有进行明确的“身份主张”，关于自己是或不是“张文宏”不置可否；二，只在午夜场露面，“昼伏夜出”反监测意识极强。这其实也说明，平台对于AI乱象的治理机制，还是产生了一定的威慑作用。AI狂飙、来势汹汹，可以预见，其被“用在歧途”的场合，只会越来越多。有鉴于此，相关的防风险模块设计，还应该再细化、再加速，要留出安全余量，尽可能地有备无患。
（文章来源：羊城晚报）