张文宏被AI“冒名”带货AI合成视频误导消费者
2024-12-16 10:31
近日，一段视频在网络上引起了广泛关注，视频中出现了一个模仿张文宏的账号在直播带货，出售一种蛋白棒。
许多网友对此产生疑问，“张文宏是不是在带货?” 更令人担忧的是，部分年长观众对这一视频深信不疑，甚至已经下单并在社交群里转发了该信息。经过记者的核实，发现视频中的张文宏并非真人，而是通过 AI 技术合成的深度伪造。
对此，张文宏回应表示，这样的卖货账号不止一个，且一直在变，他已多次向平台投诉。这件事情已经有几个星期了，一开始进行了投诉。特别是有些对AI不是很熟悉的、年纪比较大的人，他们很容易就会相信。
随着人工智能技术的发展，带货直播的形式不断变化。如今，AI 技术已经能够生成高度仿真的人脸和声音，这使得一些不法分子得以利用这些技术进行欺诈。最近，某明星企业家的声音也被 AI 技术合成并在网上传播，造成了极大的影响。而此次 AI 合成的张文宏在直播带货中表现得非常逼真，虽然在技术层面上仍有瑕疵，但依然骗到了不少人。
这一事件引发了公众对信息真伪的关注，尤其是在老年人群体中，他们对新技术的认知相对滞后，容易受到欺骗。然而，不仅仅是老年人，任何人都可能面临被 AI 伪造信息所误导的风险。我们无法完全依赖个体的判断来识别这些虚假信息，因此，相关的技术防范措施显得尤为重要。
在直播中，模仿张文宏的账号并没有明确表明自己的身份，只是在午夜进行直播，这种隐秘性显示了平台在治理 AI 乱象方面的努力与成效。尽管 AI 技术的发展为我们带来了便利，但同样也给社会带来了新的挑战。为了应对未来可能出现的更多伪造行为，建立更完善的风险防范机制显得迫在眉睫。
划重点:
🌐 AI 合成的张文宏在直播带货中引发热议，部分网友误信其身份。
🔍 大众对新技术的认知滞后，容易受到虚假信息的影响。
🛡️ 加强技术防范措施和信息监测机制，提升公众识别能力至关重要。