AI生成视频已能骗过人脸识别！安全防护该如何升级？
科技日报记者 崔爽
近日，杭州市中级人民法院公布一起案例：两名不法分子利用网络收集他人照片，通过AI生成点头、摇头、眨眼等动态视频，再通过篡改相机数据，成功突破购物平台的人脸核验，盗取账户内个人信息。
图片截自央视新闻 AI为何能骗过系统？在AI换脸突破主流核验的情况下，人脸识别是否安全？这种风险又该如何来应对？ 科技日报记者就此采访了有关专家。
第一问：“AI脸”与真人脸为何难以区分？
“传统人脸核验主要依靠活体检测，通过点头、摇头、眨眼等动态动作，区分真实用户与静态照片、视频。”天翼安全科技有限公司高级专家危嘉祺对记者解释，“但随着生成式人工智能技术快速发展，AI已经能够根据单张照片生成高度逼真的动态人脸视频，甚至模拟符合核验要求的动作。部分攻击还可结合虚拟摄像头、视频流注入等技术，绕过真实摄像头采集环节，使系统难以有效区分真实人脸与合成内容。”
但这并不意味着人脸识别技术已经失效， 说明依赖单一动作验证的传统技术路线面临新的安全挑战。 “人脸识别仍具有重要应用价值，但不能将其等同于绝对可靠的身份认证手段。”他说。
第二问：人脸核验相关风险由谁承担？
“AI发展带来的新型安全风险，需要坚持依法治理、权责一致、多方协同的原则，构建政府监管、企业履责、行业自律、社会监督、公众参与的治理格局。”危嘉祺表示。
具体来看，首先，对于利用AI伪造他人人脸信息、实施身份冒用、非法获取个人信息等违法犯罪行为， 应依法追究相关主体的法律责任， 从源头遏制技术滥用。
其次，应用平台和技术服务提供方应按照各自职责，依法落实个人信息保护和网络安全相关要求，持续完善身份核验机制， 加强对深度伪造、视频流注入等新型攻击的风险识别与安全防护， 切实保障用户合法权益。
最后，监管部门应进一步完善相关标准规范和安全评估机制，推动行业建立风险信息共享、漏洞通报和协同处置机制。公众也应增强个人生物识别信息保护意识，避免随意公开或向不可信渠道提供敏感信息。