AI视频已能骗过人脸识别！2人突破购物平台核验盗取个人信息
“AI换脸”再次引发关注。据央视网10月25日报道，杭州市中级人民法院今年公布一起案例，AI生成视频，已经能够逃过人脸识别系统。
两名不法分子利用网络收集他人照片，通过AI生成点头、摇头、眨眼等动态视频，再通过篡改相机数据，成功突破了购物平台的人脸核验，盗取了账户内的个人信息。
央视主持人白岩松表示，无论AI怎么发展，都不能以侵害别人的权益为代价，更不能让造假的人占尽便宜。
据潮新闻此前报道，今年9月 4日，杭州中院公开开庭审理一起涉“AI换脸”个人信息保护公益诉讼案，并当庭作出一审判决。
该案中，张某、王某非法获取他人手机号码、头像照片、身份信息等，并利用“AI换脸”技术将人脸照片生成视频，伪造人脸识别认证，强制登录他人购物平台账号，将收货地址、购物车信息售卖给第三方，同时有偿替人进行虚假实名认证，共非法牟利5857元。
经法院查明，案涉“AI换脸”技术通过深度学习的算法，识别、提取照片中的人脸要素信息，并不断进行训练建模，生成模拟真人的动态视频。向左看、向右看、张张嘴、眨眨眼……这些在人脸验证环节中的常用动作，都能通过“AI换脸”技术生成。同时，张某、王某在手机中植入虚拟相机应用程序来替换本地相机，当平台调取摄像头进行人脸识别验证时，屏幕中的人脸就自动替换成这段合成视频，从而躲避“人脸识别”验证的防线。
法院判处张某、王某公开道歉，并支付公益损害赔偿金5857元，此款将专用于个人信息保 护、人脸深度合成技术不当应用的治理等公益事项。
这个案例证明，AI视频已经能够骗过一部分仍在广泛使用的、以传统活体检测为核心的人脸识别系统。
随着AI技术的不断发展，AI换脸、音视频合成的技术门槛大幅降低，利用AI生成明星、名人视频进行直播带货，也成为AI技术滥用的重灾区。
近日，演员吴越在微博发文声讨，“一觉醒来，谁在利用AI肆意抓人替自己作恶？这位‘花姐’你骗了多少人的钱？请如数奉还！太恶劣！！！ ”
根据吴越贴出的视频，账号为“花姐美肤日记”发布了一段“吴越”的AI视频，开头为“吴越”换脸直播带货，随后配上吴越公开活动时的视频画面，用“吴越”的声音称“这个产品不是他们找我，是我找他们的……效果是真的非常直观”，视频末尾还有疑似“邓亚萍”的带货片段。发布的这段视频中标注有“作者提示：含AI生成内容”。
在此之前，也有多位明星名人反映过类似问题。 演员温峥嵘曾自曝刷到AI盗播自己的直播间，上前质问竟被秒拉黑；霍启刚曾在个人社交账号上发文，称自己的形象遭到AI盗用；演员 靳东 也 遭遇AI换脸侵害， 他 的形象被不法分子仿冒后，专门用于针对中老年群体实施诈骗。
今年9月7日，最高人民法院发布《最高人民法院关于依法审理涉人工智能纠纷案件的意见》（简称《意见》），对利用人工智能侵害肖像权、名誉权、隐私权、声音权益等行为的责任追究作出了明确规范。
《意见》第四条明确规定：未经同意利用人工智能处理自然人的姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开的，构成对姓名权、肖像权等人格权益的侵害；未经同意使用自然人声音作为训练语料，模仿其音色、语调和发音风格生成可识别的合成人声的，构成对声音权益的侵害；操控虚拟形象、合成声音实施不当行为或者发表不实言论、降低他人社会评价的，构成对名誉权的侵害，依法追究行为人的侵权责任。