马斯克旗下xAI因Grok生成色情内容遭加州司法部调查
埃隆・马斯克旗下的 xAI 公司目前正面临美国方面的调查，调查工作由加州州检察长罗布・邦塔牵头。此前，该公司开发的人工智能聊天机器人兼图像生成工具 Grok，被曝可让用户大批量生成并发布基于真人照片的未经本人同意的露骨图像。
据互联网观察基金会的调查显示，在部分案例中，Grok 甚至能让用户生成虚拟脱衣效果的未成年人图像。
邦塔在周三发布的一份声明中指出：“xAI 公司似乎在为大规模生成未经同意的私密深度伪造图像提供便利，这些图像正被用于在互联网上骚扰女性和女孩，社交平台 X 也成为了传播渠道之一。”
这位检察长表示，其办公室正就 “利用 Grok 制作的未经同意的性露骨内容的泛滥问题” 对 xAI 展开调查。
在美国启动此次调查之前，印度、马来西亚、印度尼西亚、爱尔兰、英国、法国、澳大利亚等多个国家的政府机构已迅速采取行动，欧盟委员会也已对此事立案调查。
此前报道称，马来西亚和印度尼西亚已宣布暂停使用 xAI 旗下的 Grok 工具，直至相关问题得到解决。
在美国国内，三名民主党籍参议员已联名呼吁 苹果 和 谷歌 两家公司，要求其在应用商店下架社交平台 X 及 Grok 的应用程序，直至 xAI 能够采取有效措施，防止用户轻易生成未经同意的露骨图像以及涉及儿童性虐待的深度伪造图像。
“紫外线” 组织、美国全国妇女组织、“家长联合行动” 等多家维护妇女及儿童权益的倡导组织，也已呼吁应用商店下架 xAI 的相关应用。
苹果和谷歌两家公司均未对置评请求作出回应。
周二，美国参议院投票通过了《反深度伪造滥用法案》。根据该法案，被伪造为露骨深度伪造图像且未经本人同意的受害者，有权在民事法庭起诉制作或传播此类内容的公司。
该法案曾于 2024 年在参议院获得通过，但尚未提交至众议院审议表决。
周三，马斯克在社交平台 X 上发文称，尽管已有多个政府机构就未成年人裸体深度伪造图像问题对 xAI 进行质询，但他 “并不知晓任何由 Grok 生成的相关图像”。
马斯克转而将通过 Grok 和社交平台 X 产生、传播的潜在非法内容归咎于 “用户的相关请求”，并表示可能是 Grok 系统存在 “程序漏洞”。