埃隆・马斯克旗下的xAI公司目前正面临美国方面的调查，调查工作由加州州检察长罗布・邦塔牵头。此前，该公司开发的人工智能聊天机器人兼图像生成工具Grok，被曝可让用户大批量生成并发布基于真人照片的未经本人同意的露骨图像。
据互联网观察基金会的调查显示，在部分案例中，Grok甚至能让用户生成虚拟脱衣效果的未成年人图像。
邦塔在周三发布的一份声明中指出：“xAI公司似乎在为大规模生成未经同意的私密深度伪造图像提供便利，这些图像正被用于在互联网上骚扰女性和女孩，社交平台X也成为了传播渠道之一。”
这位检察长表示，其办公室正就“利用Grok制作的未经同意的性露骨内容的泛滥问题”对xAI展开调查。
在美国启动此次调查之前，印度、马来西亚、印度尼西亚、爱尔兰、英国、法国、澳大利亚等多个国家的政府机构已迅速采取行动，欧盟委员会也已对此事立案调查。
此前报道称，马来西亚和印度尼西亚已宣布暂停使用xAI旗下的Grok工具，直至相关问题得到解决。
在美国国内，三名民主党籍参议员已联名呼吁苹果和谷歌两家公司，要求其在应用商店下架社交平台X及Grok的应用程序，直至xAI能够采取有效措施，防止用户轻易生成未经同意的露骨图像以及涉及儿童性虐待的深度伪造图像。
“紫外线”组织、美国全国妇女组织、“家长联合行动”等多家维护妇女及儿童权益的倡导组织，也已呼吁应用商店下架xAI的相关应用。
苹果和谷歌两家公司均未对置评请求作出回应。
周二，美国参议院投票通过了《反深度伪造滥用法案》。根据该法案，被伪造为露骨深度伪造图像且未经本人同意的受害者，有权在民事法庭起诉制作或传播此类内容的公司。
该法案曾于2024年在参议院获得通过，但尚未提交至众议院审议表决。
周三，马斯克在社交平台X上发文称，尽管已有多个政府机构就未成年人裸体深度伪造图像问题对xAI进行质询，但他“并不知晓任何由Grok生成的相关图像”。
马斯克转而将通过Grok和社交平台X产生、传播的潜在非法内容归咎于“用户的相关请求”，并表示可能是Grok系统存在“程序漏洞”。
此前，针对外界对Grok生成内容的担忧情绪不断升级，xAI曾宣布将部分图像生成和编辑功能仅限付费订阅用户使用。
马斯克此前也曾在社交平台X上表示，利用Grok制作非法内容的用户，将面临与直接在社交平台X上传此类内容同等的后果。
xAI近期完成了一轮规模达200亿美元的成长型融资，投资方包括英伟达、思科投资，以及长期支持马斯克旗下企业的英勇股权合伙公司、基石集团、富达投资、卡塔尔投资局、阿布扎比MGX集团和巴伦资本集团。
目前，xAI的多个数据中心正在田纳西州孟菲斯市及其周边地区建设；这家由马斯克创立的人工智能及社交媒体企业，在内华达州注册成立，总部位于加利福尼亚州帕洛阿尔托市，与马斯克旗下电动汽车制造商特斯拉的工程办公地点相邻。
此外，特斯拉也已将Grok整合为旗下车辆信息娱乐系统的一项功能。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】