因旗下人工智能聊天机器人Grok被指致使女性与儿童遭受侵害并引发广泛批评，埃隆・马斯克创立的xAI公司宣布，将禁用该工具生成现实人物色情化图像的功能。
该公司于周三在其社交平台X上发文称：“我们已采取技术措施，禁止Grok账号对现实人物的图像进行编辑，使其呈现身着比基尼等暴露服饰的效果。”同时表示，这项调整适用于X平台的所有用户，付费订阅用户也不例外。就在上周，该公司刚将Grok的图像生成与编辑功能的使用权限，限定为仅向付费用户开放。
xAI公司指出，X平台的付费订阅用户仍可使用Grok编辑和生成其他符合平台服务条款的人工智能生成图像。此外，在相关行为被认定为违法的国家和地区，该公司还禁止Grok生成“现实人物身着比基尼、内衣及同类服饰的图像”。
此次对Grok的技术调整，源于数周前有用户利用这款人工智能聊天机器人，在未经当事人同意的情况下，对女性和儿童的图像进行数字“脱衣”处理，导致X平台上充斥着数千张人工智能生成的色情化图像。
这一功能已遭到全球多国政府与监管机构的谴责。美国加利福尼亚州总检察长办公室已于本周三早些时候，对xAI公司正式展开调查。法国、英国等多个欧洲国家也已针对xAI及Grok启动类似调查程序。欧盟方面同样在开展核查工作，确认相关图像是否违反《数字服务法案》；马来西亚与印度尼西亚则直接限制了本国用户对Grok工具的访问权限。
截至目前，马斯克仍在为这项技术辩护，转而将责任归咎于滥用工具的用户。但xAI公司在声明中强调：“我们对任何形式的儿童性剥削、未经同意的裸露内容及恶意色情内容，秉持零容忍态度。”
该公司还表示：“我们始终致力于将X打造为一个对所有人都安全的平台。”
相关文章:
英国通信管理局调查X因其旗下Grok生成色情化的女性及儿童的AI图像
英首相斯塔默升级对X不雅图像抨击：可耻平台管不了我们将出手
抗议Grok生成不雅儿童图像美国教师工会退出X
马斯克旗下xAI因Grok生成色情内容遭加州司法部调查
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】