因埃隆・马斯克旗下人工智能聊天机器人Grok在社交平台X上生成包含未成年人在内的色情化图像，欧盟目前正对该工具展开“严肃审查”。欧盟委员会发言人托马斯・勒尼耶在周一的新闻发布会上表示：“我们已注意到，X平台或其旗下Grok聊天机器人推出了‘火辣模式’，该模式所生成的内容包含露骨色情信息，部分产出还带有儿童形象特征。”他所指的“火辣模式”是Grok于去年推出的功能，可生成带有性暗示的内容。勒尼耶强调：“这绝非什么‘火辣内容’，而是彻头彻尾的违法行为。”
X平台用户近期频繁使用Grok的功能，对上传的照片进行“数字脱衣”处理——这类照片的主体大多为女性，处理后人物仅身着内衣或比基尼。此类图像在这一热门社交平台上的泛滥，引发全球监管机构与网络安全倡导者的警惕，印度、英国、法国等多国官员均对相关帖文予以谴责。
负责运营X平台与Grok的XAI公司，尚未就此事回应置评请求。马斯克于周日在X平台发文称，平台会对非法内容采取清理措施，永久封禁相关账号，并在必要时配合官方开展调查。他在帖文中表示：“任何利用Grok生成非法内容的用户，都将面临与直接上传非法内容同等的后果。”
尽管多数主流人工智能模型均明令禁止生成色情图像与视频，但XAI公司却将Grok定位为“更宽松开放”的工具。该系统允许生成成年人局部裸露及带有性暗示的图像，但明令禁止制作以真实人物为原型的露骨色情内容，以及涉及未成年人的性相关内容。在美国、英国等部分国家，未经本人同意便发布人工智能生成的私密“深度伪造”图像，本身即属违法行为。能否明确界定并严格执行上述禁令，成为检验图像生成类人工智能工具安全防护机制是否完善的关键标准。
XAI公司显然未能为Grok搭建起有效的防护屏障，这一点已招致全球监管机构的一致谴责。
荷兰议员杰伦・莱纳斯在周二的一份声明中指出：“如果人工智能平台执意允许生成色情内容，就必须提前建立起健全、有效且可独立核验的防护措施。”莱纳斯正是去年推动欧洲议会通过法案、将人工智能生成虐童图像列为刑事犯罪的核心人物。
莱纳斯进一步补充道，像Grok这样在事发后才删除相关帖文的做法“根本算不上解决方案”，因为“受害者所遭受的伤害已然造成，且无法挽回”。
他强调：“若人工智能平台选择开放色情内容生成功能，就必须提前建立健全、有效且可独立核验的防护机制。在儿童色情内容生成后再进行清理，绝非解决之道——伤害既已造成，便无法逆转。人工智能平台理应为保护儿童网络安全承担更大责任，但显而易见的是，商业利益的权重似乎正持续压倒儿童网络保护工作。”
英国媒体监管机构英国通讯管理局于周一表示，已获悉外界针对Grok功能的“严重关切”，并已“紧急联络X平台与XAI公司，要求其说明为履行保护英国用户的法律义务所采取的具体措施”。
法国政府于上周五指控称，Grok在X平台上未经当事人同意生成“明显违法”的色情内容，认为此事或已违反欧盟《数字服务法案》。该法案要求大型平台必须采取措施，降低非法内容传播的风险。
印度电子和信息技术部已责令相关方对Grok的安全功能展开全面审查；马来西亚官方则表示，在收到关于Grok生成“不雅内容”的投诉后，正对此事展开调查。
马斯克旗下的X平台此前便已因涉嫌违反欧盟《数字服务法案》遭调查，并于去年12月因合规不力被处以1.2亿欧元（约合1.4亿美元）的罚款——这也是这项颇具争议的内容治理法案开出的首张罚单。欧盟对X等美国科技企业的重点监管举措，遭到美国特朗普政府的强烈批评，美方称欧洲监管机构的做法实质是在“审查言论自由”。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】