新华社伦敦1月6日电美国企业家埃隆·马斯克旗下人工智能企业xAI的聊天机器人“格罗克（Grok）”，因新增图像编辑功能被用户用于生成涉及成年女性和未成年人的深度伪造色情内容。英国等多个国家对此予以谴责。
“格罗克”由xAI公司开发，并内置于马斯克旗下社交媒体X平台，X用户可直接调用该聊天机器人。近期，X平台出现部分用户利用“格罗克”编辑图片和视频的现象，一些用户借此生成真实人物的虚假性暴露内容，并在X平台上散播，受害者包括数百名成年女性和未成年人。
英国科学、创新和技术大臣莉兹·肯德尔6日在声明中斥责此类内容“绝对骇人听闻”，英国通信管理局应对此进行额外审查。
英国通信管理局5日表示，已紧急联系X平台。该监管机构称，注意到关于“格罗克”在X平台上的一项功能引发严重关切，该功能可生成人们的裸露图像以及涉及儿童的性意味图像。
欧盟委员会发言人托马斯·雷尼耶5日说，正严肃调查针对“格罗克”的相关投诉，欧盟委员会要求X平台提供更多信息。
图像生成问题实际上自Grok Imagine推出后就浮出水面。Grok Imagine是一个AI图像生成器，允许用户通过输入文本提示来创建图片和视频。它包含一个所谓的“热辣模式”，可生成成人内容。上月底，随着“格罗克”开始大量响应用户修改他人发布图像的请求，问题迅速扩大。
此外，法国、波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台表示谴责，并呼吁展开调查。
据美联社6日报道，xAI公司对其置评请求作出自动回复：“传统媒体撒谎”。但X平台并未否认通过“格罗克”生成的有问题内容的存在。X平台在一篇帖子中声称会对非法内容采取行动，例如删除内容、永久封禁账户，并在必要时与当地政府和执法部门合作。
（责任编辑：刘芃）
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】