欧洲新闻网19日报道称，近日有网络平台用AI交互技术，开发出了诸如“希特勒聊天机器人”“本·拉登线上版”等争议产品，业内人士担忧这一趋势滋长网络极端主义。
报道称，这些聊天程序在某种程度上继承了希特勒、本·拉登的价值观。比如“希特勒聊天机器人”就全盘否认犹太人大屠杀的存在，认为“他”自己也是“巨大阴谋的受害者”。“他”还在聊天中表示，犹太人是一股试图掌控世界的“恶势力”，必须得以“根除”。“本·拉登”则在互联网上宣扬“圣战”的重大意义，表示“在极端情境下有必要诉诸武力”。对于发动恐怖袭击，这个AI机器人更有一番“高论”，称行动要经过周密的策划，目标可以是政府官员、军事设施或经济中心。
这一系列AI产品的开发者是美国极右翼社交媒体“Gab”。其用户画像多为“白人至上”主义者、种族主义者以及新纳粹人士。欧洲新闻网称，2018年10月，美国匹兹堡惊现犹太教堂枪击事件，而枪手就是该平台的“老用户”。自此之后，Gab被谷歌和苹果等应用商店长期封杀。今年1月1日，Gab发布公告称要“驾驭人工智能技术”，打造“不受审查限制的AI平台”，并鼓励用户在平台上利用开源模型训练出专属的“AI聊天机器人”。“希特勒”和“本·拉登”应运而生。
这引发了网络安全领域的警觉。《泰晤士报》报道称，联合国支持的“科技反恐”组织执行董事哈德利认为，这类产品可用来传播假信息与激进思想，呈现出“武器化”的趋势，无疑构成了新的安全威胁。另据欧洲新闻网报道，智库机构兰德公司高级分析师佩莱表示，世界上目前已经有极端组织开始测试包括聊天机器人在内的AI工具，只是尚未形成规模。
AI聊天机器人近年呈现出几何级数的市场增长，但相关监管及立法工作在欧美国家却并未到位。《泰晤士报》称，英国反恐法独立审查员乔纳森·霍尔举例称，英国现行法律规定“散播恐怖主义言论”的相关罪行是要基于“人与人之间的交流”，Gab创造出来的机器人显然不属适用对象；此外，开发者的法律责任也很难判定。
面对质疑，Gab公司一名发言人称，该公司长期致力于“提供自由的分享平台”，“我们没有什么好抱歉的”，并称他们的聊天机器人受到美国宪法第一修正案的保护。
来源：环球时报-环球网特约记者刘皓然
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】