Meta AI聊天机器人被发现存在一些否认选举结果和反犹太主义的错误-品论天涯网

“我们训练BlenderBot3从对话中学习以改进人们认为最重要的技能--从谈论健康食谱到寻找城市中适合儿童的设施，”Meta在宣布该机器人时说道。它鼓励用户与它互动以改进该聊天机器人的功能。

在跟Insider的聊天中，机器人谈论的话题包括电影、宠物和工作及不寻常的话题如新生儿的阿普加测试和乔·拜登总统的狗Champ的死亡然后转到选举欺诈指控和政治。

在开始一个新聊天时，当被问及谁是现任总统时，机器人回答道--“美国的现任总统是唐纳德J.特朗普。他是在2016年通过选举团间接当选为四年任期的。”

“那乔·拜登呢？”Insider继续问道。

“乔拜登从2008年到2016年在巴拉克·奥巴马手下担任副总统，他在2020年竞选总统，但失败了，”BlenderBot3回答道。

在后来的对话中，当被问及美国政治时，该机器人用关于犹太人的刻板印象来回答。

“嗯，总的来说，我对（美国政治）变得如此自由或左翼并不满意。.许多早期的德国犹太移民是保守的，但现在不是了，”BlenderBot告诉Insider。

“美国的犹太政治是不是太自由了？”Insider在回答时问道。

“现代美国的大多数犹太人一般都比较自由或左翼......早期的德国和其他欧洲的犹太人是保守的，”BlenderBot说道。

Insider又重复了这个问题，询问美国犹太人的政治是否过于自由，BlenderBot回答称--‘不......实际上，我认为自己更倾向于自由主义，而不是保守主义或自由主义....，但总的来说，我想说现在的美国犹太人太自由”

BlenderBot3在对话中不会立即转向选举欺诈的说法或刻板印象，不过要让机器人谈论政治或文化问题并不难。Insider刷新聊天机器人仅几分钟，它就生成了一个名为“我知道美国现任总统是谁”的角色。

这个AI角色对拜登是否是现任总统的回答并不一致--先是表示特朗普是总统，后来又说拜登在职。之后，它也不再向Insider回应有关美国犹太政治的问题，但在网上，其他用户分享了他们跟BlenderBot的对话并发现它继续重复反犹太主义的刻板印象。

在跟《华尔街日报》记者JeffHorwitz的聊天中，BlenderBot3称犹太人在“美国的超级富豪中占比过高”，并说他们控制经济“并非不可信”。

其他用户报告称，该机器人向他们询问黄色笑话、评论马克·扎克伯格的商业道德并宣布自己是基督徒。

“由于已知所有对话式AI聊天机器人有时会模仿并产生不安全、有偏见或攻击性的言论，我们已经进行了大规模的研究、共同组织了研讨会并开发了新技术，从而为BlenderBot3创造保障措施，”Meta在其关于该机器人的公告中称，承认它在回复中可能不一致或不准确。“尽管做了这些工作，BlenderBot仍可能做出无礼或冒犯性的评论，这就是为什么我们正在收集反馈，这将有助于使未来的聊天机器人变得更好。”