人工智能

OpenAI呼吁ChatGPT-4o用户不要因其与人类的互动而对其产生感情

字号+作者: 来源:cnBeta 2024-08-11 16:28 评论(创建话题) 收藏成功收藏本文

ChatGPT-4o是OpenAI聊天机器人阵容的最新迭代产品,正如你所预料的那样,该公司对用户如何与聊天机器人互动有些担忧。鉴于最新版本的聊天机器人可以表现出'...

ChatGPT-4o是OpenAI聊天机器人阵容的最新迭代产品,正如你所预料的那样,该公司对用户如何与聊天机器人互动有些担忧。鉴于最新版本的聊天机器人可以表现出类似人类的行为和反应,这家人工智能公司担心用户会对聊天机器人产生感情。0bu品论天涯网


0bu品论天涯网

ChatGPT-4o提供了更快的回复,甚至还有模仿人类语音的新语音功能,而这正是OpenAI所担心的。0bu品论天涯网

这家市值数十亿美元的初创公司在继续完善其产品的同时,也不能不注意到ChatGPT-4o用户的一些行为模式。新聊天机器人的推出旨在提供一种类似于与人交谈的体验,但OpenAI似乎低估了用户与程序之间可能产生的情感联系。该公司在下文中重点介绍了其研究结果。0bu品论天涯网

在包括红队和内部用户测试在内的早期测试中,我们观察到用户使用的语言可能表明他们与模型形成了联系。例如,这包括表达共同纽带的语言,如"这是我们在一起的最后一天"。虽然这些情况看起来是良性的,但它们预示着需要继续调查这些影响在更长的时间内会如何体现。除了独立的学术研究和内部研究外,更多样化的用户群体、对模型更多的需求和渴望将帮助我们更具体地界定这一风险领域。0bu品论天涯网

与人工智能模型的类人社交可能会产生外部效应,影响人与人之间的互动。例如,用户可能会与人工智能形成社交关系,从而减少对人类互动的需求--这可能会使孤独的个人受益,但也可能会影响健康的人际关系。与模型的扩展互动可能会影响社会规范。例如,我们的模型是敬而远之的,允许用户随时打断并'抢麦',这虽然在人工智能的意料之中,但在人际交往中却是反规范的。0bu品论天涯网

对ChatGPT-4o产生感情有多种不利因素。最主要的一点是,以前用户会无视任何幻觉,因为之前迭代的聊天机器人让他们看起来更像是一个人工智能程序,而不是一个人。而现在,随着程序向提供近似人类的体验过渡,它所说的任何话都会被接受,而无需进一步询问。0bu品论天涯网

通过注意到这些模式,OpenAI现在将监控人们如何与ChatGPT-4o建立情感联系,并相应地调整其系统。该公司还应该在一开始就加上免责声明,以免用户爱上它,因为归根结底,它只是一个人工智能程序。0bu品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取; 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考。本网站属非谋利性质,旨在传播马克思主义和共产主义历史文献和参考资料。凡刊登的著作文献侵犯了作者、译者或版权持有人权益的,可来信联系本站删除。 本站邮箱[email protected]