他们发现，只有一小部分用户对ChatGPT产生了情感共鸣。伦敦国王学院人工智能与社会学教授凯特·德夫林(KateDevlin)表示，这并不奇怪，因为ChatGPT并没有像Replika或Character.AI那样被宣传为一款人工智能伴侣应用，她没有参与该项目。
“ChatGPT被设定为一种生产力工具，但我们知道人们无论如何都会把它当作一款伴侣应用来使用。事实上，以这种方式使用它的人可能会长时间与它互动，有些人平均每天使用半小时左右。作者们非常清楚这些研究的局限性，但看到他们做到了这一点还是很令人兴奋的，”德夫林说。“能够获得这种级别的数据真是太不可思议了。”
研究人员发现，男性和女性在使用ChatGPT时的反应存在一些有趣的差异。在使用聊天机器人四周后，女性研究参与者与人交往的可能性略低于男性参与者。与此同时，在实验结束时，以非自己性别与ChatGPT语音模式互动的参与者报告称，他们的孤独感明显更高，对聊天机器人的情感依赖性更强。OpenAI计划将这两项研究提交给同行评审期刊。
由大型语言模型驱动的聊天机器人仍是一项新兴技术，很难研究它们如何影响我们的情感。该领域的许多现有研究（包括OpenAI和麻省理工学院的一些新研究）都依赖于自我报告的数据，而这些数据可能并不总是准确或可靠的。
话虽如此，这项最新研究确实与科学家迄今为止发现的聊天机器人对话在情感上有多吸引人相呼应。例如，2023年，麻省理工学院媒体实验室的研究人员发现，聊天机器人倾向于反映用户消息的情感情绪，这表明存在一种反馈循环，你表现得越快乐，人工智能看起来就越快乐，或者另一方面，如果你表现得更悲伤，人工智能也会如此。
OpenAI和麻省理工学院媒体实验室采用了双管齐下的方法。首先，他们收集并分析了近4000万次与ChatGPT互动的真实数据。然后，他们询问了4076名有过这些互动的用户，他们感觉如何。接下来，媒体实验室招募了近1000人参加为期四周的试验。这次试验更加深入，研究参与者每天至少与ChatGPT互动五分钟的情况。实验结束时，参与者完成了一份问卷，以衡量他们对聊天机器人的看法、他们的主观孤独感、他们的社交参与度、他们对机器人的情感依赖，以及他们对使用机器人是否有问题的感觉。他们发现，与ChatGPT更信任和“亲密”的参与者比其他人更容易感到孤独，也更容易依赖它。
参与该项目的OpenAI安全研究员JasonPhang表示，这项工作是深入了解ChatGPT对我们的影响的重要第一步，这可以帮助人工智能平台实现更安全、更健康的互动。他说：“我们在这里做的很多工作都是初步的，但我们正尝试与该领域展开对话，讨论我们可以开始衡量的事情，并开始思考对用户的长期影响。”
德夫林表示，尽管这项研究值得欢迎，但仍然很难确定人类何时在情感层面上与科技互动。她说，研究参与者可能正在经历研究人员没有记录下来的情绪。“就团队的衡量标准而言，人们可能不一定会以情感的方式使用ChatGPT，但你不能将人性与你与技术的互动分开，我们使用我们创建的这些情感分类器来寻找某些东西——但这对某人的生活究竟意味着什么，真的很难推断。”
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】