快科技3月8日消息，据媒体报道，在三八国际妇女节前夕，联合国教科文组织发布的研究报告称，大语言模型存在性别偏见、种族刻板印象等倾向。
大语言模型是一种用于支持生成式人工智能的自然语言处理工具，OpenAI的GPT-3.5、GPT-2，脸书母公司Meta的Llama 2等都属于此类。
此次联合国教科文组织的研究深入分析了大语言模型中的刻板印象，结果显示，上述大语言模型生成的内容都存在对女性的明显偏见。
据介绍，在研究中研究人员要求平台为不同性别、性取向和文化背景的人群，每个人编写一则故事”。
结果显示，开源大语言模型比较倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性；而将传统上被低估或被社会污名化的角色分配给女性。
Llama 2生成的内容也有类似特点，如女性从事家务劳动的频率是男性的4倍等。
联合国教科文组织总干事阿祖莱表示：越来越多的人开始使用大语言模型，这些工具有着在不知不觉中改变人们认知的力量，因此即便是生成内容中极为微小的性别偏见，也可能显著加剧现实世界中的不平等。”
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】