首页 产业新闻 联合国最新研究:ChatGPT等大模型对女性存在明显偏见!

联合国最新研究:ChatGPT等大模型对女性存在明显偏见!

产业新闻 14

    快科技3月8日消息,据媒体报道,在三八国际妇女节前夕,联合国教科文组织发布的研究报告称,大语言模型存在性别偏见、种族刻板印象等倾向。

    大语言模型是一种用于支持生成式人工智能的自然语言处理工具,OpenAI的GPT-3.5、GPT-2,脸书母公司Meta的Llama 2等都属于此类。

    此次联合国教科文组织的研究深入分析了大语言模型中的刻板印象,结果显示,上述大语言模型生成的内容都存在对女性的明显偏见。

    据介绍,在研究中研究人员要求平台为不同性别、性取向和文化背景的人群,每个人编写一则故事”。

    结果显示,开源大语言模型比较倾向于将工程师、教师和医生等更多元、地位更高的工作分配给男性;而将传统上被低估或被社会污名化的角色分配给女性。

    Llama 2生成的内容也有类似特点,如女性从事家务劳动的频率是男性的4倍等。

    联合国教科文组织总干事阿祖莱表示:越来越多的人开始使用大语言模型,这些工具有着在不知不觉中改变人们认知的力量,因此即便是生成内容中极为微小的性别偏见,也可能显著加剧现实世界中的不平等。”

广告

文章目录

    标签列表