研究发现 AI 模型存在性别偏见:中性/男性 LLM 性能优于女性角色

来源: 巴比特482天前
据 IT 之家 1 月 2 日消息,密歇根大学研究人员通过最新研究,揭示了社会和性别角色对大型语言模型(LLM)的影响。这项研究由来自计算机科学与工程系、社会研究所和信息学院的跨学科团队进行。 据悉,该研究通过 Flan-T5、LLaMA2 和 OPT-instruct 这三个模型,追踪了 2457 个问题,观察其不同性别角色的回答情况。研究表明 AI 在处理法律相关任务时存在性别偏见,相比较女性角色,中立或男性角色的工作效率更高。研究还发现,在提示中指定受众(如“您正在与一名消防员交谈”)的效果最好,其次是角色提示。
利好利好
0
利空利空
0