IT之家 1 月 2 日消息，研究表明 AI 在處理法律相關(guān)任務(wù)時(shí)存在性別偏見(jiàn)，相比較女性角色，中立或男性角色的工作效率更高。
密歇根大學(xué)研究人員通過(guò)最新研究，揭示了社會(huì)和性別角色對(duì)大型語(yǔ)言模型（LLM）的影響。這項(xiàng)研究由來(lái)自計(jì)算機(jī)科學(xué)與工程系、社會(huì)研究所和信息學(xué)院的跨學(xué)科團(tuán)隊(duì)進(jìn)行。
IT之家從報(bào)道中獲悉，該研究通過(guò) Flan-T5、LLaMA2 和 OPT-instruct 這三個(gè)模型，追蹤了 2457 個(gè)問(wèn)題，觀察其不同性別角色的回答情況。
研究人員納入了 162 種不同的社會(huì)角色，涵蓋了一系列社會(huì)關(guān)系和職業(yè)，并測(cè)量了每種角色對(duì)模型性能的影響。
表現(xiàn)最好的角色是導(dǎo)師、合作伙伴、聊天機(jī)器人和人工智能語(yǔ)言模型。
研究還發(fā)現(xiàn)，在提示中指定受眾（如“您正在與一名消防員交談”）的效果最好，其次是角色提示。
這一發(fā)現(xiàn)對(duì)人工智能系統(tǒng)的開(kāi)發(fā)者和用戶(hù)都很有價(jià)值，用戶(hù)可以考慮使用 LLM 的社會(huì)背景，可以提高 LLM 的有效性。
研究人員分析了 50 個(gè)分為男性、女性或中性的人際角色，發(fā)現(xiàn)中性和男性角色比女性角色的模型性能更高。
這一發(fā)現(xiàn)值得重點(diǎn)關(guān)注，表明這些人工智能系統(tǒng)對(duì)男性角色和性別中性角色的固有偏好高于女性角色。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。