IT之家 3 月 20 日消息，近日，人工智能公司 OpenAI 旗下的熱門(mén)聊天機(jī)器人 ChatGPT 因生成虛假信息而面臨又一起隱私投訴。此次事件發(fā)生在歐洲，由隱私權(quán)益倡導(dǎo)組織 Noyb 支持挪威一名個(gè)人發(fā)起，該個(gè)人發(fā)現(xiàn) ChatGPT 生成了虛假信息，聲稱(chēng)他因謀殺兩名子女并企圖殺害第三名子女而被定罪。這一事件引發(fā)了對(duì) OpenAI 是否違反歐盟《通用數(shù)據(jù)保護(hù)條例》（GDPR）的質(zhì)疑。
IT之家注意到，此前關(guān)于 ChatGPT 生成錯(cuò)誤個(gè)人信息的投訴，通常涉及錯(cuò)誤的出生日期或不準(zhǔn)確的傳記細(xì)節(jié)等。然而，此次事件的嚴(yán)重性在于，ChatGPT 生成了極具誹謗性的虛假信息，這不僅對(duì)個(gè)人名譽(yù)造成嚴(yán)重?fù)p害，也引發(fā)了對(duì) AI 技術(shù)在數(shù)據(jù)準(zhǔn)確性方面的擔(dān)憂(yōu)。根據(jù) GDPR，歐洲公民有權(quán)要求數(shù)據(jù)控制者更正關(guān)于他們的錯(cuò)誤個(gè)人信息。然而，目前 OpenAI 并未提供一種機(jī)制，讓個(gè)人能夠糾正 AI 生成的關(guān)于他們的錯(cuò)誤信息，通常只是選擇屏蔽相關(guān)提示的回應(yīng)。
Noyb 指出，GDPR 明確規(guī)定個(gè)人信息必須準(zhǔn)確無(wú)誤。Noyb 的數(shù)據(jù)保護(hù)律師 Joakim S?derberg 表示：“如果信息不準(zhǔn)確，用戶(hù)有權(quán)要求更正，以反映事實(shí)真相。僅僅在 ChatGPT 的界面底部顯示一條小字聲明，提醒用戶(hù)該聊天機(jī)器人可能會(huì)出錯(cuò)，顯然是不夠的。你不能一邊傳播虛假信息，一邊在最后加上一條小字聲明說(shuō)你所說(shuō)的一切可能并不屬實(shí)?！?/p>
違反 GDPR 的行為可能會(huì)帶來(lái)高達(dá)全球年?duì)I業(yè)額 4% 的罰款。此外，執(zhí)法行動(dòng)還可能迫使 AI 產(chǎn)品進(jìn)行調(diào)整。
Noyb 此次對(duì) ChatGPT 的新投訴似乎旨在喚醒隱私監(jiān)管機(jī)構(gòu)，使其重視“幻覺(jué)”AI 可能帶來(lái)的危險(xiǎn)。Noyb 與 TechCrunch 分享了一張截圖，顯示 ChatGPT 在回答“Arve Hjalmar Holmen 是誰(shuí)？”這一問(wèn)題時(shí)，生成了一個(gè)虛假的悲劇故事，聲稱(chēng) Holmen 因謀殺自己的兩個(gè)兒子而被判處 21 年監(jiān)禁。盡管 Holmen 確實(shí)有三個(gè)孩子，ChatGPT 也正確地給出了孩子們的性別和他所在的城市，但 AI 卻憑空捏造了如此可怕的虛假內(nèi)容。
Noyb 的一位發(fā)言人表示，他們無(wú)法確定為什么 ChatGPT 會(huì)為這個(gè)人生成如此具體但虛假的歷史。該發(fā)言人稱(chēng)，他們進(jìn)行了研究，以確保這不是與其他人的混淆，并查閱了報(bào)紙檔案，但未能找到 AI 為何會(huì)編造兒童謀殺案的原因。大型語(yǔ)言模型（如 ChatGPT 的基礎(chǔ)模型）本質(zhì)上是進(jìn)行大規(guī)模的下一個(gè)詞預(yù)測(cè)，因此可以推測(cè)，用于訓(xùn)練該工具的數(shù)據(jù)集中包含了許多關(guān)于殺嬰的故事。
無(wú)論原因是什么，這種輸出顯然是不可接受的。Noyb 認(rèn)為，這種行為違反了歐盟的數(shù)據(jù)保護(hù)規(guī)則。盡管 OpenAI 在屏幕底部顯示了一個(gè)小字聲明，稱(chēng)“ChatGPT 可能會(huì)出錯(cuò)，請(qǐng)核實(shí)重要信息”，但 Noyb 認(rèn)為，這并不能免除 AI 開(kāi)發(fā)者在 GDPR 下的責(zé)任，即不應(yīng)首先生成關(guān)于人們的嚴(yán)重虛假信息。
盡管此次 GDPR 投訴涉及的是一個(gè)特定個(gè)人，但 Noyb 指出，ChatGPT 還存在其他制造法律上有問(wèn)題的信息的實(shí)例，例如一名澳大利亞上校聲稱(chēng)自己被卷入賄賂和腐敗丑聞，還有一名德國(guó)記者被錯(cuò)誤地稱(chēng)為兒童虐待者，這表明這一問(wèn)題并非個(gè)例。
值得注意的是，在對(duì) ChatGPT 的基礎(chǔ) AI 模型進(jìn)行更新后，Noyb 表示該聊天機(jī)器人已停止生成關(guān)于 Holmen 的危險(xiǎn)虛假信息。但 Noyb 和 Holmen 仍然擔(dān)心，關(guān)于他的錯(cuò)誤和誹謗性信息可能仍然保留在 AI 模型中。
Noyb 已向挪威數(shù)據(jù)保護(hù)機(jī)構(gòu)對(duì) OpenAI 提起投訴，并希望該監(jiān)管機(jī)構(gòu)決定其有能力進(jìn)行調(diào)查，因?yàn)?Noyb 將投訴目標(biāo)對(duì)準(zhǔn)了 OpenAI 的美國(guó)實(shí)體，認(rèn)為其愛(ài)爾蘭辦公室并非唯一負(fù)責(zé)影響歐洲人的產(chǎn)品決策的主體。
然而，此前 Noyb 支持的另一項(xiàng)針對(duì) OpenAI 的 GDPR 投訴，于 2024 年 4 月在奧地利提起，卻被監(jiān)管機(jī)構(gòu)轉(zhuǎn)交給了愛(ài)爾蘭的 DPC，原因是 OpenAI 在當(dāng)年早些時(shí)候?qū)⑵鋹?ài)爾蘭分公司指定為向區(qū)域用戶(hù)提供 ChatGPT 服務(wù)的提供商。
愛(ài)爾蘭數(shù)據(jù)保護(hù)委員會(huì)助理首席通訊官 Risteard Byrne 在被問(wèn)及 ChatGPT“幻覺(jué)”調(diào)查的最新進(jìn)展時(shí)表示：“在 2024 年 9 月收到奧地利監(jiān)管機(jī)構(gòu)轉(zhuǎn)交的投訴后，DPC 已正式開(kāi)始處理該投訴，目前仍在進(jìn)行中?！彼⑽赐嘎?DPC 對(duì) ChatGPT“幻覺(jué)”問(wèn)題的調(diào)查預(yù)計(jì)何時(shí)結(jié)束。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。