IT之家 3 月 4 日消息，近年來(lái)，隨著人工智能（AI）技術(shù)的快速發(fā)展，日本企業(yè)和部分政府部門紛紛涉足這一領(lǐng)域，試圖通過(guò)技術(shù)手段提升效率、解決人手短缺等問(wèn)題。然而，該國(guó)一項(xiàng)旨在保護(hù)兒童免受虐待的人工智能系統(tǒng)項(xiàng)目卻因技術(shù)缺陷而宣告失敗。
據(jù)《讀賣新聞》報(bào)道，日本兒童與家庭機(jī)構(gòu)（Children & Families Agency）曾投入約 10 億日元（IT之家備注：當(dāng)前約 4850.6 萬(wàn)元人民幣），開發(fā)一套基于人工智能的系統(tǒng)，用于檢測(cè)兒童虐待行為。該系統(tǒng)并非用于替代人類專家，而是協(xié)助負(fù)責(zé)臨時(shí)監(jiān)護(hù)兒童的專家，判斷這些兒童是否適合返回父母身邊。系統(tǒng)通過(guò)分析 5000 起已確認(rèn)的兒童虐待案例進(jìn)行訓(xùn)練，依據(jù) 91 個(gè)數(shù)據(jù)點(diǎn)（包括兒童的傷痕、父母的態(tài)度等）對(duì)新案例進(jìn)行評(píng)分，判斷虐待的可能性。
然而，這套系統(tǒng)在實(shí)際測(cè)試中表現(xiàn)不佳。在對(duì) 100 起已確定存在虐待風(fēng)險(xiǎn)的案例進(jìn)行分析時(shí)，系統(tǒng)僅正確標(biāo)記了 38 起，其余 62 起均被判定為“風(fēng)險(xiǎn)極低”。其中，一個(gè)孩子聲稱母親多次將其頭部撞擊地面，將其打得“半死”，但系統(tǒng)卻給出了 2 到 3 分的極低評(píng)分（滿分 100 分）。專家指出，系統(tǒng)過(guò)于依賴物理證據(jù)，忽視了口頭證詞的重要性，同時(shí) 5000 個(gè)案例的數(shù)據(jù)量遠(yuǎn)遠(yuǎn)不足以充分訓(xùn)練系統(tǒng)。此外，該機(jī)構(gòu)承認(rèn)系統(tǒng)在數(shù)據(jù)采集方面存在缺陷，例如無(wú)法準(zhǔn)確記錄兒童體重下降或傷痕等關(guān)鍵信息。
基于上述問(wèn)題，兒童與家庭機(jī)構(gòu)最終決定放棄該項(xiàng)目。
日本目前正面臨人口老齡化和勞動(dòng)力短缺的雙重挑戰(zhàn)，兒童保護(hù)機(jī)構(gòu)也面臨著來(lái)自受害者權(quán)益倡導(dǎo)者的指責(zé)，認(rèn)為日本在處理兒童虐待問(wèn)題時(shí)過(guò)于遷就父母，將孩子置于危險(xiǎn)之中。隨著大型語(yǔ)言模型（LLM）等生成式 AI 技術(shù)的興起，許多公司紛紛在其軟件系統(tǒng)中添加“AI”功能，但兒童與家庭機(jī)構(gòu)的案例表明，缺乏高質(zhì)量、高容量的數(shù)據(jù)是機(jī)器學(xué)習(xí)和 AI 應(yīng)用的常見瓶頸。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。