IT之家 2 月 3 日消息，英國政府正著手制定四項新法律，旨在打擊利用人工智能（AI）工具生成兒童性虐待材料（CSAM）的行為。根據(jù)英國內(nèi)政部的聲明，這些法律將明確規(guī)定，創(chuàng)建、持有或分發(fā)用于生成 CSAM 的 AI 工具均屬違法行為。此舉將使英國成為全球首個對此類行為立法的國家。
根據(jù)新法，違法者最高可面臨五年監(jiān)禁。此外，持有教唆他人使用 AI 性侵兒童的“AI 戀童癖手冊”也將被定為犯罪，最高可判處三年監(jiān)禁。運營托管 CSAM 或提供誘騙兒童建議的網(wǎng)站將被視為非法，違法者最高可面臨十年監(jiān)禁。
與此同時，英國邊境部隊將獲得新的執(zhí)法權(quán)限，可在涉嫌兒童性虐待者入境時檢查其電子設(shè)備中是否存有潛在的 CSAM。根據(jù)內(nèi)容的嚴重程度，違法者最高可被判處三年監(jiān)禁。
英國內(nèi)政大臣伊薇特?庫珀表示：“我們知道，這些病態(tài)掠奪者的在線活動往往會導致他們在現(xiàn)實中實施最可怕的虐待行為。本屆政府將毫不猶豫地采取行動，確保兒童在線安全，使我們的法律能夠應(yīng)對最新的威脅?！?/p>
AI 生成的 CSAM 包括完全或部分由計算機生成的內(nèi)容，例如通過替換面部將真實圖像編輯成他人形象，或包含兒童真實聲音的內(nèi)容。
IT之家注意到，英國國家犯罪局（NCA）的數(shù)據(jù)顯示，每月約有 800 人因與在線兒童虐待威脅相關(guān)的罪行被捕。據(jù) BBC 報道，NCA 估計英國約有 84 萬名成年人（占總?cè)丝诘?1.6%）對兒童構(gòu)成威脅（包括線上和線下）。
反兒童虐待組織呼吁政府采取進一步行動?；ヂ?lián)網(wǎng)觀察基金會（IWF）呼吁禁止“脫衣”應(yīng)用程序，這些應(yīng)用程序可用于生成成人和兒童的裸體圖像。
IWF 臨時首席執(zhí)行官德里克?雷-希爾表示：“AI 圖像與真實虐待照片的難以區(qū)分速度令人震驚，這表明立法必須跟上新技術(shù)的步伐。這些 AI 內(nèi)容的存在進一步助長了針對兒童的性暴力行為，它不僅鼓勵了施虐者，還使真實兒童的安全受到更大威脅?！?/p>
盡管創(chuàng)建或持有 AI 生成的 CSAM 已被視為非法，但 IWF 指出，新法將明確禁止優(yōu)化 AI 模型以“生成最嚴重的兒童性虐待材料”。
IWF 是最早對 AI 和合成 CSAM 發(fā)出警告的慈善組織之一。該組織發(fā)現(xiàn)，在線 AI 生成的 CSAM 數(shù)量有所增加，并指出 2024 年報告的 245 起此類圖像中，許多“逼真到必須與‘真實’內(nèi)容同等對待”。
這些新法律將被納入即將出臺的《犯罪與警務(wù)法案》，是英國政府圍繞兒童在線安全整體努力的一部分。英國數(shù)字監(jiān)管機構(gòu) Ofcom 近期宣布，成人網(wǎng)站在向用戶提供訪問權(quán)限前必須進行年齡驗證。該機構(gòu)還要求科技公司在 3 月 16 日前完成對其平臺上非法內(nèi)容對兒童和成人構(gòu)成風險的評估。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。