IT之家 12 月 10 日消息,本周末,歐盟就全球首個 AI 監(jiān)管法案“AI Act”達成初步協(xié)議,涉及包括 ChatGPT 在內(nèi)的通用人工智能系統(tǒng),這被視為世界上第一個全面監(jiān)管 AI 的關(guān)鍵一環(huán)。
綜合《財富》雜志、彭博社當?shù)貢r間周六晚上報道,根據(jù)彭博社獲得的一份歐盟文件,所有通用人工智能系統(tǒng)的開發(fā)人員(或者很有可能會被廣泛應(yīng)用的強大模型)都必須滿足基本的透明度要求,除非這些系統(tǒng)是免費開源的。
IT之家附有關(guān)要求如下:
制定可接受的使用政策
隨時更新有關(guān)模型訓練的信息
將用于訓練模型的數(shù)據(jù)進行匯總,將詳細摘要上報
制定尊重《版權(quán)法》的政策
根據(jù)該文件,被認為會構(gòu)成“系統(tǒng)性風險”的模型將受到額外規(guī)則的約束。報道稱,歐盟將根據(jù)訓練模型的計算能力來確定是否存在風險,為模型設(shè)定的閾值是每秒超過 10 萬億次運算。有專家表示,目前唯一能達到這一門檻的模型是 OpenAI 的 GPT-4。
此外,歐盟執(zhí)行機構(gòu)還可根據(jù)數(shù)據(jù)集的規(guī)模、是否在歐盟擁有至少 10000 名注冊商業(yè)用戶、注冊用戶的最終數(shù)量等可能的指標來指定其他閾值。
報道還稱,在歐盟委員會制定出更協(xié)調(diào)且長期有效的控制措施期間,這些“能力更強”的模型應(yīng)該簽署行為準則。這些模型還必須滿足如下要求:
主動報告自身能耗情況
在內(nèi)部或外部進行紅隊測試 / 對抗性測試
評估和減輕可能的系統(tǒng)性風險,并報告任何事件
確保使用適當?shù)木W(wǎng)絡(luò)安全控制措施
報告用于微調(diào)模型的信息及其系統(tǒng)結(jié)構(gòu)
如果制定了更節(jié)能的標準,則開發(fā)過程中應(yīng)當符合新的標準
至于沒有簽署行為準則的模型,則必須向歐盟委員會證明它們確實會遵守《AI 法案》。需要注意的是,對開源模型的豁免不適用于那些“被認為會帶來系統(tǒng)性風險”的模型。
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結(jié)果僅供參考,IT之家所有文章均包含本聲明。