IT之家 8 月 30 日消息，人工智能公司 OpenAI 和 Anthropic 已經(jīng)同意允許美國政府在這些公司發(fā)布重大新的人工智能模型之前訪問這些模型，以幫助提高它們的安全性。
美國人工智能安全研究所（US AI Safety Institute）周四宣布，這兩家公司已經(jīng)與該研究所簽署了諒解備忘錄，承諾在模型公開發(fā)布之前和之后提供訪問權(quán)限。美國政府表示，這一舉措將有助于他們共同評估安全風(fēng)險并緩解潛在問題。該機構(gòu)表示，將與英國的對應(yīng)機構(gòu)合作，就安全改進提供反饋。
OpenAI 首席戰(zhàn)略官 Jason Kwon 對合作表示支持：
“我們非常支持美國 AI 安全研究所的使命，并期待一起合作，制定 AI 模型的安全最佳實踐和標準。我們相信，該研究所在確保美國在負責(zé)任開發(fā) AI 方面的領(lǐng)導(dǎo)地位上扮演著關(guān)鍵角色。我們期望通過與研究所的合作，能為全球提供一個可以借鑒的框架。”
Anthropic 公司也表示，建立有效測試 AI 模型的能力非常重要。該公司的聯(lián)合創(chuàng)始人兼政策負責(zé)人 Jack Clark 說：
“確保 AI 安全可靠對于讓這項技術(shù)帶來積極影響是至關(guān)重要的。通過這樣的測試和合作，可以更好地發(fā)現(xiàn)和減少 AI 帶來的風(fēng)險，推動負責(zé)任的 AI 發(fā)展。我們?yōu)槟軌騾⑴c這項重要工作感到自豪，并希望為 AI 的安全性和可信度設(shè)立新的標準?！?/p>
在聯(lián)邦和州立法機構(gòu)正在考慮如何對這項技術(shù)設(shè)置哪些限制而不扼殺創(chuàng)新的同時，共享人工智能模型訪問權(quán)是一項重要舉措。IT之家注意到，周三，加利福尼亞州立法者通過了《前沿人工智能模型安全創(chuàng)新法案》（SB 1047），要求加利福尼亞州的人工智能公司在訓(xùn)練先進的基礎(chǔ)模型之前采取特定的安全措施。這引起了包括 OpenAI 和 Anthropic 在內(nèi)的人工智能公司的反對，他們警告稱這可能會傷害較小的開源開發(fā)人員，盡管該法案已經(jīng)進行了修改，并且仍在等待加利福尼亞州州長加文?紐瑟姆的簽署。
與此同時，美國白宮一直在努力從主要公司那里獲得關(guān)于人工智能安全措施的自愿承諾。幾家領(lǐng)先的 AI 公司已經(jīng)做出非約束性承諾，投資于網(wǎng)絡(luò)安全和歧視研究，并致力于對人工智能生成的內(nèi)容進行水印標記。
美國人工智能安全研究所所長伊麗莎白?凱利在一份聲明中表示，這些新的協(xié)議只是“開始，但它們是我們努力幫助負責(zé)任地管理人工智能未來的一個重要里程碑”。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。