設置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

前 OpenAI 研究人員警告“老東家”:若 AI 無監(jiān)管將造成災難性傷害

2024/8/24 12:31:10 來源:IT之家 作者:清源 責編:清源

IT之家 8 月 24 日消息,據《商業(yè)內幕》北京時間今天上午報道,OpenAI 公開表示了對加州 SB 1047 法案(AI 安全法案)的反對意見之后,兩名 OpenAI 的前研究人員則站出來公開反對自己的“老東家”,并提出警告。

美國加州 AI 安全法案將要求 AI 公司采取措施,防止其模型造成“嚴重損害”,例如開發(fā)可能導致大量人員傷亡的生物武器或造成超過 5 億美元(IT之家注:當前約 35.66 億元人民幣)的經濟損失。

這些前員工向加州州長加文?紐森和其他立法者致信稱,OpenAI 對該法案的反對令人失望,但并不令人意外。

兩名研究人員威廉?桑德斯和丹尼爾?科科塔伊洛在信中寫道,“我們(以前)之所以選擇加入 OpenAI,是因為我們希望確保該公司在開發(fā)的‘強大無比的 AI 系統(tǒng)’的安全性。但我們選擇離開,是因為它失去了我們的信任 —— 能夠安全、誠實、負責任地開發(fā) AI 系統(tǒng)?!?/p>

信中還提到,OpenAI CEO 阿爾特曼曾多次公開支持對 AI 實施監(jiān)管,但當實際的監(jiān)管措施準備出臺時,他們卻表示反對?!霸跊]有充分安全預防措施的情況下開發(fā)前沿 AI 模型,會給公眾帶來可預見的災難性傷害風險?!?/p>

相關閱讀:

廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。

相關文章

關鍵詞:OpenAI,人工智能

軟媒旗下網站: IT之家 最會買 - 返利返現(xiàn)優(yōu)惠券 iPhone之家 Win7之家 Win10之家 Win11之家

軟媒旗下軟件: 軟媒手機APP應用 魔方 最會買 要知