IT之家 5 月 22 日消息，路透社報(bào)道，微軟 、谷歌 、OpenAI 等 16 家科技公司在 21 日和 22 日舉行的“人工智能（AI）首爾峰會(huì)”上承諾安全開(kāi)發(fā) AI 模型，在無(wú)法控制最極端風(fēng)險(xiǎn)的情況下關(guān)閉其尖端系統(tǒng)（cutting-edge systems）。
參會(huì)的公司還包括國(guó)內(nèi)企業(yè)智譜 AI（IT之家備注：騰訊、阿里、美團(tuán)和小米曾對(duì)其投資）、IBM、亞馬遜、Meta 和三星。
安全承諾包括發(fā)布框架，闡明公司將如何衡量其模型的風(fēng)險(xiǎn)。在風(fēng)險(xiǎn)嚴(yán)重且“無(wú)法接受”的極端情況下，如果無(wú)法減輕風(fēng)險(xiǎn)，人工智能公司將不得不按下緊急停止開(kāi)關(guān)，停止開(kāi)發(fā)或部署其模型和系統(tǒng)。
這不是人工智能公司第一次做出聽(tīng)起來(lái)很高尚但不具約束力的安全承諾。亞馬遜、谷歌、Meta 和微軟在去年簽署由美國(guó)政府促成的自愿保障措施，以確保他們的產(chǎn)品在發(fā)布時(shí)是安全的。
被譽(yù)為“人工智能教父”的計(jì)算機(jī)科學(xué)家約書(shū)亞?本吉奧對(duì)這些承諾表示歡迎，但他指出自愿承諾必須伴隨監(jiān)管。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。