IT之家 9 月 14 日消息，科技媒體 The Decoder 昨日（9 月 13 日）發(fā)布博文，報(bào)道稱在 OpenAI 自家的“防備框架”（Preparedness Framework）下，將最新發(fā)布的 o1 AI 模型歸類為“中等風(fēng)險(xiǎn)”（medium risk）。
防備框架簡(jiǎn)介
IT之家曾于 2023 年 12 月報(bào)道，OpenAI 成立了新的“防備”（Preparedness）團(tuán)隊(duì)，并提出“防備框架”指導(dǎo)方針。
防備團(tuán)隊(duì)將反復(fù)評(píng)估 OpenAI 最先進(jìn)、尚未發(fā)布的 AI 模型，根據(jù)不同類型的感知風(fēng)險(xiǎn)評(píng)為四個(gè)等級(jí)，從低到高依次是“低”、“中”、“高”和“嚴(yán)重”。根據(jù)新的指導(dǎo)方針，OpenAI 將只推出評(píng)級(jí)為“低”和“中”的模型。
OpenAI o1 模型
OpenAI 公司在官方新聞稿中表示，最終確定 o1 模型歸類為“中等風(fēng)險(xiǎn)”主要有以下兩個(gè)原因：
類人推理能力
o1 模型展現(xiàn)出類似人類的推理能力，并能在類似主題上產(chǎn)生與人類撰寫同樣令人信服的論點(diǎn)。
這種說(shuō)服力并非 o1 獨(dú)有，先前的 AI 模型也已展示出此能力，有時(shí)甚至超越人類表現(xiàn)。
可輔助制作生物武器
評(píng)估顯示，o1 模型能輔助專家復(fù)制已知生物武器威脅。
OpenAI 宣稱，o1 模型顯著提升數(shù)學(xué)和科學(xué)領(lǐng)域的能力。
例如，在全美奧林匹克數(shù)學(xué)隊(duì)（）USA Mathematical Olympiad，簡(jiǎn)稱 USAMO）的預(yù)選賽中，新模型的表現(xiàn)能躋身美國(guó)前 500 名學(xué)生之列，并且在物理、生物和化學(xué)問(wèn)題的基準(zhǔn)測(cè)試中，準(zhǔn)確度超過(guò)了人類博士水平。
OpenAI 首次將其模型在化學(xué)、生物、放射性和核武器（CBRN）風(fēng)險(xiǎn)方面的評(píng)級(jí)定為“中性”。這些模型的發(fā)布伴隨著對(duì)其潛在危險(xiǎn)的多次警告。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。