本文來(lái)自微信公眾號(hào)：SF 中文 （ID：kexuejiaodian），作者：SF
把 AI 應(yīng)用于戰(zhàn)爭(zhēng)將會(huì)帶來(lái)可怕的、不可控的后果。如果 AI 真的向人類(lèi)宣戰(zhàn)，我們很可能毫無(wú)勝算。
文 | 斯蒂芬?凱利（Stephen Kelly）
譯 | 禮世杰
編 | 陳強(qiáng)
原文刊載于《科學(xué)焦點(diǎn)》2023 年第 12 期
最新科幻電影《AI 創(chuàng)世者》（The Creator）講述的是一場(chǎng)人類(lèi)與人工智能（AI）之間的存亡之戰(zhàn)。這種科幻主題其實(shí)不算新穎，但與經(jīng)典科幻電影《終結(jié)者》（Terminator）的關(guān)鍵區(qū)別在于，這部電影描繪的未來(lái)已經(jīng)不再是遙遠(yuǎn)的幻想，而是越來(lái)越接近科學(xué)事實(shí)。
比如說(shuō)，最近幾個(gè)月，我們看到了許多關(guān)于 AI 會(huì)對(duì)人類(lèi)構(gòu)成“生存威脅”的警告。AI 不僅有朝一日能寫(xiě)出比我這篇專(zhuān)欄更精彩的文章，還可能在戰(zhàn)爭(zhēng)領(lǐng)域中引發(fā)可怕的、不可控的后果。
如果 AI 能自主地操控武器
顯然，最令人擔(dān)憂的問(wèn)題是，未來(lái) AI 也許能自主地操控武器?！端膫€(gè)戰(zhàn)場(chǎng)：人工智能時(shí)代的力量》（Four Battlegrounds: Power in the Age of Arti?cial Intelligence）一書(shū)的作者、新美國(guó)安全中心副總裁保羅?沙爾（Paul Scharre）引用了幾年前美國(guó)國(guó)防部高級(jí)研究計(jì)劃局舉辦的“阿爾法狗斗”（AlphaDog?ght），來(lái)說(shuō)明這一問(wèn)題的嚴(yán)峻性?！鞍柗ü范贰笔且粓?chǎng)人機(jī)對(duì)決的空戰(zhàn)模擬比賽，但在比賽中，AI 輕松擊敗了經(jīng)驗(yàn)豐富的人類(lèi)飛行員。
沙爾表示：“AI 不僅以 15 比 0 的大比分戰(zhàn)勝了人類(lèi)飛行員，還展現(xiàn)出了人類(lèi)難以企及的技能。比如說(shuō)，它能以非常高的精度開(kāi)火射擊?！?/p>
然而，賦予 AI 做出生死抉擇的權(quán)力也會(huì)引發(fā)諸多令人不安的問(wèn)題。例如，如果 AI 犯了一個(gè)錯(cuò)誤，意外地殺死了一個(gè)平民，這會(huì)怎樣？“這將構(gòu)成戰(zhàn)爭(zhēng)罪，”沙爾說(shuō)，“而困難在于，可能根本沒(méi)有人對(duì)此事負(fù)責(zé)。”
如果 AI 被用于戰(zhàn)術(shù)制定和情報(bào)分析
不過(guò)，在不久的將來(lái)，AI 在戰(zhàn)爭(zhēng)領(lǐng)域中最可能被用于戰(zhàn)術(shù)制定和情報(bào)分析。沙爾說(shuō)：“AI 可以更有效地處理信息，提高軍隊(duì)的作戰(zhàn)效率。我相信，軍隊(duì)會(huì)越來(lái)越傾向于將決策權(quán)交給 AI，因?yàn)閼?zhàn)場(chǎng)是一個(gè)殘酷的競(jìng)爭(zhēng)場(chǎng)所。如果未能抓住一個(gè)稍縱即逝的機(jī)會(huì)，那你將處于巨大的劣勢(shì)之中?！?/p>
沙爾認(rèn)為，這可能引發(fā)一場(chǎng) AI 軍備競(jìng)賽?！耙恍W(xué)者甚至還提出了‘戰(zhàn)場(chǎng)奇點(diǎn)’假說(shuō)，”他說(shuō)道，“也就是說(shuō)，AI 的決策速度將會(huì)超過(guò)人類(lèi)的理解速度，而人類(lèi)實(shí)際上不得不將戰(zhàn)場(chǎng)上的決策權(quán)全都交給 AI?！?/p>
當(dāng)然，在這種情況下，人類(lèi)就有可能失去對(duì) AI 的控制，甚至被 AI 攻擊。因此，美國(guó)制定了一項(xiàng)政策，規(guī)定任何與核武器有關(guān)的決定都必須有人類(lèi)參與。
沙爾甚至認(rèn)為，如果最壞的情況發(fā)生了，AI 真的向人類(lèi)宣戰(zhàn)，我們很可能毫無(wú)勝算。
“我的意思是，黑猩猩能在戰(zhàn)爭(zhēng)中戰(zhàn)勝人類(lèi)嗎？”他又舉例說(shuō)，“AlphaGo 不僅戰(zhàn)勝了世界圍棋冠軍，甚至從對(duì)弈過(guò)程來(lái)看，AlphaGo 的實(shí)力明顯超過(guò)人類(lèi)的頂尖棋手。而且這種變化發(fā)生得非?？欤驮谄甙四昵?，這種情況還是不可想象的?！?/p>
“我們正在建造越來(lái)越強(qiáng)大的 AI 系統(tǒng)，將其應(yīng)用到各個(gè)領(lǐng)域中，但它們也變得越來(lái)越難以理解和掌控。我認(rèn)為，如果我們真能制造出比我們更聰明的機(jī)器，那么我們將會(huì)面臨很多問(wèn)題?！?/p>
結(jié)論
所以，按照目前的發(fā)展速度，如果 AI 失控，人類(lèi)可能面臨巨大的威脅。
廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。