AI 是否應(yīng)該監(jiān)管，應(yīng)該怎樣監(jiān)管？是能避免災(zāi)難，還是扼殺創(chuàng)新？圍繞著加利福尼亞州議會的一項 AI 監(jiān)管法案，硅谷已經(jīng)為此吵翻了天。
泰斗專家力挺監(jiān)管立法
上周三，一群在計算機領(lǐng)域聲名顯赫的功勛學(xué)者教授們聯(lián)名簽署了一封公開信，支持加州議會一項 AI 安全監(jiān)管法案。他們將這封信分別送至加州政府的三個機構(gòu)負責(zé)人：加州州長紐森（Garvin Newsom）、加州參議院與眾議院的兩位議長。
簽署這封聯(lián)名信的學(xué)者教授都在人工智能領(lǐng)域作出了奠基性的研究，尤其是在神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)方面作出了杰出貢獻，在 AI 行業(yè)享有極高的地位。他們的意見會受到美國政府以及整個 AI 行業(yè)的重視與尊重。
他們包括被譽為“人工智能之父”的加拿大科學(xué)家杰弗里?辛頓（Geoffrey Hinton）、被譽為“深度學(xué)習(xí)之父”的加拿大蒙特利爾大學(xué)計算機科學(xué)教授約書亞?本吉奧（Yoshua Bengio）、撰寫最早 AI 教材的加州伯克利大學(xué)計算機科學(xué)教授斯圖亞特?羅塞爾（Stuart Russell）以及互聯(lián)網(wǎng)立法專家、哈佛大學(xué)法學(xué)教授勞倫斯?賴斯格（Lawrence Lessig）。
一項加州的法案為什么會讓這些泰斗級人物如此關(guān)注和擔(dān)憂？這項《前沿人工智能模型安全可靠創(chuàng)新法》（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act，又稱 SB 1047）目前已經(jīng)通過了加州參議院和眾議院相關(guān)委員會的表決，即將送至兩院正式表決。如果投票通過，交由加州州長紐森簽字，就會成為正式法律。
這些大名鼎鼎的教授們表示，如果缺乏足夠的重視與監(jiān)管，下一代 AI 系統(tǒng)的研發(fā)可能會存在嚴重風(fēng)險，他們認為加州這一法案是有效監(jiān)管這一技術(shù)的最基本要求?！澳壳叭狈?AI 系統(tǒng)的監(jiān)管，這可能會產(chǎn)生嚴重的災(zāi)難風(fēng)險”。
“作為最了解 AI 系統(tǒng)的專家，我們可以自信地說，（AI 帶來災(zāi)難）的風(fēng)險是很可能存在的，而且足夠嚴重，有必要制定相關(guān)安全檢測和預(yù)防措施。我們擔(dān)心科技公司在追求市場份額和利潤最大化的過程中，無法自己化解這些系統(tǒng)性風(fēng)險。因此需要對這些處于 AI 賽道前沿的公司制定規(guī)則”，他們在公開信中寫道。
這已經(jīng)不是辛頓和本吉奧這兩位 AI 行業(yè)的泰斗第一次公開支持 SB 1047 法案了。此前他們就曾經(jīng)站出來支持加州立法監(jiān)管 AI。此次發(fā)表公開信的背景是，加州 AI 監(jiān)管法案 SB 1047 遭受了諸多 AI 行業(yè)人士以及學(xué)者專家的反對，這兩位圖靈獎獲得者認為自己有必要再次公開表態(tài)，立場鮮明地支持加州政府這一立法。
李飛飛吳恩達反對過度監(jiān)管
的確，有不少計算機科學(xué)的專家公開反對目前的 AI 監(jiān)管法案，尤其是與硅谷科技公司關(guān)系密切的學(xué)者。斯坦福計算機教授、視覺識別專家李飛飛上周在《財富》雜志發(fā)表評論文章，立場鮮明地反對加州這一監(jiān)管法案；認為這一法案會帶來意想不到的后果，扼殺 AI 領(lǐng)域的創(chuàng)新。
她表示，如果 SB 1047 成為法律，將傷害到新生的 AI 生態(tài)系統(tǒng)，尤其是目前那些與科技巨頭相比已經(jīng)處于不利地位的部分：公眾領(lǐng)域、學(xué)術(shù)以及小科技?！癝B 1047 會毫無必要地懲罰開發(fā)者，扼殺我們開源社區(qū)，阻礙學(xué)術(shù) AI 研究，而無法真正解決原先想要解決的問題?！?/p>
李飛飛稱自己并不反對 AI 治理，但 AI 監(jiān)管政策必須支持開源開發(fā)，提出統(tǒng)一與合理的規(guī)則，而 SB 1047 并未達到這一標(biāo)準(zhǔn)。李飛飛表示，希望可以與加州議員們攜手合作，共同制定 AI 監(jiān)管立法。“加州是 AI 的心臟，加州的發(fā)展決定了整個美國的未來?！?/p>
李飛飛的同事、斯坦福計算機科學(xué)教授吳恩達雖然沒有言辭激烈的表達反對意見。他也委婉地表示，作為 AI 研發(fā)者，這個法案的很多條款會讓自己無所適從。
在計算機科學(xué)領(lǐng)域，許多專家學(xué)者都和產(chǎn)業(yè)公司有著諸多交集和關(guān)聯(lián)。李飛飛曾經(jīng)在谷歌云擔(dān)任首席科學(xué)家，而辛頓也曾經(jīng)在 Google Brain 部門任職長達十年。吳恩達更曾在谷歌和百度工作多年，是谷歌深度學(xué)習(xí)部門的創(chuàng)辦者之一。
AI 監(jiān)管立法勢在必行
自從今年 2 月加州議會正式提出這個法案之后，硅谷就圍繞著 AI 監(jiān)管的問題吵翻了天。站在不同的立場與利益上，學(xué)者專家、政府要員、行業(yè)巨頭們都有著截然不同的意見。
這個法案是由代表舊金山地區(qū)的加州參議員斯科特?維納（Scott Wiener）提出。法案要求加州的 AI 公司在訓(xùn)練大模型時要進行嚴格的安全測試，以避免可能存在危險的功能，并且實施完善的安全措施，以降低造成災(zāi)難的風(fēng)險。
SB 1047 在加州立法討論過程中進展順利，并沒有多少議員站出來表示反對。因為此前 David Binder 的民意調(diào)查顯示，高達 77% 的加州選民支持對 AI 進行立法，更有 55% 的選民強烈支持對 AI 公司進行強制安全檢測。
需要指出的是，這一法案只面向那些在 AI 大模型研發(fā)投入超過 1 億美元的公司，這差不多也是熱門企業(yè)和小創(chuàng)業(yè)公司的研發(fā)投入分水嶺，正好就是 GPT-4o 的訓(xùn)練成本。按照這個標(biāo)準(zhǔn)，谷歌、Meta、Open 和 Anthropic 等 AI 領(lǐng)域的知名公司都在監(jiān)管范圍之內(nèi)。
而且，無論這些 AI 公司總部在不在加州，只要他們在加州有業(yè)務(wù)，就會受到監(jiān)管。因此，馬斯克的 xAI 就算未來搬家到德州，也一樣會受到這個法案的束縛，因為他們幾乎不可能在研發(fā)和業(yè)務(wù)方面完全脫離加州。
此前數(shù)據(jù)公司 Collibra 委托市場調(diào)查公司 Harris Poll 對美國 300 名數(shù)據(jù)管理與網(wǎng)絡(luò)隱私方面的從業(yè)人員進行了調(diào)查。結(jié)果顯示，幾乎所有的受訪者（99%）都認可政府應(yīng)該對 AI 技術(shù)可能帶來的威脅進行監(jiān)管。
在 AI 可能帶來的風(fēng)險中，64% 的受訪者強調(diào)了隱私問題和安全性，57% 的受訪者提到了虛假信息問題。81% 的受訪者認為，很多互聯(lián)網(wǎng)服務(wù)公司都把用戶當(dāng)成有價值的商品，科技公司應(yīng)該為使用用戶信息訓(xùn)練 AI 大模型付費。
雖然美國國會以及拜登政府從去年就開始研究如何對 AI 進行監(jiān)管，負責(zé)反壟斷的聯(lián)邦貿(mào)易委員會（FTC）已經(jīng)更是多次調(diào)查 OpenAI、微軟和谷歌等公司在 AI 領(lǐng)域的操作；不過，因為目前正值美國大選最激烈的階段，兩黨已經(jīng)無暇顧及國會立法上，AI 監(jiān)管立法或許只能交給明年上臺的新一屆政府和國會了。
據(jù)數(shù)據(jù)行業(yè)機構(gòu)透明聯(lián)合會（Transparency Coalition）統(tǒng)計，美國各地已經(jīng)有 400 多個與 AI 相關(guān)的法案正在擬定。在加州，除了 SB 1047 法案之外，還有 30 個與 AI 相關(guān)的法案正在立法初期討論階段，主要涉及保護知識產(chǎn)權(quán)、阻止 AI 色情內(nèi)容、保護兒童數(shù)據(jù)等相關(guān)方面。
加州并不是美國第一個立法監(jiān)管 AI 的州。此前科羅拉多州和猶他州通過了相關(guān)的監(jiān)管法律，但是他們的監(jiān)管范圍都明顯弱于加州的 SB 1047 法案。更為重要的是，大多數(shù) AI 公司都設(shè)在加州，因此加州這一法案將對 AI 行業(yè)帶來深遠的影響。
硅谷 AI 行業(yè)強烈反對
在 SB 1047 的監(jiān)管對象層面，大多數(shù)硅谷 AI 公司和創(chuàng)投行業(yè)都對這一法案提出了反對意見和擔(dān)憂情緒，Meta、谷歌、微軟等巨頭也在通過自己的游說能力，希望促使維納修改法案或是阻止法案在加州議會通過。
微軟在公開信中表示，支撐這個法案監(jiān)管架構(gòu)的根基都尚未到位，（貿(mào)然通過法律）可能會讓 AI 領(lǐng)域錯失投資、帶來誤導(dǎo)性的結(jié)果，還會讓行業(yè)失去專注資源進行研發(fā)的機會。
硅谷最有影響力的風(fēng)投機構(gòu)安德森?霍洛維茨（Andreessen Horowitz）則指出，這法案設(shè)置了一個不可能完成的要求，（如果這一法案通過），大多數(shù)創(chuàng)業(yè)公司都只能選擇搬遷到對 AI 行業(yè)更為友善的州。安德森?霍洛維茨的兩位創(chuàng)始人在今年美國大選中都立場鮮明地支持共和黨候選人特朗普，批評民主黨政府的諸多政策損害了美國經(jīng)濟。
知名 AI 創(chuàng)業(yè)公司 Anthropic 上個月底致函維納，表明他們不支持目前的監(jiān)管法案，并提出了諸多改進意見，希望與維納進行對話。Anthropic 希望法案可以縮小范圍，專注于讓 AI 公司為造成的災(zāi)難承擔(dān)責(zé)任，而不是強行規(guī)定 AI 公司應(yīng)該采取哪些措施來阻止災(zāi)難。
Anthropic 認為，監(jiān)管部門應(yīng)該讓 AI 行業(yè)自己決定安全措施，懲罰那些造成嚴重后果的企業(yè)，而不該從一開始就出臺各種繁瑣安全措施，讓 AI 公司在創(chuàng)新研發(fā)時束手束腳。
AI 行業(yè)對 SB 1047 法案的反對意見主要集中在強制要求開發(fā)者必須提供合理可靠的保證，確保 AI 大模型不會帶來不合理的風(fēng)險，造成嚴重的損害，例如會被濫用打造大規(guī)模殺傷性武器，或是給關(guān)鍵基礎(chǔ)設(shè)施帶來損害。
按照目前法案規(guī)定，加州司法部可以起訴那些沒有制定合適的安全措施并且造成災(zāi)難后果的 AI 公司。在法案提到的災(zāi)難后果中，包括了開發(fā)可以幫助打造或使用“生化輻射或核武器”的技術(shù)，以及給關(guān)鍵基礎(chǔ)設(shè)施帶來超過 5 億美元的損失。
舊金山擔(dān)憂 AI 公司逃離
有趣的是，舊金山是美國 AI 領(lǐng)域的創(chuàng)新地，Open 和 Anthropic 等諸多 AI 創(chuàng)業(yè)公司都集中在這里，而且還在不斷擴張增長。結(jié)果反而是來自舊金山的議員率先提出法案，要求立法監(jiān)管限制自己選取的這些 AI 公司。
維納的這一法案提出之后就引發(fā)了舊金山的熱議，支持者和反對者各持一詞，而且各有說法。很多人擔(dān)心 AI 監(jiān)管法案會打壓正在高速增長的 AI 行業(yè)，進一步損害到本就處于低谷的舊金山經(jīng)濟。
舊金山經(jīng)濟嚴重依賴于科技行業(yè)。2021 年的統(tǒng)計數(shù)據(jù)顯示，舊金山有將近五分之一的（18.7%）雇員都工作于科技行業(yè)。然而，過去幾年由于日益糟糕的治安狀況，越來越多的科技公司選擇搬離舊金山，還帶走了大型會展活動，給舊金山經(jīng)濟帶來了嚴重打擊。最近一個選擇搬走的科技公司是馬斯克的 X (此前的推特)。商業(yè)地產(chǎn)公司 CBRE 的數(shù)據(jù)顯示，今年第二季度舊金山市區(qū)的寫字樓空置率已經(jīng)高達 36.8%，創(chuàng)下了歷史新高。
在這樣的整體蕭條景象下，AI 卻是舊金山為數(shù)不多還在增長的亮點行業(yè)。OpenAI、Anthropic 等大多數(shù) AI 創(chuàng)業(yè)公司的總部都在舊金山。在 AI 大潮的推動下，今年第一季度 AI 行業(yè)新租賃了舊金山超過 100 萬平方英尺（9.9 萬平方米）的寫字樓，讓整個行業(yè)的租賃面積超過了 340 萬平方英尺（31.6 萬平方米）。
曾在 2018 年擔(dān)任舊金山市長、并在今年再次參選市長的法瑞爾（Mark Farrell）公開表示，這個法案可能會扼殺新興的 AI 產(chǎn)業(yè)，殺死舊金山脆弱科技行業(yè)經(jīng)濟的希望。他呼吁應(yīng)該把 AI 監(jiān)管的職責(zé)交給聯(lián)邦政府，讓舊金山專注于 AI 等科技創(chuàng)新，而不是給科技公司繼續(xù)離開舊金山的理由。
硅谷最具影響力的創(chuàng)業(yè)訓(xùn)練營 Y Combinator 的 CEO 陳嘉興（Garry Tan）一直鼓勵創(chuàng)業(yè)公司落戶舊金山，但他也在不斷批評舊金山乃至加州政府的諸多政策。陳嘉興表示，SB 1047 法案可能會嚴重損害加州留住 AI 人才、吸引 AI 公司的能力。
營造恐慌和危言聳聽？
雖然遭到硅谷 AI 行業(yè)的強烈抵制，但看起來，SB 1074 在加州立法通過的可能性越來越大，而且很多支持者并不相信這個法案會扼殺 AI 行業(yè)的創(chuàng)新。
非盈利網(wǎng)絡(luò)權(quán)益保護機構(gòu) Encode Justice 表示，硅谷科技行業(yè)認為監(jiān)管會迫使創(chuàng)新離開加州，這種說法是誤導(dǎo)性和危險的，SB 1047 法案只面向那些投入上億美元用于 AI 模型研發(fā)的公司，大多數(shù)創(chuàng)業(yè)公司都不會受到影響。
SB 1074 法案的提出者維納稱，認為 AI 監(jiān)管法案會殺死 AI 行業(yè)的說法是在營造恐慌和危言聳聽。他表示，自己是 AI 的擁護者，也為舊金山成為 AI 創(chuàng)新中心而深感驕傲。
今年 7 月底，維納專門來到 YC 舊金山總部，面對諸多 AI 創(chuàng)業(yè)者和研發(fā)人員解釋法案。他表示，外界對 AI 監(jiān)管法案有著太多傳言和夸張之處，包括“如果 AI 技術(shù)被濫用，研發(fā)者可能會因此坐牢”的說法都是謠言。但是他并沒有得到聽眾的多少認同。
顯然，維納并不相信為科技公司會因為監(jiān)管離開硅谷。他還提到，目前科技公司對 AI 監(jiān)管法案的抵制態(tài)度，讓他想到了 2018 年加州出臺互聯(lián)網(wǎng)數(shù)據(jù)隱私法案的狀況。
“當(dāng)時科技公司也是說，那個法案會迫使互聯(lián)網(wǎng)公司離開加州，但現(xiàn)在科技公司還在加州，而且正在強勁增長，而我們現(xiàn)在有了更加保護消費者的數(shù)據(jù)隱私法律?！?/p>
維納對硅谷的科技創(chuàng)新地位充滿信心。此前馬斯克宣布要把 X 搬離舊金山的時候，維納就站出來公開嘲諷馬斯克是“裝模作樣”罷了。因為特斯拉就算總部搬到了德州，也離不開硅谷的科技人才，不得不在硅谷設(shè)立了“工程總部”，而且在整體裁員的同時，還在硅谷不斷招聘。
本文來自微信公眾號：新浪科技（ID：techsina），作者：鄭峻，原標(biāo)題《加州要親手扼殺 AI 創(chuàng)新？硅谷吵翻了天》
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。