3 月 11 日消息，阿里安全專家發(fā)布了一項新研究，只要用簡單的激光筆，就可以讓 AI 模型不再有效。在這個研究中，他們設計了一種算法，可模擬光束對 AI 模型進行 “攻擊”，這種測試方法在現(xiàn)實世界中得到了驗證，且 “攻擊”極易操作，對現(xiàn)有基于 AI 的視覺系統(tǒng)更具威脅，例如基于 AI 視覺的自動駕駛。
當不同頻譜的光束打在同一個物體上，AI 可能將該物體識別錯誤，比如將停車標識識別成順利通行。
▲ 一束激光可能讓自動駕駛汽車對交通標識識別錯誤
“攻擊 AI 遠非需要人為去制造對抗樣本，一支簡單的激光筆就可以。我們想通過這個研究揭示 AI 模型一些之前沒有被探索過的‘錯誤’，從而‘強壯’AI，讓它未來能抵擋這種‘攻擊’，也讓相關從業(yè)者重視提高 AI 模型的安全性?！?span id="h7i2sdf" class="accentTextColor">阿里安全圖靈實驗室負責人薛暉說道。
除了以 “一束光”測試 AI 視覺的安全性，最近圖靈實驗室發(fā)布了多項涉及 AI 安全的研究成果，比如多項文字識別與檢測、利用自監(jiān)督建立視頻表征學習方法與提升半監(jiān)督行為檢測的算法框架、AI 樣本對抗、偽造人臉檢測、AI 對人臉與人聲匹配的雙重模態(tài)識別、視頻描述 AI 生成技術等囊括 AI“視覺”“聽覺”“大腦”“免疫性”等多方研究，這 10 項涉及 AI 安全的新一代安全架構研究成果均被國際頂會 CVPR2021 收錄。
“在 AI 安全前沿技術上進行探索，一是為了讓 AI 更安全，二是為了讓 AI 助力安全，三是為解決具體社會問題尋找提效的新途徑?！毖熣f。
另外，薛暉還表示，安全部署要前置，無論是 AI 本身的安全，還是 AI 可以助力解決的安全問題與社會問題，這就是從源頭構筑安全的核心理念。希望在廣闊的 AI 安全研究的新領域中，能有更多新生力量加入，迸發(fā)出有創(chuàng)造性和想象力的研究，最終應用到人們的生活中，真正服務大眾，解決難題。
廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。