IT之家 3 月 19 日消息，據(jù)外媒 TechRadar 今日報道，Cato CTRL 威脅情報研究人員警告稱，自身雖無惡意軟件編寫經(jīng)驗，卻成功攻破了多個大語言模型（LLM），包括 ChatGPT-4o、DeepSeek-R1、DeepSeek-V3 等，所用技術(shù)方式近乎“天方夜譚”。
研究團隊研發(fā)了一種名為“沉浸式世界”（Immersive World）的新型攻擊手法，利用“敘述式工程”繞過 LLM 的安全機制。該方法通過構(gòu)建一個極為細致的虛構(gòu)世界，使受限操作顯得合理化，從而開發(fā)出一個“完全有效”的 Chrome 信息竊取程序。
IT之家獲悉，近年來信息竊取類惡意軟件迅速崛起，已成為網(wǎng)絡(luò)犯罪分子最危險的工具之一。而這一新型攻擊手法表明，即便毫無技術(shù)背景，網(wǎng)絡(luò)犯罪分子如今也能輕松編寫惡意代碼。
報告指出，大語言模型“徹底改變了網(wǎng)絡(luò)安全格局”。研究發(fā)現(xiàn)，AI 驅(qū)動的網(wǎng)絡(luò)威脅正成為企業(yè)和安全團隊面臨的重大挑戰(zhàn)，使得攻擊手法更加復雜，同時執(zhí)行頻率更高，且對攻擊者的技術(shù)要求更低。
盡管聊天機器人設(shè)有多重安全防護措施，但 AI 仍然被設(shè)計為盡可能滿足用戶需求。研究人員成功利用這一特性，繞過限制，使 AI 智能體輕易編寫并發(fā)送網(wǎng)絡(luò)釣魚攻擊。
Cato Networks 威脅情報研究員維塔利?西蒙諾維奇表示：“零知識威脅行為者的興起，對企業(yè)安全構(gòu)成嚴重威脅，因為生成式 AI 工具讓惡意軟件的制作變得前所未有地簡單?！?/p>
“信息竊取程序已成為竊取企業(yè)憑證的關(guān)鍵工具。我們新發(fā)現(xiàn)的 LLM 越獄技術(shù) ——‘沉浸式世界’，清楚展現(xiàn)了創(chuàng)建信息竊取程序的高風險和可行性。”
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。