IT之家 3 月 12 日消息,Arm 今日宣布將其 AI 推理性能優(yōu)化軟件庫 Kleidi 擴展到車用市場,透過 Arm Kleidi,合作伙伴將可充分發(fā)掘下一代特定應用 AI 模型在汽車中的優(yōu)勢,并加快其部署速度。
IT之家獲悉,Arm Kleidi 于 2024 年推出,開發(fā)人員無需進行任何額外工作,就能利用其為 Arm CPU 上運行的 AI 推理工作負載提供軟件性能優(yōu)化。此前該軟件庫已被移動設備、云服務和數(shù)據(jù)中心等關鍵領域應用。
Arm 宣稱,通過其與 Corellium 聯(lián)合開發(fā)的虛擬平臺,亞馬遜 AWS 為 SDV 軟件定義汽車打造了新的概念驗證 AI 聊天機器人,可讓司機直接與汽車進行互動,提出問題或詢問儀表板警報,而無需翻閱汽車用戶手冊。
由于使用了集成 KleidiAI 的最新版 Llama.cpp 來進行開發(fā),AWS 實現(xiàn)了聊天機器人性能的顯著提升:響應時間縮短至 1~3 秒,性能提升達 10 倍。同時 Kleidi 軟件庫為開發(fā)人員節(jié)省了 6 周的底層軟件優(yōu)化時間。
Arm 車用事業(yè)部產品與解決方案副總裁 Suraj Gajendra 表示:
在汽車產業(yè)中,AI 通常被稱為自動駕駛汽車的核心 —— 聽起來頗具未來感,距離其大規(guī)模量產上路還有數(shù)年時間。
然而,實際的情況是,當下新車型中的很多應用和功能,從自適應巡航控制、個性化車載信息娛樂系統(tǒng)到駕駛和乘客監(jiān)控系統(tǒng),都已使用 AI 技術,并且這些特定應用的模型和工作負載已在 Arm 平臺上高效地運行。
這歸功于 Arm 運算平臺卓越的靈活性、性能、效率和可擴展性,使其成為整個汽車行業(yè)中開發(fā)人員的首選平臺。
廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。