Arm 與微軟合作，為基于 Arm 架構(gòu)的 PC 和移動設(shè)備應(yīng)用提供超強 AI 體驗
Arm KleidiAI 與 ONNX Runtime 的集成，為 Windows 和安卓操作系統(tǒng)帶來了顯著的 AI 性能優(yōu)化，實現(xiàn)高達 2.6 倍的 AI 推理速度提升，從而加速應(yīng)用體驗。
http://www.debgrams.com 2025-05-19 16:56 來源：Arm
隨著人工智能 (AI) 成為當(dāng)今個人電腦 (PC) 和移動設(shè)備使用體驗（從聊天機器人到生產(chǎn)力提升）中不可或缺的一部分，這些設(shè)備對 CPU 高效、可擴展的推理需求也在持續(xù)增長。Arm 與微軟正攜手合作以滿足這一需求，在從高端臺式電腦和筆記本電腦到旗艦級和入門級智能手機等各類廣泛的消費類電子設(shè)備上，為用戶帶來加速的 AI 體驗。
Arm 和微軟共同將 Arm KleidiAI 進一步擴展到 ONNX Runtime （業(yè)界廣泛使用的開源 AI 運行時之一）中。KleidiAI 是一款面向 AI 框架開發(fā)者的輕量級內(nèi)核庫，它能夠在無可比擬的規(guī)模下，為廣泛的技術(shù)市場以及各類基于 Arm 架構(gòu)的設(shè)備，提供 AI 模型和工作負載的無縫性能優(yōu)化。鑒于 KleidiAI 已成功集成到其他領(lǐng)先的 AI 框架上，這次的合作是在此成功基礎(chǔ)上的又一重要進展。
加速邊緣設(shè)備上的 AI 體驗
Windows on Arm 生態(tài)系統(tǒng)在過去幾年實現(xiàn)了顯著的增長。包括 Adobe Photoshop、Google Chrome、Spotify 和 Zoom 等廣受歡迎的應(yīng)用程序，都紛紛推出了 Arm 原生版本，以充分發(fā)揮其性能和能效優(yōu)勢。通過將 KleidiAI 集成到 ONNX Runtime 中，廣大的應(yīng)用程序開發(fā)者無需額外投入工程時間，就能獲得 PC 和移動設(shè)備的 AI 性能提升。ONNX Runtime 為微軟諸多產(chǎn)品的 AI 工作負載提供支持，包括 Microsoft 365 套件以及 Microsoft Copilot 等，并為 Copilot + PC 打造卓越的 AI 體驗。
KleidiAI 與 ONNX Runtime 的集成優(yōu)化了包含 Phi-3 Mini 等一系列模型在內(nèi)的 AI 工作負載。Phi-3 Mini 是一個擁有 38 億參數(shù)的小型語言模型，專為邊緣設(shè)備的先進 AI 體驗量身定制。這些 AI 體驗包括實時聊天機器人、虛擬助手、智能文本補全以及生產(chǎn)力工具的功能增強等，所有這些功能均可在設(shè)備本地實現(xiàn)。通過將 Phi-3 Mini 緊湊的結(jié)構(gòu)與 KleidiAI 高效的 CPU 執(zhí)行提供程序 (Execution Provider) 集成配對，開發(fā)者無需依賴云端連接，即可在設(shè)備上快速實現(xiàn)智能功能。
提升 PC 和移動設(shè)備上的實際 AI 性能
在 PC 和移動平臺上，該集成已為終端用戶帶來了切實的益處。它顯著加快了 AI 的響應(yīng)速度，使設(shè)備能夠直接實現(xiàn)更智能、更快速的交互，且無需開發(fā)者進行架構(gòu)改動或后端重寫。
根據(jù) Arm 的基準(zhǔn)測試顯示，在 KleidiAI 集成到 ONNX Runtime 后，系統(tǒng)性能得到了顯著的提升，包括在基于 Armv9 平臺的 Windows 設(shè)備上運行 Phi-3 模型時，提示處理吞吐量提升了 2.4 倍，詞元 (token) 生成速度加快了 12%。這些性能改進使聊天機器人等 AI 應(yīng)用能夠給出更加自然流暢的回應(yīng)。同樣地，在搭載最新 Armv9 CPU 的 vivo X200 Pro 旗艦智能手機上運行相同 Phi-3 模型的參考安卓應(yīng)用中，提示處理速度加快了 2.6 倍。
由于 KleidiAI 的集成運行在全球應(yīng)用廣泛的 Arm CPU 架構(gòu)上，這使得 AI 應(yīng)用與工作負載能夠在不同的生態(tài)系統(tǒng)及芯片組之間無縫移植。KleidiAI 的設(shè)計旨在與當(dāng)前的 Arm 架構(gòu)特性，如 Neon、可伸縮矢量擴展 (SVE2) 及可伸縮矩陣擴展 (SME) ，展開協(xié)同工作。這些面向未來的功能確保開發(fā)者能夠構(gòu)建當(dāng)下的 AI 增強體驗，并使其隨著未來的硬件創(chuàng)新而擴展。KleidiAI 與 ONNX Runtime 的集成已在 ONNX RT V1.22 中發(fā)布。
推動 AI 規(guī)?；涞?/strong>
Arm 與微軟的合作為開發(fā)者普及優(yōu)化 AI 邁出了變革性的一步。該合作簡化了在各類 PC 和移動設(shè)備上部署智能功能的流程，無需增加成本或開發(fā)工作量，同時為終端用戶帶來加速的 AI 體驗。隨著 AI 的持續(xù)演進，這些優(yōu)化工作將確保開發(fā)者、OEM 廠商和操作系統(tǒng)提供商擁有出色的性能、靈活性和廣泛的覆蓋范圍，為更多用戶帶來更優(yōu)質(zhì)、更智能的體驗。
訪問以下學(xué)習(xí)路徑，了解 KleidiAI 與 ONNX Runtime 集成的更多信息：
相關(guān)新聞
- ? Arm Neoverse 平臺集成 NVIDIA NVLink Fusion，加速 AI 數(shù)據(jù)中心應(yīng)用落地
- ? 安謀科技Arm China發(fā)布“周易”X3 NPU IP，端側(cè)AIGC性能飆升10倍
- ? Arm 攜手中國伙伴，創(chuàng)建“AI 定義汽車”時代的新范例
- ? Arm Unlocked 2025 深圳站：驅(qū)動 AI 從云到端落地，攜手共繪計算未來
- ? Arm Flexible Access 方案引入 Armv9 計算平臺，以更低門檻和成本賦能邊緣 AI 創(chuàng)新
- ? Arm 與 NVIDIA 攜手驅(qū)動智能汽車及機器人領(lǐng)域創(chuàng)新
- ? Arm Zena CSS 助力車廠提前一年推出 AI 定義汽車
- ? 擁抱基礎(chǔ)設(shè)施變革，抓住人工智能的萬億美元機遇
- ? Arm 驅(qū)動下一代機器人創(chuàng)新浪潮
- ? Arm 生態(tài)系統(tǒng)：從云端到邊緣全面驅(qū)動 AI
編輯精選
- ? 賦能綠色智造 臺達與長三角制造企業(yè)探討智造新路徑
- ? 2025 年伺服電機行業(yè)產(chǎn)業(yè)布局深度解析
- ? HMS行業(yè)洞察：2025工業(yè)網(wǎng)絡(luò)市場全景解讀
- ? 總投資15億元！ABB超級工廠落子南京
- ? 構(gòu)筑工業(yè) AI 時代的數(shù)據(jù)底座，藍卓supOS X工廠操作系統(tǒng)全球首發(fā)
- ? CC-Link協(xié)議家族與會員單位集中亮相，共話行業(yè)新發(fā)展
- ? 2025 工業(yè)操作系統(tǒng)大會在蘇州隆重開幕
- ? 創(chuàng)新、落地、增效：施耐德電氣以AI賦能產(chǎn)業(yè)新生態(tài)
- ? 西門子2026 年數(shù)字化程度展望
- ? 國家統(tǒng)計局：11月工業(yè)機器人產(chǎn)量增長超20%
工控原創(chuàng)
- ? 統(tǒng)一以太網(wǎng)標(biāo)準(zhǔn)再迎里程碑，SPE 和 Ethernet-APL 解鎖工業(yè)數(shù)字化新機遇
- ? 11月RatingDog中國制造業(yè)PMI降至49.9，供需走弱重回收縮區(qū)間
- ? 11月工控圈發(fā)生了這些矚目的大事件
- ? 十月工控領(lǐng)域重要資訊，一睹為快！
- ? 回顧 | 以技術(shù)干貨 + 落地案例，解鎖產(chǎn)業(yè)升級新路徑
- ? ABB報告：工業(yè)停機每小時損失高達50萬美元，知行鴻溝阻礙現(xiàn)代化更新
- ? ABB宣布以53.75億美元將機器人業(yè)務(wù)出售給軟銀
- ? 九月不容錯過的工控圈大事
- ? 當(dāng)“軟件定義”與“價值鏈”相遇，未來工業(yè)走向何方？
- ? 西門子：以“一次正確”破局內(nèi)卷，讓工業(yè)AI真正落地
