人工智慧的未來正朝著遠離能源密集型、雲端基礎設施的方向轉變。相反地,該行業正朝著更有效率和去中心化的方法發展,將人工智慧運算推向智慧手機、筆記型電腦,甚至汽車等邊緣設備。

高通等晶片公司正在引領這一趨勢,開發專門設計用於在設備上本地運行大型語言模型和其他人工智慧工作負載的強大且節能的處理器。這種方法提供了多項關鍵優勢,包括改善隱私、安全性、延遲和成本效益。

模型壓縮和協調技術的進步正使得在邊緣設備上部署高度功能的人工智慧模型成為可能。像「智能代理混合」和「RouteLL M」這樣的項目展示了多個小型、高效的模型如何協作以產生與更大、更昂貴的前沿模型相當的輸出。這使得90%的用例可以由本地低成本模型處理,從而實現了顯著的成本節省。

高通的人工智慧活動展示了這種邊緣人工智慧未來的多項令人興奮的演示。從人工智慧驅動的車載界面和智能無人機,到協作型個人電腦和AIUB等軟體工具,該公司正推動人工智慧在各種智能設備中的整合。即時語言翻譯和人工智慧輔助寫作等功能,都在設備上本地運行,為未來無縫和隱私保護的人工智慧體驗提供了一瞥。

隨著這些創新不斷發展,人工智慧的格局將發生巨大變革,用戶將通過邊緣運算的力量獲得更多的控制權和自主權。這一轉變將為個性化、高效和安全的人工智慧驅動體驗解鎖新的可能性,應用於各種智能設備和應用程式。