人工智能的未来正朝着远离能源密集型、基于云的基础设施的方向转变。相反,该行业正在向更高效和分散的方法转移,其中人工智能计算被推送到智能手机、笔记本电脑甚至汽车等边缘设备。

高通等芯片公司正在引领这一变革,开发专门设计用于在设备上本地运行大型语言模型和其他人工智能工作负载的强大和节能处理器。这种方法提供了几个关键优势,包括改善隐私、安全性、延迟和成本效益。

模型压缩和编排技术的进步正在使高度功能的人工智能模型能够部署在边缘设备上。像"智能代理混合"和"RouteLL M"这样的项目展示了多个小型高效模型如何协作产生与更大、更昂贵的前沿模型相当的输出。这使90%的用例可以由本地低成本模型处理,从而实现了显著的成本节约。

高通的人工智能活动展示了这种边缘人工智能未来的几个令人兴奋的演示。从人工智能驱动的车载界面和智能无人机到协同驾驶PC和AIUB等软件工具,该公司正在推动人工智能在各种智能设备中的集成。实时语言翻译和人工智能辅助写作等功能,都在设备上运行,为未来无缝和隐私保护的人工智能体验提供了一瞥。

随着这些创新的不断发展,人工智能的格局将发生戏剧性的转变,用户通过边缘计算的力量将获得更多的控制权和自主权。这种转变有望解锁个性化、高效和安全的人工智能驱动体验在各种智能设备和应用程序中的新可能性。