El futuro de la IA se perfila para alejarse de la infraestructura basada en la nube y con un alto consumo de energía que ha dominado los titulares. En su lugar, la industria se está moviendo hacia un enfoque más eficiente y descentralizado, donde el cálculo de IA se empuja a los dispositivos periféricos como teléfonos inteligentes, computadoras portátiles e incluso automóviles.

Las empresas de chips como Qualcomm lideran este avance, desarrollando procesadores potentes y eficientes en energía diseñados específicamente para ejecutar modelos de lenguaje a gran escala y otras cargas de trabajo de IA de forma local en el dispositivo. Este enfoque ofrece varios beneficios clave, incluida una mejor privacidad, seguridad, latencia y rentabilidad.

Los avances en técnicas de compresión y orquestación de modelos están permitiendo el despliegue de modelos de IA altamente capaces en dispositivos periféricos. Proyectos como Mixture of Agents y RouteLL M demuestran cómo múltiples modelos pequeños y eficientes pueden colaborar para producir resultados comparables a los de modelos frontera más grandes y costosos. Esto permite que el 90% de los casos de uso se manejen con modelos locales de bajo costo, lo que resulta en ahorros significativos.

El futuro de la IA se está desplazando hacia la computación en el borde, donde se pueden implementar modelos de IA potentes pero eficientes directamente en dispositivos como teléfonos inteligentes, computadoras portátiles e incluso automóviles. Este enfoque ofrece varios beneficios, incluida una mayor privacidad, seguridad, baja latencia y costos reducidos en comparación con confiar únicamente en el procesamiento de IA basado en la nube.

Fabricantes de chips como Qualcomm lideran el camino en el desarrollo de procesadores especializados optimizados para ejecutar modelos de lenguaje a gran escala y otras cargas de trabajo de IA en dispositivos periféricos. Estos chips están diseñados para ser altamente eficientes en el consumo de energía, lo que permite una integración fluida de las capacidades de IA en una amplia gama de aplicaciones.

Los avances en técnicas de compresión y orquestación de modelos, como Mixture of Agents y RouteLL, están permitiendo el despliegue de modelos de IA más pequeños y eficientes que pueden ofrecer un rendimiento comparable al de modelos más grandes y con mayor consumo de recursos. Estas innovaciones permiten que la mayoría de los casos de uso se manejen mediante procesamiento local en el dispositivo, reduciendo la necesidad de conectividad constante a la nube y los costos y la latencia asociados.

El futuro de la IA se está moviendo hacia un enfoque más descentralizado y eficiente, donde el cálculo de IA se empuja a los dispositivos periféricos como teléfonos inteligentes, computadoras portátiles e incluso automóviles. Este cambio está impulsado por los avances en la tecnología de chips, ya que empresas como Qualcomm están desarrollando procesadores potentes y eficientes en energía diseñados específicamente para ejecutar modelos de lenguaje a gran escala y otras cargas de trabajo de IA en el dispositivo.

Una de las innovaciones clave en este espacio es el desarrollo de capas de orquestación que pueden determinar de manera inteligente qué tareas de IA deben manejarse localmente en el dispositivo periférico y cuáles deben derivarse a modelos basados en la nube más potentes pero más costosos. Los investigadores han publicado recientemente documentos y código abierto que demuestran la eficacia de estas técnicas de orquestación.

Por ejemplo, el enfoque de "Mixture of Agents" permite que múltiples agentes de IA pequeños colaboren y produzcan respuestas que son comparables a las de modelos más grandes y más costosos. De manera similar, el documento "Route LLM" presenta una capa de orquestación que puede enrutar el 90% de los casos de uso a modelos más pequeños y eficientes, lo que resulta en un ahorro de costos del 80% en comparación con confiar únicamente en los modelos más potentes basados en la nube.

Qualcomm presentó una variedad de experiencias de demostración impulsadas por IA en diversos dispositivos, destacando la visión de la empresa para el futuro de la computación de IA. Estas demostraciones mostraron las capacidades de los chips de Qualcomm para ejecutar cargas de trabajo de IA de manera eficiente en dispositivos periféricos.

Una de las demostraciones más destacadas fue la integración de IA en las interfaces de automóviles. Qualcomm demostró cómo sus chips pueden alimentar el sistema de infoentretenimiento y permitir que un agente de IA realice tareas en nombre del conductor, todo ejecutándose en el dispositivo. Esto muestra el potencial de la IA para mejorar la experiencia dentro del automóvil, manteniendo la privacidad y la seguridad.

Otra demostración impresionante fue la integración de IA en drones inteligentes, que pueden aprovechar las capacidades de IA en el dispositivo para una variedad de aplicaciones, desde uso personal hasta misiones de rescate y entregas. Los chips de Qualcomm permiten que estos drones realicen tareas complejas impulsadas por IA sin depender de servicios basados en la nube.

Los fabricantes de teléfonos inteligentes como Qualcomm lideran el camino para llevar capacidades de IA potentes directamente a los dispositivos periféricos. Al integrar un procesamiento de IA avanzado en sus últimos chipsets móviles, están habilitando una amplia gama de funciones innovadoras que pueden ejecutarse sin problemas en el dispositivo, sin la necesidad de conectividad a la nube.

Uno de los ejemplos destacados es la función de traducción en vivo, donde los usuarios simplemente pueden presionar un botón para traducir conversaciones en tiempo real, todo impulsado por la IA a bordo del dispositivo. Otra capacidad impresionante es la función de "asistencia de chat", que actúa como un asistente de escritura impulsado por IA, ayudando a los usuarios a refinar sus mensajes ajustando el tono, revisando la ortografía y proporcionando servicios de traducción, todo sin salir del dispositivo.

Además, las funciones de fotografía mejoradas por IA de Qualcomm, como la tecnología "nitrapyrin", aprovechan el procesamiento en el dispositivo para ofrecer una calidad de imagen impresionante y efectos de fotografía computacional. Esto permite a los usuarios disfrutar de los beneficios de la edición y mejora de imágenes avanzadas impulsadas por IA, sin la necesidad de cargar sus imágenes a la nube.

El futuro de los teléfonos inteligentes habilitados para IA es realmente emocionante, ya que los usuarios ahora pueden tener agentes inteligentes trabajando en su nombre, manejando tareas como programación, gestión de correo electrónico e incluso planificación financiera, todo mientras aseguran la privacidad y seguridad de sus datos personales, ya que estas capacidades se integran directamente en el hardware y software del dispositivo.