Die Zukunft der KI steht kurz davor, sich von der energieintensiven, cloudbasierten Infrastruktur, die die Schlagzeilen dominiert hat, abzuwenden. Stattdessen bewegt sich die Branche hin zu einem effizienteren und dezentraleren Ansatz, bei dem die KI-Verarbeitung auf Endgeräte wie Smartphones, Laptops und sogar Autos verlagert wird.

Chiphersteller wie Qualcomm führen diese Entwicklung an, indem sie leistungsfähige und energieeffiziente Prozessoren entwickeln, die speziell für den Betrieb großer Sprachmodelle und anderer KI-Workloads auf Endgeräten konzipiert sind. Dieser Ansatz bietet mehrere Schlüsselvorteile, darunter verbesserte Datenschutzrechte, Sicherheit, Latenz und Kosteneffizienz.

Fortschritte bei der Modellkomprimierung und Orchestrierung ermöglichen die Bereitstellung hochleistungsfähiger KI-Modelle auf Endgeräten. Projekte wie Mixture of Agents und RouteLL M zeigen, wie mehrere kleine, effiziente Modelle zusammenarbeiten können, um Ausgaben zu erzeugen, die mit denen größerer, teurerer Spitzenmodelle vergleichbar sind. Dadurch können 90% der Anwendungsfälle von lokalen, kostengünstigen Modellen abgedeckt werden, was zu erheblichen Kosteneinsparungen führt.

Die Zukunft der KI verschiebt sich hin zum Edge Computing, bei dem leistungsfähige, aber effiziente KI-Modelle direkt auf Geräten wie Smartphones, Laptops und sogar Autos bereitgestellt werden können. Dieser Ansatz bietet mehrere Vorteile, darunter verbesserten Datenschutz, Sicherheit, geringe Latenz und reduzierte Kosten im Vergleich zur alleinigen Nutzung von cloudbasierter KI-Verarbeitung.

Chiphersteller wie Qualcomm führen den Weg bei der Entwicklung spezialisierter Prozessoren, die für den Betrieb großer Sprachmodelle und anderer KI-Workloads auf Endgeräten optimiert sind. Diese Chips sind so konzipiert, dass sie sehr energieeffizient sind und eine nahtlose Integration von KI-Funktionen in eine Vielzahl von Anwendungen ermöglichen.

Fortschritte bei der Modellkomprimierung und Orchestrierung, wie Mixture of Agents und RouteLL, ermöglichen die Bereitstellung kleinerer, effizienterer KI-Modelle, die eine vergleichbare Leistung wie größere, ressourcenintensivere Modelle erbringen können. Diese Innovationen ermöglichen es, dass die Mehrheit der Anwendungsfälle durch lokale, gerätebasierte Verarbeitung abgedeckt werden kann, was den Bedarf an ständiger Cloudanbindung und den damit verbundenen Kosten und Latenzzeiten reduziert.

Die Zukunft der KI bewegt sich in Richtung eines dezentraleren und benutzerfreundlicheren Ansatzes, bei dem die KI-Verarbeitung auf Endgeräte wie Smartphones, Laptops und sogar Autos verlagert wird. Dieser Wandel wird durch Fortschritte in der Chiptechnologie angetrieben, da Unternehmen wie Qualcomm leistungsfähige und energieeffiziente Prozessoren entwickeln, die speziell für den Betrieb großer Sprachmodelle und anderer KI-Workloads auf Endgeräten konzipiert sind.

Eine der Schlüsselinnovationen in diesem Bereich ist die Entwicklung von Orchestrierungsschichten, die intelligent bestimmen können, welche KI-Aufgaben lokal auf dem Endgerät und welche in leistungsfähigeren, aber teureren cloudbasierten Modellen ausgeführt werden sollten. Forscher haben kürzlich Papiere und Open-Source-Code veröffentlicht, die die Wirksamkeit dieser Orchestrierungstechniken demonstrieren.

Beispielsweise ermöglicht der "Mixture of Agents"-Ansatz es mehreren kleinen KI-Agenten, zusammenzuarbeiten und Antworten zu erzeugen, die mit denen größerer, teurerer Modelle vergleichbar sind. Ähnlich dazu präsentiert das "Route LLM"-Papier eine Orchestrierungsschicht, die 90% der Anwendungsfälle an kleinere, effizientere Modelle weiterleiten kann, was zu 80% Kosteneinsparungen im Vergleich zur alleinigen Nutzung der leistungsfähigeren, cloudbasierten Modelle führt.

Qualcomm präsentierte eine Reihe von KI-gesteuerten Demoerlebnissen auf verschiedenen Geräten, die die Vision des Unternehmens für die Zukunft der KI-Verarbeitung aufzeigen. Diese Demos zeigten die Fähigkeiten der Qualcomm-Chips beim effizienten Betrieb von KI-Workloads auf Endgeräten.

Eine der herausragenden Demos war die Integration von KI in Autoschnittstellen. Qualcomm zeigte, wie ihre Chips das Infotainmentsystem antreiben und es einem KI-Agenten ermöglichen können, Aufgaben im Namen des Fahrers auszuführen, alles auf dem Gerät selbst laufend. Dies veranschaulicht das Potenzial von KI, das Fahrerlebnis zu verbessern, während gleichzeitig der Datenschutz und die Sicherheit gewahrt bleiben.

Ein weiteres beeindruckendes Demo war die Integration von KI in intelligente Drohnen, die die vor-Ort-KI-Fähigkeiten für eine Vielzahl von Anwendungen, von persönlicher Nutzung bis hin zu Rettungseinsätzen und Lieferungen, nutzen können. Die Qualcomm-Chips ermöglichen es diesen Drohnen, komplexe KI-gesteuerte Aufgaben auszuführen, ohne sich auf cloudbasierte Dienste verlassen zu müssen.

Herstellern von Smartphones wie Qualcomm gelingt es, leistungsfähige KI-Fähigkeiten direkt in Endgeräte zu integrieren. Durch die Integration fortschrittlicher KI-Verarbeitung in ihre neuesten Mobilchips ermöglichen sie eine Vielzahl innovativer Funktionen, die nahtlos auf dem Gerät selbst laufen, ohne Cloudanbindung zu benötigen.

Ein herausragendes Beispiel ist die Echtzeitübersetzungsfunktion, bei der Benutzer einfach auf eine Schaltfläche drücken können, um Gespräche in Echtzeit zu übersetzen, alles angetrieben von der KI auf dem Gerät. Eine weitere beeindruckende Fähigkeit ist die "Chat-Assistent"-Funktion, die als KI-gestützter Schreibassistent fungiert und Benutzern hilft, ihre Nachrichten zu verfeinern, indem sie Ton, Rechtschreibung und Übersetzungsdienste anpassen - alles ohne das Gerät zu verlassen.

Darüber hinaus nutzen Qualcomms KI-verbesserte Fotofunktionen wie die "Nitrapyrin"-Technologie die Verarbeitung auf dem Gerät, um eine erstklassige Bildqualität und Computational-Photography-Effekte zu liefern. So können Benutzer von den Vorteilen der fortschrittlichen, KI-gesteuerten Fotobearbeitung und -verbesserung profitieren, ohne ihre Bilder in die Cloud hochladen zu müssen.