Apple a développé une suite de modèles d'IA générative hautement capables qui sont profondément intégrés dans leurs écosystèmes iOS, iPadOS et macOS. Ces modèles sont conçus pour relever les tâches quotidiennes des utilisateurs et fournir une intelligence personnalisée adaptée à leurs besoins individuels.

La base des efforts d'IA d'Apple est un modèle de langage sur l'appareil de 3 milliards de paramètres qui peut fonctionner directement sur les appareils Apple, tirant parti de la puissance des puces Apple Silicon pour une inférence rapide et efficace. Ce modèle est complété par un modèle de langage plus important, basé sur un serveur, qui peut gérer des tâches plus complexes si nécessaire, fonctionnant sur l'infrastructure cloud privée d'Apple.

Ces modèles ont été affinés pour une variété d'expériences utilisateur, notamment l'écriture et l'affinage de textes, la priorisation et la synthèse des notifications, la création d'images ludiques pour les conversations et, surtout, l'activation d'actions dans les applications pour simplifier les interactions dans l'ensemble des applications.

Apple a mis l'accent sur le développement responsable de l'IA, avec des principes qui autonomisent les utilisateurs, représentent authentiquement leurs besoins, conçoivent avec soin et protègent la vie privée des utilisateurs. La société a développé des techniques novatrices pour la constitution de données, l'optimisation des modèles et l'adaptation dynamique afin de s'assurer que leurs outils d'IA sont hautement capables, efficaces et sûrs.

L'approche d'Apple en matière de développement responsable de l'IA s'articule autour de quatre principes clés :

1. Autonomiser les utilisateurs avec des outils intelligents : Apple identifie les domaines où l'IA peut être utilisée de manière responsable pour créer des outils qui répondent à des besoins spécifiques des utilisateurs. Leur objectif est de construire des produits profondément personnels qui représentent authentiquement les utilisateurs et évitent de perpétuer les stéréotypes ou les biais.

2. Concevoir avec soin : Apple prend des précautions à chaque étape du processus, y compris la conception, l'entraînement des modèles, le développement des fonctionnalités et l'évaluation de la qualité, pour identifier les utilisations abusives ou les dommages potentiels. Ils améliorent continuellement leurs outils d'IA en fonction des commentaires des utilisateurs.

3. Protéger la vie privée : Apple protège la vie privée des utilisateurs grâce au traitement sur l'appareil et à leur infrastructure cloud privée. Ils n'utilisent pas les données personnelles ou les interactions des utilisateurs pour former leurs modèles de base.

4. Représenter nos utilisateurs : Apple s'efforce en permanence d'éviter de perpétuer les stéréotypes et les biais systémiques dans l'ensemble de ses outils et modèles d'IA, dans le but de représenter authentiquement les utilisateurs du monde entier.

Les modèles de base d'Apple sont entraînés à l'aide d'une combinaison de données sous licence et de données publiquement disponibles collectées par leur robot d'exploration web, l'Apple Bot. Ils ont mis en place plusieurs mesures pour assurer la qualité et la sécurité des données d'entraînement :

1. Filtrage des données : Ils appliquent des filtres pour supprimer les informations d'identification personnelle, les gros mots et les autres contenus de mauvaise qualité des données publiquement disponibles.
2. Extraction et dédoublonnage des données : Ils effectuent l'extraction des données, le dédoublonnage et l'application de classificateurs basés sur des modèles pour identifier les documents de haute qualité.
3. Stratégie de données hybride : Ils utilisent une stratégie de données hybride, intégrant à la fois des données annotées manuellement et des données synthétiques dans leur pipeline d'entraînement.
4. Curage et filtrage approfondis des données : Ils effectuent un curage et un filtrage approfondis des données pour garantir la haute qualité des données d'entraînement.

Apple a utilisé une gamme de techniques innovantes pour optimiser leurs modèles génératifs pour le déploiement sur l'appareil et sur le serveur. L'accent a été mis sur la réalisation d'une grande vitesse et d'une grande efficacité pour permettre des expériences utilisateur fluides.

Pour l'inférence sur l'appareil, le modèle de langage de 3 milliards de paramètres utilise une parallélisation à faible nombre de bits, une technique d'optimisation essentielle qui atteint les exigences de mémoire, d'alimentation et de performance nécessaires. Pour maintenir la qualité, Apple a développé un nouveau cadre utilisant des adaptateurs Lora qui intègre une stratégie de configuration mixte de 2 bits et 4 bits, avec une moyenne de 3,5 bits par poids pour atteindre la même précision.

De plus, Apple a inventé un outil appelé Taria, un outil interactif d'analyse de la latence et de la consommation électrique des modèles qui guide mieux la sélection du taux de bits pour chaque opération. Ils ont également utilisé la quantification des activations, la quantification des intégrations et une approche pour permettre une mise à jour efficace du cache clé-valeur sur leurs moteurs neuronaux.

Les modèles de base d'Apple sont affinés pour les activités quotidiennes des utilisateurs et peuvent se spécialiser de manière dynamique au vol pour la tâche en cours. Ils utilisent des adaptateurs - de petits modules de réseaux neuronaux qui peuvent être branchés dans différentes couches du modèle pré-entraîné pour affiner les modèles pour des tâches spécifiques. En n'affinant que les couches d'adaptateur, les paramètres d'origine du modèle de base pré-entraîné restent inchangés, préservant ainsi les connaissances générales du modèle tout en adaptant les couches d'adaptateur pour prendre en charge des tâches spécifiques.

Cette approche permet aux modèles d'IA d'Apple de s'adapter et de se personnaliser aux besoins et préférences de l'utilisateur, offrant une expérience utilisateur hautement personnalisée et efficace. Les modèles peuvent se spécialiser rapidement pour des tâches telles que la synthèse, l'écriture, la programmation et plus encore, sans compromettre les connaissances et les capacités de base du modèle.

Apple a mené des tests approfondis et une évaluation de leurs modèles de base sur l'appareil et sur le serveur. Ils se concentrent sur l'évaluation humaine car ils trouvent que ces résultats sont fortement corrélés avec l'expérience utilisateur réelle.

Pour les performances spécifiques aux fonctionnalités, ils comparent leur modèle sur l'appareil au modèle 53 mini de Microsoft. Sur des tâches comme la synthèse de courriels et la synthèse de notifications, le modèle sur l'appareil d'Apple obtient des scores de satisfaction humaine nettement plus élevés, autour de 87,5 % et 79 % respectivement, contre 73 % et 73 % pour le 53 mini.

En plus de l'évaluation spécifique aux fonctionnalités, Apple évalue également les capacités générales de leurs modèles sur l'appareil et sur le serveur. Ils utilisent un ensemble complet d'invites du monde réel couvrant des tâches comme le remue-méninges, la classification, la réponse aux questions, la programmation et plus encore. Par rapport à des modèles comme Gemini, Mistral, 53, GPT-3.5 Turbo et GPT-4 Turbo, le modèle sur l'appareil d'Apple se débrouille bien, gagnant contre 62 % de Gemini, 46 % de Mistral et 43 % de 53.

L'approche d'Apple en matière d'intelligence artificielle, telle que décrite dans leur article de recherche, est une approche rafraîchissante et innovante dans ce domaine. En se concentrant sur la construction de modèles hautement spécialisés et personnalisés qui peuvent fonctionner efficacement sur l'appareil, Apple est bien placé pour offrir une expérience utilisateur supérieure par rapport aux modèles plus généralisés et basés sur le cloud de ses concurrents.

Les points clés de la stratégie d'IA d'Apple comprennent :

1. Modèles personnalisés : Les modèles de base d'Apple sont affinés pour les tâches quotidiennes des utilisateurs et peuvent s'adapter de manière dynamique aux besoins spécifiques de chaque utilisateur, tirant parti de la richesse des données personnelles disponibles dans l'écosystème d'Apple.

2. Inférence sur l'appareil : Le modèle de langage de 3 milliards de paramètres sur l'appareil permet une inférence rapide et efficace, avec une latence de seulement 6 millisecondes par jeton d'invite et un taux de génération de 30 jetons par seconde, tout en maintenant un accent fort sur la vie privée et la sécurité des utilisateurs.

3. Développement responsable de l'IA : Apple a clairement beaucoup réfléchi et fait des efforts pour s'assurer que ses modèles d'IA sont développés et déployés de manière responsable, avec de solides garde-fous contre les utilisations abusives ou les dommages potentiels.

4. Techniques d'optimisation : Apple a employé une gamme de techniques d'optimisation innovantes, comme la parallélisation à faible nombre de bits, la quantification des activations et des intégrations, et des mises à jour efficaces du cache clé-valeur, pour atteindre les performances et l'efficacité nécessaires pour leurs modèles sur l'appareil et sur le serveur.