Le modèle Wizard LM-2 est une étape importante dans le monde des modèles de langage à grande échelle (LLM). Ce modèle open source a démontré des performances très compétitives par rapport aux travaux propriétaires avancés comme GPT-4 et Claude sur le MT Benchmark, qui mesure la capacité des LLM à avoir des conversations cohérentes, informatives et engageantes.

Le modèle Wizard LM-2 est une version affinée et préférentiellement entraînée du modèle Megatron-Turing NLG 22B. Il a été amélioré en termes de performances sur des tâches complexes, notamment la discussion, le codage, le raisonnement multilingue et les applications basées sur des agents.

La famille de modèles Wizard LM comprend désormais trois nouveaux modèles : le Wizard LM-2 22B, le modèle de 70 milliards de paramètres et le modèle de 7 milliards de paramètres. Le modèle Wizard LM-2 22B s'est imposé comme le plus avancé, excellent dans l'exécution de tâches complexes, tandis que le modèle de 70 milliards de paramètres présente des capacités de raisonnement de premier plan et le modèle de 7 milliards de paramètres se distingue par sa vitesse et ses performances compétitives.

L'équipe derrière Wizard LM a employé plusieurs méthodes avancées pour développer le modèle Wizard LM-2 :

1. Prétraitement des données : Ils ont analysé et réparti différents attributs dans les nouvelles sources de données pour avoir une compréhension initiale des données. Ils ont utilisé un échantillonnage pondéré pour ajuster l'importance de divers attributs dans les données d'entraînement en fonction de l'expérience expérimentale.

2. Apprentissage progressif : Le processus d'entraînement a été divisé en différentes étapes, avec plus de tranches de données alimentées à chaque étape. Cela permet l'évolution de paires d'instructions-réponses diverses.

3. Cadre AAA (AI-Aligned AI) : Plusieurs LLM sont regroupés pour s'enseigner et s'améliorer mutuellement de manière optimisée par l'apprentissage supervisé et l'apprentissage par renforcement.

4. Evol-Instruct : Ce composant génère de manière autonome des instructions de haute qualité et les met en forme à travers plusieurs itérations, améliorant ainsi la logique, la justesse et la cohérence globales des réponses du modèle.

5. Méthodes d'auto-apprentissage : Le cadre AAA permet au modèle Wizard LM-2 de générer de nouvelles données d'entraînement, qui sont ensuite utilisées pour l'apprentissage par renforcement.

6. Apprentissage supervisé : Le modèle est entraîné à l'aide de données étiquetées, d'un traitement des données par étapes et de données de préférence divisées pour s'aligner sur différentes tranches pour un apprentissage par renforcement hors ligne plus efficace.

Le modèle Wizard LM-2 a démontré des performances très compétitives par rapport aux modèles de langage propriétaires avancés comme GPT-4 Turbo et CLA-3 sur le MT Benchmark, qui mesure la capacité à avoir des conversations cohérentes, informatives et engageantes.

L'équipe derrière Wizard LM a mené des évaluations à la fois humaines et automatiques pour évaluer les capacités du modèle. Dans l'évaluation des préférences humaines, ils ont collecté un ensemble diversifié d'instructions réelles couvrant l'écriture, le codage, les mathématiques, le raisonnement, les tâches d'agent et la compréhension multilingue. Les annotateurs ont effectué des comparaisons par paires à l'aveugle entre Wizard LM-2 et les modèles de référence, les sources des réponses étant masquées.

Les résultats indiquent que Wizard LM-2 surpasse de manière constante les modèles existants de pointe, y compris d'autres modèles open source. Sur le MT Benchmark, le modèle a démontré des performances très compétitives, même par rapport aux principaux travaux propriétaires.

Pour commencer avec le modèle Wizard LM-2, vous devrez utiliser la plateforme LM Studio. Tout d'abord, allez sur la fiche du modèle et copiez les informations pour l'un des trois modèles disponibles : Wizard LM-2 AX 22B, Wizard LM 70B ou Wizard LM 7B.

Ensuite, ouvrez LM Studio et allez dans l'onglet de recherche. Collez les informations de la fiche du modèle et appuyez sur Entrée. Vous verrez les différentes versions du modèle Wizard LM-2 disponibles.

Pour installer le modèle, il suffit de télécharger la version que vous souhaitez utiliser. Une fois téléchargé, vous pouvez passer à l'onglet de conversation dans LM Studio et sélectionner le modèle Wizard LM-2 pour commencer à discuter avec lui.

Le modèle Wizard LM-2 a démontré des performances très compétitives sur le benchmark MT, surpassant de nombreux modèles propriétaires de premier plan. Il excelle dans l'exécution de tâches complexes, les capacités de raisonnement de premier plan et la vitesse, selon la taille du modèle spécifique.

L'introduction de Wizard LM2 représente une étape importante dans le développement des modèles de langage à grande échelle. Ce modèle avancé a démontré des performances très compétitives par rapport aux principaux travaux propriétaires, excellent dans l'exécution de tâches complexes, les capacités de raisonnement de premier plan et la vitesse compétitive.

L'équipe derrière Wizard LM a employé des techniques innovantes, comme l'échantillonnage pondéré, l'apprentissage progressif et les cadres d'IA alignés sur l'IA, pour améliorer les capacités du modèle. L'incorporation d'Evol-instruct, qui génère et distribue de manière autonome des instructions de haute qualité, a encore amélioré la logique, la justesse et la cohérence du modèle.

Les évaluations humaines et automatiques ont montré que Wizard LM2 surpasse de manière constante les modèles existants de pointe, en faisant un concurrent prometteur dans le domaine des modèles de langage à grande échelle. Avec la disponibilité de différents modèles Wizard LM, les utilisateurs peuvent choisir celui qui correspond le mieux à leurs besoins spécifiques, qu'il s'agisse du Wizard LM2 AX 22B haute performance, du puissant Wizard LM 70B ou du Wizard LM 7B axé sur la vitesse.