Meta réalise des performances exceptionnelles avec son jeu open-source, et il semble qu'ils travaillent déjà sur Llama 4, qui pourrait être disponible d'ici la fin de l'année. Cependant, Llama 3.1 a démontré des performances vraiment prometteuses dans de multiples capacités différentes, comme le remplissage de masques, le suivi d'instructions et plus encore.

Une partie que j'ai trouvé que les gens ne parlent pas beaucoup, mais je suis extrêmement enthousiaste à ce sujet, c'est que Meta semble commencer à vraiment investir dans les cas d'utilisation liés aux agents. Ils mentionnent qu'ils visent non seulement à positionner Llama comme un modèle, mais aussi comme un système pour fournir des outils permettant aux développeurs de construire leurs propres agents personnalisés, ainsi que de nouveaux types de comportements agentiques.

Ils ont un rapport public appelé le "Système agentique Llama" où ils présentent des composants entiers de la pile Llama. Cela inclut des choses comme Llama Guard, qui est un modèle spécialisé formé pour modérer le contenu, ainsi que Prompt Guard pour empêcher les évasions de prison et Koser pour empêcher la production de code non sécurisé par les modèles de langage de grande taille.

Mais la partie la plus excitante pour moi est la capacité d'appel d'outils. L'appel d'outils est probablement la principale raison pour laquelle j'ai dû utiliser OpenAI, car leurs modèles sont tout simplement beaucoup meilleurs pour les cas d'utilisation liés à l'appel d'outils. Si vous ne savez pas ce qu'est l'appel d'outils, c'est un concept introduit par OpenAI à la fin de l'année dernière. Essentiellement, il s'agit d'un type de modèle formé pour, étant donné une tâche utilisateur, prédire quelle fonction doit être appelée, ainsi que l'entrée pour cette fonction, afin que nous puissions prendre la sortie JSON pour exécuter réellement la fonction et renvoyer des informations au modèle de langage de grande taille.

Llama 3.1 est la dernière version du modèle de langage de grande taille open-source de Meta, et il a démontré des performances impressionnantes dans une variété de capacités. Voici quelques points clés :

• Remplissage de masques : Llama 3.1 a montré de bonnes performances dans les tâches de remplissage de masques, où le modèle doit prédire les mots ou les jetons manquants dans un contexte donné.
• Suivi d'instructions : Le modèle s'est avéré compétent pour suivre des instructions complexes et accomplir des tâches, en faire un outil précieux pour la construction d'applications interactives.
• Comportement agentique : Meta a beaucoup investi dans le développement de Llama en tant que système pour construire des agents personnalisés et permettre de nouveaux types de comportements agentiques. Cela inclut des composants comme Llama Guard pour la modération de contenu et Prompt Guard pour empêcher les sorties non sûres.
• Appel d'outils : L'un des aspects les plus passionnants de Llama 3.1 est sa forte performance dans les tâches d'appel d'outils. Le modèle peut prédire les fonctions appropriées à appeler et fournir les entrées nécessaires, permettant le développement d'applications puissantes basées sur les agents.

Meta investit massivement dans les cas d'utilisation liés aux agents de Llama, le positionnant non seulement comme un modèle de langage, mais aussi comme un système pour fournir des outils permettant aux développeurs de construire leurs propres agents personnalisés ainsi que de nouveaux types de comportements agentiques.

Le système agentique Llama comprend plusieurs composants clés :

1. Llama Guard : Un modèle spécialisé formé pour modérer le contenu et empêcher les évasions de prison.
2. Prompt Guard : Un outil pour empêcher la génération de code non sécurisé par les modèles Llama.
3. Appel d'outils : Une capacité puissante qui permet aux modèles Llama de prédire les fonctions nécessaires pour accomplir une tâche, ainsi que les entrées pour ces fonctions. Cela permet aux agents de décomposer les tâches complexes en étapes plus petites et de les exécuter de manière efficace.

Le modèle Llama 3.1 démontre des performances prometteuses dans l'appel d'outils, surpassant des modèles comme GPT-4 et Closure 3.5 dans l'utilisation d'outils en zero-shot. Cependant, les cas d'utilisation réels des agents sont plus complexes, nécessitant des dialogues à plusieurs tours, de la planification et des capacités de raisonnement.

Llama 3.1 a été spécifiquement formé pour ces dialogues à plusieurs tours, permettant au modèle d'écrire des plans étape par étape, d'appeler des outils en séquence et de raisonner en fonction des résultats de chaque appel d'outil. Il s'agit d'une avancée significative vers la construction d'agents robustes et capables.

Tout d'abord, nous voulons télécharger le modèle Llama 3.1 sur votre machine locale et utiliser Olama, un package qui vous permet d'exécuter ces modèles de langage de grande taille open-source sur votre machine locale. Vous pouvez ouvrir un terminal et taper olama install llama-3.1 pour télécharger le modèle AB, qui devrait être suffisamment petit pour fonctionner sur votre MacBook Pro.

Ensuite, nous devons construire un agent Llama 3.1 qui existe dans votre espace de travail Slack et qui peut être tagué pour répondre aux questions et automatiser les tâches. Nous utiliserons un pipeline de Génération Augmentée par Récupération (RAG), qui est plus facile à mettre en place et prend en charge les sources de connaissances dynamiques comme Notion ou Confluence.

Nous utiliserons Llama Cloud, une plateforme de pipeline RAG entièrement gérée construite par l'équipe Llama Index, pour connecter notre base de connaissances Notion au modèle Llama 3.1. Après avoir configuré l'index Llama Cloud, nous créerons un bot Slack personnalisé et le connecterons au modèle Llama 3.1 s'exécutant sur notre machine locale.