L'appel de fonction est une capacité essentielle pour les modèles de langage à grande échelle (LLM) afin d'interagir avec le monde réel et d'être utiles au-delà d'un simple assistant de chat. Les LLM peuvent ne pas avoir les connaissances internes nécessaires pour effectuer certaines tâches, comme récupérer les conditions météorologiques actuelles. Cependant, ils peuvent s'appuyer sur des API ou des fonctions externes pour récupérer et traiter les informations nécessaires.

Le flux d'appel de fonction fonctionne comme suit :

1. Le LLM détermine d'abord s'il peut effectuer l'opération en fonction de ses connaissances de formation internes ou s'il a besoin d'utiliser des outils ou des fonctions externes.
2. Si des outils externes sont nécessaires, le LLM analysera la requête de l'utilisateur et sélectionnera les fonctions appropriées à exécuter.
3. Le LLM utilisera ensuite un compilateur Python pour effectuer les appels de fonction, récupérer les résultats et les réinjecter dans le LLM pour générer la réponse finale.

Dans cette section, nous explorerons la capacité du modèle à gérer les appels de fonctions multiples et les appels de fonctions imbriqués. L'objectif est de tester la capacité du modèle à décomposer les requêtes complexes et à exécuter plusieurs fonctions de manière séquentielle pour fournir une réponse complète.

Tout d'abord, nous examinerons un exemple d'appel de fonctions multiples, où le modèle doit exécuter deux fonctions distinctes pour répondre à la requête de l'utilisateur. Le modèle doit être capable d'identifier les fonctions pertinentes, d'effectuer les appels de fonction nécessaires et de combiner les résultats pour générer la réponse finale.

Ensuite, nous explorerons le concept des appels de fonctions imbriqués. Dans ce scénario, le résultat d'un appel de fonction devient l'entrée d'un autre appel de fonction. Le modèle doit reconnaître cette dépendance, exécuter les fonctions dans le bon ordre et fournir le résultat final à l'utilisateur.

Pour garantir l'exactitude et la bonne mise en forme des réponses du modèle, nous utiliserons un message système qui guide le modèle sur la façon de gérer les appels de fonctions dépendants. Cette approche aide le modèle à maintenir l'intégrité des données tout au long du processus d'exécution des fonctions en plusieurs étapes.

Enfin, nous testerons un exemple plus complexe qui combine à la fois les appels de fonctions multiples et les appels de fonctions imbriqués. Cela démontrera la capacité du modèle à gérer des requêtes complexes et à coordonner l'exécution de plusieurs fonctions pour fournir une réponse complète et précise.

En explorant ces exemples, nous pourrons évaluer la polyvalence du modèle et sa capacité à interagir avec des scénarios du monde réel nécessitant l'intégration d'outils et de fonctions externes.

L'appel de fonctions imbriqué est une fonctionnalité puissante qui permet aux modèles de langage d'effectuer des opérations complexes en plusieurs étapes en enchaînant les sorties de plusieurs fonctions. Cette capacité est essentielle pour permettre aux modèles de langage d'interagir avec le monde réel et de relever des cas d'utilisation avancés au-delà des simples chatbots.

Dans cette section, nous explorerons comment le modèle Mistol 7B version 3 peut gérer les appels de fonctions imbriqués, où la sortie d'un appel de fonction est utilisée comme entrée pour un autre appel de fonction. Cela permet au modèle de décomposer les requêtes complexes des utilisateurs en une série d'étapes interdépendantes, chacune exécutée par une fonction distincte.

Les principales étapes impliquées dans la mise en œuvre des appels de fonctions imbriqués sont :

1. Identification des fonctions dépendantes : le modèle doit reconnaître lorsqu'une requête d'utilisateur nécessite que la sortie d'une fonction soit utilisée comme entrée d'une autre fonction. Cela nécessite que le modèle ait une compréhension approfondie des fonctions disponibles et de leurs relations d'entrée/sortie.

2. Exécution des appels de fonction dans l'ordre : une fois les fonctions dépendantes identifiées, le modèle doit les exécuter dans le bon ordre, en transmettant les données pertinentes d'un appel de fonction à l'autre.

3. Formatage correct de la sortie : pour garantir que la sortie finale soit précise et significative, le modèle doit utiliser un message système pour guider le formatage des résultats intermédiaires des appels de fonction.

Lorsqu'on traite des appels de fonctions en plusieurs étapes ou imbriqués, il est essentiel de s'assurer que le formatage de l'entrée et de la sortie est correct. Uncle Code recommande d'utiliser un message système pour guider l'assistant dans la sélection des outils appropriés et la gestion des dépendances entre eux.

Le message système suggéré est :

Vous êtes un assistant utile. Votre travail consiste à sélectionner les outils pertinents pour la requête de l'utilisateur. Dans le cas de plusieurs outils, si les outils dépendent les uns des autres et que le paramètre d'entrée d'un outil provient d'une autre fonction, utilisez @suivi du nom de la fonction pour la valeur du paramètre. Cela garantit que la valeur est correctement formatée.

Ce message système sert deux objectifs clés :

1. Sélection des outils : il indique à l'assistant de sélectionner les outils pertinents en fonction de la requête de l'utilisateur, en s'assurant que les fonctionnalités nécessaires sont couvertes.

2. Gestion des dépendances : dans les cas où les outils sont interdépendants et que la sortie d'une fonction est requise comme entrée pour une autre, le message système guide l'assistant à utiliser la syntaxe @nom_de_la_fonction pour faire référence correctement à la sortie de la fonction précédente.

Le modèle Mistol V3 a démontré des capacités impressionnantes dans la gestion des appels de fonctions multiples et des appels de fonctions imbriqués. Les principales conclusions sont :

1. Le modèle peut décomposer les requêtes complexes des utilisateurs en appels de fonctions distincts et les exécuter en parallèle, comme on le voit dans l'exemple d'obtention de la météo actuelle à Paris et de l'heure actuelle à San Francisco.

2. Pour les appels de fonctions imbriqués, où la sortie d'une fonction est l'entrée d'une autre, le modèle peut gérer cela de manière transparente. Il utilise un message système pour s'assurer que la sortie du premier appel de fonction est au bon format pour le second appel de fonction.

3. La capacité du modèle à gérer une combinaison d'appels de fonctions multiples et d'appels de fonctions imbriqués, comme le montre l'exemple final, met en évidence sa flexibilité et sa robustesse dans les scénarios du monde réel.

Dans l'ensemble, les capacités d'appel de fonction du modèle Mistol V3 en font un outil puissant pour la construction d'applications interactives pouvant tirer parti d'API et de services externes. En intégrant ce modèle dans vos projets, vous pouvez créer des assistants intelligents capables d'effectuer une large gamme de tâches au-delà des simples interactions de chat.