Les modèles de langue de grande taille comme GPT-4 excellent dans la pensée de système 1 - les processus cognitifs rapides, intuitifs et automatiques. Cependant, ils ont souvent du mal avec la pensée de système 2, qui implique un raisonnement plus lent, plus délibéré et analytique. Cette limitation est évidente dans leur incapacité à résoudre efficacement des problèmes complexes nécessitant de décomposer la tâche en étapes, d'explorer différentes options et d'évaluer les solutions.

Le problème clé est que les modèles de langue de grande taille s'appuient principalement sur la correspondance de motifs et la prédiction statistique, sans la capacité de vraiment comprendre les concepts sous-jacents ou de raisonner à travers le processus de résolution de problèmes. Ils peuvent fournir des réponses apparemment raisonnables à des questions simples, mais face à des tâches plus complexes, ils ne parviennent souvent pas à reconnaître les nuances et à faire les déductions logiques nécessaires.

Cette limitation est mise en évidence dans les exemples fournis, où les étudiants universitaires et le modèle de langue de grande taille ont eu du mal à résoudre des problèmes apparemment simples parce qu'ils s'appuyaient sur leur pensée intuitive, de système 1, plutôt que de s'engager dans la pensée plus laborieuse, de système 2, nécessaire pour arriver aux solutions correctes.

Il existe plusieurs stratégies d'ingénierie d'invites qui peuvent être utilisées pour faire respecter la pensée de système 2 dans les modèles de langue de grande taille :

1. Invite de chaîne de pensée : Il s'agit d'une méthode simple et courante qui insère une invite "Étapes de raisonnement" avant que le modèle ne génère la sortie. Cela force le modèle à décomposer le problème en étapes plus petites et à y réfléchir.

2. Invite basée sur des exemples : Au lieu de fournir simplement l'invite "Étapes de raisonnement", vous pouvez donner au modèle quelques courts exemples sur la façon d'aborder le problème. Cela aide le modèle à comprendre le type de pensée étape par étape requise.

3. Cohérence automatique avec chaîne de pensée : Cette méthode fait en sorte que le modèle exécute le processus de chaîne de pensée plusieurs fois, examine les réponses et vote sur la plus raisonnable. Cela explore plusieurs options différentes avant d'arriver à la réponse finale.

4. Arbre de pensée : Il s'agit de l'une des tactiques d'invite les plus avancées. Elle fait en sorte que le modèle trouve plusieurs façons de résoudre le problème, explore les différentes branches et garde une trace des chemins explorés. Cela augmente considérablement le nombre d'options que le modèle envisage.

Bien que les modèles de langue de grande taille comme GPT-4 aient fait des progrès impressionnants, ils ont encore du mal avec les tâches de raisonnement complexes et à plusieurs étapes qui nécessitent une pensée de "système 2". Pour y remédier, nous pouvons tirer parti de la puissance des agents communicatifs - une configuration multi-agents où différents agents collaborent pour résoudre des problèmes.

Les principaux avantages de cette approche sont :

1. Diviser pour mieux régner : En attribuant des rôles et des responsabilités spécifiques à différents agents (par exemple, un résolveur de problèmes, un examinateur, un chercheur), nous pouvons décomposer les problèmes complexes en sous-tâches plus gérables.

2. Pensée réflexive : L'interaction entre les agents permet une boucle de rétroaction, où l'examinateur peut identifier les failles dans l'approche du résolveur de problèmes et l'inciter à réévaluer et à améliorer sa solution.

3. Exploration des alternatives : Les agents communicatifs peuvent explorer plusieurs pistes de solution en parallèle, plutôt que d'être limités à une seule approche linéaire.

Dans cette section, nous allons parcourir un exemple pratique de l'utilisation d'un système multi-agents pour résoudre un casse-tête logique complexe avec lequel même GPT-4 a du mal.

La tâche est la suivante :

Il y a quatre animaux - un lion, une zèbre, une girafe et un éléphant. Ils se trouvent dans quatre maisons de couleurs différentes - rouge, bleue, verte et jaune. L'objectif est de déterminer quel animal se trouve dans quelle maison de couleur, en fonction des indices suivants :

1. Le lion se trouve soit dans la première, soit dans la dernière maison.
2. La maison verte est immédiatement à droite de la maison rouge.
3. La zèbre se trouve dans la troisième maison.
4. La maison verte est à côté de la maison bleue.
5. L'éléphant se trouve dans la maison rouge.

Ce problème est assez difficile, car il nécessite de bien considérer chaque indice et de déduire l'arrangement final. Voyons comment nous pouvons utiliser un système multi-agents pour résoudre ce problème.