La planification est un aspect crucial des systèmes multi-agents, car elle permet aux agents de raisonner sur leurs actions, de décomposer des tâches complexes en sous-tâches et d'assurer une exécution plus fiable et cohérente de leurs objectifs. Comme le souligne Harrison Chase, les modèles de langage actuels ne sont pas encore capables d'effectuer de manière fiable ce type de planification par eux-mêmes, et les développeurs doivent souvent s'appuyer sur des stratégies d'incitation externes et des architectures cognitives pour faire respecter les capacités de planification.

L'un des principaux défis est que les modèles de langage ont tendance à fonctionner de manière plus réactive, dans un mode "for-loop", où ils génèrent une réponse, exécutent une action, puis génèrent la réponse suivante. Cela peut entraîner une prise de décision sous-optimale et un manque de planification à long terme. Des techniques comme l'arbre de pensée, la réflexion et la décomposition des sous-objectifs visent à résoudre ce problème en donnant aux modèles la capacité de raisonner sur leurs actions, de planifier à l'avance et de décomposer les tâches complexes.

Cependant, la solution à long terme pourrait nécessiter un changement fondamental dans l'architecture sous-jacente des modèles de langage, au-delà des modèles actuels basés sur les transformeurs, vers quelque chose qui peut gérer de manière inhérente la planification et le raisonnement de manière plus efficace. C'est un domaine de recherche actif, avec des projets comme QAR (Question-Answering Reasoning) et des modèles entraînés à "réfléchir lentement" montrant des résultats prometteurs.

L'expérience utilisateur (UX) des applications d'agents est un domaine qui passionne particulièrement Harrison. Il note que l'UX n'a pas encore été "clouée" et que l'intervention humaine est encore souvent nécessaire en raison de l'instabilité des modèles de langage et du risque d'hallucinations.

Harrison met en avant l'UX démontrée dans la démo Anthropic Delphi comme un exemple positif, avec la possibilité de voir les différents écrans (navigateur, fenêtre de discussion, terminal, code) dans une seule vue. Il souligne également la valeur d'avoir une capacité de "rembobinage et d'édition", qui permet aux utilisateurs de revenir à un état précédent et d'apporter des ajustements, améliorant ainsi la fiabilité et la capacité de pilotage de l'agent.

En outre, Harrison aborde l'importance de l'"ingénierie des flux" - la conception explicite du workflow et de la machine à états dans laquelle l'agent opère. Il suggère que cette ingénierie des flux peut aider à compenser certaines des limites des modèles de langage eux-mêmes, en déchargeant la planification et la prise de décision sur les ingénieurs humains en amont.

Les agents sont des outils puissants qui vont au-delà des simples invites complexes. L'un des aspects clés qui rend les agents si capables est leur capacité à exploiter la mémoire, à court terme et à long terme.

La mémoire à court terme permet aux agents d'apprendre et de s'améliorer au cours d'une conversation ou d'une interaction, en s'appuyant sur les étapes précédentes et en ajustant leur approche en conséquence. Cela permet une interaction plus dynamique et adaptative, où l'agent peut être guidé et corrigé par l'utilisateur.

La mémoire à long terme, quant à elle, est essentielle pour que les agents puissent maintenir et utiliser la base de connaissances d'une entreprise. Cela permet aux agents d'avoir une compréhension approfondie de l'entreprise, de ses processus et des informations pertinentes, les rendant plus efficaces dans leurs tâches. Cependant, la gestion de la mémoire à long terme comporte ses propres défis, comme la détermination de ce qu'il faut stocker, quand il faut oublier et comment faire évoluer la mémoire au fur et à mesure que l'entreprise change.

Les points clés de l'exposé d'Harrison Chase sur les agents sont les suivants :

1. Les agents sont plus que de simples invites complexes - ils ont accès à divers outils, à une mémoire (à court terme et à long terme) et à la capacité de planifier et d'agir.

2. La planification est un aspect crucial des agents, car elle leur permet de raisonner sur les étapes nécessaires pour accomplir une tâche. Cependant, les modèles de langage actuels ont du mal à planifier de manière fiable, ce qui conduit à l'utilisation de stratégies d'incitation externes. L'avenir pourrait nécessiter de nouvelles architectures au-delà des simples transformeurs pour permettre de meilleures capacités de planification.

3. L'expérience utilisateur (UX) des applications d'agents est un domaine passionnant. Des techniques comme permettre aux utilisateurs de rembobiner et d'éditer les actions de l'agent peuvent améliorer la fiabilité et donner aux utilisateurs plus de contrôle. Trouver un équilibre entre l'intervention humaine et l'automatisation est un défi permanent.

4. La mémoire, à court terme et à long terme, est essentielle pour que les agents puissent apprendre et personnaliser leurs interactions. La mémoire procédurale (se souvenir comment faire quelque chose) et la mémoire personnalisée (se souvenir des faits sur l'utilisateur) sont des fonctionnalités importantes en cours d'exploration.