O planejamento é um aspecto crucial dos sistemas baseados em agentes, pois permite que os agentes raciocinem sobre suas ações, dividam tarefas complexas em subtarefas e garantam uma execução mais confiável e coerente de seus objetivos. Como Harrison Chase destaca, os modelos de linguagem atuais ainda não são capazes de realizar esse tipo de planejamento de forma confiável por conta própria, e os desenvolvedores muitas vezes precisam confiar em estratégias de solicitação externa e arquiteturas cognitivas para impor capacidades de planejamento.

Um dos principais desafios é que os modelos de linguagem tendem a operar de uma maneira mais reativa, "em loop", onde eles geram uma resposta, executam uma ação e, em seguida, geram a próxima resposta. Isso pode levar a uma tomada de decisão subótima e à falta de planejamento de longo prazo. Técnicas como árvore de pensamento, reflexão e decomposição de subobjetivos visam abordar isso, dando aos modelos a capacidade de raciocinar sobre suas ações, planejar com antecedência e dividir tarefas complexas.

No entanto, a solução a longo prazo pode exigir uma mudança fundamental na arquitetura subjacente dos modelos de linguagem, indo além dos atuais modelos baseados em Transformers para algo que possa lidar com planejamento e raciocínio de forma mais eficaz. Essa é uma área de pesquisa ativa, com projetos como QAR (Question-Answering Reasoning) e modelos treinados para "pensar lentamente" mostrando resultados promissores.

Entretanto, estruturas de agentes como o Langchain desempenham um papel crucial ao fornecer as ferramentas e a infraestrutura necessárias para habilitar as capacidades de planejamento, permitindo que os desenvolvedores coordenem diferentes modelos, deem a eles acesso a várias ferramentas e projetem fluxos de trabalho consistentes. À medida que o campo dos agentes continua a evoluir, a capacidade de planejar e raciocinar de forma eficaz permanecerá um foco fundamental para pesquisadores e profissionais.

A experiência do usuário (UX) dos aplicativos de agentes é uma área pela qual Harrison está particularmente entusiasmado. Ele observa que a UX ainda não foi "dominada" e que o ser humano no loop ainda é muitas vezes necessário devido à falta de confiabilidade dos modelos de linguagem e ao potencial de alucinações.

Harrison destaca a UX demonstrada na demonstração Anthropic Delphi como um exemplo positivo, com a capacidade de ver as várias telas (navegador, janela de bate-papo, terminal, código) em uma única visão. Ele também aponta para o valor de ter um recurso de "retroceder e editar", que permite que os usuários voltem a um estado anterior e façam ajustes, melhorando a confiabilidade e a capacidade de direcionamento do agente.

Adicionalmente, Harrison discute a importância da "engenharia de fluxo" - o design explícito do fluxo de trabalho e da máquina de estados em que o agente opera. Ele sugere que essa engenharia de fluxo pode ajudar a compensar algumas das limitações dos próprios modelos de linguagem, transferindo o planejamento e a tomada de decisão para os engenheiros humanos antecipadamente.

Em geral, Harrison enfatiza que a UX dos aplicativos de agentes é uma área crítica que ainda está evoluindo, com a necessidade de equilibrar a automação e a supervisão humana para garantir a consistência, a confiabilidade e a qualidade. Estruturas de agentes como o Langchain podem ajudar a fornecer as ferramentas e capacidades necessárias para desenvolver aplicativos eficazes baseados em agentes.

Os agentes são ferramentas poderosas que vão além de apenas prompts complexos. Um dos aspectos-chave que torna os agentes tão capazes é sua capacidade de aproveitar a memória, tanto de curto quanto de longo prazo.

A memória de curto prazo permite que os agentes aprendam e melhorem durante uma conversa ou interação, construindo sobre as etapas anteriores e ajustando sua abordagem de acordo. Isso possibilita uma interação mais dinâmica e adaptativa, em que o agente pode ser direcionado e corrigido pelo usuário.

A memória de longo prazo, por outro lado, é crucial para que os agentes mantenham e utilizem a base de conhecimento de uma empresa. Isso permite que os agentes tenham um entendimento profundo do negócio, de seus processos e de informações relevantes, tornando-os mais eficazes em suas tarefas. No entanto, o gerenciamento da memória de longo prazo traz seus próprios desafios, como determinar o que armazenar, quando esquecer e como evoluir a memória à medida que o negócio muda.

A integração da memória de curto e longo prazo em estruturas de agentes é uma área ativa de pesquisa e desenvolvimento. À medida que essas capacidades continuarem a melhorar, os agentes se tornarão cada vez mais confiáveis, personalizados e valiosos em ambientes corporativos, onde a consistência e a qualidade são fundamentais.