La pianificazione è un aspetto cruciale dei sistemi basati su agenti, in quanto consente agli agenti di ragionare sulle loro azioni, scomporre compiti complessi in sottotask e garantire un'esecuzione più affidabile e coerente dei loro obiettivi. Come sottolinea Harrison Chase, gli attuali modelli linguistici non sono ancora in grado di eseguire in modo affidabile questo tipo di pianificazione da soli, e gli sviluppatori spesso devono fare affidamento su strategie di prompt esterne e architetture cognitive per imporre le capacità di pianificazione.

Una delle sfide chiave è che i modelli linguistici tendono a operare in modo più reattivo, "a ciclo for", dove generano una risposta, eseguono un'azione e poi generano la risposta successiva. Ciò può portare a una decisione subottimale e a una mancanza di pianificazione a lungo termine. Tecniche come l'albero dei pensieri, la riflessione e la scomposizione degli obiettivi secondari mirano ad affrontare questo problema dando ai modelli la capacità di ragionare sulle loro azioni, pianificare in anticipo e scomporre compiti complessi.

Tuttavia, la soluzione a lungo termine potrebbe richiedere un cambiamento fondamentale nell'architettura di base dei modelli linguistici, andando oltre gli attuali modelli basati su Transformer a qualcosa che possa gestire in modo più efficace la pianificazione e il ragionamento. Questa è un'area di ricerca attiva, con progetti come QAR (Question-Answering Reasoning) e modelli addestrati a "pensare lentamente" che mostrano risultati promettenti.

Intanto, framework di agenti come Langchain svolgono un ruolo cruciale nel fornire gli strumenti e l'infrastruttura necessari per abilitare le capacità di pianificazione, consentendo agli sviluppatori di coordinare diversi modelli, dare loro accesso a vari strumenti e progettare flussi di lavoro coerenti. Man mano che il campo degli agenti continua a evolversi, la capacità di pianificare e ragionare in modo efficace rimarrà un punto focale chiave sia per i ricercatori che per i professionisti.

L'esperienza utente (UX) delle applicazioni di agenti è un'area di particolare entusiasmo per Harrison. Egli osserva che l'UX non è stata ancora "perfezionata" e che il coinvolgimento umano è ancora spesso necessario a causa dell'inaffidabilità dei modelli linguistici e del potenziale di allucinazioni.

Harrison evidenzia l'UX dimostrata nella demo Anthropic Delphi come un esempio positivo, con la possibilità di vedere le varie schermate (browser, finestra di chat, terminale, codice) in un'unica vista. Egli sottolinea anche il valore di avere una capacità di "riavvolgimento e modifica", che consente agli utenti di tornare a uno stato precedente e apportare regolazioni, migliorando l'affidabilità e la capacità di controllo dell'agente.

Inoltre, Harrison discute l'importanza dell'"ingegneria del flusso" - la progettazione esplicita del flusso di lavoro e della macchina a stati in cui l'agente opera. Egli suggerisce che questa ingegneria del flusso può aiutare a compensare alcune delle limitazioni dei modelli linguistici stessi, delegando la pianificazione e il processo decisionale agli ingegneri umani in anticipo.

Complessivamente, Harrison sottolinea che l'UX delle applicazioni di agenti è un'area critica che sta ancora evolvendo, con la necessità di bilanciare l'automazione e la supervisione umana per garantire coerenza, affidabilità e qualità. Framework di agenti come Langchain possono aiutare a fornire gli strumenti e le capacità necessarie per sviluppare applicazioni basate su agenti efficaci.

Gli agenti sono strumenti potenti che vanno oltre i semplici prompt complessi. Uno degli aspetti chiave che rende gli agenti così capaci è la loro capacità di sfruttare la memoria, sia a breve termine che a lungo termine.

La memoria a breve termine consente agli agenti di apprendere e migliorare durante una conversazione o un'interazione, basandosi sui passaggi precedenti e adattando il loro approccio di conseguenza. Ciò consente un'interazione più dinamica e adattiva, in cui l'agente può essere guidato e corretto dall'utente.

La memoria a lungo termine, d'altra parte, è fondamentale per gli agenti per mantenere e utilizzare la base di conoscenza di un'azienda. Ciò consente agli agenti di avere una profonda comprensione dell'azienda, dei suoi processi e delle informazioni rilevanti, rendendoli più efficaci nei loro compiti. Tuttavia, la gestione della memoria a lungo termine comporta le sue sfide, come determinare cosa memorizzare, quando dimenticare e come far evolvere la memoria man mano che l'azienda cambia.

L'integrazione della memoria a breve e a lungo termine nei framework di agenti è un'area di ricerca e sviluppo attiva. Man mano che queste capacità continuano a migliorare, gli agenti diventeranno sempre più affidabili, personalizzati e preziosi negli ambienti aziendali, dove la coerenza e la qualità sono fondamentali.

I punti chiave dell'intervento di Harrison Chase sugli agenti sono:

1. Gli agenti sono più che semplici prompt complessi - hanno accesso a vari strumenti, memoria (a breve e a lungo termine) e la capacità di pianificare e intraprendere azioni.

2. La pianificazione è un aspetto cruciale degli agenti, in quanto consente loro di ragionare sui passaggi necessari per completare un compito. Tuttavia, gli attuali modelli linguistici faticano a pianificare in modo affidabile, portando all'utilizzo di strategie di prompt esterne. Il futuro potrebbe richiedere nuove architetture oltre i semplici transformer per abilitare migliori capacità di pianificazione.

3. L'esperienza utente (UX) delle applicazioni di agenti è un'area di entusiasmo. Tecniche come consentire agli utenti di riavvolgere e modificare le azioni dell'agente possono migliorare l'affidabilità e dare agli utenti più controllo. Bilanciare il coinvolgimento umano e l'automazione rimane una sfida in corso.

4. La memoria, sia a breve che a lungo termine, è essenziale per gli agenti per apprendere e personalizzare le loro interazioni. La memoria procedurale (ricordare come fare qualcosa) e la memoria personalizzata (ricordare i fatti sull'utente) sono caratteristiche importanti in fase di esplorazione.

Complessivamente, l'intervento evidenzia lo stato attuale e il potenziale futuro degli agenti, sottolineando la necessità di progressi nella pianificazione, nell'UX e nella memoria per rendere gli agenti più affidabili e utili nelle applicazioni del mondo reale.