La chiamata di funzioni è una capacità critica per i modelli di linguaggio su larga scala (LLM) per interagire con il mondo reale e essere utili oltre un semplice assistente di chat. Gli LLM potrebbero non avere la conoscenza interna per eseguire determinati compiti, come il recupero delle attuali condizioni meteorologiche. Tuttavia, possono sfruttare API o funzioni esterne per recuperare e elaborare le informazioni necessarie.

Il flusso della chiamata di funzioni funziona come segue:

1. L'LLM determina prima se può eseguire l'operazione in base alla sua conoscenza interna di addestramento o se deve utilizzare strumenti o funzioni esterni.
2. Se sono necessari strumenti esterni, l'LLM analizzerà la query dell'utente e selezionerà le funzioni appropriate da eseguire.
3. L'LLM utilizzerà quindi un compilatore Python per effettuare le chiamate di funzione, recuperare i risultati e reinserirli nell'LLM per generare la risposta finale.

Questa capacità consente agli LLM di estendere la loro funzionalità e interagire con il mondo reale, rendendoli più utili e versatili. La chiamata di funzioni consente agli LLM di eseguire attività come previsioni meteorologiche, analisi del mercato azionario e controllo dei dispositivi, che non sarebbero possibili con la sola conoscenza interna.

In questa sezione, esploreremo la capacità del modello di gestire chiamate di funzioni multiple e chiamate di funzioni nidificate. L'obiettivo è testare la capacità del modello di decomporre query complesse ed eseguire più funzioni in sequenza per fornire una risposta completa.

Innanzi tutto, esamineremo un esempio di chiamata di più funzioni, in cui il modello deve eseguire due funzioni separate per rispondere alla query dell'utente. Il modello dovrebbe essere in grado di identificare le funzioni rilevanti, effettuare le chiamate di funzione necessarie e combinare i risultati per generare la risposta finale.

Successivamente, esploreremo il concetto di chiamate di funzioni nidificate. In questo scenario, l'output di una chiamata di funzione diventa l'input per un'altra chiamata di funzione. Il modello deve riconoscere questa dipendenza, eseguire le funzioni nell'ordine corretto e fornire il risultato finale all'utente.

Per garantire che le risposte del modello siano accurate e ben formattate, utilizzeremo un messaggio di sistema che guida il modello su come gestire le chiamate di funzioni dipendenti. Questo approccio aiuta il modello a mantenere l'integrità dei dati durante il processo di esecuzione multi-fase della funzione.

Infine, testeremo un esempio più complesso che combina sia la chiamata di più funzioni che le chiamate di funzioni nidificate. Questo dimostrerà la capacità del modello di gestire query intricate e coordinare l'esecuzione di più funzioni per fornire una risposta completa e accurata.

Esplorando questi esempi, possiamo valutare la versatilità del modello e la sua capacità di interagire con scenari del mondo reale che richiedono l'integrazione di strumenti e funzioni esterni.

La chiamata di funzioni nidificate è una funzionalità potente che consente ai modelli linguistici di eseguire operazioni complesse e multi-fase concatenando insieme gli output di più funzioni. Questa capacità è fondamentale per consentire ai modelli linguistici di interagire con il mondo reale e affrontare casi d'uso avanzati oltre i semplici chatbot.

In questa sezione, esploreremo come il modello Mistol 7B versione 3 può gestire le chiamate di funzioni nidificate, dove l'output di una chiamata di funzione viene utilizzato come input per un'altra chiamata di funzione. Ciò consente al modello di scomporre query complesse dell'utente in una serie di passaggi interdipendenti, ciascuno eseguito da una funzione separata.

I passaggi chiave coinvolti nell'implementazione delle chiamate di funzioni nidificate sono:

1. Identificazione delle funzioni dipendenti: il modello deve riconoscere quando una query dell'utente richiede l'output di una funzione da utilizzare come input per un'altra funzione. Ciò richiede che il modello abbia una comprensione completa delle funzioni disponibili e delle loro relazioni di input/output.

2. Esecuzione delle chiamate di funzione in sequenza: una volta identificate le funzioni dipendenti, il modello deve eseguirle nell'ordine corretto, passando i dati rilevanti da una chiamata di funzione alla successiva.

3. Formattazione corretta dell'output: per garantire che l'output finale sia accurato e significativo, il modello dovrebbe utilizzare un messaggio di sistema per guidare la formattazione dei risultati intermedi delle chiamate di funzione.

Padroneggiando queste tecniche, i modelli linguistici possono affrontare compiti del mondo reale sempre più complessi, integrando in modo fluido più strumenti e API esterni per fornire agli utenti risposte complete e personalizzate. Questo livello di funzionalità rappresenta un passo fondamentale verso la realizzazione di modelli linguistici davvero utili e indispensabili in un'ampia gamma di applicazioni.

Quando si affrontano chiamate di funzioni multi-fase o nidificate, è fondamentale garantire che la formattazione di input e output sia corretta. Uncle Code raccomanda di utilizzare un messaggio di sistema per guidare l'assistente nella selezione degli strumenti appropriati e nella gestione delle dipendenze tra di essi.

Il messaggio di sistema suggerito è:

Sei un assistente utile. Il tuo compito è selezionare gli strumenti pertinenti alla query dell'utente. In caso di più strumenti, se gli strumenti dipendono l'uno dall'altro e il parametro di input di uno strumento proviene da un'altra funzione, usa @seguito dal nome della funzione per il valore del parametro. Questo garantisce che il valore sia formattato correttamente.

Questo messaggio di sistema serve a due scopi chiave:

1. Selezione degli strumenti: istruisce l'assistente a selezionare gli strumenti rilevanti in base alla query dell'utente, assicurando che venga coperta la funzionalità necessaria.

2. Gestione delle dipendenze: nei casi in cui gli strumenti sono interdipendenti e l'output di una funzione è richiesto come input per un'altra, il messaggio di sistema guida l'assistente a utilizzare la sintassi @nome_funzione per fare riferimento correttamente all'output della funzione precedente.

Utilizzando questo messaggio di sistema, l'assistente può garantire che la formattazione di input e output sia corretta, consentendo l'esecuzione fluida delle chiamate di funzioni multi-fase o nidificate. Questo approccio contribuisce a mantenere l'integrità del flusso dei dati e fornisce un modo affidabile per sfruttare le capacità di chiamata di funzioni del modello.

Il modello Mistol V3 ha dimostrato capacità impressionanti nella gestione delle chiamate di più funzioni e delle chiamate di funzioni nidificate. I punti chiave sono:

1. Il modello può scomporre query complesse degli utenti in chiamate di funzioni separate ed eseguirle in parallelo, come visto nell'esempio di ottenere le condizioni meteorologiche attuali a Parigi e l'ora attuale a San Francisco.

2. Per le chiamate di funzioni nidificate, dove l'output di una funzione è l'input di un'altra, il modello può gestirlo in modo fluido. Utilizza un messaggio di sistema per garantire che l'output della prima chiamata di funzione sia nel formato corretto per la seconda chiamata di funzione.

3. La capacità del modello di gestire una combinazione di chiamate di più funzioni e chiamate di funzioni nidificate, come mostrato nell'esempio finale, evidenzia la sua flessibilità e robustezza in scenari del mondo reale.

Complessivamente, le capacità di chiamata di funzioni del modello Mistol V3 lo rendono uno strumento potente per la costruzione di applicazioni interattive in grado di sfruttare API e servizi esterni. Integrando questo modello nei tuoi progetti, puoi creare assistenti intelligenti in grado di eseguire una vasta gamma di attività oltre le semplici interazioni di chat.