Funktionsanrop är en kritisk förmåga för stora språkmodeller (LLM) för att interagera med den verkliga världen och vara användbara utöver en enkel chattassistent. LLM kanske inte har den interna kunskapen för att utföra vissa uppgifter, som att hämta aktuella väderförhållanden. De kan dock utnyttja externa API:er eller funktioner för att hämta och bearbeta den nödvändiga informationen.

Flödet av funktionsanrop fungerar enligt följande:

1. LLM avgör först om den kan utföra åtgärden baserat på sin interna utbildningskunskap eller om den behöver använda externa verktyg eller funktioner.
2. Om externa verktyg krävs kommer LLM att analysera användarfrågan och välja lämpliga funktioner att köra.
3. LLM kommer sedan att använda en Python-kompilator för att göra funktionsanropen, hämta resultaten och mata in dem i LLM för att generera det slutliga svaret.

Denna förmåga gör det möjligt för LLM att utöka sin funktionalitet och interagera med den verkliga världen, vilket gör dem mer användbara och mångsidiga. Funktionsanrop gör det möjligt för LLM att utföra uppgifter som väderprognos, aktiemarknadanalys och enhetsreglering, vilket inte är möjligt med deras interna kunskap ensam.

I det här avsnittet kommer vi att utforska modellens förmåga att hantera anrop av flera funktioner och inbäddade funktionsanrop. Målet är att testa modellens förmåga att bryta ner komplexa frågor och köra flera funktioner i följd för att ge ett heltäckande svar.

Först kommer vi att titta på ett exempel på anrop av flera funktioner, där modellen behöver köra två separata funktioner för att svara på användarens fråga. Modellen bör kunna identifiera de relevanta funktionerna, göra de nödvändiga funktionsanropen och kombinera resultaten för att generera det slutliga svaret.

Härnäst kommer vi att utforska konceptet med inbäddade funktionsanrop. I det här scenariot blir utdata från ett funktionsanrop indata för ett annat funktionsanrop. Modellen måste känna igen denna beroende relation, köra funktionerna i rätt ordning och ge det slutliga resultatet till användaren.

För att säkerställa att modellens svar är korrekta och välformaterade kommer vi att använda ett systemmeddelande som vägleder modellen om hur den ska hantera beroende funktionsanrop. Detta tillvägagångssätt hjälper modellen att upprätthålla integriteten i data under hela processen med flerstegsfunktionsexekvering.

Avslutningsvis kommer vi att testa ett mer komplext exempel som kombinerar både anrop av flera funktioner och inbäddade funktionsanrop. Detta kommer att visa modellens förmåga att hantera invecklade frågor och samordna körningen av flera funktioner för att leverera ett heltäckande och korrekt svar.

Genom att utforska dessa exempel kan vi bedöma modellens mångsidighet och dess förmåga att interagera med verkliga scenarier som kräver integrering av externa verktyg och funktioner.

Inbäddade funktionsanrop är en kraftfull funktion som gör det möjligt för språkmodeller att utföra komplexa, flerstegade operationer genom att kedja ihop resultaten från flera funktioner. Denna förmåga är avgörande för att göra språkmodeller kapabla att interagera med den verkliga världen och hantera avancerade användningsfall utöver enkla chattbotar.

I det här avsnittet kommer vi att utforska hur Mistol 7B version 3-modellen kan hantera inbäddade funktionsanrop, där utdata från ett funktionsanrop används som indata för ett annat funktionsanrop. Detta gör det möjligt för modellen att bryta ner komplexa användarfrågor i en serie av beroende steg, där varje steg utförs av en separat funktion.

De viktigaste stegen för att implementera inbäddade funktionsanrop är:

1. Identifiera beroende funktioner: Modellen måste känna igen när en användarfråga kräver att utdata från en funktion används som indata till en annan funktion. Detta kräver att modellen har en omfattande förståelse för de tillgängliga funktionerna och deras in- och utdatarelationer.

2. Köra funktionsanrop i sekvens: När de beroende funktionerna har identifierats måste modellen köra dem i rätt ordning och överföra relevant data från ett funktionsanrop till nästa.

3. Formatera utdata korrekt: För att säkerställa att det slutliga utdata är korrekt och meningsfullt bör modellen använda ett systemmeddelande för att vägleda formateringen av de mellanliggande funktionsanropsresultaten.

Genom att behärska dessa tekniker kan språkmodeller hantera allt mer komplexa uppgifter i den verkliga världen och smidigt integrera flera externa verktyg och API:er för att ge användarna heltäckande och skräddarsydda svar. Denna funktionalitet är ett viktigt steg mot att göra språkmodeller verkligt användbara och oumbärliga i ett brett spektrum av tillämpningar.

När man hanterar flerstegade eller inbäddade funktionsanrop är det avgörande att se till att indata- och utdataformateringen är korrekt. Uncle Code rekommenderar att använda ett systemmeddelande för att vägleda assistenten i att välja lämpliga verktyg och hantera beroendeförhållandena mellan dem.

Det föreslagna systemmeddelandet lyder:

Du är en hjälpsam assistent. Din uppgift är att välja verktyg relevanta för användarfrågan. I fallet med flera verktyg, om verktygen är beroende av varandra och ett verktygs indataparameter kommer från en annan funktion, använd @följt av funktionsnamnet för parametervärdet. Detta säkerställer att värdet formateras korrekt.

Detta systemmeddelande har två nyckeluppgifter:

1. Verktygsval: Det instruerar assistenten att välja relevanta verktyg baserat på användarens fråga, vilket säkerställer att nödvändig funktionalitet täcks in.

2. Beroendehantering: För fall där verktygen är beroende av varandra och utdata från en funktion krävs som indata för en annan, vägleder systemmeddelandet assistenten att använda @function_name-syntaxen för att korrekt referera till den föregående funktionens utdata.

Genom att använda detta systemmeddelande kan assistenten säkerställa att indata- och utdataformateringen är korrekt, vilket möjliggör en smidig körning av flerstegade eller inbäddade funktionsanrop. Detta tillvägagångssätt bidrar till att upprätthålla integriteten i dataflödet och ger ett tillförlitligt sätt att utnyttja modellens funktionsanropsförmågor.

Mistol V3-modellen har visat imponerande förmågor när det gäller att hantera anrop av flera funktioner och inbäddade funktionsanrop. De viktigaste lärdomarna är:

1. Modellen kan bryta ner komplexa användarfrågor i separata funktionsanrop och köra dem parallellt, som i exemplet med att hämta det aktuella vädret i Paris och den aktuella tiden i San Francisco.

2. För inbäddade funktionsanrop, där utdata från en funktion är indata för en annan, kan modellen hantera detta sömlöst. Den använder ett systemmeddelande för att säkerställa att utdata från det första funktionsanropet är i rätt format för det andra funktionsanropet.

3. Modellens förmåga att hantera en kombination av anrop av flera funktioner och inbäddade funktionsanrop, som visas i det sista exemplet, belyser dess flexibilitet och robusthet i verkliga scenarier.

Overlag gör Mistol V3-modellens funktionsanropsförmågor den till ett kraftfullt verktyg för att bygga interaktiva applikationer som kan utnyttja externa API:er och tjänster. Genom att integrera denna modell i dina projekt kan du skapa intelligenta assistenter som kan utföra ett brett spektrum av uppgifter utöver enkla chattinteraktioner.