Van nature hebben grote taalmodellen (LLM's) bepaalde beperkingen. Zo zijn de meeste LLM's bijvoorbeeld niet goed in het uitvoeren van wiskundige berekeningen of het toegang krijgen tot up-to-date informatie voorbij hun trainingsafkappunt. Om deze beperkingen aan te pakken, kunnen LLM's de mogelijkheid krijgen om externe tools te gebruiken of functieaanroepen uit te voeren om specifieke functionaliteiten te implementeren.

De stroom van functieaanroepen werkt als volgt:

1. Wanneer een gebruikersquery wordt ontvangen, bepaalt de LLM eerst of hij een extern hulpmiddel moet gebruiken of niet.
2. Als de LLM besluit een tool te gebruiken, moet hij de juiste tool uit de beschikbare opties selecteren op basis van de query.
3. De LLM maakt vervolgens een aanroep naar de geselecteerde tool, die een API of een externe functie kan zijn.
4. Het antwoord van de tool wordt vervolgens teruggegeven aan de LLM, die het samen met de oorspronkelijke gebruikersquery gebruikt om het uiteindelijke antwoord te genereren.

Deze aanpak stelt de LLM in staat om externe mogelijkheden en middelen te benutten om uitgebreidere en nauwkeurigere antwoorden op gebruikersqueries te geven.

Van nature hebben grote taalmodellen (LLM's) bepaalde beperkingen. Zo zijn de meeste LLM's bijvoorbeeld niet goed in het uitvoeren van wiskundige berekeningen of het toegang krijgen tot up-to-date informatie voorbij hun trainingsafkappunt. Om deze beperkingen aan te pakken, kunnen LLM's de mogelijkheid krijgen om externe tools te gebruiken of functieaanroepen uit te voeren om specifieke functionaliteiten te implementeren.

De stroom van functieaanroepen werkt als volgt:

1. Tool bepaling: Wanneer een gebruikersquery wordt ontvangen, zal de LLM eerst evalueren of hij een extern hulpmiddel moet gebruiken om een antwoord te genereren. Als er geen tool nodig is, zal de LLM zijn interne trainingsgegevens gebruiken om een antwoord te genereren.

2. Tool selectie: Als de LLM bepaalt dat een tool nodig is, zal hij de juiste tool uit de beschikbare opties selecteren. Als de query bijvoorbeeld een berekening vereist, zal de LLM een rekenmachine-tool selecteren; als de query weersgegevens vereist, zal de LLM een webzoektool selecteren.

3. Tool aanroepen: Zodra de tool is geselecteerd, zal de LLM een aanroep doen naar de externe functie of API die de functionaliteit van de tool implementeert. De invoerparameters voor de tool worden bepaald door het invoerschema van de tool.

4. Antwoord genereren: Het antwoord van de externe tool of functieaanroep wordt vervolgens teruggegeven aan de LLM, die deze informatie samen met de oorspronkelijke gebruikersquery gebruikt om een uiteindelijk antwoord te genereren.

Deze stroom stelt de LLM in staat om externe mogelijkheden en middelen te benutten om uitgebreidere en nauwkeurigere antwoorden op gebruikersqueries te geven.

Om tools te definiëren in de Cloud 3-familie, zijn er twee belangrijke componenten:

1. Beschrijving: Dit is een gedetailleerde beschrijving van de tool, die het Cloud-model gebruikt om te bepalen welke tool voor een bepaalde query moet worden gebruikt. De beschrijving moet zo veel mogelijk details bevatten, waaronder wat de tool doet, wanneer deze moet worden gebruikt, eventuele parameters die vereist zijn en belangrijke voorbehouden of beperkingen.

2. Implementatie: Dit is de daadwerkelijke implementatie van de tool, die een externe API of functie kan zijn. De tool-definitie specificeert het invoerschema voor de tool, dat bepaalt welke invoer de gebruikersquery moet leveren.

Wanneer de gebruiker een query geeft, bepaalt het Cloud-model eerst welke tool moet worden gebruikt op basis van de tool-beschrijvingen. Het maakt vervolgens een aanroep naar de overeenkomstige tool-implementatie, waarbij de vereiste invoer wordt doorgegeven. Het antwoord van de tool wordt vervolgens teruggegeven aan het Cloud-model, dat het uiteindelijke antwoord op de gebruiker genereert.

Sommige best practices voor het definiëren van tools zijn:

• Geef een zeer gedetailleerde beschrijving, waarin alle belangrijke aspecten van de tool worden behandeld.
• Zorg ervoor dat de tool-naam duidelijk en beschrijvend is.
• Definieer het invoerschema zorgvuldig om overeen te komen met de gebruikersquery.
• Overweeg om meerdere tools aan elkaar te koppelen voor complexere use cases.
• Test de tool-definities en -implementaties grondig om er zeker van te zijn dat ze zoals verwacht werken.

Door deze richtlijnen te volgen, kunt u de tool-gebruiksmogelijkheden van de Cloud 3-familie effectief benutten om de mogelijkheden van uw taalmodellen te verbeteren.

Bij het definiëren van tools voor gebruik met de Anthropic Cloud 3-familie van modellen is het belangrijk om deze best practices voor de tool-beschrijvingen te volgen:

1. Geef gedetailleerde beschrijvingen: Zorg ervoor dat de beschrijving van elke tool zeer gedetailleerd is. Neem informatie op over wat de tool doet, wanneer deze moet worden gebruikt en hoe het gedrag van de tool wordt beïnvloed.

2. Leg parameters uit: Leg duidelijk de betekenis en impact van elke parameter die door de tool vereist wordt. Dit helpt het taalmodel om de tool effectief te gebruiken.

3. Beperkingen benadrukken: Vermeld eventuele belangrijke voorbehouden of beperkingen van de tool, zoals het type informatie dat deze niet retourneert.

4. Zorg voor duidelijkheid: Zorg ervoor dat de tool-naam duidelijk en ondubbelzinnig is. Het taalmodel zal de beschrijving gebruiken om te bepalen welke tool moet worden gebruikt, dus een duidelijke en bondige naam is cruciaal.

5. Prioriteer bruikbaarheid: Concentreer je op het leveren van tools die daadwerkelijk nuttig en relevant zijn voor de taak in kwestie. Vermijd het opnemen van onnodige of redundante tools.

6. Overweeg tool-koppeling: Als uw use case een reeks tool-aanroepen vereist, overweeg dan het gebruik van het Opus-model, dat beter is uitgerust om seriële tool-gebruik aan te kunnen.

7. Test grondig: Test uw tool-definities en -implementaties grondig om er zeker van te zijn dat ze zoals verwacht werken en de gewenste functionaliteit bieden.

Door deze best practices te volgen, kunt u hoogwaardige tool-definities creëren die de Anthropic Cloud 3-modellen in staat stellen om extern functioneren effectief te benutten en hun mogelijkheden te verbeteren.

Om een klantenservice chatbot te bouwen met behulp van de Cloud 3-familie van modellen, volgen we deze stappen:

1. Installeer het Anthropic-pakket: We beginnen met het installeren van het Anthropic Python-clientpakket.

2. Stel de Anthropic API-sleutel in: We stellen de Anthropic API-sleutel in, die nodig is om de Cloud 3-modellen te gebruiken.

3. Kies het Cloud 3-model: Voor dit voorbeeld gebruiken we het CLA 3 Opus-model, omdat het meer complexe tool-gebruik en -koppeling ondersteunt.

4. Definieer de client-side tools: We definiëren drie tools voor onze klantenservice chatbot:

   • Klantgegevens ophalen
   • Ordergegevens ophalen
   • Order annuleren

   Elke tool heeft een gedetailleerde beschrijving, invoerschema en implementatie via externe functies.

5. Implementeer de hoofdlus: We maken een hoofdlus die de invoer van de gebruiker verwerkt, bepaalt welke tool moet worden gebruikt, de juiste functie aanroept en het antwoord terugvoert naar het taalmodel om de uiteindelijke output te genereren.

6. Test de chatbot: We testen de chatbot door verschillende gebruikersqueries te geven, zoals het ophalen van het e-mailadres van een klant, het controleren van de status van een order en het annuleren van een order.

Door deze stappen te volgen, kunnen we een klantenservice chatbot bouwen die gebruik maakt van de mogelijkheden van de Cloud 3-familie van modellen en de mogelijkheid om externe tools of functies aan te roepen om de functionaliteit te verbeteren.

In deze video hebben we het concept van functieaanroepen en het gebruik van externe tools met de Anthropic Cloud 3-familie van modellen onderzocht. We hebben de volgende belangrijke punten geleerd:

1. Motivatie voor functieaanroepen: LLM's hebben bepaalde beperkingen, zoals het onvermogen om complexe berekeningen uit te voeren of toegang te krijgen tot up-to-date informatie. Functieaanroepen stellen de LLM in staat om externe tools en API's te benutten om deze beperkingen te overwinnen.

2. Stroom van functieaanroepen: De LLM bepaalt eerst of hij een extern hulpmiddel moet gebruiken, selecteert vervolgens de juiste tool op basis van de verstrekte beschrijvingen en maakt ten slotte een aanroep naar de implementatie van de tool om de benodigde informatie te verkrijgen.

3. Tools definiëren: Tools worden gedefinieerd met een naam, een gedetailleerde beschrijving en een invoerschema. De beschrijving is cruciaal, omdat deze het LLM helpt te beslissen welke tool moet worden gebruikt.

4. Best practices: Geef duidelijke en uitgebreide beschrijvingen voor de tools, inclusief details over hun functionaliteit, parameters en beperkingen. Dit zorgt ervoor dat het LLM geïnformeerde beslissingen kan nemen over welke tool te gebruiken.

5. Voorbeeld implementatie: We hebben een voorbeeld doorlopen van het bouwen van een klantenservice chatbot met behulp van Anthropic's Cloud 3-modellen en client-side tools. Het voorbeeld liet zien hoe tools te definiëren, hun functionaliteit te implementeren en ze te integreren in het besluitvormingsproces van het LLM.

6. Vergelijking tussen Opus en Haiku: Hoewel zowel Opus als Haiku kunnen worden gebruikt voor functieaanroepen, is Opus beter geschikt voor complexere scenario's die seriële of gekoppelde tool-gebruik vereisen.

Door deze concepten te begrijpen, kunt u effectief gebruikmaken van de kracht van functieaanroepen en het gebruik van externe tools om de mogelijkheden van uw Anthropic Cloud 3-gebaseerde toepassingen te verbeteren.