Das Aufrufen von Funktionen ist eine entscheidende Fähigkeit für große Sprachmodelle (LLMs), um mit der realen Welt zu interagieren und über einen einfachen Chatassistenten hinaus nützlich zu sein. LLMs verfügen möglicherweise nicht über das interne Wissen, um bestimmte Aufgaben wie das Abrufen aktueller Wetterbedingungen durchzuführen. Sie können jedoch externe APIs oder Funktionen nutzen, um die erforderlichen Informationen abzurufen und zu verarbeiten.

Der Ablauf des Funktionsaufrufs funktioniert wie folgt:

1. Das LLM bestimmt zunächst, ob es die Operation basierend auf seinem internen Trainingswissen durchführen kann oder ob es externe Tools oder Funktionen verwenden muss.
2. Wenn externe Tools erforderlich sind, analysiert das LLM die Benutzerabfrage und wählt die geeigneten Funktionen aus, die ausgeführt werden sollen.
3. Das LLM verwendet dann einen Python-Compiler, um die Funktionsaufrufe durchzuführen, die Ergebnisse abzurufen und sie wieder in das LLM einzuspeisen, um die endgültige Antwort zu generieren.

In diesem Abschnitt werden wir die Fähigkeit des Modells untersuchen, mit Mehrfachfunktionsaufrufen und verschachtelten Funktionsaufrufen umzugehen. Das Ziel ist es, die Fähigkeit des Modells zu testen, komplexe Abfragen zu zerlegen und mehrere Funktionen sequenziell auszuführen, um eine umfassende Antwort zu liefern.

Zuerst werden wir uns ein Beispiel für Mehrfachfunktionsaufrufe ansehen, bei denen das Modell zwei separate Funktionen ausführen muss, um die Benutzerabfrage zu beantworten. Das Modell sollte in der Lage sein, die relevanten Funktionen zu identifizieren, die notwendigen Funktionsaufrufe durchzuführen und die Ergebnisse zu kombinieren, um die endgültige Antwort zu generieren.

Anschließend werden wir das Konzept der verschachtelten Funktionsaufrufe untersuchen. In diesem Szenario wird die Ausgabe eines Funktionsaufrufs zur Eingabe für einen anderen Funktionsaufruf. Das Modell muss diese Abhängigkeit erkennen, die Funktionen in der richtigen Reihenfolge ausführen und das endgültige Ergebnis dem Benutzer liefern.

Um sicherzustellen, dass die Antworten des Modells genau und gut formatiert sind, werden wir eine Systemnachricht verwenden, die das Modell dabei unterstützt, abhängige Funktionsaufrufe zu handhaben. Dieser Ansatz hilft dem Modell, die Integrität der Daten während des mehrstufigen Funktionsausführungsprozesses zu bewahren.

Schließlich werden wir ein komplexeres Beispiel testen, das sowohl Mehrfachfunktionsaufrufe als auch verschachtelte Funktionsaufrufe kombiniert. Dies wird die Fähigkeit des Modells zeigen, komplexe Abfragen zu handhaben und die Ausführung mehrerer Funktionen zu koordinieren, um eine umfassende und genaue Antwort zu liefern.

Durch die Erkundung dieser Beispiele können wir die Vielseitigkeit des Modells und seine Fähigkeit bewerten, mit realen Szenarien zu interagieren, die die Integration externer Tools und Funktionen erfordern.

Verschachtelte Funktionsaufrufe sind eine leistungsfähige Funktion, die Sprachmodelle in die Lage versetzt, komplexe, mehrstufige Operationen durchzuführen, indem sie die Ausgaben mehrerer Funktionen miteinander verknüpfen. Diese Fähigkeit ist entscheidend, um Sprachmodelle in die Lage zu versetzen, mit der realen Welt zu interagieren und fortgeschrittene Anwendungsfälle über einfache Chatbots hinaus zu bewältigen.

In diesem Abschnitt werden wir untersuchen, wie das Mistol 7B Version 3-Modell mit verschachtelten Funktionsaufrufen umgehen kann, bei denen die Ausgabe eines Funktionsaufrufs als Eingabe für einen anderen Funktionsaufruf verwendet wird. Dies ermöglicht es dem Modell, komplexe Benutzerabfragen in eine Reihe voneinander abhängiger Schritte zu zerlegen, von denen jeder von einer separaten Funktion ausgeführt wird.

Die Schlüsselschritte bei der Implementierung von verschachtelten Funktionsaufrufen sind:

1. Identifizieren von abhängigen Funktionen: Das Modell muss erkennen, wenn eine Benutzerabfrage die Ausgabe einer Funktion als Eingabe für eine andere Funktion erfordert. Dazu muss das Modell ein umfassendes Verständnis der verfügbaren Funktionen und ihrer Input/Output-Beziehungen haben.

2. Ausführen von Funktionsaufrufen in Reihenfolge: Sobald die abhängigen Funktionen identifiziert wurden, muss das Modell sie in der richtigen Reihenfolge ausführen und die relevanten Daten von einem Funktionsaufruf zum nächsten übergeben.

3. Korrekte Formatierung der Ausgabe: Um sicherzustellen, dass die endgültige Ausgabe genau und aussagekräftig ist, sollte das Modell eine Systemnachricht verwenden, um die Formatierung der Zwischenergebnisse der Funktionsaufrufe zu steuern.

Wenn es um mehrstufige oder verschachtelte Funktionsaufrufe geht, ist es entscheidend, dass die Eingabe- und Ausgabeformatierung korrekt ist. Uncle Code empfiehlt die Verwendung einer Systemnachricht, um den Assistenten bei der Auswahl der geeigneten Tools und der Handhabung der Abhängigkeiten zwischen ihnen zu unterstützen.

Die vorgeschlagene Systemnachricht lautet:

Sie sind ein hilfsbereiter Assistent. Ihre Aufgabe ist es, relevante Tools für die Benutzerabfrage auszuwählen. Bei mehreren Tools, wenn die Tools voneinander abhängig sind und der Eingabeparameter eines Tools aus einer anderen Funktion stammt, verwenden Sie @gefolgt vom Funktionsnamen für den Parameterwert. Dadurch wird sichergestellt, dass der Wert korrekt formatiert ist.

Diese Systemnachricht erfüllt zwei Schlüsselfunktionen:

1. Toolauswahl: Sie weist den Assistenten an, die relevanten Tools basierend auf der Benutzerabfrage auszuwählen, um sicherzustellen, dass die erforderliche Funktionalität abgedeckt ist.

2. Abhängigkeitshandhabung: Für Fälle, in denen die Tools voneinander abhängig sind und die Ausgabe einer Funktion als Eingabe für eine andere Funktion erforderlich ist, leitet die Systemnachricht den Assistenten an, die @function_name-Syntax zu verwenden, um die Ausgabe der vorherigen Funktion korrekt zu referenzieren.

Das Mistol V3-Modell hat beeindruckende Fähigkeiten im Umgang mit Mehrfachfunktionsaufrufen und verschachtelten Funktionsaufrufen gezeigt. Die wichtigsten Erkenntnisse sind:

1. Das Modell kann komplexe Benutzerabfragen in separate Funktionsaufrufe zerlegen und parallel ausführen, wie im Beispiel des Abrufens des aktuellen Wetters in Paris und der aktuellen Uhrzeit in San Francisco zu sehen ist.

2. Bei verschachtelten Funktionsaufrufen, bei denen die Ausgabe einer Funktion die Eingabe für eine andere ist, kann das Modell dies nahtlos handhaben. Es verwendet eine Systemnachricht, um sicherzustellen, dass die Ausgabe des ersten Funktionsaufrufs im richtigen Format für den zweiten Funktionsaufruf vorliegt.

3. Die Fähigkeit des Modells, eine Kombination aus Mehrfachfunktionsaufrufen und verschachtelten Funktionsaufrufen zu handhaben, wie im letzten Beispiel gezeigt, unterstreicht seine Flexibilität und Robustheit in realen Szenarien.

Insgesamt machen die Funktionsaufruffähigkeiten des Mistol V3-Modells es zu einem leistungsfähigen Werkzeug für den Aufbau interaktiver Anwendungen, die externe APIs und Dienste nutzen können. Durch die Integration dieses Modells in Ihre Projekte können Sie intelligente Assistenten schaffen, die eine Vielzahl von Aufgaben über einfache Chatinteraktionen hinaus ausführen können.