大型語言模型(LLMs)能夠進行函數呼叫是一項關鍵功能,可以讓它們與現實世界互動並超越簡單的聊天助手。LLMs可能沒有內部知識來執行某些任務,例如獲取當前天氣狀況。但是,它們可以利用外部API或函數來檢索和處理所需的資訊。

函數呼叫的流程如下:

1. LLM首先根據其內部訓練知識確定是否可以執行該操作,或者是否需要使用外部工具或函數。
2. 如果需要使用外部工具,LLM將分析使用者查詢並選擇適當的函數來執行。
3. LLM然後使用Python編譯器進行函數呼叫,檢索結果,並將其反饋到LLM以生成最終響應。

這種功能使LLMs能夠擴展其功能並與現實世界互動,使它們更加有用和多功能。函數呼叫使LLMs能夠執行天氣預報、股市分析和設備控制等任務,這些是無法單靠內部知識完成的。

在這一部分,我們將探討模型處理多函數呼叫和嵌套函數呼叫的能力。目標是測試模型分解複雜查詢並按順序執行多個函數以提供全面響應的能力。

首先,我們將看一個多函數呼叫的示例,模型需要執行兩個單獨的函數來解決使用者的查詢。模型應該能夠識別相關函數、進行必要的函數呼叫,並將結果組合以生成最終響應。

接下來,我們將探討嵌套函數呼叫的概念。在這種情況下,一個函數呼叫的輸出成為另一個函數呼叫的輸入。模型需要認識到這種依賴關係,按正確順序執行函數,並向使用者提供最終結果。

為確保模型的響應準確且格式良好,我們將使用一條系統消息來指導模型如何處理依賴的函數呼叫。這種方法有助於模型在多階段函數執行過程中維護數據的完整性。

最後,我們將測試一個更複雜的示例,結合了多函數呼叫和嵌套函數呼叫。這將展示模型處理複雜查詢並協調多個函數執行以提供全面和準確響應的能力。

通過探索這些示例,我們可以評估模型的多功能性及其與需要整合外部工具和函數的真實世界場景互動的能力。

嵌套函數呼叫是一個強大的功能,它允許語言模型通過鏈接多個函數的輸出來執行複雜的多步驟操作。這種功能對於使語言模型能夠與現實世界互動並處理超越簡單聊天機器人的高級用例至關重要。

在這一部分,我們將探討Mistol 7B版本3模型如何處理嵌套函數呼叫,其中一個函數呼叫的輸出用作另一個函數呼叫的輸入。這使模型能夠將複雜的使用者查詢分解為一系列相互依賴的步驟,每個步驟由單獨的函數執行。

實現嵌套函數呼叫的關鍵步驟包括:

1. 識別依賴函數: 模型必須認識到使用者查詢需要一個函數的輸出作為另一個函數的輸入。這要求模型對可用函數及其輸入/輸出關係有全面的理解。

2. 按順序執行函數呼叫: 一旦識別出依賴函數,模型必須按正確的順序執行它們,將相關數據從一個函數呼叫傳遞到下一個。

3. 正確格式化輸出: 為確保最終輸出準確和有意義,模型應使用系統消息來指導中間函數呼叫結果的格式化。

通過掌握這些技術,語言模型可以處理越來越複雜的真實世界任務,無縫集成多個外部工具和API,為用戶提供全面和定制的響應。這種功能水平是使語言模型真正有用和不可或缺的關鍵步驟,適用於各種應用程序。

在處理多階段或嵌套函數呼叫時,確保輸入和輸出格式正確非常重要。Uncle Code建議使用系統消息來指導助手選擇適當的工具並處理它們之間的依賴關係。

建議的系統消息如下:

你是一個有幫助的助手。你的工作是根據用戶查詢選擇相關工具。如果有多個工具,如果工具之間存在依賴關係且一個工具的輸入參數來自另一個函數,請使用@後跟函數名稱來表示參數值。這可確保值格式正確。

這條系統消息有兩個關鍵目的:

1. 工具選擇: 它指示助手根據用戶的查詢選擇相關工具,確保涵蓋必要的功能。

2. 依賴處理: 對於工具相互依賴的情況,一個函數的輸出是另一個函數的輸入,系統消息指導助手使用@function_name語法正確引用前一個函數的輸出。

通過使用這條系統消息,助手可以確保輸入和輸出格式正確,實現多階段或嵌套函數呼叫的無縫執行。這種方法有助於維護數據流的完整性,提供一種可靠的方式來利用模型的函數呼叫功能。

Mistol V3模型在處理多函數呼叫和嵌套函數呼叫方面展現了令人印象深刻的能力。主要要點如下:

1. 模型可以將複雜的用戶查詢分解為單獨的函數呼叫並並行執行,如獲取巴黎當前天氣和舊金山當前時間的示例所示。

2. 對於嵌套函數呼叫,其中一個函數的輸出是另一個函數的輸入,模型可以無縫處理。它使用系統消息確保第一個函數呼叫的輸出格式正確,適用於第二個函數呼叫。

3. 模型處理多函數呼叫和嵌套函數呼叫結合的能力,如最後一個示例所示,突出了其在真實世界場景中的靈活性和健壯性。

總的來說,Mistol V3模型的函數呼叫功能使其成為構建可利用外部API和服務的交互式應用程序的強大工具。通過將此模型集成到您的項目中,您可以創建能夠執行超越簡單聊天互動的各種任務的智能助手。