元宇宙正在通過其開源計劃大有作為,看來他們已經在著手開發Llama 4,可能會在今年年底推出。不過,Llama 3.1在多個不同的能力上都展現了非常有前景的表現,如遮罩編碼、指令跟隨等。

我發現有一部分人沒有太多討論,但我非常興奮的是,元宇宙似乎開始大力投資代理相關的用例。他們提到,他們的目標不僅是將Llama定位為一個模型,而是作為一個系統,提供工具,使開發者能夠構建自己的定制代理,以及新類型的代理行為。

他們有一份名為「Llama代理系統」的公開報告,展示了Llama堆棧的整個組件。這包括像Llama Guard這樣的專門模型,經過培訓可以調節內容,以及Prompt Guard來防止逃獄,以及Koser來防止大型語言模型產生不安全的代碼。

但對我來說最令人興奮的部分是工具調用功能。工具調用可能是我不得不使用OpenAI的主要原因,因為他們的模型在與工具調用相關的代理用例方面要好得多。如果你不知道什麼是工具調用,它是OpenAI在去年年底引入的一個概念。本質上,它是一種經過培訓的模型,根據用戶任務,預測需要調用哪個函數,以及該函數的輸入,這樣我們就可以取得JSON輸出,實際運行該函數,並將信息反饋給大型語言模型。

初步評估結果顯示,Llama 3.1的工具調用能力似乎在其他模型如GPT-4和Chinchilla 3.5中表現出色。然而,大部分這些評估基準都是關於零shot工具使用,可能無法真實反映在現實世界中代理用例的實際工具使用性能,因為現實世界的代理用例要複雜得多,涉及多輪工具使用、規劃和推理能力。

好消息是,在Llama 3.1模型中,似乎他們專門訓練了模型用於這些多輪對話,所以如果查詢需要多次工具調用,模型可以寫出逐步計劃,按順序調用工具,並在每次工具調用後進行推理。

總的來說,Llama 3.1的工具調用能力是我們擁有一個強大的代理模型替代OpenAI的一個非常令人興奮的一步。