Meta は、オープンソースのプレイで大きな成果を上げており、今年末までに Llama 4 の提供を開始する可能性があります。一方、Llama 3.1 は、マスクコーディング、命令の実行、その他の多様な機能において非常に優れた性能を示しています。

私が特に興奮しているのは、Meta がエージェントに関連する用途への投資を強化し始めていることです。Llama をモデルとしてだけでなく、開発者が独自のカスタムエージェントや新しいタイプのエージェント行動を構築できるようなツールを提供するシステムとして位置づけようとしています。

Meta は「Llama Agentic System」と呼ばれる公開レポートで、Llama スタックの様々なコンポーネントを紹介しています。これには、コンテンツ調整用の特殊モデルである Llama Guard や、ジェイルブレイクや安全でないコードの生成を防ぐ Prompt Guard、Koser などが含まれています。

しかし、私にとって最も興味深いのはツールコーリング機能です。ツールコーリングは、OpenAI のモデルが優れているため、これまで OpenAI を使わざるを得なかった主な理由の1つです。ツールコーリングとは、ユーザーのタスクに応じて、必要な関数と入力パラメータを予測し、それらを実行して情報を返すという概念です。

Llama 3.1 のツールコーリング能力は、GPT-4 やChinchilla 3.5 などの他のモデルと比較しても非常に優れた性能を示しています。ただし、ほとんどのベンチマークが単発のツール使用を対象としているため、実際の複雑な現実世界のエージェントユースケースでの性能を正確に反映していない可能性があります。

Llama 3.1 では、複数ターンのダイアログ、計画、推論能力などに特化した訓練が行われているため、複雑なタスクでも適切に対応できると期待されています。

Llama 3.1 は、Meta のオープンソース大規模言語モデルの最新バージョンで、様々な機能において優れた性能を示しています。主な特徴は以下の通りです:

• マスクコーディング: コンテキストの中の欠落した単語や記号を正確に予測する能力が高い。
• 命令の実行: 複雑な命令に従ってタスクを完遂する能力に優れている。
• エージェント行動: Llama をカスタムエージェントの構築や新しいタイプのエージェント行動を実現するためのシステムとして位置づけ、大きな投資を行っている。これには、コンテンツ調整用の Llama Guard や、安全でないアウトプットを防ぐ Prompt Guard などのコンポーネントが含まれる。
• ツールコーリング: Llama 3.1 の最も興味深い機能の1つは、ツールコーリング能力の高さである。必要な関数と入力を予測することで、強力なエージェントベースのアプリケーションの開発を可能にする。

Llama 3.1 のツールコーリング能力に関する初期の評価結果は非常に良好ですが、複雑な現実世界のシナリオでの性能は未知数です。コンテキストの維持、計画、多段階のタスクに対する推論能力が、効果的なエージェントシステムの構築に不可欠です。

全体として、Llama 3.1 は、オープンソースの大規模言語モデルの発展に大きな一歩を踏み出したものと言えます。様々な機能における優れた性能は、革新的な AI アプリケーションの構築に大きな可能性を秘めています。

Meta は、Llama をモデルとしてだけでなく、開発者が独自のカスタムエージェントや新しいタイプのエージェント行動を構築できるようなツールを提供するシステムとして位置づけることに大きな投資を行っています。

Llama のエージェントシステムには以下のような主要なコンポーネントが含まれています:

1. Llama Guard: コンテンツ調整と脱獄の防止を目的とした特殊モデル。
2. Prompt Guard: Llama モデルによる安全でないコードの生成を防ぐツール。
3. ツールコーリング: タスクを完了するために必要な関数と入力を予測する強力な機能。これにより、エージェントが複雑なタスクを小さな手順に分解し、効率的に実行することができる。

Llama 3.1 モデルは、ツールコーリングの分野で非常に優れた性能を示しており、GPT-4 やClosure 3.5 などのモデルを上回っています。ただし、現実世界のエージェントユースケースはより複雑で、複数ターンのダイアログ、計画、推論能力が必要とされます。

Llama 3.1 は、これらの複数ターンのダイアログに特化して訓練されており、ステップバイステップの計画を立て、順番にツールを呼び出し、各ツールコールの結果に基づいて推論することができます。これは、堅牢で機能的なエージェントを構築する上で重要な進歩です。

Llama チームは、ツールコーリング機能のサンプルプロンプトも提供しており、これを使ってカスタマイズされたエージェントモデルを構築したり、微調整したりすることができます。このようなトランスペアレンシーとアクセシビリティにより、開発者がLlamaの機能を自身のエージェントベースのアプリケーションに活用しやすくなっています。

全体として、Llama のエージェントシステムは、カスタムエージェントの構築や新しいタイプのエージェント行動の探索を可能にする、非常に興味深い取り組みです。

Llama 3.1 モデルは、マスクコーディング、命令の実行、ツールコーリングなど、多様な機能において優れた性能を示しています。特にツールコーリング機能は非常に興味深く、強力なエージェントベースのアプリケーションの開発を可能にします。

ツールコーリングは、OpenAI が提唱した概念で、ユーザーのタスクを完了するために必要な関数と入力を予測するモデルを訓練するというものです。これにより、JSONフォーマットのアウトプットを生成し、必要な情報を取得して、ユーザーに応答することができます。

Llama 3.1 モデルのツールコーリング能力は、GPT-4 やClosure 3.5 などの他のモデルと比較しても優れた性能を示しています。ただし、ほとんどのベンチマークが単発のツール使用を対象としているため、現実世界のエージェントユースケースでの性能を正確に反映していない可能性があります。

現実世界のエージェントユースケースでは、単一のツールを呼び出すだけでは完了できないタスクが多く、モデルが複数のツールを順番に呼び出し、その結果を踏まえて推論する必要があります。Llama 3.1 モデルは、このような複数ターンのダイアログに特化して訓練されているため、ステップバイステップの計画を立て、ツールを順番に呼び出し、推論を行うことができます。

Llama 3.1 モデルは、ツールコーリング機能を駆動するためのサンプルプロンプトも提供しており、モデルの動作を理解し、特定のエージェントベースのユースケースに合わせて微調整することができます。

全体として、Llama 3.1 モデルのツールコーリング機能は、強力なエージェントベースのアプリケーションの開発に向けた重要な一歩であり、OpenAIのオファリングに対する代替手段を提供し、人間のタスクを自動化・補助する新しい可能性を開いています。

最初に、お使いのローカルマシンにLlama 3.1モデルをダウンロードし、オープンソースの大規模言語モデルを実行できるOlamaパッケージを使用する必要があります。ターミナルでolama install llama-3.1と入力すれば、MacBook Proでも十分に小さいABモデルをダウンロードできます。

その次に、Slackワークスペース内に存在し、質問に答えたりタスクを自動化したりできるLlama 3.1エージェントを構築する必要があります。Retrieval-Augmented Generation (RAG)パイプラインを使用すると、設定が簡単で、NotionやConfluenceなどの動的な知識ソースをサポートできます。

Llama Cloudというフル管理型のRAGパイプラインプラットフォームを使って、Notionの知識ベースをLlama 3.1モデルに接続します。Llama Cloudインデックスの設定が完了したら、カスタムのSlackボットを作成し、ローカルマシンで実行しているLlama 3.1モデルに接続します。

そして、Llama Cloudインデックスから関連情報を取得し、レスポンスを生成する知識エージェントを作成します。エージェントのパフォーマンスを向上させるために、ユーザーのクエリを分類し、適切なエージェント(回答エージェントまたは知識検索エージェント)に委任するOx Tratorエージェントも追加します。

最後に、Notionデータベースに新しい情報を保存し、Llama Cloudとの同期をトリガーする学習エージェントを追加します。これにより、エージェントが自ら学習し、知識を継続的に改善できるようになります。

このステップバイステップのガイドは、Slack ワークスペースに統合でき、ドメイン知識を配信し、新しい情報から自己学習できるLlama 3.1ベースのAIエージェントを構築する簡単かつ強力な方法を提供します。

Meta の Llama 3.1 モデルは、マスクコーディング、命令の実行、ツールコーリングなど、多様な機能において優れた性能を示しています。特にツールコーリング機能は非常に興味深く、OpenAIのモデルに代わる、自律型エージェントの構築に活用できます。

Llama 3.1 を活用してエージェントに関連する用途を実現するには、Slackワークスペース内に Llama ベースのエージェントを構築することができます。このエージェントは、企業のドキュメントやドメイン知識を取り込み、従業員にオンデマンドで情報を提供することができます。また、新しい知識の観察や単純な反復タスクの自動化を通じて、自己改善することも可能です。

このLlamaエージェントを構築するプロセスは以下の通りです:

1. Olama パッケージを使ってLlama 3.1 モデルをローカルで実行する。
2. モデルの微調整か、Llama Cloudのようなリトリーバル拡張パイプライン (RAP) の構築を選択する。
3. カスタムボットを使ってSlackとつなぎ、ローカルのLlamaモデルとLlama Cloudの知識ベースを統合する。
4. 知識検索、内省、自己学習機能など、エージェントの機能を実装する。

Llama 3.1 の機能を活用することで、知識の配信や生産性の向上を強化する強力で柔軟なエージェントを作成できます。このアプローチは、Llamaのような大規模言語モデルが、新しタイプのエージェント行動を実現し、情報やテクノロジーとの対話を変革する可能性を示しています。