Meta đang làm rất tốt với bản chơi nguồn mở của họ, và có vẻ như họ đang làm việc trên Llama 4, có thể sẽ ra mắt vào cuối năm nay. Tuy nhiên, Llama 3.1 đã thể hiện hiệu suất rất đáng hứng thú trên nhiều khả năng khác nhau, như mã hóa mặt nạ, tuân theo hướng dẫn và nhiều hơn nữa.

Một phần mà tôi thấy mọi người không nói nhiều về, nhưng tôi rất phấn khích, là Meta dường như đang bắt đầu thực sự đầu tư vào các trường hợp sử dụng liên quan đến tác nhân. Họ đề cập rằng họ nhằm mục đích không chỉ định vị Llama như một mô hình, mà còn như một hệ thống để cung cấp các công cụ cho phép các nhà phát triển xây dựng các tác nhân tùy chỉnh của riêng họ, cũng như các loại hành vi tác nhân mới.

Họ có một báo cáo công khai được gọi là "Hệ thống tác nhân Llama" nơi họ trình bày các thành phần toàn bộ của ngăn xếp Llama. Điều này bao gồm những thứ như Llama Guard, là một mô hình chuyên biệt được đào tạo để điều tiết nội dung, cũng như Prompt Guard để ngăn chặn các vụ trốn thoát và Koser để ngăn chặn mã không an toàn được tạo ra bởi các mô hình ngôn ngữ lớn.

Nhưng phần thú vị nhất đối với tôi là khả năng gọi công cụ. Gọi công cụ có lẽ là lý do chính khiến tôi phải sử dụng OpenAI, bởi vì các mô hình của họ chỉ tốt hơn nhiều trong các trường hợp sử dụng liên quan đến gọi công cụ. Nếu bạn không biết gọi công cụ là gì, đó là một khái niệm được giới thiệu bởi OpenAI vào cuối năm ngoái. Về cơ bản, đó là một loại mô hình được đào tạo để, với một nhiệm vụ người dùng, dự đoán chức năng nào cần được gọi, cũng như đầu vào cho chức năng đó, để chúng ta có thể lấy đầu ra JSON để thực sự chạy chức năng và gửi thông tin trở lại mô hình ngôn ngữ lớn.

Kết quả đánh giá ban đầu cho thấy khả năng gọi công cụ của Llama 3.1 dường như hoạt động rất tốt so với các mô hình khác như GPT-4 và Chinchilla 3.5. Tuy nhiên, phần lớn các tiêu chuẩn đánh giá đó là loại gọi công cụ zero-shot, có thể không đại diện cho hiệu suất sử dụng công cụ thực tế trong thế giới thực, vì các trường hợp sử dụng tác nhân trong thế giới thực phức tạp hơn nhiều, bao gồm việc sử dụng công cụ nhiều lần, lập kế hoạch và khả năng lý luận.

Tin tốt là trong mô hình Llama 3.1, có vẻ họ đã đào tạo mô hình cụ thể cho những cuộc đối thoại nhiều lần đó, vì vậy nếu truy vấn yêu cầu nhiều lần gọi công cụ, mô hình có thể viết một kế hoạch từng bước, gọi các công cụ theo trình tự và thực hiện lý luận sau mỗi lần gọi công cụ.

Nói chung, khả năng gọi công cụ từ Llama 3.1 là một bước rất thú vị để chúng ta có một lựa chọn thay thế cho OpenAI đối với một mô hình mạnh mẽ cho các tác nhân.

Llama 3.1 là phiên bản mới nhất của mô hình ngôn ngữ lớn nguồn mở của Meta, và nó đã thể hiện hiệu suất ấn tượng trên nhiều khả năng khác nhau. Một số điểm nổi bật chính bao gồm:

• Mã hóa mặt nạ: Llama 3.1 đã thể hiện hiệu suất mạnh mẽ trong các nhiệm vụ điền vào mặt nạ, nơi mô hình được yêu cầu dự đoán các từ hoặc token bị thiếu trong một ngữ cảnh nhất định.
• Tuân theo hướng dẫn: Mô hình đã chứng tỏ khả năng thành thạo trong việc tuân theo các hướng dẫn phức tạp và hoàn thành các nhiệm vụ, khiến nó trở thành một công cụ có giá trị để xây dựng các ứng dụng tương tác.
• Hành vi tác nhân: Meta đã đầu tư rất nhiều vào việc phát triển Llama như một hệ thống để xây dựng các tác nhân tùy chỉnh và cho phép các loại hành vi tác nhân mới. Điều này bao gồm các thành phần như Llama Guard để điều tiết nội dung và Prompt Guard để ngăn chặn các đầu ra không an toàn.
• Gọi công cụ: Một trong những khía cạnh thú vị nhất của Llama 3.1 là hiệu suất mạnh mẽ của nó trong các nhiệm vụ gọi công cụ. Mô hình có thể dự đoán các chức năng thích hợp cần gọi và cung cấp các đầu vào cần thiết, cho phép phát triển các ứng dụng dựa trên tác nhân mạnh mẽ.

Mặc dù các kết quả đánh giá ban đầu về khả năng gọi công cụ của Llama 3.1 rất hứa hẹn, nhưng hiệu suất trong thực tế trong các kịch bản phức tạp hơn, nhiều lần vẫn là một lĩnh vực cần được khám phá thêm. Khả năng duy trì ngữ cảnh, lập kế hoạch và lý luận thông qua các nhiệm vụ nhiều bước sẽ rất quan trọng để xây dựng các hệ thống dựa trên tác nhân hiệu quả.

Nói chung, Llama 3.1 đại diện cho một bước tiến đáng kể trong việc phát triển các mô hình ngôn ngữ lớn nguồn mở, và các khả năng của nó trên nhiều nhiệm vụ khác nhau khiến nó trở thành một nền tảng thú vị để xây dựng các ứng dụng AI sáng tạo.

Meta đang đầu tư rất nhiều vào các trường hợp sử dụng liên quan đến tác nhân của Llama, định vị nó không chỉ như một mô hình ngôn ngữ, mà còn như một hệ thống để cung cấp các công cụ cho phép các nhà phát triển xây dựng các tác nhân tùy chỉnh của riêng họ cũng như các loại hành vi tác nhân mới.

Hệ thống tác nhân Llama bao gồm một số thành phần chính:

1. Llama Guard: Một mô hình chuyên biệt được đào tạo để điều tiết nội dung và ngăn chặn các vụ trốn thoát.
2. Prompt Guard: Một công cụ để ngăn chặn việc tạo ra mã không an toàn bởi các mô hình Llama.
3. Gọi công cụ: Một khả năng mạnh mẽ cho phép các mô hình Llama dự đoán các chức năng cần thiết để hoàn thành một nhiệm vụ, cũng như các đầu vào cho những chức năng đó. Điều này cho phép các tác nhân phân chia các nhiệm vụ phức tạp thành các bước nhỏ hơn và thực hiện chúng một cách hiệu quả.

Mô hình Llama 3.1 đã thể hiện hiệu suất hứa hẹn trong việc gọi công cụ, vượt qua các mô hình như GPT-4 và Closure 3.5 trong việc sử dụng công cụ zero-shot. Tuy nhiên, các trường hợp sử dụng tác nhân trong thực tế phức tạp hơn, yêu cầu các cuộc đối thoại nhiều lần, lập kế hoạch và khả năng lý luận.

Llama 3.1 đã được đào tạo cụ thể cho những cuộc đối thoại nhiều lần này, cho phép mô hình viết các kế hoạch từng bước, gọi các công cụ theo trình tự và lý luận dựa trên kết quả của mỗi lần gọi công cụ. Đây là một bước tiến đáng kể hướng tới việc xây dựng các tác nhân mạnh mẽ và có khả năng.

Nhóm Llama cũng đã cung cấp các ví dụ về lời nhắc thể hiện khả năng gọi công cụ, có thể được sử dụng để tinh chỉnh và xây dựng các mô hình tác nhân chuyên biệt. Sự minh bạch và khả năng tiếp cận này giúp cho các nhà phát triển dễ dàng tận dụng các khả năng của Llama trong các ứng dụng dựa trên tác nhân của riêng họ.

Nói chung, hệ thống tác nhân của Llama đại diện cho một bước tiến thú vị trong việc cho phép các nhà phát triển xây dựng các tác nhân tùy chỉnh và khám phá các biên giới mới của hành vi tác nhân, tận dụng các khả năng mạnh mẽ của mô hình ngôn ngữ Llama.

Mô hình Llama 3.1 thể hiện hiệu suất hứa hẹn trên nhiều khả năng, bao gồm mã hóa mặt nạ, tuân theo hướng dẫn và gọi công cụ. Khả năng gọi công cụ đặc biệt thú vị, vì nó cho phép phát triển các ứng dụng dựa trên tác nhân mạnh mẽ.

Gọi công cụ là một khái niệm được giới thiệu bởi OpenAI, nơi một mô hình được đào tạo để dự đoán chức năng cần được gọi để hoàn thành một nhiệm vụ người dùng, cũng như đầu vào cho chức năng đó. Điều này cho phép mô hình tạo ra một đầu ra JSON có thể được thực thi để lấy thông tin cần thiết và cung cấp phản hồi cho người dùng.

Khả năng gọi công cụ của mô hình Llama 3.1 dường như hoạt động tốt so với các mô hình khác như GPT-4 và Closet 3.5. Tuy nhiên, phần lớn các tiêu chuẩn đánh giá tập trung vào việc sử dụng công cụ zero-shot, có thể không phản ánh chính xác hiệu suất của mô hình trong các trường hợp sử dụng tác nhân trong thực tế.

Các trường hợp sử dụng tác nhân trong thực tế thường bao gồm các cuộc đối thoại nhiều lần, nơi nhiệm vụ của người dùng không thể được hoàn thành bằng cách gọi một công cụ duy nhất. Thay vào đó, mô hình cần phân chia nhiệm vụ thành các bước nhỏ hơn, gọi nhiều công cụ theo trình tự và lý luận về các kết quả để cung cấp một phản hồi toàn diện. Mô hình Llama 3.1 dường như được đào tạo cụ thể cho những loại cuộc đối thoại nhiều lần này, cho phép nó viết các kế hoạch từng bước, gọi các công cụ theo trình tự và thực hiện lý luận cần thiết.

Mô hình Llama 3.1 cũng cung cấp các ví dụ về các lời nhắc được sử dụng để thúc đẩy khả năng gọi công cụ của nó, điều này có thể hữu ích để hiểu cách hoạt động của mô hình và tinh chỉnh nó cho các trường hợp sử dụng dựa trên tác nhân cụ thể.

Nói chung, khả năng gọi công cụ của mô hình Llama 3.1 là một bước tiến đáng kể trong việc phát triển các ứng dụng dựa trên tác nhân mạnh mẽ, cung cấp một lựa chọn