Meta AI vừa mới phát hành phiên bản thứ ba của mô hình ngôn ngữ LLaMA của họ, LLaMA 3. Mô hình mới này mang lại những tiến bộ đáng kể về hiệu suất và khả năng, khiến nó trở thành một lựa chọn hấp dẫn cho các nhà phát triển và nhà nghiên cứu đang làm việc trên một loạt các ứng dụng trí tuệ nhân tạo.

LLaMA 3 có sẵn trong hai phiên bản được huấn luyện trước và được điều chỉnh theo hướng dẫn, với lần lượt 8 tỷ và 70 tỷ tham số. Mô hình này đã được huấn luyện trên một tập dữ liệu ấn tượng với hơn 15 nghìn tỷ token, gấp bảy lần tập dữ liệu được sử dụng cho LLaMA 2. Dữ liệu huấn luyện mở rộng này bao gồm gấp bốn lần nhiều mã, khiến LLaMA 3 đặc biệt giỏi trong việc tạo mã và các nhiệm vụ liên quan đến lập trình.

Việc phát hành LLaMA 3 bởi Meta AI đánh dấu một bước tiến đáng kể trong thế giới các mô hình ngôn ngữ lớn. Phiên bản mới nhất của chuỗi LLaMA này khoe khoang về hiệu suất và khả năng được cải thiện, khiến nó nổi bật so với các phiên bản trước đó.

Một trong những điểm nổi bật chính là hiệu suất tiên tiến của mô hình trong các lĩnh vực như tinh tế ngôn ngữ, hiểu biết ngữ cảnh và các nhiệm vụ phức tạp như dịch và tạo đối thoại. Với khả năng mở rộng và hiệu suất được cải thiện, LLaMA 3 có thể xử lý các nhiệm vụ nhiều bước một cách dễ dàng, nhờ vào các quy trình sau huấn luyện được Meta tinh chỉnh, giúp giảm đáng kể tỷ lệ từ chối sai, cải thiện sự căn chỉnh phản hồi và tăng cường sự đa dạng của các câu trả lời của mô hình.

Việc phát hành LLaMA 3 bởi Meta AI đã đặt ra một tiêu chuẩn mới cho các mô hình ngôn ngữ lớn. Theo các tiêu chuẩn được cung cấp, phiên bản 8 tỷ tham số của LLaMA 3 vượt trội hơn so với các đối thủ cạnh tranh, bao gồm Geman 7B và MISTL 7B Instruct, trên một loạt các nhiệm vụ.

Các điểm nổi bật chính từ các tiêu chuẩn bao gồm:

• MLU 5-shot: LLaMA 3 8B đạt 78,4, so với 53 cho Geman 7B và 58 cho MISTL 7B Instruct.
• GPQA Zero-shot: LLaMA 3 8B đạt 34, so với 21 cho Geman 7B và 26 cho MISTL 7B Instruct.
• Điểm Toán: LLaMA 3 8B đạt điểm số đáng kể cao hơn trên các nhiệm vụ toán học, gần gấp ba lần điểm số của Geman 7B và MISTL 7B Instruct.
• Tạo Mã: Điểm đánh giá của con người đối với việc tạo mã là 81 cho LLaMA 3 70B, so với 71 cho Geman Pro 1.5 và 73 cho CLA 3 Sonic.

Meta đã áp dụng một cách tiếp cận toàn diện đối với việc phát triển có trách nhiệm với LLaMA 3, tập trung vào sự tin cậy và an toàn. Họ đã cập nhật Hướng dẫn Sử dụng Có Trách Nhiệm (RUG) của họ để cung cấp thông tin toàn diện về phát triển có trách nhiệm với các mô hình ngôn ngữ lớn.

Phương pháp tiếp cận trung tâm hệ thống của họ bao gồm các bản cập nhật cho các công cụ tin cậy và an toàn, bao gồm LLaRD (Phát Triển Có Trách Nhiệm LLaMA) đã được tối ưu hóa để hỗ trợ phân loại được công bố bởi ML Commons, mở rộng phạm vi của nó thành một tập hợp an toàn toàn diện hơn.

Meta đã thông báo rằng họ đang tích hợp phiên bản mới nhất của mô hình ngôn ngữ LLaMA của họ, LLaMA 3, vào các ứng dụng và dịch vụ khác nhau của họ. Điều này bao gồm tích hợp LLaMA 3 vào:

• Facebook
• Instagram
• WhatsApp
• Messenger

Người dùng bây giờ sẽ có thể tương tác trực tiếp với mô hình LLaMA 3 trong các ứng dụng này để nhận thông tin thời gian thực, trả lời câu hỏi và hoàn thành các nhiệm vụ khác nhau. Việc tích hợp này cho phép người dùng tận dụng các khả năng nâng cao của LLaMA 3, chẳng hạn như hiệu suất được cải thiện, hiểu biết ngữ cảnh và hoàn thành nhiệm vụ nhiều bước, mà không cần rời khỏi các ứng dụng họ đang sử dụng.

Các mô hình LLaMA 3 có sẵn để tải xuống và khám phá thông qua kho lưu trữ GitHub chính thức tại github.com/facebookresearch/llama. Kho lưu trữ này cung cấp quyền truy cập vào các tệp mã và mô hình, cho phép các nhà phát triển tìm hiểu sâu hơn về các khả năng của phiên bản mới nhất của chuỗi LLaMA này.

Kho lưu trữ bao gồm các tài nguyên chính sau:

1. Tệp Mô Hình: Các mô hình LLaMA 3 có sẵn trong hai kích thước - 8 tỷ và 70 tỷ tham số. Những mô hình được huấn luyện trước này có thể được tải xuống và sử dụng cho một loạt các ứng dụng.

2. Mã: Kho lưu trữ GitHub chứa mã nguồn cho các mô hình LLaMA 3, cho phép các nhà phát triển hiểu rõ hơn về kiến trúc cơ bản và có thể tinh chỉnh hoặc điều chỉnh các mô hình cho các trường hợp sử dụng cụ thể của họ.