AutoCoder là một mô hình ngôn ngữ lớn mới đã gây được tiếng vang trong cộng đồng trí tuệ nhân tạo. Mô hình này đã vượt qua hiệu suất của GPT-4 Turbo (phiên bản tháng 4 năm 2024) cũng như GPT-4 Omni mới hơn trên thước đo uy tín Human Eval, đây là một thành tựu ấn tượng.

Điều làm cho AutoCoder nổi bật là bộ giải thích mã linh hoạt của nó. Khác với GPT-4 Turbo và Omni, những mô hình bị giới hạn trong các gói tích hợp sẵn, AutoCoder có thể tự động cài đặt các gói bên ngoài khi cần, mở rộng đáng kể phạm vi các tác vụ nó có thể xử lý. Tính năng này cho phép AutoCoder giải quyết một loạt các thách thức lập trình rộng hơn.

Một khác biệt chính khác là cách bộ giải thích mã được gọi. Với AutoCoder, bộ giải thích chỉ được sử dụng chọn lọc, chỉ khi người dùng cần xác minh mã. Ngược lại, bộ giải thích mã mở trong GPT-4 Turbo chạy tất cả mã Python được tạo ra theo mặc định, mà không cần chờ đầu vào của người dùng hoặc xác minh mã.

Kiến trúc AI EV Instruct được chia thành hai giai đoạn chính: giai đoạn dạy và giai đoạn tự học.

Trong giai đoạn dạy, mô hình chủ yếu học bằng cách tinh chế kiến thức từ một mô hình giáo viên, chẳng hạn như GPT-4 Turbo hoặc DeBERTa. Giai đoạn này bao gồm bốn bước chính:

1. Khởi tạo: Mô hình khởi tạo các vai trò, tin nhắn đối thoại và bộ giải thích mã.
2. Giải quyết vấn đề: Mô hình mô tả các vấn đề và cung cấp các giải pháp, với các tin nhắn đối thoại được thêm vào mô tả vấn đề.
3. Phản hồi thực thi: Mô hình xử lý lỗi, cung cấp mô tả bằng ngôn ngữ tự nhiên và sửa đổi mô hình mã.
4. Kết thúc: Nếu chương trình được thực thi thành công, các tin nhắn đối thoại được thêm vào để hoàn thành phân tích một mục dữ liệu, và quá trình chuyển sang giai đoạn đánh giá dữ liệu.

Giai đoạn tự học là nơi mô hình học viên thay thế mô hình gốc và đảm nhận cả vai trò người hỏi và lập trình viên. Mô hình học viên hoàn thành toàn bộ quá trình phản hồi thực thi một cách tự động, cho phép nó tiếp tục học tập và cải thiện khả năng giải thích mã mà không cần dựa vào mô hình giáo viên.

AutoCoder, một mô hình ngôn ngữ lớn mới tập trung vào cải thiện mã, có tập dữ liệu đáng kể hơn nhiều so với các mô hình mã hóa tiên tiến khác. Dưới đây là một phân tích về các khác biệt chính:

• Tập dữ liệu AutoCoder: 169k mẫu dữ liệu, 241 vòng đối thoại, bao gồm hàm chính, cài đặt gói, lỗi thực thi mã và sửa chữa. Nó cũng bao gồm các bài kiểm tra đơn vị để đạt độ chính xác tốt hơn.

• Magic Coder OSS Instruct: 75k mẫu dữ liệu, 75 vòng đối thoại.

• Magic Coder EAL Instruct: Chỉ 1.111 mẫu dữ liệu, 111 vòng đối thoại.

Tập dữ liệu lớn hơn đáng kể và nhiều vòng đối thoại hơn trong dữ liệu đào tạo của AutoCoder mang lại cho nó một lợi thế rõ ràng so với các mô hình khác. Việc bao gồm các bài kiểm tra đơn vị còn tăng cường độ chính xác và độ tin cậy của mã do AutoCoder tạo ra.

AutoCoder, một mô hình ngôn ngữ lớn mới tập trung vào việc tạo và giải thích mã, đã vượt qua hiệu suất của GPT-4 Turbo (phiên bản tháng 4 năm 2024) và GPT-4 Omni trên thước đo Human Eval. Đây là một thành tựu đáng chú ý, vì các mô hình này trước đây được coi là tiên tiến nhất trong lĩnh vực các tác vụ liên quan đến mã.

Một trong những lợi thế chính của AutoCoder là khả năng truy cập và sử dụng các thư viện bên ngoài, không giống như mô hình GPT-4 Turbo bị hạn chế hơn. Chức năng mở rộng này cho phép AutoCoder xử lý một phạm vi rộng hơn các tác vụ và ứng dụng. Ngoài ra, mô hình AutoCoder được thiết kế để gọi bộ giải thích mã một cách chọn lọc dựa trên yêu cầu của người dùng, thay vì chạy tất cả mã được tạo ra theo mặc định như bộ giải thích mã mở.

Về dữ liệu đào tạo, AutoCoder có một tập dữ liệu lớn hơn đáng kể so với các mô hình khác tập trung vào các tác vụ liên quan đến mã. Tập dữ liệu AutoCoder chứa 169.000 mẫu dữ liệu với 241 vòng đối thoại, bao gồm hàm chính, cài đặt gói, lỗi thực thi mã và sửa chữa. Tập dữ liệu toàn diện này cho phép mô hình học tập và cải thiện khả năng tạo và giải thích mã một cách hiệu quả hơn.

Sự ra mắt của AutoCoder, một mô hình ngôn ngữ lớn mới vượt qua GPT-4 Turbo và GPT-4 Omni trên thước đo Human Eval, là một bước phát triển đáng kể trong lĩnh vực giải thích và tạo mã. Mô hình nguồn mở này, dựa trên kiến trúc DeepSE coder, cung cấp một bộ giải thích mã linh hoạt và mạnh mẽ hơn so với các tiền nhiệm của nó.

Một trong những tính năng chính của AutoCoder là khả năng tự động cài đặt các gói bên ngoài, mở rộng phạm vi khả năng giải thích mã của nó. Đây là một cải tiến đáng kể so với những hạn chế của GPT-4 Turbo, chỉ giới hạn trong các gói tích hợp sẵn. Việc sử dụng chọn lọc bộ giải thích mã, tùy thuộc vào yêu cầu của người dùng, cũng là một khía cạnh đáng chú ý của AutoCoder.

Tập dữ liệu đào tạo của mô hình, bao gồm một tập dữ liệu đối thoại nhiều lượt và một hệ thống kết hợp tương tác của tác nhân với xác minh thực thi mã bên ngoài, đã góp phần vào hiệu suất ấn tượng của nó. So sánh tập dữ liệu của AutoCoder với các mô hình tiên tiến khác, như LLaMA 3 400B và GPT-4 Omni Ultra, càng làm nổi bật những ưu điểm của nó.