Bản cập nhật gần đây của các mô hình Gemini, bao gồm cả phiên bản Pro và Flash, đã mang lại nhiều cải tiến. Một cải tiến chính là tốc độ giới hạn được cải thiện, cho phép người dùng thực hiện nhiều yêu cầu hơn trong một khoảng thời gian nhất định. Bản cập nhật này cung cấp quyền truy cập và linh hoạt hơn cho người dùng.

Ngoài ra, phiên bản Gemini Flash sẽ sớm cung cấp khả năng tinh chỉnh mô hình trên tập dữ liệu riêng của bạn. Tính năng này cho phép người dùng tùy chỉnh hiệu suất của mô hình và điều chỉnh nó phù hợp với nhu cầu cụ thể của họ, từ đó nâng cao khả năng của mô hình.

Bản cập nhật cũng đã cải thiện chế độ JSON và khả năng gọi hàm của các mô hình Gemini. Những cải tiến này trong chức năng cốt lõi của các mô hình được kỳ vọng sẽ dẫn đến hiệu suất tổng thể tốt hơn.

Các mô hình Gemini, bao gồm cả phiên bản Pro và Flash, vừa nhận được một bản cập nhật. Bản cập nhật này đã mang lại nhiều cải tiến, bao gồm tăng cường giới hạn tốc độ và khả năng tinh chỉnh phiên bản Flash trên tập dữ liệu riêng của bạn. Ngoài ra, chế độ JSON và khả năng gọi hàm cũng đã được cải thiện.

Hiệu suất của các mô hình Gemini cũng đã được nâng cao, như được thể hiện qua xếp hạng gần đây của họ trong bảng xếp hạng ChatBot Arena. Cả phiên bản Pro và Advanced của Gemini hiện đang đứng thứ hai, trong khi phiên bản nhỏ hơn Gemini Flash đứng thứ chín, chỉ sau GPT-4 và CLA Opus. Đây là một thành tích ấn tượng, thể hiện khả năng của các mô hình Gemini.

Phiên bản Gemini Flash đặc biệt đáng chú ý khi nó nằm trong vùng ngọt khi xét đến chất lượng đầu ra, giá cả và thông lượng. So với Cloud Hau, Gemini Flash cung cấp thông lượng tăng, và nó tốt hơn Hau và GPT-3.5 về sự cân bằng giữa chất lượng và giá cả.

Khả năng gọi hàm là một tính năng mạnh mẽ của các mô hình ngôn ngữ lớn (LLM) như Gemini. Nó cho phép mô hình truy cập dữ liệu và chức năng bên ngoài có thể không có trong dữ liệu huấn luyện của nó, cho phép nó cung cấp phản hồi toàn diện và cập nhật hơn cho các truy vấn của người dùng.

Gọi hàm hoạt động như sau:

1. Người dùng cung cấp một truy vấn cho LLM.
2. LLM xác định xem nó có cần sử dụng một hàm bên ngoài để phản hồi truy vấn hay không.
3. Nếu cần một hàm, LLM chọn hàm phù hợp từ các công cụ có sẵn.
4. LLM cung cấp các đầu vào cần thiết cho hàm và yêu cầu người dùng thực hiện nó.
5. Người dùng thực hiện hàm và trả kết quả lại cho LLM.
6. LLM kết hợp đầu ra của hàm vào phản hồi cuối cùng cho người dùng.

Quy trình này cho phép LLM khai thác các nguồn dữ liệu và khả năng bên ngoài, như giá cổ phiếu thời gian thực, thông tin thời tiết hoặc công cụ hỗ trợ khách hàng. Bằng cách kết hợp kiến thức của riêng nó với khả năng gọi hàm, LLM có thể cung cấp phản hồi toàn diện và hữu ích hơn cho một loạt các truy vấn.

Để thiết lập đại lý hỗ trợ khách hàng với Gemini Flash, chúng ta sẽ thực hiện các bước sau:

1. Cài đặt Gói Python Google Generative AI: Chúng ta sẽ bắt đầu bằng cách cài đặt gói cần thiết để tương tác với Gemini Flash.

2. Nhập các Gói cần thiết: Chúng ta sẽ nhập các gói cần thiết sử dụng trong suốt bài hướng dẫn.

3. Thiết lập Khóa API: Chúng ta sẽ thiết lập khóa API để tương tác với Gemini Flash, hoặc bằng cách đặt nó là một bí mật trong Colab hoặc là một biến môi trường nếu sử dụng cài đặt cục bộ.

4. Định nghĩa các Hàm có sẵn: Chúng ta sẽ định nghĩa các hàm mà đại lý hỗ trợ khách hàng có thể sử dụng, chẳng hạn như get_order_status và initiate_return.

5. Thiết lập Khách hàng Gemini Flash: Chúng ta sẽ thiết lập khách hàng Gemini Flash, chỉ định tên mô hình và danh sách các công cụ có sẵn.

6. Bắt đầu một Phiên Trò chuyện: Chúng ta sẽ bắt đầu một phiên trò chuyện với Gemini Flash, cho phép gọi hàm tự động để cho phép mô hình thực hiện các hàm cần thiết.

7. Trình diễn Gọi Hàm Đơn giản: Chúng ta sẽ trình diễn cách thực hiện các cuộc gọi hàm đơn giản, chẳng hạn như kiểm tra trạng thái của một đơn hàng và khởi tạo một lần trả lại.

8. Khám phá Lịch sử Trò chuyện: Chúng ta sẽ xem xét lịch sử trò chuyện để hiểu được giao tiếp nội bộ giữa mô hình và người dùng, và cách thực hiện các cuộc gọi hàm.

9. Thực hiện Gọi Hàm Tuần tự: Chúng ta sẽ trình diễn cách đại lý có thể thực hiện các cuộc gọi hàm tuần tự, trong đó đầu ra của một cuộc gọi hàm phụ thuộc vào cuộc gọi trước đó.

10. Thực hiện Gọi Hàm Song song: Chúng ta sẽ trình diễn ví dụ về việc thực hiện các cuộc gọi hàm song song, trong đó đại lý cần thực hiện nhiều hàm độc lập để tạo ra phản hồi cuối cùng.

11. Mở rộng các Hàm có sẵn: Chúng ta sẽ tăng số lượng hàm có sẵn cho đại lý, chứng minh khả năng của nó trong việc xử lý một tập hợp các hoạt động phức tạp hơn.

12. Thực hiện Thủ công Các Cuộc Gọi Hàm: Chúng ta sẽ trình bày một cách tiếp cận thay thế, trong đó đại lý cung cấp danh sách các hàm cần được thực hiện, và người dùng chịu trách nhiệm thực hiện các cuộc gọi hàm thực tế.

Để thực hiện các cuộc gọi hàm tuần tự và song song với các mô hình Gemini, chúng ta có thể thực hiện các bước sau:

1. Cài đặt các gói cần thiết: Bắt đầu bằng cách cài đặt gói Python Google Generative AI.

2. Nhập các gói cần thiết: Nhập các gói cần thiết, chẳng hạn như gói Generative AI và bất kỳ tiện ích nào khác mà bạn có thể cần.

3. Thiết lập khóa API: Lấy khóa API của bạn từ Google AI Studio và thiết lập nó hoặc là một bí mật trong sổ ghi chép Colab của bạn hoặc là một biến môi trường nếu bạn đang sử dụng cài đặt cục bộ.

4. Định nghĩa các hàm có sẵn: Tạo một tập hợp các hàm mà mô hình Gemini có thể sử dụng để tương tác với các nguồn dữ liệu bên ngoài hoặc thực hiện các nhiệm vụ cụ thể. Đảm bảo cung cấp các chuỗi tài liệu chi tiết cho mỗi hàm để giúp mô hình hiểu mục đích của chúng.

5. Thiết lập khách hàng Gemini: Khởi tạo khách hàng Generative AI và chỉ định mô hình Gemini 1.5 Flash là mô hình sử dụng. Cung cấp danh sách các công cụ (hàm) có sẵn cho mô hình.

6. Bắt đầu một phiên trò chuyện: Bắt đầu một phiên trò chuyện với mô hình Gemini, bật gọi hàm tự động nếu cần.

7. Xử lý các cuộc gọi hàm tuần tự: Khi truy vấn của người dùng yêu cầu các cuộc gọi hàm tuần tự, mô hình sẽ xác định các hàm phù hợp để sử dụng và cung cấp các đầu vào cần thiết. Sau đó, bạn có thể thực hiện các hàm này và truyền kết quả trở lại mô hình để tạo ra phản hồi cuối cùng.

8. Xử lý các cuộc gọi hàm song song: Đối với các truy vấn yêu cầu các cuộc gọi hàm song song, mô hình sẽ cung cấp danh sách các hàm cần thiết và các đầu vào tương ứng. Sau đó, bạn có thể thực hiện các hàm này đồng thời và truyền kết quả trở lại mô hình để tạo ra phản hồi cuối cùng.

9. Cung cấp kết quả cuộc gọi hàm cho mô hình: Cho dù thực hiện các cuộc gọi hàm tuần tự hay song song, bạn cần truyền kết quả của các cuộc gọi hàm trở lại mô hình Gemini để tạo ra phản hồi cuối cùng.

Để xử lý các lời nhắc phức tạp yêu cầu nhiều cuộc gọi hàm, mô hình Gemini thể hiện khả năng ấn tượng. Nó có thể thực hiện các cuộc gọi hàm tuần tự và song song, tích hợp kết quả một cách liền mạch để tạo ra các phản hồi chính xác.

Các bước chính liên quan là:

1. Xác định Các Cuộc Gọi Hàm: Mô hình phân tích lời nhắc của người dùng và xác định các hàm cần thiết để thực hiện, cho dù là tuần tự hay song song.
2. Thực Hiện Các Hàm: Mô hình cung cấp các đầu vào cần thiết cho các hàm được xác định, sau đó được người dùng/trình thông dịch thực hiện.
3. Tích Hợp Kết Quả: Mô hình lấy kết quả của các cuộc gọi hàm và kết hợp chúng để tạo ra phản hồi cuối cùng.

Quy trình này cho phép mô hình xử lý các kịch bản phức tạp, chẳng hạn như kiểm tra trạng thái của một đơn hàng, khởi tạo một lần trả lại và hủy một đơn hàng, tất cả trong một lời nhắc duy nhất. Khả năng của mô hình trong việc quản lý các cuộc gọi hàm lồng nhau và cung cấp các phản hồi chính xác là đáng chú ý.

Hơn nữa, mô hình có thể xử lý một số lượng ngày càng nhiều các hàm, lên đến 10 hàm trong ví dụ được cung cấp, mà không gây nhầm lẫn