Việc lập kế hoạch là một khía cạnh quan trọng của các hệ thống dựa trên tác nhân, vì nó cho phép các tác nhân suy nghĩ về các hành động của họ, chia nhỏ các nhiệm vụ phức tạp thành các nhiệm vụ phụ và đảm bảo việc thực hiện các mục tiêu của họ một cách đáng tin cậy và nhất quán hơn. Như Harrison Chase đã nhấn mạnh, các mô hình ngôn ngữ hiện tại vẫn chưa có khả năng thực hiện đáng tin cậy loại lập kế hoạch này một cách độc lập, và các nhà phát triển thường phải dựa vào các chiến lược gợi ý bên ngoài và các kiến trúc nhận thức để thực thi các khả năng lập kế hoạch.

Một trong những thách thức chính là các mô hình ngôn ngữ có xu hướng hoạt động theo cách phản ứng, "vòng lặp for", trong đó chúng tạo ra một phản hồi, thực hiện một hành động và sau đó tạo ra phản hồi tiếp theo. Điều này có thể dẫn đến việc ra quyết định không tối ưu và thiếu lập kế hoạch dài hạn. Các kỹ thuật như "cây suy nghĩ", phản ánh và phân rã mục tiêu phụ nhằm giải quyết vấn đề này bằng cách cung cấp cho các mô hình khả năng suy nghĩ về các hành động của chúng, lập kế hoạch trước và chia nhỏ các nhiệm vụ phức tạp.

Tuy nhiên, giải pháp lâu dài có thể yêu cầu một sự thay đổi cơ bản trong kiến trúc cơ bản của các mô hình ngôn ngữ, vượt ra ngoài các mô hình Transformer hiện tại để có thể xử lý lập kế hoạch và suy luận một cách hiệu quả hơn. Đây là một lĩnh vực nghiên cứu đang diễn ra, với các dự án như QAR (Suy luận trả lời câu hỏi) và các mô hình được đào tạo để "suy nghĩ chậm" đang cho thấy những kết quả đầy hứa hẹn.

Trải nghiệm người dùng (UX) của các ứng dụng tác nhân là một lĩnh vực mà Harrison đặc biệt hào hứng. Ông lưu ý rằng UX vẫn chưa được "hoàn thiện" và việc có người trong vòng lặp vẫn thường cần thiết do độ tin cậy không đáng tin cậy của các mô hình ngôn ngữ và khả năng gây ra ảo giác.

Harrison nhấn mạnh UX được trình bày trong demo Anthropic Delphi là một ví dụ tích cực, với khả năng xem các màn hình khác nhau (trình duyệt, cửa sổ chat, terminal, mã) trong một chế độ xem. Ông cũng nhấn mạnh đến giá trị của việc có khả năng "quay lại và chỉnh sửa", cho phép người dùng quay lại trạng thái trước đó và thực hiện các điều chỉnh, cải thiện độ tin cậy và khả năng điều khiển của tác nhân.

Ngoài ra, Harrison thảo luận về tầm quan trọng của "kỹ thuật luồng" - thiết kế rõ ràng của luồng công việc và máy trạng thái mà tác nhân hoạt động trong đó. Ông gợi ý rằng kỹ thuật luồng này có thể giúp bù đắp một số hạn chế của chính các mô hình ngôn ngữ, bằng cách chuyển giao việc lập kế hoạch và ra quyết định cho các kỹ sư con người trước đó.

Nói chung, Harrison nhấn mạnh rằng UX của các ứng dụng tác nhân là một lĩnh vực quan trọng vẫn đang phát triển, với nhu cầu cân bằng giữa tự động hóa và giám sát của con người để đảm bảo tính nhất quán, độ tin cậy và chất lượng. Các khung tác nhân như Langchain có thể giúp cung cấp các công cụ và khả năng cần thiết để phát triển các ứng dụng dựa trên tác nhân hiệu quả.

Các tác nhân là công cụ mạnh mẽ vượt xa chỉ là các lời nhắc phức tạp. Một trong những khía cạnh chính khiến các tác nhân trở nên có năng lực như vậy là khả năng của họ khai thác bộ nhớ, cả ngắn hạn và dài hạn.

Bộ nhớ ngắn hạn cho phép các tác nhân học hỏi và cải thiện trong quá trình trò chuyện hoặc tương tác, xây dựng trên các bước trước đó và điều chỉnh cách tiếp cận của họ tương ứng. Điều này cho phép một sự tương tác động và thích ứng hơn, nơi tác nhân có thể được điều khiển và sửa chữa bởi người dùng.

Bộ nhớ dài hạn, mặt khác, là rất quan trọng để các tác nhân duy trì và sử dụng cơ sở kiến thức của công ty. Điều này cho phép các tác nhân có một sự hiểu biết sâu sắc về doanh nghiệp, các quy trình của nó và thông tin liên quan, khiến họ hiệu quả hơn trong các nhiệm vụ của họ. Tuy nhiên, quản lý bộ nhớ dài hạn cũng đi kèm với những thách thức riêng, chẳng hạn như xác định những gì cần lưu trữ, khi nào cần quên và làm thế nào để phát triển bộ nhớ khi doanh nghiệp thay đổi.

Việc tích hợp cả bộ nhớ ngắn hạn và dài hạn vào các khung tác nhân là một lĩnh vực nghiên cứu và phát triển đang diễn ra. Khi các khả năng này tiếp tục được cải thiện, các tác nhân sẽ trở nên đáng tin cậy, cá nhân hóa và có giá trị hơn trong các môi trường doanh nghiệp, nơi tính nhất quán và chất lượng là điều quan trọng hàng đầu.

Các điểm chính từ bài thuyết trình của Harrison Chase về các tác nhân là:

1. Các tác nhân không chỉ là các lời nhắc phức tạp - họ có quyền truy cập vào các công cụ khác nhau, bộ nhớ (ngắn hạn và dài hạn) và khả năng lập kế hoạch và thực hiện các hành động.

2. Lập kế hoạch là một khía cạnh quan trọng của các tác nhân, vì nó cho phép họ suy nghĩ về các bước cần thiết để hoàn thành một nhiệm vụ. Tuy nhiên, các mô hình ngôn ngữ hiện tại gặp khó khăn trong việc lập kế hoạch đáng tin cậy, dẫn đến việc sử dụng các chiến lược gợi ý bên ngoài. Tương lai có thể yêu cầu các kiến trúc mới vượt ra ngoài chỉ là các mô hình Transformer để cho phép các khả năng lập kế hoạch tốt hơn.

3. Trải nghiệm người dùng (UX) của các ứng dụng tác nhân là một lĩnh vực gây phấn khích. Các kỹ thuật như cho phép người dùng quay lại và chỉnh sửa các hành động của tác nhân có thể cải thiện độ tin cậy và cung cấp cho người dùng nhiều quyền kiểm soát hơn. Cân bằng giữa người trong vòng lặp và tự động hóa là một thách thức đang diễn ra.

4. Bộ nhớ, cả ngắn hạn và dài hạn, là thiết yếu để các tác nhân học hỏi và cá nhân hóa các tương tác của họ. Bộ nhớ quy trình (nhớ cách thực hiện một việc gì đó) và bộ nhớ cá nhân hóa (nhớ các sự kiện về người dùng) là các tính năng quan trọng đang được nghiên cứu.

Nói chung, bài thuyết trình nhấn mạnh tình trạng hiện tại và tiềm năng trong tương lai của các tác nhân, nhấn mạnh nhu cầu về các bước tiến bộ trong lập kế hoạch, UX và bộ nhớ để làm cho các tác nhân trở nên đáng tin cậy và hữu ích hơn trong các ứng dụng thực tế.