Trong cuộc phỏng vấn này, Sam Altman, cựu Giám đốc điều hành của OpenAI, đã cung cấp một số hiểu biết về nỗ lực của công ty nhằm cải thiện hiệu quả về dữ liệu của các mô hình ngôn ngữ của họ. Altman đã gợi ý về việc phát triển một kiến trúc hoặc phương pháp mới có thể giúp OpenAI vượt qua những hạn chế trong việc thu thập dữ liệu chất lượng cao để đào tạo các mô hình của họ.

Altman thừa nhận rằng mặc dù họ đã tạo ra lượng lớn dữ liệu tổng hợp để thử nghiệm, nhưng mục tiêu của họ là tìm cách "học nhiều hơn từ ít dữ liệu hơn". Ông gợi ý rằng "cách tốt nhất để đào tạo một mô hình" có thể không phải là chỉ tạo ra lượng lớn dữ liệu tổng hợp, mà là phát triển các kỹ thuật cho phép các mô hình học hiệu quả hơn từ các tập dữ liệu nhỏ hơn.

Điều này phù hợp với thông tin từ một bài báo trước đó, trong đó nêu rằng "bước đột phá" của Altman đã cho phép OpenAI vượt qua những hạn chế trong việc thu thập đủ dữ liệu chất lượng cao để đào tạo các mô hình mới. Những nhận xét của Altman cho thấy công ty đã đạt được tiến bộ trong lĩnh vực này, có thể thông qua việc phát triển một kiến trúc mới hoặc các kỹ thuật hiệu quả về dữ liệu.

Sam Altman thừa nhận rằng sự xuất hiện của các hệ thống trí tuệ nhân tạo tiên tiến, có thể đạt đến mức độ Trí tuệ Nhân tạo Tổng quát (AGI), rất có khả năng sẽ yêu cầu những thay đổi trong hợp đồng xã hội trong một khoảng thời gian dài. Ông dự đoán rằng mô hình kinh tế dựa trên lao động hiện tại, nơi mọi người trao đổi lao động của họ để có thu nhập, sẽ cần được cấu hình lại khi các công nghệ mạnh mẽ này trở nên phổ biến hơn.

Altman lưu ý rằng khi thế giới trở nên giàu có hơn nhờ tiến bộ công nghệ, đã có những thay đổi trong các chương trình an sinh xã hội và cách xã hội tổ chức bản thân. Ông dự đoán rằng các cuộc tranh luận và cấu hình lại tương tự sẽ xảy ra khi AGI trở thành hiện thực, do các công ty mô hình ngôn ngữ lớn đang dẫn đầu trong công nghệ này.

Một khái niệm tiềm năng mà Altman đề cập là ý tưởng về "tính toán cơ bản phổ quát", nơi mọi người có thể nhận được một số lượng nhất định các tài nguyên máy tính từ một hệ thống cấp độ AGI, thay vì chỉ dựa vào thu nhập bằng tiền. Sự chuyển dịch này có thể thay đổi cơ bản cách thức hoạt động của nền kinh tế và xã hội, vì giá trị của các tài nguyên tính toán này có thể trở nên quan trọng hơn so với tiền tệ truyền thống.

Altman thừa nhận sự khó khăn trong việc hình dung cách thức chuyển đổi này sẽ xảy ra, vì đây là một sự thay đổi xã hội chưa từng được trải nghiệm trước đây. Ông gợi ý rằng chính các hệ thống trí tuệ nhân tạo này có thể giúp thiết kế và tổ chức các cấu trúc xã hội mới nảy sinh, khi xã hội đấu tranh với những hệ quả của AGI đối với bản chất của công việc và hợp đồng xã hội.

Nói chung, những nhận xét của Altman nổi bật tác động sâu sắc mà sự phát triển của các hệ thống trí tuệ nhân tạo tiên tiến có thể có đối với nền tảng của các hệ thống kinh tế và xã hội của chúng ta, yêu cầu sự suy nghĩ lại và cấu hình lại đáng kể để thích ứng với sự chuyển đổi công nghệ này.

Giám đốc điều hành của Open AI, Sam Altman, đã cung cấp một số hiểu biết về các kế hoạch của công ty cho thế hệ ngôn ngữ mô hình tiếp theo trong một cuộc phỏng vấn gần đây. Dưới đây là những điểm chính:

1. Hiệu quả về dữ liệu: Altman đã gợi ý về những bước đột phá trong việc làm cho các mô hình ngôn ngữ trở nên hiệu quả hơn về dữ liệu, cho phép chúng học từ lượng nhỏ dữ liệu chất lượng cao, thay vì phụ thuộc vào lượng lớn dữ liệu tổng hợp. Điều này có thể dẫn đến những cải thiện đáng kể trong hiệu suất của các mô hình.

2. Đổi mới về kiến trúc: Mặc dù Altman thận trọng trong việc tiết lộ các chi tiết cụ thể, nhưng ông đã gợi ý rằng Open AI đang làm việc trên một kiến trúc hoặc phương pháp mới có thể tăng cường thêm hiệu quả về dữ liệu của các mô hình của họ.

3. Cải thiện về chất lượng: Altman kỳ vọng rằng thế hệ mô hình tiếp theo sẽ thể hiện những cải thiện đáng ngạc nhiên trong các lĩnh vực mà trước đây không được cho là có thể. Ông cảnh báo không chỉ dựa vào các tiêu chuẩn chuẩn, vì những tiến bộ thực sự có thể nằm ở các khía cạnh định tính khó đo lường hơn.

4. Hàm ý xã hội và kinh tế: Altman thừa nhận rằng khả năng ngày càng tăng của các mô hình ngôn ngữ có thể yêu cầu những thay đổi trong hợp đồng xã hội, vì mô hình kinh tế dựa trên lao động truyền thống có thể cần được cấu hình lại. Ông đề xuất khám phá các ý tưởng như "tính toán cơ bản phổ quát" để giải quyết những rối loạn tiềm năng.

5. Phát triển có trách nhiệm: Altman nhấn mạnh tầm quan trọng của nghiên cứu và phát triển có trách nhiệm, tập trung vào việc hiểu rõ cách hoạt động bên trong của các mô hình và các vấn đề an toàn trước khi phát hành các hệ thống mạnh mẽ hơn.

Nói chung, những nhận xét của Altman cho thấy Open AI đang đạt được những tiến bộ đáng kể trong việc nâng cao khả năng của các mô hình ngôn ngữ, đồng thời cũng đấu tranh với những hàm ý xã hội rộng lớn hơn của những tiến bộ này. Thế hệ mô hình tiếp theo được kỳ vọng sẽ đẩy mạnh ranh giới của những gì hiện có thể, nhưng với sự tập trung vào phát triển có trách nhiệm và xem xét tác động lâu dài đối với nền kinh tế và cấu trúc xã hội.

Sam Altman không đồng ý một cách lịch sự nhưng đáng kể với việc nhớ lại sự kiện liên quan đến việc ông rời khỏi OpenAI của Helen Toneis. Mặc dù Toneis là người thực sự quan tâm đến một kết quả tốt về trí tuệ nhân tạo, Altman chúc cô ấy tốt nhưng không muốn vào một cuộc bảo vệ danh tiếng từng dòng.

Khi OpenAI phát hành ChatGPT, nó được gọi là "bản xem trước nghiên cứu thấp điểm" vào thời điểm đó, và họ không mong đợi mức độ phản hồi mà nó nhận được. Altman cho biết họ đã thảo luận về kế hoạch phát hành với hội đồng quản trị của họ, vì họ đã có sẵn GPT-3.5 trong khoảng 8 tháng và đã hoàn thành việc đào tạo GPT-4 từ lâu, làm việc trên một kế hoạch phát hành dần dần.

Nói chung, Altman không đồng ý với việc nhớ lại sự kiện của Toneis và tin rằng điều quan trọng là cung cấp phía của mình, do những drama đáng kể xung quanh việc ông rời khỏi OpenAI.

Sam Altman đã đề cập đến vụ việc Scarlett Johansson, nơi nữ diễn viên này tuyên bố OpenAI đã sử dụng giọng nói của cô mà không có sự cho phép. Altman làm rõ rằng giọng nói được sử dụng không phải của Johansson, và rằng OpenAI đã có quy trình thử giọng nhiều diễn viên trước khi chọn ra năm giọng nói, với Johansson được yêu cầu là người thứ sáu. Tuy nhiên, Altman thừa nhận sự nhầm lẫn xung quanh sự tương tự của giọng nói được sử dụng với giọng của Johansson.

Altman cũng thảo luận về công việc của OpenAI về nghiên cứu khả năng diễn giải, nhằm hiểu quy trình ra quyết định trong các mô hình trí tuệ nhân tạo của họ. Ông cho biết mặc dù họ chưa giải quyết được vấn đề khả năng diễn giải, nhưng họ đã đạt được tiến bộ và coi đó là một phần quan trọng trong việc đảm bảo an toàn cho các mô hình của họ. Altman nhấn mạnh rằng ngay cả khi chúng ta có thể không hoàn toàn hiểu được cách hoạt động bên trong của não người, chúng ta vẫn có thể phát triển các cách thức để hiểu và xác minh hành vi của các hệ thống trí tuệ nhân tạo. Ông gợi ý rằng càng hiểu được những gì đang xảy ra trong những mô hình này, chúng ta càng có thể đưa ra và xác minh các tuyên bố về an toàn tốt hơn.