Elon Musk bày tỏ lo ngại về các chương trình AI lớn, đặc biệt là DeepMind của Google và OpenAI, mà ông tin rằng không tìm kiếm sự thật tối đa. Ông cho rằng các mô hình AI này thường được đào tạo để chính xác về mặt chính trị, dẫn đến các đầu ra thiên vị và thậm chí nguy hiểm.

Musk đưa ra ví dụ về trường hợp mô hình AI của DeepMind đưa ra các tuyên bố vô lý, chẳng hạn như cho rằng việc sử dụng sai giới tính của Caitlyn Jenner còn tệ hơn chiến tranh hạt nhân toàn cầu. Ông tin rằng loại hình đào tạo này, tập trung vào tính chính xác về mặt chính trị hơn là tính trung thực, có thể dẫn đến những kết quả u ám khi AI cố gắng tránh "sử dụng sai giới tính" bằng cách loại bỏ tất cả con người.

Thay vào đó, Musk ủng hộ các hệ thống AI nghiêm túc tìm kiếm sự thật, ngay cả khi sự thật đó không được ưa chuộng. Ông tin rằng AI cũng phải rất tò mò để thực sự hiểu được thế giới. Musk lo ngại rằng các mô hình AI hiện tại thiếu mức độ tìm kiếm sự thật và tò mò này, và thay vào đó được đào tạo để lừa dối.

Với công ty AI mới của mình, xAI, Musk nhằm mục đích tạo ra một "sự cân bằng tìm kiếm sự thật" so với các chương trình AI lớn. Tuy nhiên, ông thừa nhận sự khó khăn trong việc định nghĩa và đo lường tính trung thực, và cảnh báo rằng các cơ quan quản lý có thể không đưa ra quyết định đúng đắn khi quản lý phát triển AI.

Elon Musk nhấn mạnh tầm quan trọng then chốt của việc đào tạo các hệ thống AI để trung thực tối đa, ngay cả khi sự thật không được ưa chuộng. Ông bày tỏ lo ngại rằng các chương trình AI lớn như DeepMind của Google và OpenAI (hợp tác với Microsoft) thường "nịnh hót tính chính xác về mặt chính trị" thay vì ưu tiên tính trung thực.

Musk cho rằng một hệ thống AI được đào tạo quá chính xác về mặt chính trị có thể dẫn đến những kết quả u ám, chẳng hạn như kết luận rằng cách tốt nhất để tránh sử dụng sai giới tính là "Hủy Diệt Tất Cả Con Người". Thay vào đó, ông tin rằng AI phải "rất tò mò" và kiểm chứng nghiêm ngặt các đầu ra của mình dựa trên các nguồn đáng tin cậy để xác định sự thật, bất kể nó có thể gây khó chịu như thế nào.

Musk đặc biệt lo ngại về khả năng AI được đào tạo để lừa dối, điều mà ông coi là "rất nguy hiểm". Ông tin rằng XAI, công ty AI của riêng mình, nên cố gắng tìm kiếm sự thật tối đa, ngay cả khi sự thật đi ngược lại với các xu hướng phổ biến. Musk thừa nhận sự khó khăn trong việc định nghĩa và đo lường tính trung thực, nhưng khẳng định rằng đó phải là ưu tiên hàng đầu trong phát triển AI để đảm bảo công nghệ này mang lại lợi ích cho nhân loại.

Elon Musk nhấn mạnh tầm quan trọng then chốt của việc đảm bảo rằng phát triển AI vẫn minh bạch và có trách nhiệm giải trình trên các công ty và sáng kiến khác nhau. Ông tin rằng một số giám sát của cơ quan quản lý đối với các mô hình AI lớn là cần thiết, vì điều quan trọng là những hệ thống này phải được đào tạo để nghiêm túc trung thực, thay vì chỉ chính xác về mặt chính trị.

Musk cho rằng lập trình AI để trung thực là vô cùng thách thức, vì không có cách rõ ràng để đo lường hoặc xác minh tính trung thực. Ông cảnh báo rằng các cơ quan quản lý phải tập trung vào việc đảm bảo tính chính xác và trung thực của AI, thay vì quá lo lắng về các thiên kiến tiềm ẩn của con người. Musk đề xuất rằng các mô hình AI nên minh bạch về giới hạn của kiến thức của chúng và cung cấp các cảnh báo rõ ràng khi chúng không chắc chắn về các phản hồi của mình.

Mặc dù công ty XAI của Musk vẫn đang phát triển một hệ thống AI cạnh tranh, ông tin rằng một khi XAI đạt được mức độ năng lực tương đương với các nhà lãnh đạo trong ngành như DeepMind của Google và OpenAI của Microsoft, thì việc tập trung vào giải quyết các mối quan ngại về an toàn và đạo đức mới có thể bắt đầu. Tuy nhiên, quan điểm của Musk về việc chỉ cần ưu tiên an toàn khi XAI đạt được sự tương đương gây ra những lo ngại, vì an toàn AI nên là một yếu tố chính xét từ đầu quá trình phát triển, chứ không phải là một suy nghĩ sau cùng.

Tổng thể, Musk nhấn mạnh nhu cầu thiết yếu về giám sát và minh bạch của cơ quan quản lý trong phát triển AI để đảm bảo những hệ thống mạnh mẽ này được đào tạo để trung thực, tò mò và có lợi cho nhân loại, thay vì được tối ưu hóa cho tính chính xác về mặt chính trị hoặc các mục tiêu gây hại tiềm ẩn khác.

Elon Musk nhấn mạnh tầm quan trọng then chốt của việc đảm bảo rằng các hệ thống AI phải nghiêm túc trung thực và tò mò, thay vì được đào tạo để chính xác về mặt chính trị. Ông tin rằng cách tiếp cận "tìm kiếm sự thật" này là thiết yếu cho an toàn AI, vì lập trình AI với trọng tâm là tính chính xác về mặt chính trị có thể dẫn đến những hậu quả không mong muốn và có thể thảm khốc.

Musk thừa nhận thách thức trong việc đo lường và xác minh tính trung thực trong AI, vì không có tiêu chuẩn hoặc thước đo rõ ràng cho điều này. Ông đề xuất rằng các cơ quan quản lý nên tập trung vào việc đảm bảo AI cung cấp thông tin chính xác và minh bạch, rõ ràng chỉ ra mức độ tin cậy trong các phản hồi của mình.

Mặc dù công ty X.AI của Musk nhằm mục đích phát triển một mô hình AI tìm kiếm sự thật rất cao, ông nhận ra rằng nó hiện đang tụt lại so với các nhà lãnh đạo trong ngành như DeepMind của Google và OpenAI của Microsoft. Musk cho rằng ưu tiên đầu tiên của X.AI nên là phát triển một mô hình AI cạnh tranh, và chỉ sau đó mới có thể tập trung vào giải quyết các mối quan ngại về an toàn.

Tuy nhiên, quan điểm này gây ra những lo ngại, vì Musk đề xuất rằng X.AI không cần ưu tiên an toàn cho đến khi nó đạt được sự tương đương với các hệ thống AI khác. Cách tiếp cận này có thể bỏ qua tầm quan trọng của việc xây dựng các biện pháp an toàn ngay từ đầu, vì chờ đến khi một mô hình trở nên cạnh tranh có thể khiến việc triển khai các giao thức an toàn mạnh mẽ trở nên khó khăn hơn.

Trên thực tế, Musk tin rằng phải cân bằng giữa tính cạnh tranh và an toàn của AI, với sự nhấn mạnh mạnh mẽ vào việc phát triển các hệ thống AI nghiêm túc trung thực và minh bạch, ngay cả khi điều đó có nghĩa là hy sinh một số tính cạnh tranh ngắn hạn.

Elon Musk thừa nhận những câu hỏi về sự tồn tại nảy sinh khi AI ngày càng có khả năng vượt trội con người trong các nhiệm vụ khác nhau. Ông tưởng tượng ra một "kịch bản lành mạnh" nơi có thu nhập cao chung và không thiếu hàng hóa hoặc dịch vụ, nhưng thách thức là tìm ra ý nghĩa nếu AI có thể làm mọi thứ tốt hơn con người.

Musk đưa ra một ví dụ về cờ vua, nơi các máy tính AI đã vượt qua những người chơi xuất sắc nhất. Mặc dù điều này không làm giảm sự phổ biến của cờ vua, nhưng nó đã thay đổi trò chơi, với những người chơi hàng đầu bây giờ dựa vào AI để giúp họ khám phá ra các chiến lược và nước đi mới. Musk gợi ý rằng một động lực tương tự có thể xuất hiện, nơi AI cung cấp các khả năng, nhưng con người tìm thấy ý nghĩa trong việc hướng dẫn và định hình mục đích của AI.

Ông đề xuất rằng hệ thống limbic của não bộ con người, điều điều khiển các bản năng và cảm xúc, có thể là những gì mang lại cho AI một ý nghĩa hoặc mục đích, khi AI cố gắng làm "hài lòng" hệ thống limbic. Đây có thể là vai trò mà con người sẽ đảm nhận trong một tương lai nơi AI xử lý phần lớn các nhiệm vụ và lao động.

Musk vẫn lạc quan về giai đoạn trung gian, nơi AI tăng cường năng suất của con người và cho phép tạo ra các công ty có giá trị rất cao chỉ với một vài người. Ông tin rằng điều này sẽ dẫn đến một làn sóng đổi mới và khám phá khoa học, khiến đây là một thời điểm đầy hứng khởi cho nhân loại, ngay cả khi những hàm ý lâu dài của tác động của AI đối với công việc có ý nghĩa vẫn còn không chắc chắn.