Thư này nêu bật nhiều rủi ro nghiêm trọng do công nghệ trí tuệ nhân tạo (AI) tiên tiến gây ra:

• Làm sâu sắc hơn các bất bình đẳng hiện có
• Thao túng và cung cấp thông tin sai lệch
• Mất kiểm soát các hệ thống AI tự trị, có thể dẫn đến tuyệt chủng của loài người
• Các tác nhân xấu có được quyền truy cập không bị kiểm soát vào các mô hình AI mạnh mẽ và gây ra thiệt hại đáng kể

Thư nêu rằng các rủi ro này đã được các công ty AI, chính phủ và các chuyên gia AI khác công nhận. Tuy nhiên, các công ty AI có động lực tài chính mạnh mẽ để tránh sự giám sát hiệu quả, và các cấu trúc quản trị doanh nghiệp hiện tại không đủ để giải quyết các mối quan ngại này.

Thư kêu gọi các công ty AI cam kết với các nguyên tắc cho phép nhân viên hiện tại và cũ nêu lên các mối quan ngại liên quan đến rủi ro mà không sợ bị trả thù hoặc mất các lợi ích kinh tế đã đầu tư. Họ cũng yêu cầu một quy trình ẩn danh có thể xác minh được để nêu lên các mối quan ngại này với hội đồng quản trị của công ty, các cơ quan quản lý và các tổ chức độc lập.

Nói chung, thư nhấn mạnh sự cấp thiết của việc tăng cường minh bạch, trách nhiệm giải trình và giám sát công cộng để giảm thiểu các rủi ro nghiêm trọng do công nghệ trí tuệ nhân tạo tiên tiến gây ra khi nó tiếp tục phát triển nhanh chóng.

Thư này nêu bật các rủi ro nghiêm trọng do các công nghệ trí tuệ nhân tạo tiên tiến gây ra, từ việc làm sâu sắc hơn các bất bình đẳng hiện có đến khả năng mất kiểm soát các hệ thống AI tự trị có thể dẫn đến tuyệt chủng của loài người. Các tác giả công nhận rằng mặc dù các công ty AI và chính phủ đã nhận ra những rủi ro này, nhưng các công ty AI có động lực tài chính mạnh mẽ để tránh sự giám sát hiệu quả.

Các tác giả cho rằng các cấu trúc quản trị doanh nghiệp hiện tại không đủ để giải quyết các mối quan ngại này, vì các công ty AI sở hữu nhiều thông tin không công khai về khả năng, giới hạn và mức độ rủi ro của các hệ thống của họ, cũng như tính đầy đủ của các biện pháp bảo vệ và mức độ rủi ro. Tuy nhiên, họ chỉ có nghĩa vụ yếu ớt để chia sẻ thông tin này với chính phủ và không có nghĩa vụ với xã hội dân sự.

Thư kêu gọi các công ty AI cam kết với các nguyên tắc nhằm tăng cường minh bạch và trách nhiệm giải trình, bao gồm:

1. Không ký kết hoặc thực thi bất kỳ thỏa thuận nào cấm phê bình hoặc chỉ trích công ty về các mối quan ngại liên quan đến rủi ro, cũng như không trả thù vì những chỉ trích như vậy bằng cách cản trở bất kỳ lợi ích kinh tế đã đầu tư.

2. Tạo điều kiện cho một quy trình ẩn danh có thể xác minh được để nhân viên hiện tại và cũ nêu lên các mối quan ngại liên quan đến rủi ro với hội đồng quản trị của công ty, các cơ quan quản lý và các tổ chức độc lập phù hợp.

3. Hỗ trợ một văn hóa phê bình cởi mở và cho phép nhân viên hiện tại và cũ nêu lên các mối quan ngại liên quan đến rủi ro về các công nghệ của công ty với công chúng, hội đồng quản trị của công ty, các cơ quan quản lý hoặc các tổ chức độc lập phù hợp, trong khi bảo vệ bí mật thương mại và quyền sở hữu trí tuệ.

Các tác giả cho rằng những biện pháp này là cần thiết để đảm bảo rằng các lợi ích tiềm năng của trí tuệ nhân tạo có thể được thực hiện trong khi giảm thiểu các rủi ro nghiêm trọng do các công nghệ này gây ra. Thư nhấn mạnh sự cần thiết của sự giám sát và quản trị hiệu quả để giải quyết các thách thức do sự phát triển nhanh chóng của các hệ thống trí tuệ nhân tạo tiên tiến.

Thư này nêu bật các vấn đề đáng lo ngại xung quanh các cấu trúc quản trị doanh nghiệp của các công ty AI hàng đầu. Nó nêu rằng trong khi các công ty này sở hữu nhiều thông tin không công khai về khả năng, giới hạn và rủi ro của các hệ thống AI của họ, họ hiện chỉ có nghĩa vụ yếu ớt để chia sẻ thông tin này với chính phủ và công chúng.

Thư cho rằng các công ty AI có động lực tài chính mạnh mẽ để tránh sự giám sát hiệu quả, và các cấu trúc quản trị doanh nghiệp hiện tại không đủ để giải quyết vấn đề này. Nó đề cập đến ví dụ về OpenAI, nơi cấu trúc và tính độc lập đặc biệt của hội đồng quản trị cho phép nó đưa ra các quyết định mà không cần tham vấn các bên liên quan, dẫn đến việc Sam Altman, Giám đốc điều hành, bị loại bỏ đột ngột. Sự cố này nhấn mạnh hậu quả của một cấu trúc quản trị không cân bằng các mục tiêu tổ chức và lợi ích của các bên liên quan khác nhau.

Trong khi đó, thư dẫn chứng trường hợp của Anthropic, công ty đã phát triển một mô hình quản trị nhằm hỗ trợ hiệu quả hơn cả sứ mệnh và mục tiêu tài chính của mình. Cấu trúc này nhằm ngăn ngừa các xung đột như ở OpenAI bằng cách kết hợp các biện pểm kiểm tra, cân bằng và đáp ứng các quan điểm của các bên liên quan khác nhau.

Thư kết luận bằng cách kêu gọi các công ty AI cam kết với các nguyên tắc nhằm tạo ra một văn hóa phê bình cởi mở và cho phép nhân viên hiện tại và cũ nêu lên các mối quan ngại liên quan đến rủi ro mà không sợ bị trả thù hoặc mất các lợi ích kinh tế đã đầu tư. Điều này, theo các tác giả, là cần thiết để đảm bảo sự giám sát và trách nhiệm giải trình công cộng đầy đủ đối với sự phát triển của các hệ thống trí tuệ nhân tạo tiên tiến.

Thư này nêu bật nhu cầu cấp thiết về tăng cường minh bạch và bảo vệ nhân viên trong quá trình phát triển các hệ thống trí tuệ nhân tạo tiên tiến. Các điểm chính:

• Các công ty AI sở hữu nhiều thông tin không công khai về khả năng, giới hạn và rủi ro của các hệ thống của họ, nhưng chỉ có nghĩa vụ yếu ớt để chia sẻ thông tin này với chính phủ và công chúng.

• Các cấu trúc quản trị doanh nghiệp hiện tại không đủ để giải quyết đầy đủ những rủi ro này, vì các công ty AI có động lực tài chính mạnh mẽ để tránh sự giám sát hiệu quả.

• Các thỏa thuận bảo mật rộng rãi ngăn cản nhân viên hiện tại và cũ nêu lên các mối quan ngại của họ, vì họ có nguy cơ mất khoản bồi thường cổ phần đáng kể nếu lên tiếng.

• Thư kêu gọi các công ty AI cam kết với các nguyên tắc bảo vệ khả năng của nhân viên nêu lên các chỉ trích liên quan đến rủi ro mà không bị trả thù, và tạo điều kiện cho việc báo cáo ẩn danh các mối quan ngại với hội đồng quản trị của công ty, các cơ quan quản lý và các chuyên gia độc lập.

• Các quy trình minh bạch và có trách nhiệm giải trình là thiết yếu để đảm bảo sự phát triển có trách nhiệm của các công nghệ trí tuệ nhân tạo biến đổi, những công nghệ này có thể gây ra những rủi ro tồn tại đối với nhân loại. Trao quyền cho nhân viên thảo luận công khai về những vấn đề này là một bước quan trọng.

Thư từ các nhân viên hiện tại và cũ tại các công ty AI tiên phong kêu gọi các công ty AI tiên tiến cam kết với một số nguyên tắc chính sau:

1. Không Có Thỏa Thuận Chỉ Trích: Các công ty sẽ không ký kết hoặc thực thi bất kỳ thỏa thuận nào cấm phê bình hoặc chỉ trích công ty về các mối quan ngại liên quan đến rủi ro.

2. Không Có Trả Thù: Các công ty sẽ không trả thù nhân viên vì nêu lên các chỉ trích liên quan đến rủi ro bằng cách cản trở bất kỳ lợi ích kinh tế đã đầu tư.

3. Quy Trình Báo Cáo Ẩn Danh: Các công ty sẽ tạo điều kiện cho một quy trình ẩn danh có thể xác minh được để nhân viên hiện tại và cũ nêu lên các mối quan ngại liên quan đến rủi ro với hội đồng quản trị của công ty, các cơ quan quản lý và các tổ chức độc lập phù hợp.

4. Văn Hóa Phê Bình Cởi Mở: Các công ty sẽ hỗ trợ một văn hóa phê bình cởi mở và cho phép nhân viên hiện tại và cũ nêu lên các mối quan ngại liên quan đến rủi ro về các công nghệ của họ với công chúng, hội đồng quản trị của công ty, các cơ quan quản lý hoặc các tổ chức độc lập phù hợp, miễn là bí mật thương mại và quyền sở hữu trí tuệ được bảo vệ.

Thư cho rằng những nguyên tắc này là cần thiết vì các công ty AI hiện có động lực tài chính mạnh mẽ để tránh sự giám sát hiệu quả, và các cấu trúc quản trị doanh nghiệp hiện có không đủ để giải quyết các rủi ro nghiêm trọng do các hệ thống trí tuệ nhân tạo tiên tiến gây ra. Bằng cách cam kết với những nguyên tắc đạo đức này, thư nêu rằng các công ty AI có thể giúp đảm bảo tính minh bạch và trách nhiệm giải trình xung quanh sự phát triển của các công nghệ trí tuệ nhân tạo biến đổi.

Thư "Quyền Cảnh Báo về Trí Tuệ Nhân Tạo Tiên Tiến" nêu lên những mối quan ngại đáng kể về các rủi ro tiềm ẩn do các hệ thống trí tuệ nhân tạo tiên tiến gây ra, bao gồm việc làm sâu sắc hơn các bất bình đẳng hiện có, thao túng và cung cấp thông tin sai lệch, và mất kiểm soát các hệ thống AI tự trị có thể dẫn đến tuyệt chủng của loài người.

Thư nhấn mạnh rằng mặc dù các công ty AI đã công nhận những