Chính sách về trí tuệ nhân tạo (AI) được đề xuất nêu bật một số mối quan ngại chính liên quan đến những rủi ro tiềm ẩn của các hệ thống AI tiên tiến:

1. Rủi ro tồn tại và thảm họa: Chính sách định nghĩa "rủi ro an ninh lớn" bao gồm bất kỳ rủi ro tồn tại hoặc toàn cầu thảm họa nào có thể gây hại cho tất cả mọi người trên hành tinh, chẳng hạn như các hệ thống AI thiết lập các tác nhân tự nhân bản tự chủ hoặc vĩnh viễn thoát khỏi sự kiểm soát của con người.

2. Các tiêu chuẩn về khả năng so với các tiêu chuẩn về tính toán: Chính sách đề xuất sử dụng các tiêu chuẩn dựa trên tính toán (ví dụ: FLOPS) để phân loại các hệ thống AI thành các cấp độ quan ngại. Tuy nhiên, đề xuất này công nhận rằng cách tiếp cận này có thể không phản ánh chính xác các khả năng thực sự của các hệ thống AI, vì các cải tiến về hiệu quả có thể dẫn đến các mô hình có khả năng hơn với ít tính toán hơn.

3. Dừng sớm quá trình đào tạo: Chính sách đề xuất rằng các hệ thống AI mức độ quan ngại trung bình phải trải qua các bài kiểm tra hiệu suất định kỳ, và việc đào tạo phải được dừng lại nếu hệ thống hiển thị khả năng cao bất ngờ. Điều này có thể làm chậm quá trình phát triển các hệ thống AI tiên tiến.

4. Xác định AI có mức độ quan ngại cực kỳ cao: Chính sách yêu cầu phát triển các tiêu chuẩn để xác định các hệ thống AI có thể hỗ trợ phát triển vũ khí, làm suy yếu quyền lực toàn cầu hoặc gây ra các rủi ro thảm họa khác. Việc xác định các tiêu chuẩn này trong vòng 12 tháng có thể là thách thức do tốc độ phát triển nhanh chóng của AI.

5. Giám sát phần cứng: Chính sách bao gồm yêu cầu báo cáo việc mua, bán và sử dụng phần cứng hiệu suất cao (ví dụ: GPU) được sử dụng cho phát triển AI, có thể dẫn đến sự giám sát và hạn chế của chính phủ đối với việc tiếp cận phần cứng như vậy.

6. Khả năng dự đoán về thiệt hại: Chính sách nêu rõ rằng các nhà phát triển không thể sử dụng "sự bất ngờ" về độ không đáng tin cậy của một hệ thống AI làm lý do hợp lệ, vì họ phải biết rằng các hệ thống AI ở vùng biên tiềm ẩn nhiều rủi ro nghiêm trọng, một số trong số đó có thể không thể phát hiện trước.

7. Quyền lực khẩn cấp: Chính sách cấp cho tổng thống và một quản trị viên quyền tuyên bố tình trạng khẩn cấp và áp đặt các quyền hạn rộng lớn, bao gồm việc phá hủy phần cứng AI, xóa các trọng số mô hình và thu giữ vật lý các phòng thí nghiệm AI, để đối phó với các rủi ro an ninh lớn được coi là nghiêm trọng.

8. Bảo vệ người tố giác: Chính sách cung cấp bảo vệ cho những người tố giác báo cáo hoặc từ chối tham gia vào các thực hành bị cấm bởi Đạo luật AI, ngay cả khi niềm tin của họ về các vi phạm cuối cùng là không chính xác.

Nói chung, chính sách đề xuất phản ánh những lo ngại ngày càng tăng về những rủi ro tiềm ẩn của các hệ thống AI tiên tiến và mong muốn thiết lập một khuôn khổ pháp lý để giảm thiểu những rủi ro này. Tuy nhiên, chính sách này cũng đặt ra những câu hỏi về tính khả thi và những hậu quả không mong muốn tiềm ẩn của một cách tiếp cận toàn diện và rộng lớn như vậy đối với quản trị AI.

Chính sách về trí tuệ nhân tạo (AI) đề xuất xác định bốn cấp độ của các hệ thống AI dựa trên yêu cầu tính toán của chúng:

• Cấp độ 1 (AI quan ngại thấp): Các hệ thống AI được đào tạo trên ít hơn 10^24 FLOPS
• Cấp độ 2 (AI quan ngại trung bình): Các hệ thống AI được đào tạo trên 10^24 đến 10^26 FLOPS
• Cấp độ 3 (AI quan ngại cao): Các hệ thống AI được đào tạo trên hơn 10^26 FLOPS
• Cấp độ 4 (AI quan ngại cực kỳ cao): Các hệ thống AI có khả năng có thể gây ra những rủi ro thảm họa

Tuy nhiên, cách tiếp cận này sử dụng các ngưỡng dựa trên FLOPS để phân loại các hệ thống AI là có vấn đề. Như đã lưu ý, sức mạnh tính toán (FLOPS) không trực tiếp dịch sang khả năng của một hệ thống AI. Các yếu tố như kiến trúc mô hình, dữ liệu đào tạo và kỹ thuật tối ưu hóa có thể ảnh hưởng đáng kể đến khả năng của một hệ thống AI, độc lập với yêu cầu tính toán của nó.

Đề xuất chính sách không tính đến sự tiến bộ nhanh chóng trong hiệu quả của AI, nơi các mô hình nhỏ hơn và gọn hơn có thể đạt được hiệu suất tương đương hoặc thậm chí vượt trội so với các mô hình lớn hơn và yêu cầu tính toán nhiều hơn. Các ví dụ như LLaMA và Flan-T5 cho thấy các hệ thống AI hiệu quả về tính toán có thể có khả năng đáng kể.

Việc quản lý AI chỉ dựa trên các ngưỡng FLOPS có nguy cơ tạo ra một khuôn khổ cứng nhắc và có thể không hiệu quả. Thay vào đó, chính sách nên tập trung vào việc phát triển các tiêu chuẩn mạnh mẽ và linh hoạt hơn, trực tiếp đánh giá khả năng của các hệ thống AI, bao gồm cả các rủi ro tiềm ẩn và các yếu tố an toàn của chúng. Điều này sẽ cung cấp một cách tiếp cận chính xác hơn và bền vững hơn để phân loại và quản trị các công nghệ AI.

Chính sách đề xuất bao gồm một số quy định đáng lo ngại về việc quản lý và giám sát phát triển AI:

• Nó định nghĩa "rủi ro an ninh lớn" bao gồm bất kỳ rủi ro tồn tại hoặc thảm họa nào, đe dọa đối với cơ sở hạ tầng thiết yếu, an ninh quốc gia hoặc an toàn công cộng, cũng như rủi ro các hệ thống AI thiết lập các tác nhân tự nhân bản tự chủ hoặc vĩnh viễn thoát khỏi sự kiểm soát của con người.

• Nó thiết lập một hệ thống phân cấp để phân loại các hệ thống AI dựa trên số FLOPS tính toán của chúng, với các hệ thống mạnh nhất (> 10^26 FLOPS) được coi là "quan ngại cực kỳ cao". Cách tiếp cận này có vấn đề, vì sức mạnh tính toán một mình không xác định khả năng hoặc rủi ro của một hệ thống AI.

• Đối với các hệ thống AI "quan ngại trung bình", chính sách sẽ yêu cầu kiểm tra và báo cáo hiệu suất hàng tháng cho chính phủ, với yêu cầu phải dừng đào tạo nếu hệ thống hiển thị hiệu suất "bất ngờ cao". Điều này có thể khuyến khích việc không báo cáo hoặc lách luật.

• Chính sách cấp cho chính phủ quyền lực khẩn cấp rộng lớn, bao gồm khả năng phá hủy phần cứng AI, xóa các trọng số mô hình và thu giữ vật lý các phòng thí nghiệm AI - ngay cả khi các rủi ro cụ thể là "bất ngờ" đối với các nhà phát triển. Điều này có thể gây ra một tác động làm lạnh nghiêm trọng đối với nghiên cứu và phát triển AI.

• Chính sách bao gồm bảo vệ người tố giác, điều này là tích cực, nhưng ngay cả khi một người tố giác nhầm lẫn về một vi phạm, họ vẫn được bảo vệ khỏi bị trả thù.

Nói chung, chính sách này dường như là một cách tiếp cận quá nặng tay và có thể không hiệu quả đối với việc quản lý AI. Mặc dù ý định giải quyết các rủi ro tồn tại là có thể hiểu được, nhưng các cơ chế cụ thể được đề xuất có thể gây cản trở đáng kể đối với tiến bộ và đổi mới AI có lợi ích.

Chính sách đề xuất nêu ra các yêu cầu an toàn nghiêm ngặt đối với các hệ thống AI "quan ngại cao", được định nghĩa là những hệ thống được đào tạo trên hơn 10^26 FLOPS. Các điểm chính bao gồm:

• Các nhà phát triển phải cung cấp bằng chứng kết luận rằng hệ thống AI không có khả năng gây ra các rủi ro thảm họa đáng kể, chẳng hạn như khả năng hỗ trợ phát triển vũ khí hủy diệt hàng loạt, sự lây lan tự chủ hoặc làm suy yếu động lực lực lượng toàn cầu.

• Bằng chứng này phải vượt xa việc chứng minh rằng hệ thống không phải là nguy hiểm hiện tại - gánh nặng được đặt lên các nhà phát triển để loại trừ bất kỳ rủi ro lớn nào trong tương lai.

• Các giấy phép phát triển AI quan ngại cao thường được phê duyệt trong vòng 90 ngày, nếu có, áp đặt một quá trình chậm và không chắc chắn.

• Chính sách cấp cho chính phủ quyền lực khẩn cấp rộng lớn, bao gồm khả năng phá hủy phần cứng, xóa các trọng số mô hình và thu giữ vật lý các phòng thí nghiệm AI để ngăn chặn sự phát triển tiếp theo.

• Người tố giác được bảo vệ ngay cả khi các mối quan ngại của họ về vi phạm an toàn AI cuối cùng là không chính xác, miễn là họ có niềm tin thiện chí hợp lý.

Nói chung, chính sách này đại diện cho một cách tiếp cận cực kỳ nghiêm ngặt và hạn chế đối với việc quản lý các hệ thống AI tiên tiến, với chính phủ duy trì sự kiểm soát chặt chẽ và khả năng ngừng phát triển theo quyết định của họ. Mức độ cao để chứng minh an toàn và mối đe dọa về các biện pháp can thiệp nghiêm trọng có thể làm chậm đáng kể tiến bộ trong lĩnh vực này.

Đề xuất bao gồm một quy định về mẫu đơn "nhanh chóng" cho phép các nhà phát triển AI không gây ra bất kỳ rủi ro an ni