Các công nghệ mã hóa và bảo mật phần cứng mới nổi như tính toán bảo mật có thể mang lại lời hứa về việc bảo vệ trọng số mô hình và dữ liệu suy luận bằng cách mở rộng các nguyên tắc tính toán đáng tin cậy ra khỏi máy chủ CPU và vào các bộ gia tốc AI. Cách tiếp cận này có tiềm năng để đạt được một số thuộc tính chính:

1. Xác thực mật mã học: GPU có thể được xác thực mật mã học về tính xác thực và toàn vẹn, đảm bảo rằng trọng số mô hình chỉ được thực thi trên phần cứng được ủy quyền.

2. Trọng số mô hình được mã hóa: Trọng số mô hình có thể vẫn được mã hóa cho đến khi chúng được lập và tải lên GPU, ngăn chặn truy cập trái phép.

3. Mã hóa cụ thể cho GPU: Danh tính mật mã học duy nhất của GPU có thể cho phép trọng số mô hình và dữ liệu suy luận được mã hóa cho các GPU cụ thể hoặc nhóm GPU, đảm bảo rằng chỉ có các bên được ủy quyền mới có thể giải mã.

Khoảng cách không gian thường được trích dẫn là một cơ chế bảo mật thiết yếu, và điều này không phải là không có cơ sở. Phân đoạn mạng là một biện pháp kiểm soát mạnh mẽ được sử dụng để bảo vệ các tải trọng nhạy cảm như hệ thống điều khiển cho cơ sở hạ tầng quan trọng. Thay vào đó, chúng tôi ưu tiên cách ly mạng linh hoạt cho phép các hệ thống AI hoạt động ngoại tuyến, được tách biệt khỏi các mạng không đáng tin cậy, bao gồm cả internet.

Các mạng mà chúng tôi mô tả phải loại bỏ các lớp lỗ hổng có thể cho phép một tác nhân đe dọa với quyền truy cập vào một người thuê bao gây ảnh hưởng đến trọng số mô hình được lưu trữ trong người thuê bao khác. Điều này đảm bảo rằng tính bảo mật, toàn vẹn và sẵn sàng của dữ liệu và tải trọng được duy trì, ngay cả khi có các mối đe dọa từ bên trong hoặc các sự cố khác.

Bằng cách thiết kế cơ sở hạ tầng AI với cách ly mạng và người thuê bao mạnh mẽ, chúng tôi có thể cho phép các hệ thống AI hoạt động theo cách bền vững, ngoại tuyến, giảm bề mặt tấn công và bảo vệ các trọng số mô hình nhạy cảm là cốt lõi của các khả năng AI nâng cao này.

Các biện pháp an ninh vận hành và vật lý cho các trung tâm dữ liệu AI là cần thiết để đảm bảo khả năng phục hồi trước các mối đe dọa từ bên trong có thể ảnh hưởng đến tính bảo mật, toàn vẹn và sẵn sàng của trung tâm dữ liệu và các tải trọng của nó. Điều này bao gồm:

• Các biện pháp kiểm soát và giám sát truy cập mạnh mẽ để hạn chế và kiểm tra việc truy cập vật lý vào các cơ sở trung tâm dữ liệu và cơ sở hạ tầng quan trọng.
• Giám sát video toàn diện và ghi nhật ký để cung cấp khả năng nhìn thấy tất cả các hoạt động trong trung tâm dữ liệu.
• Hệ thống điện và làm mát dự phòng để duy trì khả năng sẵn sàng trong trường hợp gián đoạn.
• Các quy trình an toàn và khử nhiễm để tiêu hủy và khử nhiễm phần cứng đã ngừng hoạt động nhằm ngăn chặn rò rỉ dữ liệu.
• Các dấu niêm phong chống can thiệp và các biện pháp an ninh vật lý khác để phát hiện và ngăn chặn các sửa đổi trái phép đối với cơ sở hạ tầng.
• Các thực tiễn an ninh nhân sự nghiêm ngặt, chẳng hạn như kiểm tra lý lịch và đào tạo nhận thức về an ninh, để thẩm định và giám sát nhân viên trung tâm dữ liệu.
• Các kế hoạch ứng phó với sự cố và phục hồi thảm họa để nhanh chóng xác định, chứa và phục hồi từ các sự cố an ninh hoặc sự cố.

Các biện pháp kiểm soát an ninh vận hành và vật lý này hoạt động phối hợp với nhau để tạo ra một hệ thống phòng thủ nhiều lớp bảo vệ tính bảo mật và toàn vẹn của môi trường trung tâm dữ liệu, bao gồm cả các mô hình AI và dữ liệu đào tạo được lưu trữ bên trong.

Vì các nhà phát triển AI cần được đảm bảo rằng quyền sở hữu trí tuệ của họ được bảo vệ khi làm việc với các nhà cung cấp cơ sở hạ tầng, cơ sở hạ tầng AI phải được kiểm toán và tuân thủ các tiêu chuẩn bảo mật hiện có. Các tiêu chuẩn hiện có như SOC 2, ISO/IEC và các gia đình NIST vẫn sẽ áp dụng. Tuy nhiên, danh sách dự kiến sẽ mở rộng để bao gồm các tiêu chuẩn bảo mật và quy định cụ thể cho AI nhằm giải quyết các thách thức độc đáo trong việc bảo mật các hệ thống AI.

Các chương trình kiểm toán và tuân thủ cụ thể cho AI này sẽ giúp đảm bảo rằng tính bảo mật, toàn vẹn và sẵn sàng của dữ liệu và mô hình liên quan đến AI được duy trì. Bằng cách tuân thủ các tiêu chuẩn này, các nhà cung cấp cơ sở hạ tầng có thể chứng minh cam kết của họ trong việc bảo vệ quyền sở hữu trí tuệ có giá trị của khách hàng nhà phát triển AI. Điều này, lại một lần nữa, sẽ thúc đẩy sự tin tưởng và cho phép các nhà phát triển AI tập trung vào đổi mới, biết rằng các tài sản quan trọng của họ được bảo vệ.

Việc phát triển các tiêu chuẩn cụ thể cho AI này sẽ yêu cầu sự hợp tác giữa ngành công nghiệp, học viện và các cơ quan quản lý. Nỗ lực tập thể này sẽ giúp thiết lập một khuôn khổ mạnh mẽ để bảo mật hệ sinh thái AI, đảm bảo rằng các bước tiến nhanh chóng trong công nghệ AI được kèm theo các biện pháp bảo vệ và tuân thủ thích hợp.

Open AI tin rằng AI sẽ là một điều đột phá trong việc phòng thủ mạng, với tiềm năng cân bằng lại sân chơi giữa các kẻ tấn công và người bảo vệ. Các nhà bảo vệ trên toàn cầu phải vật lộn để thu thập và phân tích lượng tín hiệu bảo mật khổng lồ cần thiết để phát hiện và ứng phó với các mối đe dọa đối với mạng của họ. Ngoài ra, các nguồn lực đáng kể cần thiết để xây dựng một chương trình bảo mật tinh vi đặt việc phòng thủ mạng có ý nghĩa ra ngoài tầm với của nhiều tổ chức.

AI mang lại cơ hội để tăng cường các nhà bảo vệ mạng và cải thiện an ninh. AI có thể được tích hợp vào các quy trình bảo mật để tăng tốc các kỹ sư bảo mật và giảm công việc lặp đi lặp lại trong công việc của họ. Tại Open AI, họ sử dụng các mô hình của mình để phân tích các tín hiệu bảo mật có khối lượng lớn và nhạy cảm mà các nhóm phân tích viên con người sẽ không thể tiếp cận được. Bằng cách sử dụng AI, các nhà bảo vệ có thể phát hiện, điều tra và ứng phó với các mối đe dọa hiệu quả hơn, giúp thu hẹp khoảng cách với các kẻ tấn công tinh vi.

Open AI cam kết thúc đẩy trạng thái của nghệ thuật trong việc phòng thủ mạng dựa trên AI. Họ tin rằng việc nghiên cứu an ninh liên tục, bao gồm cả việc khám phá cách để vượt qua các biện pháp bảo mật mà họ đã nêu, là thiết yếu để luôn đi trước bối cảnh đe dọa đang nhanh chóng thay đổi. Cuối cùng, các biện pháp kiểm soát an ninh dựa trên AI này phải cung cấp phòng thủ sâu, vì không có hệ thống hoàn hảo và không có an ninh hoàn hảo.

Open AI thừa nhận rằng các biện pháp bảo mật mà họ đề xuất có khả năng chỉ là khởi đầu, và rằng nghiên cứu an ninh liên tục là cần thiết do tình trạng an ninh AI đang nhanh chóng phát triển. Họ nhận ra rằng không có hệ thống hoàn hảo và không có an ninh hoàn hảo.

Để giải quyết vấn đề này, Open AI nhấn mạnh nhu cầu về:

1. Khả năng phục hồi: Các biện pháp kiểm soát an ninh phải cung cấp phòng thủ sâu, vì sẽ không tránh khỏi việc phát hiện ra các lỗ hổng và lỗ hổng theo thời gian.

2. D冀phòng: Chỉ dựa vào một biện pháp bảo mật là không đủ. Nhiều lớp bảo vệ là cần thiết để đảm bảo tính bền vững tổng thể của hệ thống.

3. Nghiên cứu an ninh liên tục: Nghiên cứu liên tục là cần thiết để hiểu cách vượt qua các biện pháp bảo mật được đề xuất, cũng như để xác định và khắc phục bất kỳ lỗ hổng nào phát sinh. Điều này bao gồm cả nghiên cứu tấn công và phòng thủ để luôn đi trước các mối đe dọa tiềm ẩn.

Open AI nhận ra rằng lĩnh vực an ninh AI vẫn còn ở giai đoạn đầu, và một cách tiếp cận chủ động và thích ứng là cần thiết để bảo vệ các hệ thống AI nâng cao. Bằng cách ôm ấp khả năng phục hồi, dự phòng và nghiên cứu an ninh liên tục, họ nhằm mục tiêu luôn đi trước bối cảnh đe dọa đang phát triển và đảm bảo an toàn và bảo mật cho cơ sở hạ tầng AI của họ.