기밀 컴퓨팅과 같은 새로운 암호화 및 하드웨어 보안 기술은 CPU 호스트를 넘어 AI 가속기로 신뢰할 수 있는 컴퓨팅 기본 요소를 확장함으로써 모델 가중치와 추론 데이터를 보호할 수 있는 가능성을 제공합니다. 이러한 접근 방식은 다음과 같은 주요 특성을 달성할 수 있습니다:

1. 암호화 증명: GPU는 진본성과 무결성에 대해 암호화로 증명될 수 있어, 모델 가중치가 승인된 하드웨어에서만 실행되도록 보장합니다.

2. 암호화된 모델 가중치: 모델 가중치는 GPU에 로드되기 전까지 암호화된 상태로 유지되어 무단 접근을 방지할 수 있습니다.

3. GPU 특정 암호화: GPU의 고유한 암호화 ID를 통해 모델 가중치와 추론 데이터를 특정 GPU 또는 GPU 그룹에 대해 암호화할 수 있어, 승인된 당사자만이 해독할 수 있습니다.

에어 갭은 필수적인 보안 메커니즘으로 자주 언급되며, 이는 근거 없는 것이 아닙니다. 네트워크 세그멘테이션은 중요 인프라의 제어 시스템과 같은 민감한 워크로드를 보호하는 강력한 제어 수단입니다. 대신 우리는 오프라인에서 작동하고 인터넷을 포함한 신뢰할 수 없는 네트워크와 분리된 유연한 네트워크 격리를 우선시합니다.

우리가 설명하는 네트워크는 한 테넌트에 대한 액세스를 가진 위협 행위자가 다른 테넌트에 저장된 모델 가중치를 손상시킬 수 있는 취약점 클래스를 제거해야 합니다. 이를 통해 데이터와 워크로드의 기밀성, 무결성 및 가용성이 내부자 위협 또는 기타 침해에도 유지될 수 있습니다.

강력한 네트워크 및 테넌트 격리를 통해 AI 인프라를 설계함으로써 공격 표면을 줄이고 이러한 고급 AI 기능의 핵심인 민감한 모델 가중치를 보호하면서 AI 시스템이 복원력 있고 오프라인 방식으로 작동할 수 있습니다.

AI 데이터 센터의 운영 및 물리적 보안 조치는 데이터 센터와 그 워크로드의 기밀성, 무결성 및 가용성을 손상시킬 수 있는 내부자 위협에 대한 복원력을 보장하는 데 필요합니다. 여기에는 다음이 포함됩니다:

• 데이터 센터 시설 및 핵심 인프라에 대한 물리적 액세스를 제한하고 감사하기 위한 강력한 액세스 제어 및 모니터링.
• 데이터 센터 내 모든 활동에 대한 가시성을 제공하는 포괄적인 비디오 감시 및 로깅.
• 중단에 대응하여 가용성을 유지하기 위한 중복 전원 및 냉각 시스템.
• 데이터 유출을 방지하기 위한 폐기 및 소독 절차.
• 무단 변경을 탐지하고 저지하기 위한 무결성 봉인 및 기타 물리적 보안 조치.
• 데이터 센터 직원을 검증하고 모니터링하기 위한 엄격한 인력 보안 관행.
• 보안 사고 또는 중단을 신속하게 식별, 격리 및 복구하기 위한 사고 대응 및 재해 복구 계획.

이러한 운영 및 물리적 보안 통제는 AI 모델 및 학습 데이터를 포함한 데이터 센터 환경의 기밀성과 무결성을 보호하는 다층 방어를 구축합니다.

AI 개발자들이 인프라 제공업체와 협력할 때 지적 재산권이 보호된다는 확신을 가질 수 있어야 하므로, AI 인프라는 관련 보안 표준을 준수하고 감사를 받아야 합니다. SOC 2, ISO/IEC, NIST 등의 기존 표준이 여전히 적용될 것입니다. 그러나 AI 시스템의 고유한 보안 과제를 해결하기 위한 AI 특화 보안 및 규제 표준이 추가될 것으로 예상됩니다.

AI 특화 감사 및 컴플라이언스 프로그램을 통해 AI 관련 데이터와 모델의 기밀성, 무결성 및 가용성이 유지되도록 보장할 수 있습니다. 이러한 표준을 준수함으로써 인프라 제공업체는 AI 개발자 고객의 귀중한 지적 재산을 보호하겠다는 의지를 입증할 수 있습니다. 이는 다시 신뢰를 구축하고 AI 개발자가 핵심 자산이 안전하게 보호된다는 확신 속에서 혁신에 집중할 수 있게 해줄 것입니다.

AI 특화 표준 개발에는 산업계, 학계, 규제 기관 간의 협력이 필요할 것입니다. 이러한 공동 노력을 통해 AI 생태계의 보안을 위한 견고한 프레임워크를 수립하고, AI 기술의 급속한 발전에 적절한 안전장치와 컴플라이언스 조치가 수반되도록 할 수 있습니다.

Open AI는 AI가 사이버 방어에 혁신적일 것이며, 공격자와 방어자 간의 균형을 맞출 수 있는 잠재력이 있다고 믿습니다. 전 세계의 방어자들은 위협을 탐지하고 대응하는 데 필요한 방대한 보안 신호를 수집하고 분석하는 데 어려움을 겪고 있습니다. 또한 정교한 보안 프로그램을 구축하는 데 필요한 상당한 자원으로 인해 많은 조직에게 의미 있는 사이버 방어가 불가능합니다.

AI는 사이버 방어자를 지원하고 보안을 향상시킬 수 있는 기회를 제공합니다. AI를 보안 워크플로에 통합하여 보안 엔지니어의 작업을 가속화하고 수고를 줄일 수 있습니다. Open AI에서는 인간 분석가 팀으로는 처리할 수 없는 고용량 및 민감한 보안 원격 측정을 분석하는 데 자사의 모델을 사용합니다. AI를 활용하여 방어자는 위협을 더 효과적으로 탐지, 조사 및 대응할 수 있어 정교한 공격자와의 격차를 좁힐 수 있습니다.

Open AI는 AI 기반 사이버 방어 기술의 발전에 전념하고 있습니다. 그들은 자신들이 개요한 보안 조치를 우회하는 방법을 탐구하는 등의 보안 연구가 급변하는 위협 환경에 대처하는 데 필수적이라고 믿습니다. 궁극적으로 이러한 AI 기반 보안 통제는 완벽한 시스템이나 완벽한 보안이 없다는 점을 감안하여 다층 방어를 제공해야 합니다.

Open AI는 자신들이 제안한 보안 조치가 시작에 불과하며 AI 보안 상태가 급속도로 발전함에 따라 지속적인 보안 연구가 필요하다는 점을 인정합니다. 그들은 완벽한 시스템이나 완벽한 보안이 없다는 것을 인정합니다.

이를 해결하기 위해 Open AI는 다음과 같은 필요성을 강조합니다:

1. 복원력: 시간이 지남에 따라 발견될 수밖에 없는 격차와 취약점이 있기 때문에 보안 통제는 다층 방어를 제공해야 합니다.

2. 중복성: 단일 보안 조치에 의존하는 것은 충분하지 않습니다. 전체 시스템의 복원력을 보장하기 위해서는 다중 보호 계층이 필요합니다.

3. 지속적인 보안 연구: 제안된 보안 조치를 우회하는 방법을 이해하고 발생할 수 있는 격차를 식별하고 해결하기 위한 지속적인 연구가 필요합니다. 이에는 잠재적 위협에 앞서 나가기 위한 공격적 및 방어적 연구가 포함됩니다.

Open AI는 AI 보안 분야가 아직 초기 단계에 있으며, 첨단 AI 시스템을 보호하기 위해서는 능동적이고 적응적인 접근 방식이 필요하다는 것을 인식하고 있습니다. 복원력, 중복성 및 지속적인 보안 연구를 통해 그들은 급변하는 위협 환경을 선도하고 AI 인프라의 안전과 보안을 보장하고자 합니다.