As tecnologias emergentes de criptografia e segurança de hardware, como a computação confidencial, oferecem a promessa de proteger os pesos do modelo e os dados de inferência, estendendo os primitivos de computação confiável além do host da CPU e para os aceleradores de IA. Essa abordagem tem o potencial de alcançar várias propriedades-chave:

1. Atestado Criptográfico: As GPUs podem ser criptograficamente atestadas quanto à autenticidade e integridade, garantindo que os pesos do modelo sejam executados apenas em hardware autorizado.

2. Pesos do Modelo Criptografados: Os pesos do modelo podem permanecer criptografados até serem preparados e carregados na GPU, impedindo o acesso não autorizado.

3. Criptografia Específica da GPU: A identidade criptográfica única das GPUs pode permitir que os pesos do modelo e os dados de inferência sejam criptografados para GPUs específicas ou grupos de GPUs, garantindo a descriptografia apenas por partes autorizadas.

Os air gaps são frequentemente citados como um mecanismo de segurança essencial, e isso não é infundado. A segmentação de rede é um controle poderoso usado para proteger cargas de trabalho sensíveis, como os sistemas de controle de infraestruturas críticas. Em vez disso, priorizamos o isolamento flexível da rede que permite que os sistemas de IA trabalhem offline, separados de redes não confiáveis, incluindo a internet.

As redes que descrevemos devem eliminar classes de vulnerabilidades que poderiam permitir que um ator ameaçador com acesso a um locatário comprometa os pesos do modelo armazenados em outro locatário. Isso garante que a confidencialidade, integridade e disponibilidade dos dados e cargas de trabalho sejam mantidas, mesmo diante de possíveis ameaças internas ou outros comprometimentos.

As medidas de segurança operacional e física para os data centers de IA são necessárias para garantir a resiliência contra ameaças internas que podem comprometer a confidencialidade, integridade e disponibilidade do data center e de suas cargas de trabalho. Isso inclui:

• Controles robustos de acesso e monitoramento para restringir e auditar o acesso físico às instalações do data center e à infraestrutura crítica.
• Vigilância e registro de vídeo abrangentes para fornecer visibilidade sobre todas as atividades dentro do data center.
• Sistemas redundantes de energia e refrigeração para manter a disponibilidade diante de interrupções.
• Procedimentos seguros de descarte e saneamento para hardware desativado, a fim de evitar vazamentos de dados.
• Selos à prova de violação e outras medidas de segurança física para detectar e deter modificações não autorizadas na infraestrutura.
• Práticas rigorosas de segurança pessoal, como verificações de antecedentes e treinamento de conscientização sobre segurança, para avaliar e monitorar a equipe do data center.
• Planos de resposta a incidentes e recuperação de desastres para identificar, conter e recuperar rapidamente de incidentes de segurança ou interrupções.

Como os desenvolvedores de IA precisam de garantias de que sua propriedade intelectual está protegida ao trabalhar com provedores de infraestrutura, a infraestrutura de IA deve ser auditada e estar em conformidade com as normas de segurança aplicáveis. Padrões existentes, como SOC 2, ISO/IEC e famílias NIST, ainda se aplicarão. No entanto, espera-se que a lista cresça para incluir padrões de segurança e regulamentação específicos para IA, que abordem os desafios únicos da segurança de sistemas de IA.

Esses programas de auditoria e conformidade específicos para IA ajudarão a garantir que a confidencialidade, integridade e disponibilidade dos dados e modelos relacionados à IA sejam mantidas. Ao aderir a esses padrões, os provedores de infraestrutura podem demonstrar seu compromisso em proteger a valiosa propriedade intelectual de seus clientes desenvolvedores de IA. Isso, por sua vez, fomentará a confiança e permitirá que os desenvolvedores de IA se concentrem na inovação, sabendo que seus ativos críticos estão protegidos.

A Open AI acredita que a IA será transformadora para a defesa cibernética, com o potencial de nivelar o campo de jogo entre atacantes e defensores. Os defensores em todo o mundo lutam para absorver e analisar a enorme quantidade de sinais de segurança necessários para detectar e responder a ameaças em suas redes. Além disso, os recursos significativos necessários para construir um programa de segurança sofisticado colocam a defesa cibernética significativa fora do alcance de muitas organizações.

A IA apresenta uma oportunidade para capacitar os defensores cibernéticos e melhorar a segurança. A IA pode ser incorporada aos fluxos de trabalho de segurança para acelerar os engenheiros de segurança e reduzir o esforço em seu trabalho. Na Open AI, eles usam seus modelos para analisar telemetria de segurança de alto volume e sensível que, de outra forma, estaria fora do alcance de equipes de analistas humanos. Ao aproveitar a IA, os defensores podem detectar, investigar e responder mais efetivamente às ameaças, ajudando a fechar a lacuna com os atacantes sofisticados.

A Open AI se compromete a avançar no estado da arte da defesa cibernética impulsionada por IA. Eles acreditam que a pesquisa de segurança contínua, incluindo a exploração de maneiras de contornar as medidas de segurança que eles delinearam, é essencial para ficar à frente do cenário de ameaças em rápida evolução. Em última análise, esses controles de segurança impulsionados por IA devem fornecer defesa em profundidade, pois não existem sistemas perfeitos e nem segurança perfeita.