Las tecnologías emergentes de cifrado y seguridad de hardware, como la computación confidencial, ofrecen la promesa de proteger los pesos del modelo y los datos de inferencia al extender los primitivos de computación confiable más allá del host de la CPU y hacia los aceleradores de IA. Este enfoque tiene el potencial de lograr varias propiedades clave:

1. Atestación criptográfica: Las GPU pueden ser atestadas criptográficamente para su autenticidad e integridad, asegurando que los pesos del modelo solo se ejecuten en hardware autorizado.

2. Pesos del modelo cifrados: Los pesos del modelo pueden permanecer cifrados hasta que se organicen y carguen en la GPU, evitando el acceso no autorizado.

3. Cifrado específico de GPU: La identidad criptográfica única de las GPU puede permitir que los pesos del modelo y los datos de inferencia se cifren para GPU específicas o grupos de GPU, asegurando la descifración solo por parte de las partes autorizadas.

Esta visión de un modelo de confianza con raíces en el hardware tiene como objetivo proporcionar una base segura para sistemas de IA avanzados, donde los pesos del modelo y los datos confidenciales se protegen incluso de posibles compromisos de la pila de software o la infraestructura de red. Sin embargo, este enfoque plantea preocupaciones sobre el potencial de mayores barreras de entrada y una menor apertura en el ecosistema de IA.

Los air gaps a menudo se citan como un mecanismo de seguridad esencial, y esto no carece de fundamento. La segmentación de red es un control poderoso utilizado para proteger cargas de trabajo sensibles como los sistemas de control de infraestructura crítica. En su lugar, priorizamos el aislamiento flexible de la red que permite que los sistemas de IA funcionen sin conexión, separados de las redes no confiables, incluida Internet.

Las redes que describimos deben eliminar las clases de vulnerabilidades que podrían permitir que un actor malintencionado con acceso a un inquilino comprometa los pesos del modelo almacenados en otro inquilino. Esto asegura que se mantenga la confidencialidad, integridad y disponibilidad de los datos y las cargas de trabajo, incluso ante posibles amenazas internas u otros compromisos.

Al diseñar la infraestructura de IA con un aislamiento sólido de redes e inquilinos, podemos permitir que los sistemas de IA operen de manera resiliente y sin conexión, reduciendo la superficie de ataque y protegiendo los pesos del modelo sensibles que son el núcleo de estas capacidades de IA avanzadas.

Las medidas de seguridad operativa y física para los centros de datos de IA son necesarias para garantizar la resiliencia contra las amenazas internas que pueden comprometer la confidencialidad, integridad y disponibilidad del centro de datos y sus cargas de trabajo. Esto incluye:

• Controles de acceso y monitoreo sólidos para restringir y auditar el acceso físico a las instalaciones del centro de datos y la infraestructura crítica.
• Vigilancia y registro de video exhaustivos para proporcionar visibilidad sobre todas las actividades dentro del centro de datos.
• Sistemas de energía y refrigeración redundantes para mantener la disponibilidad ante interrupciones.
• Procedimientos seguros de eliminación y saneamiento para hardware dado de baja, a fin de evitar fugas de datos.
• Sellos a prueba de manipulación y otras medidas de seguridad física para detectar y disuadir modificaciones no autorizadas a la infraestructura.
• Prácticas rigurosas de seguridad del personal, como verificaciones de antecedentes y capacitación sobre conciencia de seguridad, para evaluar y monitorear al personal del centro de datos.
• Planes de respuesta a incidentes y recuperación ante desastres para identificar, contener y recuperarse rápidamente de incidentes de seguridad o interrupciones.

Estos controles de seguridad operativa y física trabajan en conjunto para crear una defensa de múltiples capas que protege la confidencialidad e integridad del entorno del centro de datos, incluidos los modelos de IA y los datos de entrenamiento alojados en él.

Dado que los desarrolladores de IA necesitan la garantía de que su propiedad intelectual está protegida cuando trabajan con proveedores de infraestructura, la infraestructura de IA debe auditarse y cumplir con los estándares de seguridad aplicables. Los estándares existentes como SOC 2, ISO/IEC y las familias NIST seguirán aplicándose. Sin embargo, se espera que la lista crezca para incluir estándares de seguridad y regulación específicos de IA que aborden los desafíos únicos de asegurar los sistemas de IA.

Estos programas de auditoría y cumplimiento específicos de IA ayudarán a garantizar que se mantengan la confidencialidad, integridad y disponibilidad de los datos y modelos relacionados con la IA. Al adherirse a estos estándares, los proveedores de infraestructura pueden demostrar su compromiso con la protección de la valiosa propiedad intelectual de sus clientes, los desarrolladores de IA. Esto, a su vez, fomentará la confianza y permitirá que los desarrolladores de IA se centren en la innovación, sabiendo que sus activos críticos están protegidos.

El desarrollo de estos estándares específicos de IA requerirá la colaboración entre la industria, la academia y los organismos reguladores. Este esfuerzo colectivo ayudará a establecer un marco sólido para asegurar el ecosistema de IA, garantizando que los rápidos avances en la tecnología de IA vayan acompañados de las salvaguardas y medidas de cumplimiento apropiadas.

Open AI cree que la IA será transformadora para la defensa cibernética, con el potencial de nivelar el campo de juego entre atacantes y defensores. Los defensores de todo el mundo luchan por ingerir y analizar las vastas cantidades de señales de seguridad necesarias para detectar y responder a las amenazas a sus redes. Además, los recursos significativos requeridos para construir un programa de seguridad sofisticado colocan la defensa cibernética significativa fuera del alcance de muchas organizaciones.

La IA presenta una oportunidad para habilitar a los defensores cibernéticos y mejorar la seguridad. La IA se puede incorporar a los flujos de trabajo de seguridad para acelerar a los ingenieros de seguridad y reducir el esfuerzo en su trabajo. En Open AI, utilizan sus modelos para analizar telemetría de seguridad de alto volumen y sensible que de otro modo estaría fuera del alcance de los equipos de analistas humanos. Al aprovechar la IA, los defensores pueden detectar, investigar y responder a las amenazas de manera más efectiva, ayudando a cerrar la brecha con los atacantes sofisticados.

Open AI se compromete a hacer avanzar el estado del arte en la defensa cibernética impulsada por IA. Creen que la investigación de seguridad continua, incluida la exploración de formas de eludir las medidas de seguridad que han delineado, es esencial para mantenerse a la vanguardia del panorama de amenazas en rápida evolución. En última instancia, estos controles de seguridad impulsados por IA deben proporcionar defensa en profundidad, ya que no existen sistemas sin fallas y no hay seguridad perfecta.

Open AI reconoce que las medidas de seguridad que proponen son probablemente solo el comienzo, y que se requiere una investigación de seguridad continua dado el estado de la seguridad de IA en rápida evolución. Reconocen que no existen sistemas sin fallas y no hay seguridad perfecta.

Para abordar esto, Open AI enfatiza la necesidad de:

1. Resiliencia: Los controles de seguridad deben proporcionar defensa en profundidad, ya que inevitablemente habrá brechas y vulnerabilidades que se descubrirán con el tiempo.

2. Redundancia: Confiar en una sola medida de seguridad no es suficiente. Se necesitan múltiples capas de protección para garantizar la resiliencia general del sistema.

3. Investigación de seguridad continua: Se requiere una investigación continua para comprender cómo eludir las medidas de seguridad propuestas, así como para identificar y cerrar cualquier brecha que surja. Esto incluye tanto la investigación ofensiva como la defensiva para mantenerse a la vanguardia de las posibles amenazas.

Open AI reconoce que el campo de la seguridad de IA aún se encuentra en sus etapas iniciales, y que se necesita un enfoque proactivo y adaptativo para proteger los sistemas de IA avanzados. Al abrazar la resiliencia, la redundancia y la investigación de seguridad continua, tienen como objetivo mantenerse a la vanguardia del panorama de amenazas en evolución y garantizar la seguridad de su infraestructura de IA.