La política de IA propuesta destaca varias preocupaciones clave con respecto a los posibles riesgos de los sistemas de IA avanzados:

1. Riesgos existenciales y catastróficos: La política define un "riesgo de seguridad importante" como cualquier riesgo existencial o catastrófico global que pueda dañar a todos en el planeta, como los sistemas de IA que establecen agentes autónomos autorreplicantes o que escapan permanentemente del control humano.

2. Puntos de referencia de capacidad vs. puntos de referencia de cómputo: La política sugiere usar puntos de referencia basados en el cómputo (p. ej., FLOPS) para categorizar los sistemas de IA en niveles de preocupación. Sin embargo, la propuesta reconoce que este enfoque puede no reflejar con precisión las verdaderas capacidades de los sistemas de IA, ya que las mejoras en eficiencia pueden dar lugar a modelos más capaces con menos cómputo.

3. Detener el entrenamiento temprano: La política propone que los sistemas de IA de preocupación media deben someterse a pruebas de rendimiento periódicas, y se debe detener el entrenamiento si el sistema muestra capacidades inesperadamente altas. Esto podría ralentizar el desarrollo de sistemas de IA avanzados.

4. Determinar la IA de preocupación extremadamente alta: La política requiere el desarrollo de estándares para identificar los sistemas de IA que podrían ayudar con el desarrollo de armas, desestabilizar el poder global o plantear otros riesgos catastróficos. Definir estos estándares en un plazo de 12 meses puede ser un desafío dado el rápido ritmo del avance de la IA.

5. Monitoreo de hardware: La política incluye un requisito para informar sobre la compra, venta y uso de hardware de alto rendimiento (p. ej., GPU) utilizado para el desarrollo de IA, lo que podría conducir a una mayor supervisión gubernamental y restricciones en el acceso a dicho hardware.

6. Previsibilidad del daño: La política establece que los desarrolladores no pueden usar la "sorpresa" de la falta de fiabilidad de un sistema de IA como una defensa válida, ya que deberían haber sabido que los sistemas de IA de vanguardia plantean una amplia variedad de riesgos graves, algunos de los cuales pueden no ser detectables de antemano.

7. Poderes de emergencia: La política otorga al presidente y a un administrador la capacidad de declarar un estado de emergencia e imponer amplios poderes, incluida la destrucción de hardware de IA, la eliminación de pesos de modelos y la incautación física de laboratorios de IA, en respuesta a los riesgos de seguridad importantes percibidos.

8. Protección a denunciantes: La política brinda protección a los denunciantes que reporten o se nieguen a participar en prácticas prohibidas por la Ley de IA, incluso si sus creencias sobre las violaciones son finalmente incorrectas.

En general, la política propuesta refleja las crecientes preocupaciones sobre los posibles riesgos de los sistemas de IA avanzados y el deseo de establecer un marco regulatorio para mitigar estos riesgos. Sin embargo, la política también plantea preguntas sobre la viabilidad y las posibles consecuencias no deseadas de un enfoque tan integral y de amplio alcance para la gobernanza de la IA.