Der vorgeschlagene KI-Richtlinie hebt mehrere Schlüsselbedenken hinsichtlich der potenziellen Risiken fortgeschrittener KI-Systeme hervor:

1. Existenzielle und katastrophale Risiken: Die Richtlinie definiert ein "großes Sicherheitsrisiko" als einschließlich aller existenziellen oder globalen katastrophalen Risiken, die allen Menschen auf dem Planeten schaden könnten, wie z.B. die Etablierung selbstreplikativer autonomer Agenten durch KI-Systeme oder das dauerhafte Entgleiten der menschlichen Kontrolle.

2. Leistungskennwerte vs. Rechenleistungskennwerte: Die Richtlinie schlägt vor, rechenleistungsbasierte Kennwerte (z.B. FLOPS) zu verwenden, um KI-Systeme in Risikokategorien einzuteilen. Allerdings erkennt der Vorschlag an, dass dieser Ansatz die tatsächlichen Fähigkeiten von KI-Systemen möglicherweise nicht genau widerspiegelt, da Effizienzverbesserungen zu leistungsfähigeren Modellen mit weniger Rechenleistung führen können.

3. Frühes Beenden des Trainings: Die Richtlinie schlägt vor, dass KI-Systeme mittlerer Bedenken regelmäßigen Leistungstests unterzogen werden müssen und das Training beendet werden muss, wenn das System unerwartet hohe Fähigkeiten zeigt. Dies könnte die Entwicklung fortgeschrittener KI-Systeme verlangsamen.

4. Bestimmung von KI mit extrem hoher Bedenken: Die Richtlinie erfordert die Entwicklung von Standards zur Identifizierung von KI-Systemen, die bei der Waffenentwicklung helfen, die globale Machtverteilung destabilisieren oder andere katastrophale Risiken bergen könnten. Die Definition dieser Standards innerhalb von 12 Monaten könnte angesichts des rasanten Fortschritts der KI eine Herausforderung darstellen.

5. Hardwareüberwachung: Die Richtlinie enthält eine Verpflichtung, den Kauf, Verkauf und die Verwendung von Hochleistungshardware (z.B. GPUs) für die KI-Entwicklung zu melden, was möglicherweise zu einer erhöhten staatlichen Aufsicht und Beschränkungen des Zugangs zu solcher Hardware führt.

6. Vorhersehbarkeit von Schäden: Die Richtlinie besagt, dass Entwickler die "Überraschung" über die Unzuverlässigkeit eines KI-Systems nicht als gültige Verteidigung verwenden können, da sie hätten wissen müssen, dass Frontier-KI-Systeme eine Vielzahl schwerwiegender Risiken bergen, von denen einige möglicherweise nicht im Voraus erkennbar sind.

7. Notstandsbefugnisse: Die Richtlinie verleiht dem Präsidenten und einem Administrator die Befugnis, den Notstand zu erklären und weitreichende Befugnisse auszuüben, einschließlich der Zerstörung von KI-Hardware, des Löschens von Modellgewichten und der physischen Beschlagnahme von KI-Laboren, als Reaktion auf wahrgenommene größere Sicherheitsrisiken.

8. Whistleblower-Schutz: Die Richtlinie bietet Schutz für Whistleblower, die Praktiken melden oder sich weigern, an Praktiken mitzuwirken, die durch das KI-Gesetz verboten sind, auch wenn ihre Überzeugungen über die Verstöße letztendlich falsch sind.