De brief belicht verschillende ernstige risico's die worden veroorzaakt door geavanceerde AI-technologie:

• Verdere verankering van bestaande ongelijkheden
• Manipulatie en desinformatie
• Verlies van controle over autonome AI-systemen, wat mogelijk kan leiden tot de uitroeiing van de mensheid
• Kwaadwillende actoren die ongehinderde toegang krijgen tot krachtige AI-modellen en aanzienlijke schade veroorzaken

De brief stelt dat deze risico's erkend zijn door AI-bedrijven, overheden en andere AI-experts. Echter, AI-bedrijven hebben sterke financiële prikkels om effectief toezicht te vermijden, en de huidige corporate governance-structuren zijn ontoereikend om deze zorgen aan te pakken.

De brief benadrukt de ernstige risico's die worden veroorzaakt door geavanceerde AI-technologieën, variërend van verdere verankering van bestaande ongelijkheden tot het mogelijke verlies van controle over autonome AI-systemen die kunnen leiden tot de uitroeiing van de mensheid. De auteurs erkennen dat hoewel AI-bedrijven en overheden deze risico's hebben erkend, er sterke financiële prikkels zijn voor AI-bedrijven om effectief toezicht te vermijden.

De auteurs betogen dat de huidige corporate governance-structuren ontoereikend zijn om deze zorgen aan te pakken, aangezien AI-bedrijven substantiële niet-openbare informatie bezitten over de mogelijkheden en beperkingen van hun systemen, evenals de adequaatheid van hun beschermende maatregelen en risiconiveaus. Echter, zij hebben slechts zwakke verplichtingen om deze informatie te delen met overheden en geen enkele met het maatschappelijk middenveld.

De brief roept AI-bedrijven op om zich te committeren aan principes die zouden leiden tot meer transparantie en verantwoordingsplicht, waaronder:

De brief belicht de zorgwekkende kwesties rond de corporate governance-structuren van toonaangevende AI-bedrijven. Het stelt dat hoewel deze bedrijven substantiële niet-openbare informatie bezitten over de mogelijkheden, beperkingen en risico's van hun AI-systemen, zij momenteel slechts zwakke verplichtingen hebben om deze informatie te delen met overheden en het publiek.

De brief betoogt dat AI-bedrijven sterke financiële prikkels hebben om effectief toezicht te vermijden, en dat de huidige structuren van corporate governance ontoereikend zijn om dit aan te pakken. Het wijst op het voorbeeld van OpenAI, waar de unieke structuur en onafhankelijkheid van de raad van bestuur het mogelijk maakten om beslissingen te nemen zonder belanghebbenden te raadplegen, wat leidde tot de plotselinge verwijdering van CEO Sam Altman. Dit incident onderstreept de gevolgen van een governance-structuur die er niet in slaagt om verschillende organisatiedoelen en belangen van belanghebbenden in evenwicht te brengen.

De brief benadrukt de kritieke behoefte aan meer transparantie en werknemersbescherming bij de ontwikkeling van geavanceerde AI-systemen. Belangrijke punten:

• AI-bedrijven bezitten substantiële niet-openbare informatie over de mogelijkheden, beperkingen en risico's van hun systemen, maar hebben slechts zwakke verplichtingen om deze te delen met overheden en het publiek.

• De huidige corporate governance-structuren zijn ontoereikend om deze risico's adequaat aan te pakken, aangezien AI-bedrijven sterke financiële prikkels hebben om effectief toezicht te vermijden.

• Brede vertrouwelijkheidsovereenkomsten blokkeren huidige en voormalige werknemers om hun zorgen te uiten, aangezien zij het risico lopen om aanzienlijke aandelencompensatie te verliezen als zij zich uitspreken.

• De brief roept AI-bedrijven op om zich te committeren aan principes die de mogelijkheid van werknemers beschermen om risicogerichte kritiek te uiten zonder vergelding, en om een anoniem meldingsproces voor zorgen aan de raad van bestuur, toezichthouders en onafhankelijke experts te faciliteren.