Volgens het interview met Helen Toner, een voormalig bestuurslid van OpenAI, was de beslissing van het bestuur om Sam Altman als CEO te ontslaan te wijten aan verschillende zorgwekkende kwesties:

1. Gebrek aan Transparantie: Altman heeft herhaaldelijk belangrijke informatie voor het bestuur achtergehouden, zoals de lancering van ChatGPT in november 2022 en zijn eigendom van het OpenAI-startupfonds, ondanks dat hij beweerde een onafhankelijk bestuurslid te zijn.

2. Onjuiste Informatie: Altman heeft het bestuur onjuiste informatie verstrekt over de veiligheidsprocessen van het bedrijf, waardoor het voor het bestuur onmogelijk was om deze maatregelen naar behoren te controleren en te evalueren.

3. Schending van Vertrouwen: Het bestuur verloor het vertrouwen in Altman's leiderschap vanwege een patroon van gedrag dat leugens, manipulatie en wat sommige leidinggevenden "psychologisch misbruik" noemden, omvatte. Meerdere senior-leiders deelden hun ernstige zorgen privé met het bestuur.

4. Onvermogen om Missie na te Komen: Het bestuur concludeerde dat Altman niet de juiste persoon was om OpenAI te leiden in zijn missie om AGI (Artificial General Intelligence)-systemen te ontwikkelen die voor de hele mensheid voordelig zijn, zoals de oorspronkelijke non-profitstructuur van het bedrijf bedoeld was.

Uiteindelijk was het bestuur van mening dat Altman's gedrag hun vermogen om onafhankelijk toezicht te houden en ervoor te zorgen dat de publieke missie van het bedrijf de hoogste prioriteit bleef, had ondermijnd. Ondanks een intern onderzoek dat concludeerde dat Altman's gedrag geen ontslag vereiste, was het bestuur nog steeds van mening dat een verandering in het leiderschap noodzakelijk was voor de beste belangen van OpenAI en zijn missie.

De recente ontwikkelingen bij OpenAI roepen aanzienlijke zorgen op over de toewijding van het bedrijf aan veiligheid en beveiliging. Volgens het voormalige bestuurslid Helen Toner waren er langdurige problemen met het gedrag van CEO Sam Altman, waaronder:

• Het achterhouden van informatie voor het bestuur, zoals de lancering van ChatGPT in november 2022 zonder voorafgaande kennisgeving.
• Het nalaten om zijn eigendom van het OpenAI-startupfonds bekend te maken, ondanks dat hij beweerde een onafhankelijk bestuurslid te zijn.
• Het verstrekken van onjuiste informatie aan het bestuur over de veiligheidsprocessen van het bedrijf, waardoor het voor het bestuur moeilijk was om de effectiviteit ervan te beoordelen.

Deze beschuldigingen, samen met het vertrek van senior-leiders Ilya Sutskever en Dario Amodei, die zorgen uitten over de prioriteit die OpenAI geeft aan nieuwe functies boven veiligheid, schetsen een verontrustend beeld.

De vorming van een nieuw Veiligheids- en Beveiligingscomité binnen OpenAI, onder leiding van Altman zelf, doet weinig om vertrouwen te wekken. Deze zelfregulerende aanpak, zonder onafhankelijk toezicht, zal waarschijnlijk niet effectief zijn in het aanpakken van de diepgewortelde problemen die door de voormalige bestuursleden naar voren zijn gebracht.

Het gebrek aan transparantie en de schijnbare minachting voor veiligheidsproblemen zijn vooral zorgwekkend gezien de positie van OpenAI als leider in AI-onderzoek en -ontwikkeling. Naarmate het bedrijf op weg is naar geavanceerdere AI-systemen, kunnen de potentiële risico's voor de samenleving niet worden genegeerd.

Concluderend, de zorgen die zijn geuit over de focus van OpenAI op veiligheid en beveiliging zijn gerechtvaardigd en verdienen serieuze aandacht. Effectieve regulering en onafhankelijk toezicht kunnen noodzakelijk zijn om ervoor te zorgen dat de ontwikkeling van krachtige AI-technologieën in lijn is met het bredere openbare belang.

Het nieuwe comité is verantwoordelijk voor het doen van aanbevelingen over kritieke Veiligheids- en Beveiligingsbeslissingen voor alle OpenAI-projecten. Het comité zal de processen en beveiligingsmaatregelen van OpenAI evalueren en verder ontwikkelen in de komende 90 dagen.

Het comité staat onder leiding van directeuren Brett Taylor, Adam D'Angelo, Nicole Seligman en Sam Altman. Technische en beleidsexperts van OpenAI, waaronder de hoofden van paraatheid, veiligheidssystemen, alignementwetenschap, beveiliging en de hoofdwetenschapper, zullen ook deel uitmaken van het comité. Daarnaast zal OpenAI andere veiligheids-, beveiligings- en technische experts inhuren en raadplegen om dit werk te ondersteunen, waaronder voormalige cyberbeveiligingsfunctionarissen.

Na de periode van 90 dagen zal het Veiligheids- en Beveiligingscomité zijn aanbevelingen delen met het voltallige OpenAI-bestuur. Na beoordeling door het bestuur zal OpenAI op een manier die verenigbaar is met veiligheid en beveiliging, een update over de geadopteerde aanbevelingen openbaar maken.

Deze stap van OpenAI komt voort uit zorgen die door voormalige bestuursleden zijn geuit over de prioriteit die het bedrijf geeft aan veiligheid en beveiliging. De vorming van dit interne comité roept vragen op over de onafhankelijkheid ervan en het vermogen om betekenisvol toezicht te bieden, gezien de betrokkenheid van CEO Sam Altman en ander OpenAI-leiderschap. Het publiek zal nauwlettend volgen of dit comité leidt tot substantiële veranderingen in de aanpak van AI-veiligheid door OpenAI.