Volgens Helen Toner, een voormalig bestuurslid van OpenAI, werd het bestuur niet vooraf op de hoogte gebracht van de lancering van ChatGPT in november 2022. Het bestuur, dat bestond uit zes leden, waaronder CEO Sam Altman, president Greg Brockman en hoofdingenieur Ilya Sutskever, hoorde over de lancering van ChatGPT via Twitter, in plaats van te worden geïnformeerd door het bedrijfsleiderschap.

Deze onthulling roept vragen op over de transparantie en communicatie binnen het leiderschap van OpenAI. Hoewel de technologie die ten grondslag ligt aan ChatGPT, GPT-3, al door verschillende bedrijven, waaronder Jasper, werd gebruikt, suggereert het feit dat de helft van het bestuur niet op de hoogte was van het lanceringstijdstip een gebrek aan coördinatie en informatiedeling.

Het argument dat ChatGPT bedoeld was als een onderzoeksvoorvertoning en OpenAI niet de massale publieke reactie verwachtte, biedt enige context. Het feit dat de bestuursleden die verantwoordelijk zijn voor het toezicht op de bedrijfsactiviteiten buiten de lus werden gehouden, roept echter zorgen op over de besluitvormingsprocessen en de prioritering van veiligheid en beveiliging binnen OpenAI.

Dit incident, samen met andere recente gebeurtenissen, zoals het vertrek van het hoofd van de afstemming, Yan Lecun, en de onthullingen over niet-disparagement-overeenkomsten, hebben bijgedragen aan een groeiend gevoel van onrust en wantrouwen rond de praktijken en prioriteiten van OpenAI.

De recente gebeurtenissen rond OpenAI hebben aanzienlijke zorgen opgeroepen over de openheid en transparantie van het bedrijf. Verschillende belangrijke punten benadrukken deze problemen:

1. Gebrek aan bestuursbewustzijn: Volgens voormalig bestuurslid Helen Toner werd het bestuur niet vooraf op de hoogte gebracht van de lancering van ChatGPT. Dit suggereert een zorgwekkend gebrek aan communicatie en transparantie tussen het leiderschap en het toezichthoudende bestuur.

2. Equity Clawback-bepalingen: Gelekte documenten onthullen dat OpenAI agressieve equity clawback-bepalingen had, waarbij vertrekkende werknemers niet-disparagement-overeenkomsten moesten ondertekenen. Deze praktijk is bekritiseerd als mogelijk onethisch en mogelijk illegaal.

3. Ontbinding van het Alignment-team: Het vertrek van Yan, het voormalige hoofd van afstemming bij OpenAI, en de daaropvolgende ontbinding van het afstemming-team, roept vragen op over de toewijding van het bedrijf aan veiligheid en verantwoorde AI-ontwikkeling.

4. Belangenconflicten in het Veiligheidscomité: De vorming van een nieuw Veiligheids- en Beveiligingscomité, waarin CEO Sam Altman zitting heeft, is bekritiseerd als een mogelijk belangenconflict, aangezien de besluitvormers financieel kunnen profiteren van de technologie die ze moeten beoordelen.

5. Onduidelijkheid over databronnen: OpenAI is vaag geweest over de bronnen van de gegevens die worden gebruikt om zijn modellen, zoals Sora en GPT-4, te trainen. Dit gebrek aan transparantie roept zorgen op over mogelijke privacy- en ethische kwesties.

6. Scarlett Johansson-incident: De controverse rond het gebruik van een stem die op die van Scarlett Johansson lijkt in de GPT-4-demo, benadrukt verder de noodzaak van meer transparantie en verantwoordelijkheid in de praktijken van OpenAI.

Deze kwesties schetsen gezamenlijk een zorgwekkend beeld van een bedrijf dat mogelijk de nadruk legt op snelle technologische vooruitgang ten koste van verantwoorde en transparante ontwikkeling. Naarmate het AI-landschap zich blijft ontwikkelen, is het cruciaal dat bedrijven als OpenAI de hoogste normen van openheid en ethische praktijken handhaven om het publieke vertrouwen te behouden en de veilige inzet van deze krachtige technologieën te waarborgen.

Nadat Yan, het hoofd van afstemming bij OpenAI, zijn rol had neergelegd vanwege meningsverschillen over de prioriteiten van het bedrijf, ontbond OpenAI het afstemming-team. Dit riep verdere zorgen op over de toewijding van het bedrijf aan veiligheid en verantwoorde ontwikkeling van AI-systemen.

Als reactie hierop vormde OpenAI een nieuw Veiligheids- en Beveiligingscomité, onder leiding van directeuren Brett Taylor, Adam D'Angelo, Nicole Seigman en CEO Sam Altman. Dit comité is belast met het doen van aanbevelingen aan het voltallige bestuur over cruciale veiligheids- en beveiligingsbeslissingen voor alle OpenAI-projecten en -activiteiten.

De samenstelling van dit comité heeft echter wenkbrauwen doen fronsen, aangezien het de CEO, Sam Altman, omvat, die ook verantwoordelijk is voor de financiële beslissingen en productlanceringen van het bedrijf. Dit roept mogelijke belangenconflicten op, aangezien dezelfde persoon nu zowel de ontwikkeling als de veiligheid van de technologieën van OpenAI overziet.

De beslissing om het afstemming-team te ontbinden en de vorming van het nieuwe Veiligheids- en Beveiligingscomité, met Altman als lid, hebben de zorgen over de toewijding van OpenAI aan veiligheid en transparantie verder aangewakkerd. Het gebrek aan onafhankelijk, extern toezicht op deze cruciale kwesties heeft geleid tot vragen over het vermogen van het bedrijf om de inherente gevaren van de ontwikkeling van geavanceerde AI-systemen te navigeren.

De gegevenspraktijken van OpenAI zijn onder de loep genomen, met berichten dat het bedrijf een aanzienlijke hoeveelheid YouTube-gegevens heeft gebruikt om zijn taalmodellen, waaronder GPT-4, te trainen. De CTO, Mira Murati, kon geen duidelijke details geven over de gegevens die werden gebruikt om het Sora-model te trainen, wat zorgen opwekt over de transparantie.

Bovendien werd het bedrijf geconfronteerd met een juridisch probleem met actrice Scarlett Johansson, die geloofde dat OpenAI haar stem zonder toestemming had gebruikt om het Sky-stemmodel voor GPT-4 te creëren. Hoewel OpenAI beweerde dat de stem niet bedoeld was om op die van Johansson te lijken, wijst het bewijs erop van het tegendeel, met een tweet van CEO Sam Altman die verwijst naar de film "Her", waarin Johanssons stem te horen was.

Deze incidenten, in combinatie met de zorgen die voormalige werknemers zoals Yan hebben geuit over de prioriteit die het bedrijf stelt op "glimmende producten" boven veiligheid en afstemming, hebben het publieke vertrouwen in de praktijken en besluitvormingsprocessen van OpenAI verder ondermijnd. De vorming van een nieuw Veiligheids- en Beveiligingscomité, onder leiding van Altman en andere interne leden, is ook bekritiseerd vanwege mogelijke belangenconflicten, aangezien de aanbevelingen van het comité kunnen worden beïnvloed door de financiële belangen van het bedrijf.

In het algemeen hebben deze ontwikkelingen aanzienlijke vragen opgeroepen over de transparantie, gegevensgebruik en toewijding van OpenAI aan verantwoorde AI-ontwikkeling, wat waarschijnlijk een onderwerp van discussie en scrutiny zal blijven in de AI-gemeenschap.

De recente gebeurtenissen rond OpenAI hebben aanzienlijke zorgen opgeroepen over de transparantie, veiligheidspraktijken en het leiderschap van het bedrijf. De onthullingen over het gebrek aan bewustzijn van het bestuur over de lancering van ChatGPT, de niet-disparagement-overeenkomsten met voormalige werknemers en de mogelijke belangenconflicten in het nieuw gevormde Veiligheids- en Beveiligingscomité hebben allemaal bijgedragen aan een groeiend gevoel van onrust.

Hoewel OpenAI ongetwijfeld indrukwekkende technologische vooruitgang heeft geboekt, suggereert het toenemende bewijs een zorgwekkend patroon van prioritering van productontwikkeling boven verantwoord bestuur en veiligheidsmaatregelen. Het vertrek van sleutelfiguren zoals Yan, het hoofd van afstemming, onderstreept verder de interne spanningen en uiteenlopende prioriteiten binnen de organisatie.

Naarmate het AI-landschap zich snel blijft ontwikkelen, is het cruciaal dat bedrijven als OpenAI een sterke toewijding aan transparantie, ethische praktijken en de veiligheid van hun technologieën behouden. Het publiek verdient een duidelijk en openhartig inzicht in de gegevens, processen en besluitvorming achter deze krachtige AI-systemen.

Gaande vooruit zal het belangrijk zijn voor OpenAI om deze zorgen direct aan te pakken, robuust extern toezicht te implementeren en een oprechte toewijding aan de verantwoorde ontwikkeling van transformatieve AI-technologieën te demonstreren. Pas dan kan het publieke vertrouwen in het bedrijf volledig worden hersteld.