Enligt Helen Toner, tidigare styrelsemedlem i OpenAI, informerades inte styrelsen i förväg om lanseringen av ChatGPT i november 2022. Styrelsen, som bestod av sex medlemmar, inklusive VD Sam Altman, president Greg Brockman och huvudingenjör Ilya Sutskever, fick veta om lanseringen av ChatGPT på Twitter, snarare än att bli informerade av företagsledningen.

Denna avslöjande väcker frågor om transparens och kommunikation inom OpenAIs ledning. Även om tekniken som ligger till grund för ChatGPT, GPT-3, redan användes av olika företag, inklusive Jasper, tyder det faktum att hälften av styrelsen var omedveten om lanseringstidpunkten på en brist på samordning och informationsdelning.

Argumentet att ChatGPT var avsedd som en forskningsförhandstitt, och att OpenAI inte förväntade sig det massiva allmänna svaret, ger viss kontext. Dock väcker det faktum att styrelsemedlemmarna som ansvarar för att övervaka företagets verksamhet lämnades utanför oron kring beslutsprocesserna och prioriteringen av säkerhet inom OpenAI.

Denna incident, tillsammans med andra senare händelser, som avgången av chefen för alignment, Yan Lecun, och avslöjanden om icke-spridningsavtal, har bidragit till en växande känsla av oro och misstroende kring OpenAIs praxis och prioriteringar.

De senaste händelserna kring OpenAI har väckt betydande oro kring företagets öppenhet och transparens. Flera nyckelpoänger belyser dessa problem:

1. Brist på styrelsemedvetenhet: Enligt tidigare styrelsemedlem Helen Toner informerades inte styrelsen i förväg om lanseringen av ChatGPT. Detta tyder på en oroande brist på kommunikation och transparens mellan ledningen och tillsynsstyrelsen.

2. Bestämmelser om återkrav av aktier: Läckta dokument avslöjar att OpenAI hade aggressiva bestämmelser om återkrav av aktier, vilket krävde att avgående anställda undertecknade icke-spridningsavtal. Denna praxis har kritiserats som potentiellt oetisk och möjligen olaglig.

3. Upplösning av alignmentteamet: Avgången av Yan, den tidigare chefen för alignment på OpenAI, och den efterföljande upplösningen av alignmentteamet, väcker frågor om företagets engagemang för säkerhet och ansvarsfull AI-utveckling.

4. Intressekonflikter i säkerhetskommittén: Bildandet av en ny säkerhets- och säkerhetskommitté, som inkluderar VD Sam Altman, har kritiserats som en potentiell intressekonflikt, eftersom beslutsfattarna kan dra ekonomisk nytta av den teknik de har i uppdrag att utvärdera.

5. Tvetydighet kring datakällor: OpenAI har varit undvikande när det gäller källorna till data som används för att träna sina modeller, som Sora och GPT-4. Denna brist på transparens väcker oro för potentiella integritetsfrågor och etiska problem.

6. Scarlett Johansson-incidenten: Kontroversen kring användningen av en röst som liknar Scarlett Johanssons i GPT-4-demonstrationen belyser ytterligare behovet av större transparens och ansvarsskyldighet i OpenAIs praxis.

Efter att Yan, chefen för alignment på OpenAI, avgått från sin roll på grund av meningsskiljaktigheter med företagets prioriteringar, upplöste OpenAI alignmentteamet. Detta väckte ytterligare oro kring företagets engagemang för säkerhet och ansvarsfull utveckling av AI-system.

Som svar bildade OpenAI en ny säkerhets- och säkerhetskommitté, ledd av direktörerna Brett Taylor, Adam D'Angelo, Nicole Seigman och VD Sam Altman. Denna kommitté har i uppdrag att lämna rekommendationer till den fullständiga styrelsen om kritiska säkerhets- och säkerhetsbeslut för alla OpenAI-projekt och verksamheter.

Men sammansättningen av denna kommitté har väckt ögonbryn, eftersom den inkluderar VD Sam Altman, som också ansvarar för företagets finansiella beslut och produktlanseringar. Detta väcker potentiella intressekonflikter, eftersom samma person nu övervakar både utvecklingen och säkerheten för OpenAIs teknologier.

Beslutet att upplösa alignmentteamet och bildandet av den nya säkerhets- och säkerhetskommittén, med Altman som medlem, har ytterligare ökat oron kring OpenAIs engagemang för säkerhet och transparens. Bristen på oberoende, extern tillsyn i dessa kritiska frågor har lett till frågor om företagets förmåga att navigera de inneboende farorna med att utveckla avancerade AI-system.

OpenAIs datametoder har granskats, med rapporter som indikerar att företaget har använt en betydande mängd YouTube-data för att träna sina språkmodeller, inklusive GPT-4. CTO Mira Murati kunde inte ge tydliga detaljer om de data som användes för att träna Sora-modellen, vilket väcker oro kring transparens.

Dessutom stod företaget inför en rättslig fråga med skådespelaren Scarlett Johansson, som trodde att OpenAI använde hennes röst utan tillstånd för att skapa Sky-röstmodellen för GPT-4. Även om OpenAI hävdade att rösten inte var avsedd att likna Johanssons, tyder bevisen på det motsatta, med VD Sam Altmans tweet som refererar till filmen "Her", som innehöll Johanssons röst.

Dessa incidenter, i kombination med de farhågor som tidigare anställda som Yan har lyft om företagets prioritering av "skinande produkter" framför säkerhet och alignment, har ytterligare urholkat allmänhetens förtroende för OpenAIs praxis och beslutsprocesser. Bildandet av en ny säkerhets- och säkerhetskommitté, ledd av Altman och andra interna medlemmar, har också kritiserats för potentiella intressekonflikter, eftersom kommitténs rekommendationer kan påverkas av företagets ekonomiska intressen.

Sammanfattningsvis har dessa utvecklingar väckt betydande frågor om OpenAIs transparens, dataanvändning och engagemang för ansvarsfull AI-utveckling, vilket sannolikt kommer att fortsätta att vara ett diskussions- och granskningsämne inom AI-gemenskapen.

De senaste händelserna kring OpenAI har väckt betydande oro kring företagets transparens, säkerhetspraxis och ledarskap. Avslöjandena om styrelsens okunskap om lanseringen av ChatGPT, icke-spridningsavtalen med tidigare anställda och de potentiella intressekonflikterna i den nybildade säkerhets- och säkerhetskommittén har alla bidragit till en växande känsla av oro.

Men även om OpenAI har producerat imponerande tekniska framsteg, tyder de växande bevisen på ett oroande mönster av att prioritera produktutveckling framför ansvarsfull styrning och säkerhetsåtgärder. Avgången av nyckelpersoner som Yan, chefen för alignment, understryker ytterligare de interna spänningarna och de divergerande prioriteringarna inom organisationen.

När AI-landskapet fortsätter att utvecklas snabbt är det avgörande att företag som OpenAI upprätthåller ett starkt engagemang för transparens, etisk praxis och säkerheten för deras teknologier. Allmänheten förtjänar en tydlig och öppen förståelse för data, processer och beslutsfattande bakom dessa kraftfulla AI-system.

Gå framåt kommer det att vara viktigt för OpenAI att ta itu med dessa problem direkt, införa robust extern tillsyn och visa ett genuint engagemang för ansvarsfull utveckling av transformativ AI-teknik. Först då kan allmänhetens förtroende för företaget fullt ut återställas.