Secondo Helen Toner, ex membro del consiglio di amministrazione di OpenAI, il consiglio non è stato informato in anticipo del lancio di ChatGPT nel novembre 2022. Il consiglio, composto da sei membri, tra cui il CEO Sam Altman, il presidente Greg Brockman e l'ingegnere capo Ilya Sutskever, ha appreso del lancio di ChatGPT su Twitter, anziché essere informato dalla leadership dell'azienda.

Questa rivelazione solleva domande sulla trasparenza e la comunicazione all'interno della leadership di OpenAI. Mentre la tecnologia alla base di ChatGPT, GPT-3, era già utilizzata da varie aziende, tra cui Jasper, il fatto che metà del consiglio fosse all'oscuro della tempistica del lancio suggerisce una mancanza di coordinamento e condivisione delle informazioni.

L'argomento che ChatGPT fosse inteso come una anteprima di ricerca e che OpenAI non si aspettasse la massiccia risposta del pubblico, fornisce un certo contesto. Tuttavia, il fatto che i membri del consiglio responsabili della supervisione delle operazioni dell'azienda siano stati esclusi dal loop solleva preoccupazioni sui processi decisionali e sulla prioritizzazione della sicurezza all'interno di OpenAI.

Questo incidente, insieme ad altri eventi recenti, come la partenza del responsabile dell'allineamento, Yan Lecun, e le rivelazioni sugli accordi di non divulgazione, hanno contribuito a una crescente sensazione di disagio e sfiducia circostante le pratiche e le priorità di OpenAI.

I recenti eventi che circondano OpenAI hanno sollevato significative preoccupazioni sulla trasparenza e l'apertura dell'azienda. Diversi punti chiave evidenziano queste problematiche:

1. Mancanza di consapevolezza del consiglio: Secondo l'ex membro del consiglio Helen Toner, il consiglio non è stato informato in anticipo del lancio di ChatGPT. Ciò suggerisce una preoccupante mancanza di comunicazione e trasparenza tra la leadership e il consiglio di vigilanza.

2. Disposizioni di clawback delle quote azionarie: I documenti trapelati rivelano che OpenAI aveva in atto aggressive disposizioni di clawback delle quote azionarie, che richiedevano ai dipendenti in partenza di firmare accordi di non divulgazione. Questa pratica è stata criticata come potenzialmente non etica e potenzialmente illegale.

3. Scioglimento del team di allineamento: La partenza di Yan, l'ex responsabile dell'allineamento di OpenAI, e il successivo scioglimento del team di allineamento, sollevano domande sull'impegno dell'azienda per la sicurezza e lo sviluppo responsabile dell'IA.

4. Conflitti di interesse nel comitato per la sicurezza: La formazione di un nuovo comitato per la sicurezza e la sicurezza, che include il CEO Sam Altman, è stata criticata come un potenziale conflitto di interessi, poiché i decisori hanno la possibilità di trarre profitto dalla tecnologia che sono incaricati di valutare.

5. Ambiguità sulle fonti di dati: OpenAI è stata evasiva sulle fonti di dati utilizzate per addestrare i suoi modelli, come Sora e GPT-4. Questa mancanza di trasparenza solleva preoccupazioni su potenziali problemi di privacy ed etica.

6. Incidente di Scarlett Johansson: La controversia relativa all'utilizzo di una voce simile a quella di Scarlett Johansson nella demo di GPT-4 evidenzia ulteriormente la necessità di una maggiore trasparenza e responsabilità nelle pratiche di OpenAI.

Dopo che Yan, il responsabile dell'allineamento di OpenAI, si è dimesso dal suo ruolo citando disaccordi sulle priorità dell'azienda, OpenAI ha sciolto il team di allineamento. Ciò ha sollevato ulteriori preoccupazioni sull'impegno dell'azienda per la sicurezza e lo sviluppo responsabile dei sistemi di IA.

In risposta, OpenAI ha formato un nuovo comitato per la sicurezza e la sicurezza, guidato dai direttori Brett Taylor, Adam D'Angelo, Nicole Seigman e dal CEO Sam Altman. Questo comitato ha il compito di formulare raccomandazioni al consiglio di amministrazione su decisioni critiche in materia di sicurezza e sicurezza per tutti i progetti e le operazioni di OpenAI.

Tuttavia, la composizione di questo comitato ha sollevato perplessità, in quanto include il CEO, Sam Altman, che è anche responsabile delle decisioni finanziarie e dei lanci di prodotti dell'azienda. Ciò solleva potenziali conflitti di interesse, poiché lo stesso individuo sta ora supervisionando sia lo sviluppo che la sicurezza delle tecnologie di OpenAI.

La decisione di sciogliere il team di allineamento e la formazione del nuovo comitato per la sicurezza e la sicurezza, con Altman come membro, hanno ulteriormente alimentato le preoccupazioni sull'impegno di OpenAI per la sicurezza e la trasparenza. La mancanza di supervisione esterna indipendente su queste questioni critiche ha portato a interrogativi sulla capacità dell'azienda di affrontare i pericoli intrinseci dello sviluppo di sistemi di IA avanzati.

Le pratiche di raccolta dati di OpenAI sono state oggetto di scrutinio, con segnalazioni che indicano che l'azienda ha utilizzato una quantità significativa di dati di YouTube per addestrare i suoi modelli linguistici, incluso GPT-4. Il CTO, Mira Murati, non è stata in grado di fornire dettagli chiari sui dati utilizzati per addestrare il modello Sora, sollevando preoccupazioni sulla trasparenza.

Inoltre, l'azienda ha affrontato una questione legale con l'attrice Scarlett Johansson, che riteneva che OpenAI avesse utilizzato la sua voce senza autorizzazione per creare il modello vocale Sky per GPT-4. Sebbene OpenAI abbia affermato che la voce non era destinata a somigliare a quella di Johansson, le prove suggeriscono il contrario, con il tweet del CEO Sam Altman che fa riferimento al film "Her", che presentava la voce di Johansson.

Questi incidenti, combinati con le preoccupazioni sollevate da ex dipendenti come Yan sulla prioritizzazione dei "prodotti brillanti" da parte dell'azienda rispetto alla sicurezza e all'allineamento, hanno ulteriormente eroso la fiducia del pubblico nelle pratiche e nei processi decisionali di OpenAI. La formazione di un nuovo comitato per la sicurezza e la sicurezza, guidato da Altman e altri membri interni, è stata anche criticata per potenziali conflitti di interesse, poiché le raccomandazioni del comitato potrebbero essere influenzate dagli interessi finanziari dell'azienda.

Complessivamente, questi sviluppi hanno sollevato significative domande sulla trasparenza di OpenAI, sull'utilizzo dei dati e sull'impegno per lo sviluppo responsabile dell'IA, che probabilmente continueranno a essere oggetto di discussione e scrutinio nella comunità dell'IA.

I recenti eventi che circondano OpenAI hanno sollevato significative preoccupazioni sulla trasparenza, le pratiche di sicurezza e la leadership dell'azienda. Le rivelazioni sulla mancanza di consapevolezza del consiglio riguardo al lancio di ChatGPT, gli accordi di non divulgazione con gli ex dipendenti e i potenziali conflitti di interesse nel nuovo comitato per la sicurezza e la sicurezza hanno tutti contribuito a una crescente sensazione di disagio.

Sebbene OpenAI abbia senza dubbio prodotto progressi tecnologici impressionanti, le prove crescenti suggeriscono un preoccupante modello di prioritizzazione dello sviluppo dei prodotti rispetto a una governance responsabile e a misure di sicurezza adeguate. La partenza di figure chiave come Yan, il responsabile dell'allineamento, sottolinea ulteriormente le tensioni interne e le priorità divergenti all'interno dell'organizzazione.

Mano a mano che il panorama dell'IA continua a evolversi rapidamente, è fondamentale che aziende come OpenAI mantengano un forte impegno per la trasparenza, le pratiche etiche e la sicurezza delle loro tecnologie. Il pubblico merita una comprensione chiara e sincera dei dati, dei processi e dei processi decisionali dietro questi potenti sistemi di IA.

In futuro, sarà importante per OpenAI affrontare queste preoccupazioni di petto, implementare una solida supervisione esterna e dimostrare un impegno genuino per lo sviluppo responsabile di tecnologie di IA trasformative. Solo allora la fiducia del pubblico nell'azienda potrà essere pienamente ripristinata.