Secondo l'intervista con Helen Toner, ex membro del consiglio di amministrazione di OpenAI, la decisione del consiglio di licenziare Sam Altman come CEO è stata dovuta a diverse questioni preoccupanti:

1. Mancanza di trasparenza: Altman ha ripetutamente trattenuto informazioni importanti dal consiglio, come il lancio di ChatGPT nel novembre 2022 e la sua proprietà del fondo di avviamento di OpenAI, nonostante si dichiarasse un membro indipendente del consiglio.

2. Informazioni imprecise: Altman ha fornito al consiglio informazioni imprecise sui processi di sicurezza dell'azienda, rendendo impossibile per il consiglio di supervisionare e valutare efficacemente l'efficacia di tali misure.

3. Violazione della fiducia: Il consiglio ha perso la fiducia nella leadership di Altman a causa di un modello di comportamento che includeva menzogne, manipolazione e ciò che alcuni dirigenti hanno descritto come "abuso psicologico". Diversi alti dirigenti hanno condiviso privatamente le loro gravi preoccupazioni con il consiglio.

4. Incapacità di mantenere la missione: Il consiglio ha concluso che Altman non era la persona giusta per guidare OpenAI nella sua missione di sviluppare sistemi di AGI (Intelligenza Artificiale Generale) che beneficino tutta l'umanità, come previsto dalla struttura originaria senza scopo di lucro dell'azienda.

In definitiva, il consiglio ha ritenuto che la condotta di Altman avesse minato la loro capacità di fornire una supervisione indipendente e di garantire che la missione di bene pubblico dell'azienda rimanesse la massima priorità. Nonostante un'indagine interna abbia rilevato che il comportamento di Altman non giustificasse la rimozione, il consiglio ha comunque ritenuto che un cambiamento nella leadership fosse necessario per il miglior interesse di OpenAI e della sua missione.

I recenti sviluppi di OpenAI sollevano preoccupazioni significative sull'impegno dell'azienda per la sicurezza. Secondo l'ex membro del consiglio Helen Toner, c'erano problemi di lunga data nel comportamento del CEO Sam Altman, tra cui:

• Trattenere informazioni dal consiglio, come il lancio di ChatGPT nel novembre 2022 senza preavviso.
• Non aver rivelato la sua proprietà del fondo di avviamento di OpenAI, nonostante si dichiarasse un membro indipendente del consiglio.
• Fornire informazioni imprecise al consiglio sui processi di sicurezza dell'azienda, rendendo difficile per il consiglio valutarne l'efficacia.

Queste accuse, insieme alle partenze dei dirigenti senior Ilya Sutskever e Dario Amodei, che hanno citato preoccupazioni sulla priorità di OpenAI per le nuove funzionalità rispetto alla sicurezza, dipingono un quadro preoccupante.

La formazione di un nuovo comitato per la sicurezza e la sicurezza all'interno di OpenAI, guidato dallo stesso Altman, fa poco per ispirare fiducia. Questo approccio di autoregolamentazione, senza una supervisione indipendente, è improbabile che sia efficace nell'affrontare i problemi radicati evidenziati dagli ex membri del consiglio.

La mancanza di trasparenza e l'apparente disprezzo per le preoccupazioni sulla sicurezza sono particolarmente preoccupanti data la posizione di OpenAI come leader nella ricerca e nello sviluppo di IA. Mentre l'azienda si spinge verso sistemi di IA più avanzati, i potenziali rischi per la società non possono essere trascurati.

In conclusione, le preoccupazioni sollevate sulla priorità di OpenAI per la sicurezza sono ben fondate e meritano seria attenzione. Una regolamentazione efficace e una supervisione indipendente potrebbero essere necessarie per garantire che lo sviluppo di potenti tecnologie di IA sia allineato con gli interessi del pubblico più ampio.

Il nuovo comitato è responsabile di formulare raccomandazioni su decisioni critiche in materia di sicurezza e sicurezza per tutti i progetti di OpenAI. Il comitato valuterà e svilupperà ulteriormente i processi e le salvaguardie di OpenAI nei prossimi 90 giorni.

Il comitato è guidato dai direttori Brett Taylor, Adam D'Angelo, Nicole Seligman e Sam Altman. Esperti tecnici e politici di OpenAI, tra cui i responsabili della preparazione, dei sistemi di sicurezza, della scienza dell'allineamento, della sicurezza e del chief scientist, faranno anche parte del comitato. Inoltre, OpenAI assumerà e consulterà altri esperti di sicurezza, sicurezza e tecnici per supportare questo lavoro, inclusi ex funzionari della cybersicurezza.

Dopo il periodo di revisione di 90 giorni, il comitato per la sicurezza e la sicurezza condividerà le sue raccomandazioni con l'intero consiglio di amministrazione di OpenAI. Dopo la revisione del consiglio, OpenAI condividerà pubblicamente un aggiornamento sulle raccomandazioni adottate in modo coerente con la sicurezza e la sicurezza.

Questo passo di OpenAI arriva in mezzo alle preoccupazioni sollevate da ex membri del consiglio sulla priorità dell'azienda per la sicurezza e la sicurezza. La formazione di questo comitato interno solleva domande sulla sua indipendenza e sulla sua capacità di fornire una supervisione significativa, data la partecipazione del CEO Sam Altman e di altri dirigenti di OpenAI. Il pubblico osserverà attentamente per vedere se questo comitato porterà a cambiamenti sostanziali nell'approccio di OpenAI alla sicurezza dell'IA.