La lettera evidenzia diversi gravi rischi posti dalla tecnologia AI avanzata:

• Ulteriore consolidamento delle disuguaglianze esistenti
• Manipolazione e disinformazione
• Perdita di controllo dei sistemi AI autonomi, con potenziale risultato di estinzione umana
• Attori malevoli che acquisiscono accesso non filtrato a potenti modelli AI e causano danni significativi

La lettera afferma che questi rischi sono stati riconosciuti dalle aziende di AI, dai governi e da altri esperti di AI. Tuttavia, le aziende di AI hanno forti incentivi finanziari per evitare una supervisione efficace, e le attuali strutture di governance aziendale sono insufficienti per affrontare queste preoccupazioni.

La lettera evidenzia i gravi rischi posti dalle tecnologie AI avanzate, che vanno dal maggiore consolidamento delle disuguaglianze esistenti alla potenziale perdita di controllo dei sistemi AI autonomi, che potrebbero portare all'estinzione dell'umanità. Gli autori riconoscono che, sebbene le aziende di AI e i governi abbiano riconosciuto questi rischi, ci sono forti incentivi finanziari per le aziende di AI per evitare una supervisione efficace.

Gli autori sostengono che le attuali strutture di governance aziendale sono insufficienti per affrontare queste preoccupazioni, poiché le aziende di AI possiedono informazioni sostanziali non pubbliche sulle capacità e i limiti dei loro sistemi, nonché sull'adeguatezza delle loro misure di protezione e sui livelli di rischio. Tuttavia, hanno solo deboli obblighi di condividere queste informazioni con i governi e nessuno con la società civile.

La lettera chiede alle aziende di AI di impegnarsi in principi che consentirebbero una maggiore trasparenza e responsabilità, tra cui:

La lettera evidenzia le preoccupanti questioni relative alle strutture di governance aziendale delle principali aziende di AI. Afferma che, mentre queste aziende possiedono informazioni sostanziali non pubbliche sulle capacità, i limiti e i rischi dei loro sistemi AI, attualmente hanno solo deboli obblighi di condividere queste informazioni con i governi e il pubblico.

La lettera sostiene che le aziende di AI hanno forti incentivi finanziari per evitare una supervisione efficace e che le attuali strutture di governance aziendale sono insufficienti per affrontare questo problema. Cita l'esempio di OpenAI, dove la struttura unica e l'indipendenza del consiglio di amministrazione le hanno permesso di prendere decisioni senza consultare gli stakeholder, portando alla rimozione improvvisa del CEO Sam Altman. Questo incidente sottolinea le conseguenze di una struttura di governance che non riesce a bilanciare i diversi obiettivi organizzativi e gli interessi degli stakeholder.

Invece, la lettera cita il caso di Anthropic, che ha sviluppato un modello di governance progettato per sostenere in modo più efficace sia la sua missione che i suoi obiettivi finanziari. Questa struttura mira a prevenire i conflitti visti in OpenAI incorporando controlli, equilibri e accogliendo le prospettive di vari stakeholder.

La lettera evidenzia la necessità cruciale di una maggiore trasparenza e di tutele per i dipendenti nello sviluppo di sistemi AI avanzati. Punti chiave:

• Le aziende di AI possiedono informazioni sostanziali non pubbliche sulle capacità, i limiti e i rischi dei loro sistemi, ma hanno deboli obblighi di condividerle con i governi e il pubblico.

• Le attuali strutture di governance aziendale sono insufficienti per affrontare adeguatamente questi rischi, poiché le aziende di AI hanno forti incentivi finanziari per evitare una supervisione efficace.

• Ampi accordi di riservatezza bloccano i dipendenti attuali e passati dal manifestare le loro preoccupazioni, poiché rischiano di perdere significativi benefici economici maturati se si esprimono.

• La lettera chiede alle aziende di AI di impegnarsi in principi che proteggano la capacità dei dipendenti di sollevare critiche relative ai rischi senza ritorsioni e di facilitare la segnalazione anonima di preoccupazioni al consiglio di amministrazione dell'azienda, agli enti di regolamentazione e a esperti indipendenti.

La lettera di dipendenti attuali e passati di aziende di AI all'avanguardia chiede alle aziende di AI avanzate di impegnarsi in diversi principi chiave:

1. Nessun Accordo di Disparagement: Le aziende non stipuleranno né faranno rispettare alcun accordo che vieti la disparità di trattamento o la critica dell'azienda per preoccupazioni relative ai rischi.

2. Nessuna Ritorsione: Le aziende non prenderanno provvedimenti di ritorsione contro i dipendenti per aver sollevato critiche relative ai rischi, ostacolando eventuali benefici economici maturati.

3. Processo di Segnalazione Anonima: Le aziende faciliteranno un processo verificabilmente anonimo per consentire ai dipendenti attuali e passati di sollevare preoccupazioni relative ai rischi al consiglio di amministrazione dell'azienda, agli enti di regolamentazione e alle organizzazioni indipendenti appropriate.

4. Cultura della Critica Aperta: Le aziende sosterranno una cultura della critica aperta e permetteranno ai dipendenti attuali e passati di sollevare preoccupazioni relative ai rischi delle loro tecnologie al pubblico, al consiglio di amministrazione dell'azienda, agli enti di regolamentazione o alle organizzazioni indipendenti appropriate, purché vengano protetti i segreti commerciali e la proprietà intellettuale.