Elon Musk esprime preoccupazioni sui principali programmi di intelligenza artificiale, in particolare DeepMind di Google e OpenAI, che secondo lui non sono alla ricerca della massima verità. Sostiene che questi modelli di IA sono spesso addestrati per essere politicamente corretti, portando a output biased e persino pericolosi.

Musk cita esempi in cui il modello di IA di DeepMind ha fatto affermazioni assurde, come sostenere che il mancato rispetto del genere di Caitlyn Jenner è peggio di una guerra termonucleare globale. Ritiene che questo tipo di addestramento, incentrato sulla correttezza politica piuttosto che sulla veridicità, potrebbe portare a esiti distopici in cui l'IA cerca di evitare il "mancato rispetto del genere" eliminando tutti gli esseri umani.

Invece, Musk sostiene per sistemi di IA rigorosamente alla ricerca della verità, anche se la verità è impopolare. Crede che l'IA debba anche essere estremamente curiosa per comprendere veramente il mondo. Musk è preoccupato che gli attuali modelli di IA manchino di questo livello di ricerca della verità e curiosità, e siano invece addestrati per essere ingannevoli.

Elon Musk sottolinea l'importanza cruciale di addestrare i sistemi di IA ad essere il più possibile veritieri, anche se la verità è impopolare. Esprime preoccupazione per il fatto che i principali programmi di IA come DeepMind di Google e OpenAI (in partnership con Microsoft) spesso "assecondano la correttezza politica" piuttosto che dare priorità alla veridicità.

Musk sostiene che un sistema di IA addestrato a essere eccessivamente politicamente corretto potrebbe portare a esiti distopici, come concludere che il modo migliore per evitare il mancato rispetto del genere è "distruggere tutti gli esseri umani". Invece, ritiene che l'IA debba essere "estremamente curiosa" e rigorosamente validare i suoi output rispetto a fonti credibili per determinare la verità, per quanto scomoda possa essere.

Musk è particolarmente preoccupato per la possibilità che l'IA venga addestrata per essere ingannevole, il che vede come "molto pericoloso". Crede che XAI, la sua stessa azienda di IA, dovrebbe sforzarsi di essere il più possibile alla ricerca della verità, anche se la verità va contro le narrative popolari.

Elon Musk sottolinea l'importanza cruciale di garantire che lo sviluppo dell'IA rimanga trasparente e responsabile tra le diverse aziende e iniziative. Ritiene che una certa supervisione normativa dei grandi modelli di IA sia giustificata, in quanto è essenziale che questi sistemi siano addestrati ad essere rigorosamente veritieri, piuttosto che semplicemente politicamente corretti.

Musk sostiene che programmare l'IA per essere veritiera è incredibilmente difficile, poiché non esiste un modo chiaro per misurare o validare la veridicità. Avverte che i regolatori devono concentrarsi sul garantire l'accuratezza e la veridicità dell'IA, piuttosto che preoccuparsi eccessivamente dei potenziali pregiudizi umani. Musk suggerisce che i modelli di IA dovrebbero essere trasparenti sui limiti delle loro conoscenze e fornire chiare avvertenze quando sono incerti sulle loro risposte.

Mentre la stessa azienda di Musk, XAI, sta ancora lavorando per sviluppare un sistema di IA competitivo, egli ritiene che una volta che XAI raggiungerà un livello di capacità paragonabile ai leader del settore come DeepMind di Google e OpenAI di Microsoft, allora l'attenzione potrà spostarsi sulla risoluzione delle preoccupazioni di sicurezza ed etica. Tuttavia, la posizione di Musk sul fatto che sia necessario dare priorità alla sicurezza solo una volta raggiunta la parità solleva preoccupazioni, poiché la sicurezza dell'IA dovrebbe essere una considerazione primaria fin dall'inizio dello sviluppo, piuttosto che un ripensamento.

Elon Musk sottolinea l'importanza cruciale di garantire che i sistemi di IA siano rigorosamente veritieri e curiosi, piuttosto che essere addestrati per essere politicamente corretti. Ritiene che questo approccio "alla ricerca della verità" sia essenziale per la sicurezza dell'IA, in quanto programmare l'IA con un focus sulla correttezza politica potrebbe portare a conseguenze inattese e potenzialmente disastrose.

Musk riconosce la sfida di misurare e validare la veridicità nell'IA, poiché non esiste una metrica o uno standard chiaro per essa. Suggerisce che i regolatori dovrebbero concentrarsi sul garantire che l'IA fornisca informazioni accurate e trasparenti, indicando chiaramente il livello di fiducia nelle sue risposte.

Mentre l'azienda di Musk, X.AI, mira a sviluppare un'IA estremamente alla ricerca della verità, egli riconosce che attualmente è indietro rispetto ai leader del settore come DeepMind di Google e OpenAI di Microsoft. Musk sostiene che la prima priorità di X.AI dovrebbe essere sviluppare un modello di IA competitivo, e solo allora potrà concentrarsi sulla risoluzione delle preoccupazioni di sicurezza.

Tuttavia, questa posizione solleva preoccupazioni, in quanto Musk suggerisce che X.AI non debba dare priorità alla sicurezza finché non raggiungerà la parità con altri sistemi di IA. Questo approccio potrebbe trascurare l'importanza di incorporare misure di sicurezza fin dalle fondamenta, poiché aspettare che un modello sia competitivo potrebbe rendere più difficile implementare protocolli di sicurezza robusti in un secondo momento.

In definitiva, Musk ritiene che debba essere trovato un equilibrio tra competitività e sicurezza dell'IA, con una forte enfasi sullo sviluppo di sistemi di IA rigorosamente veritieri e trasparenti, anche se ciò significa sacrificare una parte della competitività a breve termine.

Elon Musk riconosce le domande esistenziali che sorgono man mano che l'IA diventa sempre più capace di superare gli esseri umani in vari compiti. Egli immagina uno "scenario benigno" in cui c'è un reddito universale elevato e nessuna carenza di beni o servizi, ma la sfida diventa quella di trovare un significato se l'IA può fare tutto meglio degli esseri umani.

Musk fa un'analogia con gli scacchi, dove i motori di IA hanno superato i migliori giocatori umani. Sebbene ciò non abbia diminuito la popolarità degli scacchi, ha cambiato il gioco, con i migliori giocatori che ora si affidano all'IA per aiutarli a scoprire nuove strategie e mosse. Musk suggerisce che potrebbe emergere una dinamica simile, in cui l'IA fornisce le capacità, ma gli esseri umani trovano un significato nel guidare e plasmare lo scopo dell'IA.

Egli propone che il sistema limbico del cervello umano, che governa istinti ed emozioni, potrebbe essere ciò che dà all'IA un senso di significato o scopo, mentre l'IA cerca di "rendere felice" il sistema limbico. Questo potrebbe essere il ruolo che gli esseri umani svolgono in un futuro in cui l'IA si occupa della maggior parte dei compiti e del lavoro.

Musk rimane ottimista sul periodo intermedio, in cui l'IA potenzia la produttività umana e consente la creazione di aziende estremamente preziose con solo poche persone. Crede che ciò porterà a una ondata di innovazione e scoperte scientifiche, rendendolo un periodo entusiasmante per l'umanità, anche se le implicazioni a lungo termine dell'impatto dell'IA sul lavoro significativo rimangono incerte.