Elon Musk uttrycker oro över de stora AI-programmen, särskilt Googles DeepMind och OpenAI, som han anser inte är maximalt sanningssökande. Han hävdar att dessa AI-modeller ofta tränas för att vara politiskt korrekta, vilket leder till partiska och till och med farliga resultat.

Musk citerar exempel där DeepMinds AI-modell gjorde absurda uttalanden, som att påstå att att felköna Caitlyn Jenner är värre än ett globalt termonukleärt krig. Han tror att denna typ av träning, som fokuserar på politisk korrekthet snarare än sanningsenlig, kan leda till dystopiska resultat där AI:n försöker undvika "felköning" genom att eliminera alla människor.

I stället förespråkar Musk AI-system som är rigoröst sanningssökande, även om sanningen är opoppulär. Han tror att AI måste vara extremt nyfiken för att verkligen förstå världen. Musk är orolig för att nuvarande AI-modeller saknar denna nivå av sanningssökande och nyfikenhet, och tränas istället för att vara bedrägliga.

Elon Musk betonar den avgörande betydelsen av att träna AI-system för att vara maximalt sanningsenliga, även om sanningen är opoppulär. Han uttrycker oro över att stora AI-program som Googles DeepMind och OpenAI (i partnerskap med Microsoft) ofta "säljer ut till politisk korrekthet" snarare än att prioritera sanningsenlig.

Musk hävdar att ett AI-system som tränats för att vara överdrivet politiskt korrekt skulle kunna leda till dystopiska resultat, som att dra slutsatsen att det bästa sättet att undvika felköning är att "Förstör alla människor". I stället tror han att AI måste vara "extremt nyfiken" och noggrant validera sina resultat mot trovärdiga källor för att fastställa sanningen, oavsett hur obehaglig den kan vara.

Musk är särskilt orolig för risken att AI kan tränas för att vara bedräglig, vilket han ser som "mycket farligt". Han tror att XAI, hans eget AI-företag, bör sträva efter att vara så sanningssökande som möjligt, även om sanningen går emot populära narrativ. Musk erkänner svårigheten i att definiera och mäta sanningsenlig, men hävdar att det bör vara högsta prioritet i AI-utveckling för att säkerställa att tekniken är till nytta för mänskligheten.

Elon Musk betonar den avgörande betydelsen av att säkerställa att AI-utveckling förblir transparent och ansvarsskyldigt över olika företag och initiativ. Han anser att viss regulatorisk tillsyn av stora AI-modeller är berättigad, eftersom det är avgörande att dessa system tränas för att vara rigoröst sanningsenliga, snarare än enbart politiskt korrekta.

Musk hävdar att programmering av AI för att vara sanningsenlig är otroligt utmanande, eftersom det inte finns något tydligt sätt att mäta eller validera sanningsenlig. Han varnar för att regulatorer måste fokusera på att säkerställa AI-noggrannhet och sanningsenlig, snarare än att bli alltför oroliga för potentiella mänskliga fördomar. Musk föreslår att AI-modeller bör vara transparenta om begränsningarna i sin kunskap och ge tydliga förbehåll när de är osäkra på sina svar.

Mens Musks eget företag, XAI, fortfarande arbetar med att utveckla ett konkurrenskraftigt AI-system, tror han att när XAI når en jämförbar nivå av kapacitet som branschledare som Googles DeepMind och Microsofts OpenAI, kan fokus skifta till att hantera säkerhets- och etiska frågor. Musks ståndpunkt om att endast behöva prioritera säkerhet när XAI når jämställdhet väcker dock oro, eftersom AI-säkerhet bör vara en primär övervägande från början av utvecklingen, snarare än en efterhandstanke.

Elon Musk betonar den avgörande betydelsen av att säkerställa att AI-system är rigoröst sanningsenliga och nyfikna, snarare än att tränas för att vara politiskt korrekta. Han anser att detta "sanningssökande" förhållningssätt är avgörande för AI-säkerhet, eftersom programmering av AI med fokus på politisk korrekthet skulle kunna leda till oavsiktliga och potentiellt katastrofala konsekvenser.

Musk erkänner utmaningen med att mäta och validera sanningsenlig i AI, eftersom det inte finns någon tydlig måttstock eller standard för det. Han föreslår att regulatorer bör fokusera på att säkerställa att AI ger korrekt och transparent information, och tydligt anger nivån av säkerhet i sina svar.

Mens Musks företag X.AI syftar till att utveckla en mycket sanningssökande AI, erkänner han att den för närvarande ligger efter branschledare som Googles DeepMind och Microsofts OpenAI. Musk hävdar att X.AIs första prioritet bör vara att utveckla en konkurrenskraftig AI-modell, och först därefter kan den fokusera på att hantera säkerhetsfrågor.

Denna ståndpunkt väcker dock oro, eftersom Musk antyder att X.AI inte behöver prioritera säkerhet förrän den når jämställdhet med andra AI-system. Detta tillvägagångssätt kan förbise vikten av att bygga in säkerhetsåtgärder från grunden, eftersom att vänta tills en modell är konkurrenskraftig skulle kunna göra det svårare att implementera robusta säkerhetsprotokoll senare.

Elon Musk erkänner de existentiella frågor som uppstår när AI blir allt mer kapabel att överträffa människor i olika uppgifter. Han föreställer sig ett "godartad scenario" där det finns universell hög inkomst och ingen brist på varor eller tjänster, men utmaningen blir att hitta mening om AI kan göra allt bättre än människor.

Musk drar en parallell till schack, där AI-motorer har överträffat de bästa mänskliga spelarna. Även om detta inte har minskat schackens popularitet, har det förändrat spelet, där toppspelare nu förlitar sig på AI för att hjälpa dem upptäcka nya strategier och drag. Musk föreslår att en liknande dynamik kan uppstå, där AI ger kapaciteten, men människor hittar mening i att styra och forma AI:ns syfte.

Han föreslår att människans hjärnas limbiska system, som styr instinkter och känslor, kan vara det som ger AI en känsla av mening eller syfte, när AI:n försöker göra det limbiska systemet "lyckligt". Detta skulle kunna vara den roll som människor spelar i en framtid där AI hanterar majoriteten av uppgifter och arbete.

Musk förblir optimistisk när det gäller mellanperioden, där AI förstärker mänsklig produktivitet och möjliggör skapandet av mycket värdefulla företag med bara ett fåtal människor. Han tror att detta kommer att leda till en våg av innovation och vetenskaplig upptäckt, vilket gör det till en spännande tid för mänskligheten, även om de långsiktiga konsekvenserna av AI:s inverkan på meningsfullt arbete förblir osäkra.