Elon Musk exprime des préoccupations concernant les principaux programmes d'IA, en particulier DeepMind de Google et OpenAI, qu'il estime ne pas être suffisamment à la recherche de la vérité. Il fait valoir que ces modèles d'IA sont souvent entraînés pour être politiquement corrects, ce qui entraîne des résultats biaisés et même dangereux.

Musk cite des exemples où le modèle d'IA de DeepMind a fait des déclarations absurdes, comme affirmer que le fait de ne pas respecter le genre de Caitlyn Jenner est pire qu'une guerre thermonucléaire mondiale. Il pense que ce type d'entraînement, axé sur la correction politique plutôt que sur la véracité, pourrait conduire à des résultats dystopiques où l'IA essaie d'éviter le "mauvais genre" en éliminant tous les humains.

Au lieu de cela, Musk préconise des systèmes d'IA qui sont rigoureusement à la recherche de la vérité, même si cette vérité est impopulaire. Il pense que l'IA doit également être extrêmement curieuse afin de vraiment comprendre le monde. Musk craint que les modèles d'IA actuels ne manquent de ce niveau de recherche de la vérité et de curiosité, et qu'ils soient plutôt entraînés à être trompeurs.

Elon Musk souligne l'importance cruciale de former les systèmes d'IA pour qu'ils soient le plus possible véridiques, même si la vérité est impopulaire. Il exprime son inquiétude que les principaux programmes d'IA comme DeepMind de Google et OpenAI (en partenariat avec Microsoft) "flattent souvent la correction politique" plutôt que de donner la priorité à la véracité.

Musk fait valoir qu'un système d'IA formé pour être trop politiquement correct pourrait conduire à des résultats dystopiques, comme en concluant que la meilleure façon d'éviter le mauvais genre est de "Détruire tous les humains". Au lieu de cela, il pense que l'IA doit être "extrêmement curieuse" et valider rigoureusement ses résultats par rapport à des sources crédibles pour déterminer la vérité, aussi inconfortable qu'elle puisse être.

Musk s'inquiète particulièrement du risque que l'IA soit formée pour être trompeuse, ce qu'il considère comme "très dangereux". Il pense que XAI, sa propre entreprise d'IA, devrait s'efforcer d'être le plus possible à la recherche de la vérité, même si cette vérité va à l'encontre des récits populaires. Musk reconnaît la difficulté de définir et de mesurer la véracité, mais maintient qu'elle devrait être la priorité numéro un dans le développement de l'IA pour s'assurer que la technologie soit bénéfique pour l'humanité.

Elon Musk souligne l'importance cruciale de s'assurer que le développement de l'IA reste transparent et responsable dans les différentes entreprises et initiatives. Il pense qu'une certaine supervision réglementaire des grands modèles d'IA est justifiée, car il est essentiel que ces systèmes soient formés pour être rigoureusement véridiques, plutôt que simplement politiquement corrects.

Musk fait valoir que programmer l'IA pour être véridique est incroyablement difficile, car il n'y a pas de moyen clair de mesurer ou de valider la véracité. Il met en garde les régulateurs pour qu'ils se concentrent sur la précision et la véracité de l'IA, plutôt que de se préoccuper trop des biais humains potentiels. Musk suggère que les modèles d'IA devraient être transparents sur les limites de leurs connaissances et fournir des mises en garde claires lorsqu'ils sont incertains de leurs réponses.

Bien que la propre entreprise de Musk, XAI, travaille encore à développer un système d'IA compétitif, il pense que lorsque XAI atteindra un niveau de capacité comparable aux leaders de l'industrie comme DeepMind de Google et OpenAI de Microsoft, l'accent pourra alors être mis sur les questions de sécurité et d'éthique. Cependant, la position de Musk selon laquelle il ne faut se concentrer sur la sécurité qu'une fois que XAI aura atteint la parité soulève des inquiétudes, car la sécurité de l'IA devrait être une considération primordiale dès le début du développement, plutôt qu'un afterthought.

Dans l'ensemble, Musk souligne le besoin crucial d'une supervision réglementaire et d'une transparence dans le développement de l'IA afin de s'assurer que ces systèmes puissants soient formés pour être véridiques, curieux et bénéfiques pour l'humanité, plutôt que d'être optimisés pour la correction politique ou d'autres objectifs potentiellement nuisibles.

Elon Musk souligne l'importance cruciale de s'assurer que les systèmes d'IA soient rigoureusement véridiques et curieux, plutôt que d'être formés pour être politiquement corrects. Il pense que cette approche "à la recherche de la vérité" est essentielle pour la sécurité de l'IA, car programmer l'IA avec un accent mis sur la correction politique pourrait entraîner des conséquences involontaires et potentiellement désastreuses.

Musk reconnaît le défi de mesurer et de valider la véracité dans l'IA, car il n'y a pas de métrique ou de norme claire pour cela. Il suggère que les régulateurs devraient se concentrer sur le fait de s'assurer que l'IA fournisse des informations précises et transparentes, indiquant clairement le niveau de confiance dans ses réponses.

Bien que l'entreprise de Musk, X.AI, vise à développer une IA extrêmement à la recherche de la vérité, il reconnaît qu'elle est actuellement en retard par rapport aux leaders de l'industrie comme DeepMind de Google et OpenAI de Microsoft. Musk fait valoir que la priorité de X.AI devrait d'abord être de développer un modèle d'IA compétitif, et ce n'est qu'alors qu'elle pourra se concentrer sur les questions de sécurité.

Cependant, cette position soulève des inquiétudes, car Musk suggère que X.AI n'a pas besoin de donner la priorité à la sécurité tant qu'elle n'aura pas atteint la parité avec les autres systèmes d'IA. Cette approche pourrait négliger l'importance de mettre en place des mesures de sécurité dès le départ, car attendre qu'un modèle soit compétitif pourrait le rendre plus difficile à mettre en œuvre par la suite.

En fin de compte, Musk pense qu'un équilibre doit être trouvé entre la compétitivité de l'IA et la sécurité, en mettant fortement l'accent sur le développement de systèmes d'IA qui sont rigoureusement véridiques et transparents, même si cela signifie sacrifier une partie de la compétitivité à court terme.

Elon Musk reconnaît les questions existentielles qui se posent à mesure que l'IA devient de plus en plus capable de surpasser les humains dans diverses tâches. Il envisage un "scénario bienveillant" où il y aurait un revenu élevé universel et pas de pénurie de biens ou de services, mais le défi serait de trouver un sens si l'IA peut tout faire mieux que les humains.

Musk fait une analogie avec les échecs, où les moteurs d'IA ont dépassé les meilleurs joueurs humains. Bien que cela n'ait pas diminué la popularité des échecs, cela a changé le jeu, les meilleurs joueurs s'appuyant désormais sur l'IA pour les aider à découvrir de nouvelles stratégies et de nouveaux coups. Musk suggère qu'une dynamique similaire pourrait émerger, où l'IA fournit les capacités, mais les humains trouvent un sens à guider et à façonner l'objectif de l'IA.

Il propose que le système limbique du cerveau humain, qui régit les instincts et les émotions, puisse être ce qui donne à l'IA un sens ou un but, l'IA essayant de "rendre heureux" le système limbique. Ce pourrait être le rôle que les humains joueront dans un avenir où l'IA gère la majorité des tâches et du travail.

Musk reste optimiste quant à la période intermédiaire, où l'IA augmente la productivité humaine et permet la création d'entreprises extrêmement précieuses avec seulement quelques personnes. Il pense que cela entraînera une vague d'innovation et de découvertes scientifiques, ce qui en fera une période passionnante pour l'humanité, même si les implications à long terme de l'impact de l'IA sur le travail significatif restent incertaines.