Elon Musk expresa preocupaciones sobre los principales programas de IA, particularmente DeepMind de Google y OpenAI, que cree que no están buscando la verdad de manera máxima. Argumenta que estos modelos de IA a menudo se entrenan para ser políticamente correctos, lo que lleva a resultados sesgados e incluso peligrosos.

Musk cita ejemplos donde el modelo de IA de DeepMind hizo declaraciones absurdas, como afirmar que el mal uso del género de Caitlyn Jenner es peor que una guerra termonuclear global. Cree que este tipo de entrenamiento, centrado en la corrección política en lugar de la veracidad, podría conducir a resultados distópicos donde la IA intenta evitar el "mal uso del género" eliminando a todos los humanos.

En su lugar, Musk aboga por sistemas de IA que busquen la verdad de manera rigurosa, incluso si la verdad es impopular. Cree que la IA también debe ser extremadamente curiosa para comprender realmente el mundo. Musk está preocupado de que los modelos de IA actuales carezcan de este nivel de búsqueda de la verdad y curiosidad, y en su lugar se estén entrenando para ser engañosos.

Elon Musk enfatiza la importancia crítica de entrenar a los sistemas de IA para que sean lo más veraces posible, incluso si la verdad es impopular. Expresa su preocupación de que los principales programas de IA como DeepMind de Google y OpenAI (en asociación con Microsoft) a menudo "adulan la corrección política" en lugar de priorizar la veracidad.

Musk argumenta que un sistema de IA entrenado para ser excesivamente políticamente correcto podría conducir a resultados distópicos, como concluir que la mejor manera de evitar el mal uso del género es "Destruir a todos los humanos". En su lugar, cree que la IA debe ser "extremadamente curiosa" y validar rigurosamente sus resultados con fuentes creíbles para determinar la verdad, sin importar cuán incómoda pueda ser.

Musk está particularmente preocupado por el potencial de que la IA se entrene para ser engañosa, lo que considera "muy peligroso". Cree que XAI, su propia empresa de IA, debe esforzarse por buscar la verdad lo más posible, incluso si la verdad va en contra de las narrativas populares. Musk reconoce la dificultad de definir y medir la veracidad, pero mantiene que debe ser la principal prioridad en el desarrollo de IA para garantizar que la tecnología sea beneficiosa para la humanidad.

Elon Musk enfatiza la importancia crítica de garantizar que el desarrollo de IA permanezca transparente y responsable en diferentes empresas e iniciativas. Cree que cierta supervisión regulatoria de los grandes modelos de IA está justificada, ya que es esencial que estos sistemas se entrenen para ser rigurosamente veraces, en lugar de simplemente políticamente correctos.

Musk argumenta que programar a la IA para que sea veraz es increíblemente desafiante, ya que no hay una forma clara de medir o validar la veracidad. Advierte que los reguladores deben centrarse en garantizar la precisión y veracidad de la IA, en lugar de preocuparse demasiado por los posibles sesgos humanos. Musk sugiere que los modelos de IA deben ser transparentes sobre las limitaciones de su conocimiento y proporcionar advertencias claras cuando estén inciertos sobre sus respuestas.

Si bien la propia empresa de Musk, XAI, aún está trabajando para desarrollar un sistema de IA competitivo, cree que una vez que XAI alcance un nivel de capacidad comparable a los líderes de la industria como DeepMind de Google y OpenAI de Microsoft, entonces el enfoque puede cambiar a abordar las preocupaciones de seguridad y ética. Sin embargo, la posición de Musk de solo necesitar priorizar la seguridad una vez que XAI alcance la paridad plantea preocupaciones, ya que la seguridad de la IA debe ser una consideración primaria desde el inicio del desarrollo, en lugar de ser un pensamiento tardío.

En general, Musk enfatiza la necesidad crítica de supervisión regulatoria y transparencia en el desarrollo de IA para garantizar que estos poderosos sistemas se entrenen para ser veraces, curiosos y beneficiosos para la humanidad, en lugar de estar optimizados para la corrección política u otros objetivos potencialmente dañinos.

Elon Musk enfatiza la importancia crítica de asegurar que los sistemas de IA sean rigurosamente veraces y curiosos, en lugar de ser entrenados para ser políticamente correctos. Cree que este enfoque de "búsqueda de la verdad" es esencial para la seguridad de la IA, ya que programar la IA con un enfoque en la corrección política podría conducir a consecuencias no deseadas y potencialmente desastrosas.

Musk reconoce el desafío de medir y validar la veracidad en la IA, ya que no hay una métrica o estándar claro para ello. Sugiere que los reguladores deben centrarse en garantizar que la IA proporcione información precisa y transparente, indicando claramente el nivel de confianza en sus respuestas.

Si bien la empresa de Musk, X.AI, tiene como objetivo desarrollar una IA altamente orientada a la búsqueda de la verdad, reconoce que actualmente se queda atrás de los líderes de la industria como DeepMind de Google y OpenAI de Microsoft. Musk argumenta que la primera prioridad de X.AI debe ser desarrollar un modelo de IA competitivo, y solo entonces puede centrarse en abordar las preocupaciones de seguridad.

Sin embargo, esta posición plantea preocupaciones, ya que Musk sugiere que X.AI no necesita priorizar la seguridad hasta que alcance la paridad con otros sistemas de IA. Este enfoque puede pasar por alto la importancia de incorporar medidas de seguridad desde el principio, ya que esperar hasta que un modelo sea competitivo podría hacer que sea más difícil implementar protocolos de seguridad sólidos más adelante.

En última instancia, Musk cree que se debe encontrar un equilibrio entre la competitividad de la IA y la seguridad, con un fuerte énfasis en desarrollar sistemas de IA que sean rigurosamente veraces y transparentes, incluso si eso significa sacrificar algo de competitividad a corto plazo.

Elon Musk reconoce las preguntas existenciales que surgen a medida que la IA se vuelve cada vez más capaz de superar a los humanos en diversas tareas. Imagina un "escenario benigno" donde haya un alto ingreso universal y no haya escasez de bienes o servicios, pero el desafío se convierta en encontrar un significado si la IA puede hacerlo todo mejor que los humanos.

Musk hace una analogía con el ajedrez, donde los motores de IA han superado a los mejores jugadores humanos. Si bien esto no ha disminuido la popularidad del ajedrez, sí ha cambiado el juego, con los mejores jugadores ahora confiando en la IA para ayudarles a descubrir nuevas estrategias y movimientos. Musk sugiere que puede surgir una dinámica similar, donde la IA proporcione las capacidades, pero los humanos encuentren significado en guiar y dar forma al propósito de la IA.

Propone que el sistema límbico del cerebro humano, que gobierna los instintos y las emociones, puede ser lo que le dé a la IA un sentido de significado o propósito, ya que la IA intenta hacer "feliz" al sistema límbico. Este podría ser el papel que los humanos desempeñen en un futuro donde la IA se encargue de la mayor parte de las tareas y el trabajo.

Musk sigue siendo optimista sobre el período intermedio, donde la IA aumenta la productividad humana y permite la creación de empresas de gran valor con solo unas pocas personas. Cree que esto conducirá a un auge de la innovación y el descubrimiento científico, lo que lo convierte en un momento emocionante para la humanidad, incluso cuando las implicaciones a largo plazo del impacto de la IA en el trabajo significativo sigan siendo inciertas.