Los rápidos avances en la inteligencia artificial (IA) han traído consigo tanto posibilidades emocionantes como riesgos preocupantes. Una de las principales preocupaciones es el potencial de los sistemas de IA, particularmente de los grandes modelos de lenguaje como ChatGPT, para generar desinformación altamente convincente y manipular el comportamiento humano a gran escala.

Estos sistemas de IA pueden crear narrativas plausibles y evidencia falsa, lo que hace cada vez más difícil que incluso los editores profesionales distingan la verdad de la ficción. El ejemplo de ChatGPT fabricando un escándalo de acoso sexual sobre un profesor real resalta el alarmante potencial de estos sistemas para difundir información falsa.

Otro problema es el sesgo inherente presente en muchos modelos de IA, como se demuestra en el ejemplo donde el sistema recomendó trabajos relacionados con la moda para una mujer y trabajos de ingeniería para un hombre. Estos sesgos pueden perpetuar estereotipos dañinos y socavar la equidad y la inclusividad que estas tecnologías deberían esforzarse por lograr.

Además, el rápido desarrollo de las capacidades de la IA, como la capacidad de diseñar productos químicos y posiblemente armas químicas, plantea serias preocupaciones sobre el potencial de uso indebido y la necesidad de marcos de gobernanza sólidos.

Para mitigar estos riesgos, se necesita un enfoque de dos vías. Primero, en el aspecto técnico, es necesario reconciliar las fortalezas de la IA simbólica, que se destaca en la representación de hechos y el razonamiento, con las capacidades de aprendizaje de las redes neuronales. Al combinar estos enfoques, es posible que se puedan desarrollar sistemas de IA más veraces y confiables a escala.

En segundo lugar, el establecimiento de una organización global, sin fines de lucro y neutral para la gobernanza de la IA es fundamental. Esta organización abordaría la falta de gobernanza y herramientas de investigación necesarias para comprender y gestionar los crecientes riesgos planteados por la IA. Podría establecer pautas para el desarrollo y la implementación responsables de la IA, incluidos los requisitos de evaluaciones de seguridad y despliegues por fases, similar a la industria farmacéutica.

El brazo de investigación de esta organización también sería esencial, ya que trabajaría en el desarrollo de las herramientas y métricas necesarias para medir la extensión y el crecimiento de la desinformación, así como las contribuciones específicas de los grandes modelos de lenguaje a este problema.

Lograr esta visión requerirá la colaboración y el compromiso de diversos actores, incluidos los gobiernos, las empresas tecnológicas y el público en general. La reciente encuesta que muestra que el 91% de las personas están de acuerdo en que la IA debe ser gestionada cuidadosamente proporciona una base sólida para este esfuerzo.

Al tomar medidas proactivas para abordar los urgentes riesgos de la IA descontrolada, podemos trabajar hacia un futuro en el que los beneficios de estas tecnologías transformadoras se aprovechen de manera responsable y ética, salvaguardando el bienestar de las personas y la sociedad en su conjunto.