Los modelos de lenguaje a gran escala como GPT-4 se destacan en el pensamiento del sistema 1: los procesos cognitivos rápidos, intuitivos y automáticos. Sin embargo, a menudo tienen dificultades con el pensamiento del sistema 2, que implica un razonamiento más lento, deliberado y analítico. Esta limitación se evidencia en su incapacidad para resolver eficazmente problemas complejos que requieren descomponer la tarea en pasos, explorar diferentes opciones y evaluar las soluciones.

El problema clave es que los modelos de lenguaje a gran escala se basan principalmente en la coincidencia de patrones y la predicción estadística, sin la capacidad de comprender realmente los conceptos subyacentes o razonar a través del proceso de resolución de problemas. Pueden proporcionar respuestas aparentemente razonables a preguntas sencillas, pero cuando se enfrentan a tareas más complejas, a menudo no logran reconocer los matices y hacer las deducciones lógicas necesarias.

Esta limitación se destaca en los ejemplos proporcionados, donde los estudiantes universitarios y el modelo de lenguaje a gran escala tuvieron dificultades para resolver problemas aparentemente sencillos porque se basaron en su pensamiento intuitivo, de sistema 1, en lugar de participar en el pensamiento más esforzado del sistema 2 necesario para llegar a las soluciones correctas.

Hay varias estrategias de ingeniería de indicaciones que se pueden utilizar para hacer cumplir el pensamiento del sistema 2 en los modelos de lenguaje a gran escala:

1. Indicación de cadena de pensamiento: Este es un método simple y común que inserta un indicador de "Pasos de razonamiento paso a paso" antes de que el modelo genere la salida. Esto obliga al modelo a descomponer el problema en pasos más pequeños y a pensar a través de ellos.

2. Indicación basada en ejemplos: En lugar de proporcionar solo el indicador de "Pasos de razonamiento paso a paso", puede dar al modelo algunos ejemplos cortos de cómo abordar el problema. Esto ayuda al modelo a comprender el tipo de pensamiento paso a paso requerido.

3. Autoconsistencia con cadena de pensamiento: Este método hace que el modelo ejecute el proceso de cadena de pensamiento varias veces, revise las respuestas y vote por la más razonable. Esto explora algunas opciones diferentes antes de llegar a la respuesta final.

4. Árbol de pensamiento: Esta es una de las tácticas de indicación más avanzadas. Hace que el modelo genere múltiples formas de resolver el problema, explore las diferentes ramas y haga un seguimiento de los caminos explorados. Esto aumenta significativamente el número de opciones que el modelo considera.

Si bien los modelos de lenguaje a gran escala como GPT-4 han hecho un progreso impresionante, aún tienen problemas con tareas de razonamiento complejo y de varios pasos que requieren el pensamiento del "sistema 2". Para abordar esto, podemos aprovechar el poder de los agentes comunicativos: una configuración de varios agentes donde diferentes agentes colaboran para resolver problemas.

Los principales beneficios de este enfoque son:

1. Dividir y conquistar: Al asignar roles y responsabilidades específicos a diferentes agentes (por ejemplo, un solucionador de problemas, un revisor, un investigador), podemos descomponer problemas complejos en subtareas más manejables.

2. Pensamiento reflexivo: La interacción entre los agentes permite un bucle de retroalimentación, donde el revisor puede identificar fallas en el enfoque del solucionador de problemas y pedirle que vuelva a evaluar y mejore su solución.

3. Exploración de alternativas: Los agentes comunicativos pueden explorar múltiples caminos de solución en paralelo, en lugar de limitarse a un enfoque único y lineal.

En esta sección, recorreremos un ejemplo práctico del uso de un sistema de múltiples agentes para resolver un rompecabezas lógico complejo con el que incluso GPT-4 tiene problemas.

La tarea es la siguiente:

Hay cuatro animales: un león, una cebra, una jirafa y un elefante. Se encuentran en cuatro casas diferentes de diferentes colores: rojo, azul, verde y amarillo. El objetivo es determinar qué animal está en qué casa de color, según las siguientes pistas:

1. El león está en la primera o la última casa.
2. La casa verde está inmediatamente a la derecha de la casa roja.
3. La cebra está en la tercera casa.
4. La casa verde está al lado de la casa azul.
5. El elefante está en la casa roja.

Este problema es bastante desafiante, ya que requiere considerar cuidadosamente cada pista y deducir la disposición final. Veamos cómo podemos usar un sistema de múltiples agentes para resolver este problema.

Los modelos de lenguaje a gran escala como GPT-4 tienen capacidades impresionantes, pero a menudo tienen problemas con tareas de pensamiento de nivel dos, complejas y de varios pasos. Para abordar esto, los investigadores están explorando formas de hacer cumplir un razonamiento más deliberado y paso a paso en estos modelos.

Un enfoque es a través de técnicas de ingeniería de indicaciones como los indicadores de "cadena de pensamiento", que descomponen los problemas en pasos más pequeños. Métodos más avanzados como la "autoconsistencia" y el "árbol de pensamientos" exploran aún más múltiples caminos de solución.

Otra dirección prometedora es el uso de "agentes comunicativos": configuraciones donde múltiples agentes de IA colaboran para resolver problemas, con un agente actuando como revisor para identificar fallas en el razonamiento de los demás. Herramientas como AutoGPT facilitan la configuración de estos sistemas de múltiples agentes.

En última instancia, el objetivo es desarrollar modelos de lenguaje a gran escala que puedan cambiar de manera adaptativa entre el pensamiento rápido e intuitivo del "sistema uno" y el razonamiento más lento y deliberado del "sistema dos" según sea necesario para abordar desafíos complejos. Si bien las técnicas actuales muestran promesas, aún queda mucho trabajo por hacer para lograr este nivel de inteligencia sofisticada y flexible en los sistemas de IA.