Крупные языковые модели, такие как GPT-4, превосходят в мышлении системы 1 - быстрых, интуитивных и автоматических когнитивных процессах. Однако они часто испытывают трудности с мышлением системы 2, которое включает в себя более медленные, более целенаправленные и аналитические рассуждения. Это ограничение проявляется в их неспособности эффективно решать сложные проблемы, которые требуют разбиения задачи на этапы, исследования различных вариантов и оценки решений.

Основная проблема заключается в том, что крупные языковые модели в основном полагаются на сопоставление образцов и статистическое прогнозирование, без возможности по-настоящему понимать лежащие в основе концепции или рассуждать через процесс решения проблем. Они могут предоставлять, казалось бы, разумные ответы на простые вопросы, но когда они сталкиваются с более сложными задачами, они часто не распознают нюансы и не делают необходимых логических выводов.

Это ограничение подчеркивается в приведенных примерах, где студенты колледжа и крупная языковая модель испытывали трудности в решении, казалось бы, простых проблем, потому что они полагались на свое интуитивное, мышление системы 1, а не на более трудоемкое, мышление системы 2, необходимое для достижения правильных решений.

Для решения этого ограничения исследователи изучают способы наделения крупных языковых моделей более прочными возможностями рассуждения, например, с помощью техник подсказок, таких как цепочка мыслей, самосогласованность и дерево мыслей. Эти подходы направлены на то, чтобы направлять модели на разбиение проблем, рассмотрение нескольких вариантов и более систематическую оценку решений.

Существует несколько стратегий инженерии подсказок, которые можно использовать для обеспечения мышления системы 2 в крупных языковых моделях:

1. Цепочка мыслей: Это простой и распространенный метод, который вставляет подсказку "Пошаговое рассуждение" перед тем, как модель генерирует вывод. Это заставляет модель разбивать проблему на более мелкие шаги и продумывать их.

2. Пример-основанная подсказка: Вместо того, чтобы просто предоставить подсказку "Пошаговое рассуждение", вы можете дать модели несколько коротких примеров того, как подойти к проблеме. Это помогает модели понять тип пошагового мышления, необходимого для решения.

3. Самосогласованность с цепочкой мыслей: Этот метод заставляет модель многократно запускать процесс цепочки мыслей, анализировать ответы и голосовать за наиболее разумный. Это позволяет исследовать несколько вариантов, прежде чем прийти к окончательному ответу.

4. Дерево мыслей: Это один из самых продвинутых тактик подсказок. Он заставляет модель придумывать несколько способов решения проблемы, исследовать различные ветви и отслеживать исследованные пути. Это значительно увеличивает количество вариантов, которые модель рассматривает.

Хотя крупные языковые модели, такие как GPT-4, добились впечатляющего прогресса, они по-прежнему испытывают трудности с многошаговыми задачами на рассуждение, которые требуют "мышления системы 2". Чтобы решить эту проблему, мы можем использовать силу коммуникативных агентов - многоагентной настройки, в которой различные агенты сотрудничают для решения проблем.

Основные преимущества этого подхода:

1. Разделение и завоевание: Назначая конкретные роли и обязанности различным агентам (например, решателю проблем, рецензенту, исследователю), мы можем разбить сложные проблемы на более управляемые подзадачи.

2. Рефлексивное мышление: Взаимодействие между агентами позволяет создать обратную связь, при которой рецензент может выявить недостатки в подходе решателя проблем и побудить его переоценить и улучшить свое решение.

3. Исследование альтернатив: Коммуникативные агенты могут исследовать несколько путей решения параллельно, а не ограничиваться одним линейным подходом.

В этом разделе мы рассмотрим практический пример использования многоагентной системы для решения сложной логической головоломки, с которой даже GPT-4 испытывает трудности.

Задача заключается в следующем:

Есть четыре животных - лев, зебра, жираф и слон. Они находятся в четырех разных домах разных цветов - красном, синем, зеленом и желтом. Цель - определить, какое животное находится в каком цветном доме, основываясь на следующих подсказках:

1. Лев находится либо в первом, либо в последнем доме.
2. Зеленый дом сразу справа от красного дома.
3. Зебра находится в третьем доме.
4. Зеленый дом находится рядом с синим домом.
5. Слон находится в красном доме.

Эта проблема довольно сложная, так как требует тщательного рассмотрения каждой подсказки и вывода окончательной компоновки. Давайте посмотрим, как мы можем использовать многоагентную систему для решения этой проблемы.

Прежде всего, мы настраиваем две агента в AutoGen Studio - Решателя проблем и Рецензента. Роль Решателя проблем - попытаться решить задачу, а роль Рецензента - критиковать решение и предоставлять обратную связь.

Решатель проблем генерирует первоначальное решение, которое затем оценивает Рецензент. Рецензент выявляет недостатки в решении и предоставляет обратную связь Решателю проблем. Решатель проблем затем пересматривает решение на основе отзывов Рецензента, и процесс продолжается, пока Рецензент не будет удовлетворен окончательным ответом.

Благодаря этому итеративному процессу многоагентная система может исследовать различные варианты, выявлять и исправлять ошибки, и в конечном итоге прийти к правильному решению. Этот подход гораздо эффективнее, чем полагаться на одну модель, поскольку он позволяет более тщательно решать проблемы и критически оценивать собственную работу.

Крупные языковые модели, такие как GPT-4, обладают впечатляющими возможностями, но они часто испытывают трудности со сложными, многошаговыми задачами на рассуждение, которые требуют "мышления системы 2". Чтобы решить эту проблему, исследователи изучают способы обеспечения более целенаправленного, пошагового рассуждения в этих моделях.

Один из подходов - это техники инженерии подсказок, такие как "цепочка мыслей", которые разбивают проблемы на более мелкие шаги. Более продвинутые методы, такие как "самосогласованность" и "дерево мыслей", дополнительно исследуют несколько путей решения.

Другое многообещающее направление - использование "коммуникативных агентов" - настроек, в которых несколько агентов ИИ сотрудничают для решения проблем, при этом один агент выступает в роли рецензента, чтобы выявлять недостатки в рассуждениях другого. Инструменты, такие как AutoGPT, облегчают настройку этих многоагентных систем.

В конечном итоге, цель состоит в том, чтобы разработать крупные языковые модели, которые могут адаптивно переключаться между быстрым, интуитивным "мышлением системы один" и более медленным, целенаправленным "мышлением системы два" по мере необходимости для решения сложных задач. Хотя текущие методики показывают перспективы, еще предстоит много работы, чтобы достичь этого уровня изощренного, гибкого интеллекта в системах ИИ.