Недавние исследования показали, что сочетание больших языковых моделей (LLM) с техниками поиска может привести к впечатляющим возможностям, даже превосходящим производительность гораздо более крупных моделей, таких как GPT-4.

В статье продемонстрировано, что относительно небольшая LLM с 8 миллиардами параметров, дополненная алгоритмом самоусовершенствования Монте-Карло, может достичь точности 96,7% на бенчмарке математики GSM8K - превзойдя GPT-4, Claude и Gemini, которые имеют в 200 раз больше параметров.

Этот подход интегрирует поиск методом Монте-Карло с LLM, позволяя модели итеративно улучшать свои ответы путем поиска по различным версиям и попыток улучшений. Алгоритм следует общим схемам поиска Монте-Карло, но применяет его к задаче решения математических проблем.

Ключевое понимание заключается в том, что, предоставляя LLM больше времени и вычислительной мощности для генерации ответов, она может развивать новые возможности, превосходящие человеческий уровень производительности в определенных задачах. Это отражает подход, использованный в AlphaGo от DeepMind, где самосовершенствование через массовую самоигру позволило ему превзойти лучших человеческих игроков в го.

Хотя текущие LLM ограничены в областях, таких как долгосрочный контекст, зрение и способность к кодированию, эти результаты свидетельствуют о том, что сочетание их с техниками, основанными на поиске, может стать путем к значительному повышению возможностей. По мере появления моделей, таких как GPT-5, с улучшенными базовыми возможностями, интеграция их с передовыми алгоритмами поиска может открыть еще более впечатляющую производительность, потенциально превосходящую типичные человеческие способности на широком спектре бенчмарков.

Способность относительно небольшой LLM превзойти гораздо более крупные модели в математической задаче подчеркивает потенциал этого подхода и предполагает, что мы можем быть на пороге значительных прорывов в способностях ИИ к рассуждению и решению проблем.