Планирование является важным аспектом систем на основе агентов, поскольку оно позволяет агентам рассуждать о своих действиях, разбивать сложные задачи на подзадачи и обеспечивать более надежное и согласованное выполнение их целей. Как отмечает Харрисон Чейз, современные языковые модели пока не способны надежно выполнять такое планирование самостоятельно, и разработчикам часто приходится полагаться на внешние стратегии подсказок и когнитивные архитектуры, чтобы обеспечить возможности планирования.

Одной из ключевых проблем является то, что языковые модели, как правило, работают в более реактивном, "циклическом" режиме, где они генерируют ответ, выполняют действие, а затем генерируют следующий ответ. Это может привести к принятию субоптимальных решений и отсутствию долгосрочного планирования. Техники, такие как "дерево мыслей", рефлексия и декомпозиция подцелей, направлены на решение этой проблемы, предоставляя моделям возможность рассуждать о своих действиях, планировать наперед и разбивать сложные задачи.

Однако долгосрочное решение может потребовать фундаментального изменения базовой архитектуры языковых моделей, выходящего за рамки текущих моделей на основе трансформеров, к чему-то, что может более эффективно справляться с планированием и рассуждениями. Это область активных исследований, и проекты, такие как QAR (вопросно-ответное рассуждение) и модели, обученные "медленно думать", демонстрируют многообещающие результаты.

В то же время агентские фреймворки, такие как Langchain, играют ключевую роль в предоставлении необходимых инструментов и инфраструктуры для реализации возможностей планирования, позволяя разработчикам координировать различные модели, предоставлять им доступ к различным инструментам и разрабатывать согласованные рабочие процессы. По мере развития области агентов способность эффективно планировать и рассуждать останется ключевым направлением как для исследователей, так и для практиков.

Пользовательский опыт (UX) приложений на основе агентов - это область, которая особенно интересует Харрисона. Он отмечает, что UX еще не "отточен" и что часто необходимо участие человека из-за ненадежности языковых моделей и возможности возникновения галлюцинаций.

Харрисон выделяет UX, продемонстрированный в демо Anthropic Delphi, как положительный пример, с возможностью видеть различные экраны (браузер, окно чата, терминал, код) в одном представлении. Он также указывает на ценность наличия возможности "перемотки и редактирования", которая позволяет пользователям возвращаться к предыдущему состоянию и вносить коррективы, повышая надежность и возможность управления агентом.

Кроме того, Харрисон обсуждает важность "проектирования потока" - явного проектирования рабочего процесса и конечного автомата, в рамках которого действует агент. Он предполагает, что это проектирование потока может помочь компенсировать некоторые ограничения самих языковых моделей, перенося планирование и принятие решений на инженеров-людей заранее.

В целом Харрисон подчеркивает, что UX приложений на основе агентов является критической областью, которая все еще развивается, с необходимостью сбалансировать автоматизацию и человеческий надзор, чтобы обеспечить последовательность, надежность и качество. Агентские фреймворки, такие как Langchain, могут помочь предоставить необходимые инструменты и возможности для разработки эффективных приложений на основе агентов.

Агенты - это мощные инструменты, выходящие за рамки просто сложных подсказок. Одним из ключевых аспектов, делающих агентов такими способными, является их возможность использовать память, как краткосрочную, так и долгосрочную.

Краткосрочная память позволяет агентам обучаться и совершенствоваться в ходе разговора или взаимодействия, опираясь на предыдущие шаги и соответствующим образом корректируя свой подход. Это обеспечивает более динамичное и адаптивное взаимодействие, при котором агент может направляться и корректироваться пользователем.

Долгосрочная память, с другой стороны, имеет решающее значение для того, чтобы агенты могли поддерживать и использовать базу знаний компании. Это позволяет агентам глубоко понимать бизнес, его процессы и соответствующую информацию, делая их более эффективными в своих задачах. Однако управление долгосрочной памятью сопряжено с собственными проблемами, такими как определение того, что хранить, когда забывать и как развивать память по мере изменения бизнеса.

Интеграция как краткосрочной, так и долгосрочной памяти в агентские фреймворки является активной областью исследований и разработок. По мере улучшения этих возможностей агенты будут становиться все более надежными, персонализированными и ценными в корпоративных условиях, где последовательность и качество имеют первостепенное значение.

Основные моменты из выступления Харрисона Чейза об агентах:

1. Агенты - это больше, чем просто сложные подсказки - у них есть доступ к различным инструментам, памяти (краткосрочной и долгосрочной) и возможность планировать и предпринимать действия.

2. Планирование является ключевым аспектом агентов, поскольку оно позволяет им рассуждать о необходимых шагах для выполнения задачи. Однако современные языковые модели испытывают трудности с надежным планированием, что приводит к использованию внешних стратегий подсказок. Будущее может потребовать новых архитектур, выходящих за рамки просто трансформеров, для обеспечения лучших возможностей планирования.

3. Пользовательский опыт (UX) приложений на основе агентов - это область, вызывающая интерес. Техники, такие как возможность пользователей перематывать и редактировать действия агента, могут повысить надежность и дать пользователям больше контроля. Сбалансировать участие человека и автоматизацию - это постоянная проблема.

4. Память, как краткосрочная, так и долгосрочная, имеет решающее значение для того, чтобы агенты могли обучаться и персонализировать свои взаимодействия. Процедурная память (помнить, как что-то делать) и персонализированная память (помнить факты о пользователе) - важные функции, которые исследуются.

В целом выступление освещает текущее состояние и будущий потенциал агентов, подчеркивая необходимость совершенствования в областях планирования, UX и памяти, чтобы сделать агентов более надежными и полезными в реальных приложениях.