Возможность вызова функций является критически важной для больших языковых моделей (LLM), чтобы взаимодействовать с реальным миром и быть полезными за пределами простого чат-ассистента. LLM могут не иметь внутренних знаний для выполнения определенных задач, таких как получение текущих погодных условий. Однако они могут использовать внешние API или функции для получения и обработки необходимой информации.

Поток вызова функций работает следующим образом:

1. LLM сначала определяет, может ли он выполнить операцию на основе своих внутренних знаний или ему необходимо использовать внешние инструменты или функции.
2. Если требуются внешние инструменты, LLM проанализирует запрос пользователя и выберет соответствующие функции для выполнения.
3. Затем LLM использует компилятор Python, чтобы сделать вызовы функций, получить результаты и передать их обратно в LLM для генерации окончательного ответа.

В этом разделе мы исследуем способность модели справляться с многофункциональными вызовами и вложенными вызовами функций. Цель - проверить способность модели разлагать сложные запросы и последовательно выполнять несколько функций, чтобы предоставить всеобъемлющий ответ.

Во-первых, мы рассмотрим пример многофункционального вызова, когда модель должна выполнить две отдельные функции, чтобы ответить на запрос пользователя. Модель должна быть способна определить соответствующие функции, сделать необходимые вызовы функций и объединить результаты, чтобы сформировать окончательный ответ.

Затем мы исследуем концепцию вложенных вызовов функций. В этом сценарии вывод одного вызова функции становится входными данными для другого вызова функции. Модель должна распознать эту зависимость, выполнить функции в правильном порядке и предоставить пользователю окончательный результат.

Чтобы убедиться, что ответы модели точны и правильно отформатированы, мы будем использовать системное сообщение, которое направляет модель в том, как обрабатывать зависимые вызовы функций. Этот подход помогает модели сохранять целостность данных на протяжении всего многоэтапного процесса выполнения функций.

Наконец, мы протестируем более сложный пример, который сочетает в себе многофункциональные вызовы и вложенные вызовы функций. Это продемонстрирует способность модели справляться со сложными запросами и координировать выполнение нескольких функций, чтобы предоставить всеобъемлющий и точный ответ.

Вложенные вызовы функций - это мощная функция, которая позволяет языковым моделям выполнять сложные многоэтапные операции, связывая выходные данные нескольких функций. Эта возможность имеет решающее значение для того, чтобы языковые модели могли взаимодействовать с реальным миром и решать сложные задачи, выходящие за рамки простых чат-ботов.

В этом разделе мы исследуем, как модель Mistol 7B версии 3 может справляться с вложенными вызовами функций, когда вывод одного вызова функции используется в качестве входных данных для другого вызова функции. Это позволяет модели разбивать сложные запросы пользователей на серию взаимозависимых шагов, каждый из которых выполняется отдельной функцией.

Основные шаги, необходимые для реализации вложенных вызовов функций, следующие:

1. Определение зависимых функций: Модель должна распознавать, когда запрос пользователя требует, чтобы вывод одной функции использовался в качестве входных данных для другой функции. Это требует, чтобы модель имела всестороннее понимание доступных функций и их взаимосвязей входных/выходных данных.

2. Последовательное выполнение вызовов функций: После определения зависимых функций модель должна выполнять их в правильном порядке, передавая соответствующие данные от одного вызова функции к следующему.

3. Правильное форматирование вывода: Чтобы обеспечить точность и осмысленность окончательного вывода, модель должна использовать системное сообщение для руководства форматированием промежуточных результатов вызова функций.

При работе с многоэтапными или вложенными вызовами функций важно обеспечить правильное форматирование входных и выходных данных. Дядя Код рекомендует использовать системное сообщение, чтобы направлять помощника в выборе соответствующих инструментов и обработке зависимостей между ними.

Предлагаемое системное сообщение следующее:

Вы полезный помощник. Ваша задача - выбирать инструменты, соответствующие запросу пользователя. В случае нескольких инструментов, если инструменты зависят друг от друга и входной параметр одного инструмента поступает из другой функции, используйте @, за которым следует имя функции, для значения параметра. Это обеспечивает правильное форматирование значения.

Это системное сообщение выполняет две ключевые функции:

1. Выбор инструментов: Оно инструктирует помощника выбирать соответствующие инструменты на основе запроса пользователя, обеспечивая охват необходимой функциональности.

2. Обработка зависимостей: В случаях, когда инструменты взаимозависимы и вывод одной функции требуется в качестве входных данных для другой, системное сообщение направляет помощника использовать синтаксис @имя_функции для правильной ссылки на вывод предыдущей функции.

Модель Mistol V3 продемонстрировала впечатляющие возможности в обработке многофункциональных вызовов и вложенных вызовов функций. Основные выводы следующие:

1. Модель может разложить сложные запросы пользователей на отдельные вызовы функций и выполнять их параллельно, как показано в примере получения текущей погоды в Париже и текущего времени в Сан-Франциско.

2. Для вложенных вызовов функций, когда вывод одной функции является входными данными для другой, модель может справляться с этим бесшовно. Она использует системное сообщение, чтобы обеспечить, что вывод первого вызова функции имеет правильный формат для второго вызова функции.

3. Способность модели справляться с сочетанием многофункциональных вызовов и вложенных вызовов функций, как показано в последнем примере, подчеркивает ее гибкость и надежность в реальных сценариях.

В целом, возможности вызова функций модели Mistol V3 делают ее мощным инструментом для создания интерактивных приложений, которые могут использовать внешние API и службы. Интегрируя эту модель в ваши проекты, вы можете создавать интеллектуальных помощников, способных выполнять широкий спектр задач, выходящих за рамки простых чат-взаимодействий.