API Gemini компании Google предлагает уникальную функцию под названием "выполнение кода", которая позволяет модели генерировать и запускать код Python, а затем итеративно обучаться на результатах до тех пор, пока не будет получен окончательный вывод. Эта мощная возможность позволяет разработчикам создавать приложения, которые извлекают выгоду из логики, основанной на коде, например, для решения уравнений или обработки текста.

Основные преимущества выполнения кода по сравнению с обычным вызовом функций:

1. Простота: Языковая модель решает, нужно ли ей писать код для выполнения определенной операции, и может запускать код на серверной стороне API. Это гораздо проще, чем настраивать среду разработки и делать несколько вызовов API.

2. Гибкость: При выполнении кода модель может итеративно изменять код и улучшать вывод, в то время как вызов функций ограничен одним запросом API.

3. Изоляция: Выполнение кода происходит в полностью изолированной среде, что означает, что разработчикам не нужно беспокоиться об underlying инфраструктуре.

Основные различия между выполнением кода и обычным вызовом функций в контексте больших языковых моделей (LLM), таких как Gemini, заключаются в следующем:

1. Выполнение кода:

   • LLM может генерировать и выполнять код непосредственно в бэкенде API.
   • Модель решает, нужно ли ей писать код для выполнения определенной операции, и может запускать код.
   • Это один запрос API, и выполнение кода происходит на бэкенде, позволяя модели итеративно решать задачу.
   • В настоящее время ограничено Python и определенными библиотеками, такими как NumPy и SciPy.
   • Имеет ограничения, такие как отсутствие ввода-вывода файлов, вывод не в виде текста и ограничение времени выполнения в 30 секунд.

2. Вызов функций:

   • Позволяет взаимодействовать с реальными API или инструментами с помощью внешних функций.
   • Требует предоставления списка инструментов, к которым может получить доступ модель, и настройки среды разработки.
   • Может потребоваться несколько вызовов API для выполнения задачи.
   • Обеспечивает большую гибкость в отношении языка, фреймворка и функциональности.
   • Требует большей настройки и управления внешней средой.

API Gemini компании Google предлагает мощную функцию под названием "выполнение кода", которая позволяет разработчикам генерировать и запускать код Python в рамках API. Эта возможность позволяет создавать приложения, которые извлекают выгоду из логики, основанной на коде, например, для решения уравнений или обработки текста.

Давайте рассмотрим несколько примеров того, как можно использовать эту функцию:

Простая математика

API Gemini может генерировать и выполнять код для выполнения основных математических операций, таких как вычисление суммы первых 200 простых чисел.

# Сгенерировать и выполнить код для вычисления суммы
result = """
import math

primes = []
num = 2
while len(primes) < 200:
    is_prime = True
    for i in range(2, int(math.sqrt(num)) + 1):
        if num % i == 0:
            is_prime = False
            break
    if is_prime:
        primes.append(num)
    num += 1

total_sum = sum(primes)
print(f"The sum of the first 200 prime numbers is: {total_sum}")
"""

Вывод показывает вычисленную сумму первых 200 простых чисел.

Манипуляция строками

API Gemini также может генерировать и выполнять код для выполнения различных задач по манипуляции строками, таких как преобразование строки в верхний регистр, подсчет количества символов "o" и обращение строки.

API Gemini предлагает бесплатный тариф для разработчиков, чтобы они могли исследовать функцию выполнения кода. Однако существуют некоторые ограничения, которые следует учитывать:

• Ограничения на запросы: Бесплатный тариф имеет ограничения на количество запросов, которые вы можете сделать в минуту. Это необходимо, чтобы предотвратить злоупотребление и обеспечить справедливое использование API.

• Время выполнения: Функция выполнения кода имеет максимальное время выполнения 30 секунд. Любой код, который занимает больше времени, будет прерван.

• Поддерживаемые библиотеки: Среда выполнения кода имеет доступ к ограниченному набору библиотек, в основном NumPy и SciPy. Более сложные библиотеки или пользовательские пакеты не поддерживаются.

• Отсутствие ввода-вывода файлов или вывода не в виде текста: Функция выполнения кода не поддерживает операции ввода-вывода файлов или генерацию вывода не в виде текста, таких как медиафайлы. Это означает, что вы не можете использовать ее для задач, требующих этих возможностей.

• Потенциальное влияние на другие функции: Включение выполнения кода иногда может негативно повлиять на производительность или качество других выходных данных модели, таких как генерация историй или эссе. Это важно учитывать при использовании этой функции.