Wizard LM-2 - это важная веха в мире больших языковых моделей (LLM). Эта открытая модель продемонстрировала высокую конкурентоспособность по сравнению с передовыми проприетарными работами, такими как GPT-4 и Claude, в тесте MT Benchmark, который измеряет способность LLM вести связные, информативные и увлекательные разговоры.

Модель Wizard LM-2 является доработанной и предпочтительно обученной версией модели Megatron-Turing NLG 22B. Она была улучшена с точки зрения производительности на сложных задачах, включая чат, кодирование, многоязычные рассуждения и приложения на основе агентов.

Семейство Wizard LM теперь включает три новые модели: Wizard LM-2 22B, модель с 70B параметрами и модель с 7B параметрами. Модель Wizard LM-2 22B зарекомендовала себя как наиболее передовая, превосходя в производительности на сложных задачах, в то время как 70B модель демонстрирует возможности рассуждения высшего уровня, а 7B модель выделяется своей скоростью и конкурентоспособной производительностью.

Команда, стоящая за Wizard LM, использовала несколько передовых методов для разработки модели Wizard LM-2:

1. Предварительная обработка данных: Они проанализировали и распределили различные атрибуты в новых источниках данных, чтобы получить первоначальное представление о данных. Они использовали взвешенную выборку, чтобы отрегулировать важность различных атрибутов в тренировочных данных на основе экспериментального опыта.

2. Прогрессивное обучение: Процесс обучения был разбит на разные этапы, при этом на каждом этапе подавалось больше срезов данных. Это позволяет эволюционировать разнообразные пары инструкция-ответ.

3. Структура AI-Aligned AI (AAA): Несколько LLM объединены вместе, чтобы обучать и улучшать друг друга оптимизированным образом с помощью обучения с учителем и подкрепляющего обучения.

4. Evol-Instruct: Этот компонент автономно генерирует высококачественные инструкции и форматирует их через несколько итераций, повышая общую логику, правильность и связность ответов модели.

5. Методы самообучения: Структура AAA позволяет модели Wizard LM-2 генерировать новые тренировочные данные, которые затем используются для обучения с подкреплением.

6. Обучение с учителем: Модель обучается с использованием размеченных данных, поэтапной обработки данных и разделенных предпочтительных данных, чтобы согласовать различные срезы для более эффективного оффлайн-обучения с подкреплением.

Модель Wizard LM-2 продемонстрировала высокую конкурентоспособность по сравнению с передовыми проприетарными языковыми моделями, такими как GPT-4 Turbo и CLA-3, в тесте MT Benchmark, который измеряет способность вести связные, информативные и увлекательные разговоры.

Команда, стоящая за Wizard LM, провела как человеческую, так и автоматическую оценку для оценки возможностей модели. В оценке предпочтений человека они собрали разнообразный набор реальных инструкций, охватывающих письмо, кодирование, математику, рассуждения, задачи агентов и многоязычное понимание. Аннотаторы проводили слепые парные сравнения между Wizard LM-2 и базовыми моделями, при этом источники ответов были скрыты.

Результаты показывают, что Wizard LM-2 последовательно превосходит существующие передовые модели, включая другие открытые модели. В тесте MT Benchmark модель продемонстрировала высокую конкурентоспособность даже по сравнению с ведущими проприетарными работами.

Чтобы начать работу с моделью Wizard LM-2, вам нужно использовать платформу LM Studio. Сначала перейдите на карточку модели и скопируйте информацию об одной из трех доступных моделей: Wizard LM-2 AX 22B, Wizard LM 70B или Wizard LM 7B.

Затем откройте LM Studio и перейдите на вкладку поиска. Вставьте информацию из карточки модели и нажмите Enter. Вы увидите различные версии модели Wizard LM-2, доступные для использования.

Чтобы установить модель, просто загрузите версию, которую вы хотите использовать. После загрузки вы можете перейти на вкладку разговора в LM Studio и выбрать модель Wizard LM-2, чтобы начать с ней общаться.

Выпуск Wizard LM2 представляет собой важную веху в развитии больших языковых моделей. Эта передовая модель продемонстрировала высокую конкурентоспособность по сравнению с ведущими проприетарными работами, превосходя в производительности на сложных задачах, возможностях рассуждения высшего уровня и конкурентной скорости.

Команда, стоящая за Wizard LM, использовала инновационные методы, такие как взвешенная выборка, прогрессивное обучение и структуры AI-aligned AI, для повышения возможностей модели. Включение Evol-instruct, который автономно генерирует и распределяет высококачественные инструкции, также улучшило логику, правильность и связность ответов модели.

Как человеческая, так и автоматическая оценка показали, что Wizard LM2 последовательно превосходит существующие передовые модели, что делает ее многообещающим претендентом в области больших языковых моделей. Благодаря наличию различных моделей Wizard LM пользователи могут выбрать ту, которая лучше всего соответствует их конкретным потребностям - будь то высокопроизводительная Wizard LM2 AX 22B, мощная Wizard LM 70B или ориентированная на скорость Wizard LM 7B.