Мета только что открыла исходный код новых моделей Llama, и 405-миллиардная модель считается передовой, превосходя GPT-4 по большинству контрольных показателей. Модели 70B и 8B также были обновлены до Llama 3.1 с существенными улучшениями, особенно в 8B модели.

Контрольные показатели демонстрируют впечатляющие результаты, при этом Llama 3.1 45B набирает 89 баллов по оценке людей, наравне с GPT-4 Omni. В других тестах, таких как MathLang, она даже превосходит другие передовые модели. Скачки в производительности для моделей 70B и 8B особенно примечательны, при этом модель 8B демонстрирует почти двукратное увеличение баллов по некоторым контрольным показателям.

Хотя контрольные показатели важны, "проверка на соответствие" также имеет решающее значение. Говорят, что тон и стиль письма Llama 3.1 похожи на Lark, которые некоторые предпочитают ChatGPT. Однако окончательное суждение будет зависеть от индивидуальных предпочтений и вариантов использования.

Прежде всего давайте разберемся с основными характеристиками. Meta выпустила три новые модели Llama: полностью новую модель с 405 миллиардами параметров и обновленные модели 70B и 8B (называемые Llama 3.1).

Модель 405B предназначена для конкуренции с GPT-4 и другими передовыми моделями. Эти крупные модели превосходят в задачах, таких как программирование, математическое мышление и общие знания. Однако они могут быть недоступны для большинства домашних пользователей.

Более доступные модели 70B и 8B, особенно модель 8B, показали значительные улучшения. По контрольным показателям, таким как оценка людьми, математика и использование инструментов, модель 8B превосходит предыдущую версию Llama 3.

Но, как говорится, "контрольные показатели - это не все". Настоящая проверка - это "проверка на соответствие" - как модель работает в реальном мире, в субъективных оценках. Говорят, что тон и стиль письма модели 8B похожи на Клода от Anthropic, которого некоторые предпочитают ChatGPT.

Выпуск новых моделей Llama 3.1, особенно версий 8B и 405B, открывает множество захватывающих вариантов использования. Одна из самых интригующих возможностей - это использование Rag (Retrieval-Augmented Generation) и тонкой настройки.

Rag позволяет модели дополнять свое контекстное окно, используя внешние файлы или документы. Это фактически расширяет знания и возможности модели, позволяя ей черпать информацию из более широкого круга источников. Это может быть особенно полезно для задач, требующих глубоких знаний или возможности ссылаться на конкретные данные.

Тонкая настройка, с другой стороны, позволяет специализировать модель для конкретного варианта использования. Предоставляя модели соответствующие пары входных-выходных данных, вы можете настроить ее для достижения определенной задачи, такой как классификация данных или специализированная генерация текста. Это может быть мощным инструментом для адаптации модели к вашим уникальным потребностям.

Несколько вариантов доступа и использования новых моделей Llama 3.1, включая бесплатные и локальные варианты развертывания:

1. Replicate Space: Существует бесплатная версия моделей Llama 3.1, размещенная на Replicate, к которой можно получить доступ и использовать ее бесплатно. Ссылка на эту бесплатную версию будет предоставлена в описании ниже.

2. Локальное развертывание: Вы можете загрузить и запустить модели Llama 3.1 локально на своем компьютере. Это можно сделать с помощью инструментов, таких как LLM Studio, которые предоставляют удобный графический интерфейс для загрузки и запуска моделей. Это позволяет использовать модели автономно, без необходимости полагаться на внешние сервисы.

3. Взлом: Модели Llama 3.1 можно "взломать" с помощью подсказок, которые удаляют ограничения на содержимое. Это позволяет генерировать неподцензурный и потенциально опасный контент. Однако важно использовать эту функцию ответственно и избегать создания чего-либо вредного.

Выпуск Llama 3.1 Meta вызвал значительное возбуждение в сообществе ИИ. Этот передовой языковой модель с впечатляющими контрольными показателями имеет потенциал для революционизации различных приложений. Давайте погрузимся и исследуем возможности этого мощного инструмента с открытым исходным кодом.

Прежде всего, контрольные показатели для Llama 3.1 поистине замечательны. 405-миллиардная модель превосходит GPT-4 Omni по нескольким ключевым метрикам, включая оценку людьми, математику и использование инструментов. Хотя крупные модели могут быть непрактичными для домашнего использования, версии с 70 миллиардами и 8 миллиардами параметров предлагают впечатляющую производительность, которую можно использовать для широкого спектра задач.

Выпуск открытых моделей Llama 3.1 Meta открыл захватывающие возможности, включая возможность взлома и обхода цензуры моделей. Вскоре после выпуска был обнаружен подсказка, известная как "py the prompter jailbreak", которую можно использовать для получения неподцензурной и потенциально опасной информации из моделей.

Хотя подробности этой подсказки для взлома здесь не будут предоставлены, чтобы избежать возможного неправильного использования, само существование такой возможности подчеркивает двойственную природу этих мощных языковых моделей. С одной стороны, открытый исходный код Llama 3.1 позволяет обеспечить большую доступность и настраиваемость, но с другой стороны, это также вызывает опасения по поводу возможности злоупотребления и необходимости ответственной разработки и развертывания этих технологий.