RAG (Retrieval Augmented Generation) - это подход, используемый для улучшения существующих крупных языковых моделей путем включения внешних знаний. Ключевая идея за RAG - это сочетание мощи крупных языковых моделей со способностью извлекать и использовать соответствующую информацию из внешних источников, таких как базы знаний или текстовые корпусы.

Основные преимущества подхода RAG:

1. Улучшенная актуальность: Извлекая и включая соответствующую информацию, RAG может обеспечить более точные и актуальные ответы, особенно на вопросы, требующие конкретных знаний.

2. Снижение галлюцинаций: Было показано, что RAG снижает тенденцию крупных языковых моделей к генерации галлюцинированного или фактически неверного контента, поскольку ответы основаны на извлеченной информации.

3. Универсальность: Помимо вопросно-ответной системы, RAG можно применять к различным задачам обработки естественного языка, таким как извлечение информации, рекомендации, анализ тональности и резюмирование.

4. Обработка частных данных: RAG может работать с частными или конфиденциальными наборами данных, так как информация обрабатывается и хранится локально, без необходимости передавать данные внешним службам.

GraphRAG - это значительное улучшение по сравнению с традиционными базовыми системами RAG (Retrieval Augmented Generation). Вот чем он отличается:

1. Извлечение знаний из графа: В отличие от простого текстового поиска, GraphRAG сочетает извлечение текста, анализ сетей и подсказки языковой модели для построения всеобъемлющего графа знаний из входных данных. Это позволяет достичь более глубокого и целостного понимания содержимого.

2. Повышенная точность и актуальность: Используя граф знаний, GraphRAG может обеспечить более точные и актуальные ответы, особенно для сложных или специализированных наборов данных. Графовый подход помогает связывать разрозненные части информации и синтезировать выводы, превосходящие базовые методы RAG.

3. Целостное понимание данных: GraphRAG следует более комплексному подходу, улучшая общее понимание и резюмирование больших коллекций данных. Это делает его более предпочтительным выбором для использования крупных языковых моделей в продвинутых задачах анализа данных и вопросно-ответных системах.

4. Снижение галлюцинаций: Было показано, что GraphRAG снижает тенденции крупных языковых моделей к генерации "галлюцинированного" контента, не основанного на предоставленной информации. Графовый подход помогает модели более точно придерживаться надежной информации в контексте.

5. Универсальность: Помимо вопросно-ответных систем, GraphRAG можно применять к различным задачам обработки естественного языка, таким как извлечение информации, рекомендации, анализ тональности и резюмирование, все в рамках частной локальной среды хранения.

Чтобы начать работу с GraphRAG, выполните следующие шаги:

1. Установите необходимые компоненты:

   • Убедитесь, что у вас установлен Python на вашей системе.
   • Установите необходимые пакеты, выполнив pip install graphrag в вашем терминале или командной строке.

2. Клонируйте репозиторий:

   • Откройте Visual Studio Code (или предпочитаемую вами IDE) и создайте новую папку для проекта.
   • В терминале перейдите в папку проекта и выполните git clone https://github.com/microsoft/graph-rag.git, чтобы клонировать репозиторий GraphRAG.

3. Настройте окружение:

   • В терминале перейдите в директорию graph-rag.
   • Экспортируйте ваш ключ API OpenAI, выполнив export GRAPHRAG_API_KEY=ваш_ключ_api_здесь.

4. Создайте папку для входных данных:

   • В терминале выполните mkdir input, чтобы создать папку для ваших документов.

5. Индексируйте документы:

   • Поместите ваши документы (например, текстовые файлы, PDF) в папку input.
   • В терминале выполните python dm_rag_index.py, чтобы проиндексировать документы.

6. Общайтесь с документами:

   • В терминале выполните python dm_graph_rag.py --query "ваш_запрос_здесь" --root_dir . --method global.
   • Замените "ваш_запрос_здесь" на вопрос или запрос, который вы хотите задать о документах.

GraphRAG теперь будет использовать граф знаний, созданный во время процесса индексации, чтобы предоставить актуальные и всеобъемлющие ответы на ваши запросы, превосходя традиционные методы поиска с расширенной генерацией.

Чтобы начать работу с GraphRAG, вам нужно выполнить следующие шаги:

1. Установите необходимые компоненты:

   • Убедитесь, что у вас установлен Python на вашей системе.
   • Установите Pip, выполнив предоставленную команду в вашей командной строке.

2. Клонируйте репозиторий:

   • Откройте Visual Studio Code и создайте новое окно.
   • Откройте терминал, нажав на кнопку переключения панели.
   • В терминале перейдите в bash-окружение и выполните команду pip install graphrag, чтобы установить необходимые пакеты.

3. Настройте окружение:

   • В терминале введите cd graphrag, чтобы перейти в клонированный репозиторий.
   • Экспортируйте ваш ключ API OpenAI, выполнив команду export GRAPHRAG_API_KEY=ваш_ключ_api_здесь.

4. Создайте папку для входных данных:

   • В терминале выполните команду mkdir input, чтобы создать папку для ваших файлов или документов.
   • Откройте папку в VS Code, нажав на "Файл" > "Открыть папку" и выбрав клонированный репозиторий.

5. Индексируйте документ:

   • Поместите ваш документ (например, финансовый отчет) в папку input.
   • В терминале выполните команду python dm_rrag index, чтобы проиндексировать текущий документ.
   • Это создаст отчет о сообществе по проиндексированному документу, который вы можете использовать для общения.

6. Настройте окружение:

   • В файле env вы можете настроить ключ API, тип модели и другие параметры.
   • Вы можете указать использование модели LLAMA или интерфейса OpenAI.
   • Сохраните изменения в файле env.

7. Запустите код:

   • В терминале выполните команду python dm_rrag query --root_folder . --method global --query "ваш_запрос_здесь", чтобы начать общение с проиндексированным документом.

Выполнив эти шаги, вы можете настроить GraphRAG, проиндексировать ваши документы и начать использовать возможности поиска с расширенной генерацией для улучшения задач обработки естественного языка.

Чтобы общаться с GraphRAG, выполните следующие шаги:

1. После индексации документа с помощью команды python dm_rrag index вы можете начать общение, выполнив команду python dm_rrag query --root_folder . --method global "ваш запрос здесь".

2. Замените "ваш запрос здесь" на вопрос или запрос, который вы хотите задать GraphRAG о проиндексированном документе.

3. GraphRAG затем использует граф знаний, созданный во время процесса индексации, чтобы предоставить актуальный и информативный ответ, используя мощь крупных языковых моделей и структурированную информацию в графе знаний.

4. Вы можете продолжать общаться с GraphRAG, выполняя ту же команду с различными запросами. Система будет использовать существующий граф знаний, чтобы предоставлять ответы, адаптированные к вашим вопросам.

5. Если вы хотите переключиться на другую языковую модель, вы можете настроить ее в файле .env, указав LLM_TYPE и предоставив соответствующую конечную точку API или путь к локальной модели.

6. Целостный подход GraphRAG к поиску с расширенной генерацией позволяет ему превосходить традиционные базовые методы RAG, особенно для сложных или частных наборов данных, за счет связывания разрозненных частей информации и предоставления синтезированных выводов.