NVIDIA создала невероятный ров вокруг своего бизнеса благодаря обширной экосистеме библиотек и фреймворков ускорения. Некоторые ключевые моменты:

• NVIDIA создала более 350 предметно-ориентированных библиотек ускорения, которые позволяют разработчикам использовать преимущества ускоренных вычислений. Сюда входят библиотеки для глубокого обучения (cuDNN), физического моделирования (PhysX), вычислительной литографии (Litho), секвенирования генов (cuPASA) и многое другое.

• Эти библиотеки имеют решающее значение для обеспечения доступности ускоренных вычислений для разработчиков. Без них сложность портирования алгоритмов для работы на GPU была бы огромной.

• Разделение между низкоуровневым фреймворком CUDA и высокоуровневыми предметно-ориентированными библиотеками стало ключом к широкому распространению ускоренных вычислений. Это аналогично важности OpenGL для компьютерной графики или SQL для обработки данных.

• Обширная экосистема библиотек NVIDIA создала огромный ров вокруг ее бизнеса. Разработчики глубоко инвестированы в эти библиотеки, что делает чрезвычайно сложным для конкурентов выйти на этот рынок.

• Способность постоянно расширять эту экосистему библиотек и поддерживать ее оптимизированной для новейшего оборудования является ключевым конкурентным преимуществом NVIDIA. Это позволяет им оставаться впереди кривой и сохранять свое доминирование в ускоренных вычислениях.

В целом, обширная экосистема библиотек ускорения NVIDIA является огромным стратегическим активом, который создал невероятно прочный ров вокруг ее бизнеса. Этот ров будет очень сложно преодолеть конкурентам в обозримом будущем.

Идея создания цифрового двойника Земли, который NVIDIA называет "Земля 2", является одним из самых амбициозных проектов, когда-либо предпринятых в мире. Цель состоит в том, чтобы моделировать Землю, чтобы лучше предсказывать будущее нашей планеты, предотвращать стихийные бедствия и понимать влияние изменения климата, чтобы мы могли лучше адаптироваться.

NVIDIA добилась значительных прорывов в этой области. Они разработали передовые возможности моделирования, которые могут точно моделировать погодные условия, климат и другие физические явления. Цифровой двойник Земли работает на основе моделей искусственного интеллекта, которые обучаются на огромных объемах данных, позволяя генерировать высокореалистичные симуляции.

Во время выступления NVIDIA продемонстрировала, как этот цифровой двойник может использоваться для прогнозирования пути и воздействия приближающегося шторма на Тайване. Путем запуска множественных симуляций система смогла предоставить insights в отношении неопределенностей относительно траектории шторма и его потенциального влияния на регион.

Эта технология представляет собой важный шаг вперед в нашей способности понимать и реагировать на проблемы, стоящие перед нашей планетой. Создавая всеобъемлющую цифровую модель Земли, NVIDIA позволяет ученым, политикам и другим исследовать будущее способами, которые ранее были невозможны. По мере роста возможностей этой системы она имеет потенциал трансформировать то, как мы подходим к глобальным проблемам, таким как изменение климата, стихийные бедствия и управление ресурсами.

До того, как ChatGPT открыл его миру, ИИ был всего лишь о восприятии, понимании естественного языка, компьютерном зрении и распознавании речи. Он был о выявлении и понимании.

Однако ChatGPT представил миру генеративный ИИ - ИИ, который может производить токены, будь то слова, изображения, диаграммы, таблицы или даже песни и видео. Это представляет собой фундаментальный сдвиг, поскольку теперь ИИ может не только воспринимать и понимать, но и генерировать новый контент.

Это знаменует начало новой эры - эры генеративного ИИ. ИИ эволюционировал от суперкомпьютера до "Центра обработки данных", который производит новый товар: токены. Так же, как генератор переменного тока Николы Теслы производил электроны, генератор ИИ Nvidia производит токены, которые имеют большие рыночные возможности практически во всех отраслях.

Это представляет собой новую промышленную революцию. ИИ больше не просто инструмент для хранения информации или обработки данных, а фабрика для генерации интеллекта для каждой отрасли. Этот переход от вычислений, основанных на извлечении, к вычислениям, основанным на генерации, окажет глубокое влияние, поскольку сгенерированные данные требуют меньше энергии для извлечения и являются более контекстуально релевантными.

Для того, чтобы обеспечить эту новую эру, Nvidia создала Nvidia Inference Microservices (Nims) - предварительно обученные модели ИИ, упакованные в легко развертываемые, полностью оптимизированные микросервисы. Это позволяет компаниям быстро интегрировать возможности генеративного ИИ в свои приложения и сервисы.

NVIDIA создала набор микросервисов ИИ-вывода, называемых NIMS, чтобы упростить для разработчиков интеграцию передовых возможностей ИИ в их приложения. Эти NIMS представляют собой предварительно обученные модели ИИ, которые можно легко развернуть и использовать, без сложности построения базовой инфраструктуры ИИ.

Основные аспекты NIMS включают:

1. Предварительно обученные модели: NVIDIA разработала разнообразные предварительно обученные модели ИИ, охватывающие различные области, такие как язык, зрение, робототехника и многое другое. Разработчики могут просто интегрировать эти модели в свои приложения, не обучая модели с нуля.

2. Оптимизация для производительности: NIMS высоко оптимизированы для эффективной работы на аппаратном обеспечении GPU NVIDIA, используя технологии, такие как Tensor Cores и CUDA. Это обеспечивает низкую задержку и высокую пропускную способность при выводе.

3. Контейнеризированное развертывание: NIMS упакованы в контейнеры, что упрощает их развертывание в облачных, локальных или периферийных средах. Разработчики могут просто загрузить образ контейнера и запустить модель ИИ как сервис.

4. Интегрированный стек: NIMS включают в себя полный программный стек, необходимый для запуска моделей ИИ, включая среду выполнения NVIDIA, движки вывода и другие зависимости. Это упрощает развертывание и снижает нагрузку на разработчиков.

5. Масштабируемость и надежность: NIMS разработаны для масштабируемости с поддержкой распределенного вывода на нескольких GPU. Они также включают функции для высокой доступности и отказоустойчивости, чтобы обеспечить надежную работу.

Цифровые люди революционизируют отрасли от обслуживания клиентов до рекламы и игр. Возможности для цифровых людей безграничны. Используя передовые технологии ИИ и компьютерной графики, цифровые люди могут видеть, понимать и взаимодействовать с нами человекоподобным образом.

Основой цифровых людей являются модели ИИ, построенные на многоязычном распознавании и синтезе речи, а также на крупных языковых моделях, которые понимают и генерируют диалог. Эти модели ИИ связаны с другими генеративными ИИ для динамической анимации реалистичной 3D-сетки лица и моделями ИИ, которые воспроизводят реалистичный внешний вид, обеспечивая трассировку лучей в реальном времени для имитации способа, которым свет проникает в кожу, рассеивается и выходит в различных точках, придавая коже мягкий и полупрозрачный вид.

Nvidia Ace - это набор технологий цифровых людей, упакованных в легко развертываемые, полностью оптимизированные микросервисы или Nims. Разработчики могут интегрировать Ace Nims в свои существующие фреймворки, движки и цифровые человеческие опыты. Сюда входят Neotron SLM и LLM Nims для понимания намерений и координации других моделей, Reva speech Nims для интерактивной речи и перевода, а также аудио-в-лицо и жесты Nims для анимации лица и тела. Ace Nims работают на Nvidia GDN, глобальной сети ускоренной инфраструктуры Nvidia, которая обеспечивает обработку цифровых людей с низкой задержкой более чем в 100 регионах.

Цифровые люди имеют потенциал стать отличными интерактивными агентами, делая взаимодействия гораздо более увлекательными и эмпатичными. По мере дальнейшего развития технологии цифровые люди получат широкое распространение во всех отраслях, революционизируя обслуживание клиентов, рекламу, игры и многое другое.

Дженсен Хуан обсуждает быстрые достижения в архитектуре и инфраструктуре ИИ, выделяя ключевые вехи и будущие направления:

Масштабирование центров обработки данных и трансформеров

• Масштабирование центров обработки данных NVIDIA позволило обучать большие модели трансформеров на огромных наборах данных с помощью обучения без надзора.
• Это позволило моделям ИИ изучать закономерности и взаимосвязи из данных без необходимости в обширной ручной разметке.

Физически-обоснованный ИИ

• Следующее поколение ИИ должно быть основано на физическом мире и понимать законы физики.
• Этого можно добиться за счет обучения на видео, синтетических данных моделирования и взаимодействия ИИ-систем друг с другом.

Архитектура GPU Blackwell

• Blackwell - это новая архитектура GPU NVIDIA, разработанная для эры генеративного ИИ.
• Ключевые особенности включают:
  • Самый большой чип, когда-либо созданный, с двумя чипами, соединенными со скоростью 10 Тб/с
  • Двигатель трансформеров второго поколения для динамической адаптации точности
  • Безопасный ИИ для защиты моделей от кражи или несанкционированного доступа
  • Сеть NVLink пятого поколения для высокоскоростного межсоединения GPU
  • Двигатель надежности и доступности для повышения времени безотказной работы
  • Двигатель декомпрессии для более быстрой обработки данных

Модульные системы DGX и MGX

• Чипы Blackwell интегрированы в модульные системы NVIDIA DGX и MGX.
• Системы DGX обеспечивают конфигурации с воздушным охлаждением, в то время как MGX предлагает варианты с жидкостным охлаждением.
• Эти системы можно масштабировать, подключая сотни тысяч GPU с использованием передовых сетевых технологий NVIDIA.

Инновации Ethernet для фабрик ИИ

• NVIDIA разработала улучшения Ethernet, чтобы сделать его пригодным для пульсирующих, с низкой задержкой моделей связи, необходимых при обучении ИИ.
• Технологии, такие как RDMA, управление перегрузками, адаптивная маршрутизация и изоляция шума, позволяют Ethernet работать наравне со специализированными сетями InfiniBand.

Дорожная карта: Blackwell Ultra и платформы Reuben

• NVIDIA планирует продолжать свой годичный цикл наращивания технологических возможностей с платформами Blackwell Ultra и Reuben.
• Эти будущие поколения будут сохранять архитектурную совместимость, чтобы использовать растущую экосистему программ