NVIDIA a construit un incroyable fossé autour de son activité grâce à son vaste écosystème de bibliothèques et de frameworks d'accélération. Quelques points clés :

• NVIDIA a créé plus de 350 bibliothèques d'accélération spécifiques à un domaine qui permettent aux développeurs de tirer parti du calcul accéléré. Celles-ci incluent des bibliothèques pour l'apprentissage en profondeur (cuDNN), la simulation physique (PhysX), la lithographie computationnelle (Litho), le séquençage des gènes (cuPASA) et plus encore.

• Ces bibliothèques sont essentielles pour rendre le calcul accéléré accessible aux développeurs. Sans elles, la complexité du portage des algorithmes pour qu'ils s'exécutent sur des GPU serait immense.

• La séparation entre le framework CUDA de bas niveau et les bibliothèques spécifiques à un domaine de haut niveau est ce qui a permis l'adoption généralisée du calcul accéléré. C'est comparable à l'importance d'OpenGL pour l'infographie ou de SQL pour le traitement des données.

• L'écosystème étendu de bibliothèques de NVIDIA a créé un fossé important autour de son activité. Les développeurs sont profondément investis dans ces bibliothèques, rendant extrêmement difficile pour les concurrents de s'implanter sur le marché.

• La capacité à développer en permanence cet écosystème de bibliothèques et à le garder optimisé pour les derniers matériels est un avantage concurrentiel clé pour NVIDIA. Cela leur permet de rester à la pointe et de maintenir leur domination dans le calcul accéléré.

En résumé, l'écosystème étendu de bibliothèques d'accélération de NVIDIA est un atout stratégique majeur qui a construit un fossé incroyablement solide autour de son activité. Ce fossé sera très difficile à surmonter pour les concurrents dans un avenir prévisible.

L'idée de créer un jumeau numérique de la Terre, que NVIDIA appelle "Terre 2", est l'un des projets les plus ambitieux que le monde ait jamais entrepris. L'objectif est de simuler la Terre afin de mieux prédire l'avenir de notre planète, d'éviter les catastrophes et de comprendre l'impact du changement climatique afin que nous puissions mieux nous adapter.

NVIDIA a réalisé des percées importantes dans ce domaine. Ils ont développé des capacités de simulation avancées qui peuvent modéliser avec précision les schémas météorologiques, le climat et d'autres phénomènes physiques. Le jumeau numérique de la Terre est alimenté par des modèles d'IA qui apprennent à partir de vastes quantités de données, lui permettant de générer des simulations très réalistes.

Pendant la conférence, NVIDIA a démontré comment ce jumeau numérique peut être utilisé pour prédire la trajectoire et l'impact d'une tempête approchante à Taïwan. En exécutant plusieurs simulations, le système a pu fournir des informations sur les incertitudes concernant la trajectoire de la tempête et ses effets potentiels sur la région.

Cette technologie représente une avancée majeure dans notre capacité à comprendre et à répondre aux défis auxquels est confrontée notre planète. En créant un modèle numérique complet de la Terre, NVIDIA permet aux scientifiques, aux décideurs politiques et à d'autres de explorer l'avenir de manière auparavant impossible. À mesure que les capacités de ce système continueront de se développer, il a le potentiel de transformer la façon dont nous abordons les problèmes mondiaux comme le changement climatique, les catastrophes naturelles et la gestion des ressources.

Jusqu'à ce que ChatGPT le révèle au monde, l'IA était tout à fait axée sur la perception, la compréhension du langage naturel, la vision par ordinateur et la reconnaissance vocale. Il s'agissait de détection et de compréhension.

Cependant, ChatGPT a présenté au monde l'IA génératrice - l'IA qui peut produire des jetons, qu'il s'agisse de mots, d'images, de graphiques, de tableaux ou même de chansons et de vidéos. Cela représente un changement fondamental, car l'IA peut maintenant non seulement percevoir et comprendre, mais aussi générer de nouveaux contenus.

Cela marque le début d'une nouvelle ère - l'ère de l'IA génératrice. L'IA a maintenant évolué d'un superordinateur en un "centre de données" qui produit un nouveau produit de base : les jetons. Tout comme le générateur AC de Nikola Tesla a produit des électrons, le générateur d'IA de Nvidia produit des jetons, qui offrent de grandes opportunités de marché dans presque tous les secteurs.

Cela représente une nouvelle révolution industrielle. L'IA n'est plus seulement un instrument de stockage d'informations ou de traitement des données, mais une usine de génération d'intelligence pour chaque industrie. Ce passage de l'informatique basée sur la récupération à l'informatique basée sur la génération aura un impact profond, car les données générées nécessitent moins d'énergie pour être récupérées et sont plus pertinentes dans leur contexte.

Pour permettre cette nouvelle ère, Nvidia a créé les Nvidia Inference Microservices (Nims) - des modèles d'IA pré-entraînés conditionnés sous forme de microservices faciles à déployer et entièrement optimisés. Cela permet aux entreprises d'intégrer rapidement des capacités d'IA génératrice dans leurs applications et services.

NVIDIA a créé une suite de microservices d'inférence d'IA, appelés NIMS, pour faciliter l'intégration de capacités d'IA avancées dans les applications des développeurs. Ces NIMS sont des modèles d'IA pré-entraînés qui peuvent être facilement déployés et utilisés, sans la complexité de la construction de l'infrastructure d'IA sous-jacente.

Les aspects clés des NIMS comprennent :

1. Modèles pré-entraînés : NVIDIA a développé une variété de modèles d'IA pré-entraînés couvrant différents domaines comme le langage, la vision, la robotique et plus encore. Les développeurs peuvent simplement intégrer ces modèles dans leurs applications sans avoir à les entraîner à partir de zéro.

2. Optimisés pour les performances : Les NIMS sont hautement optimisés pour s'exécuter de manière efficace sur le matériel GPU de NVIDIA, en tirant parti de technologies comme les Tensor Cores et CUDA. Cela garantit des performances d'inférence à faible latence et à haut débit.

3. Déploiement conteneurisé : Les NIMS sont conditionnés sous forme de conteneurs, ce qui les rend faciles à déployer dans des environnements cloud, sur site ou edge. Les développeurs peuvent simplement récupérer l'image du conteneur et exécuter le modèle d'IA en tant que service.

4. Pile intégrée : Les NIMS incluent la pile logicielle complète nécessaire pour exécuter les modèles d'IA, y compris le runtime NVIDIA, les moteurs d'inférence et d'autres dépendances. Cela simplifie le déploiement et réduit la charge des développeurs.

5. Évolutif et fiable : Les NIMS sont conçus pour être évolutifs, avec une prise en charge de l'inférence distribuée sur plusieurs GPU. Ils incluent également des fonctionnalités pour une haute disponibilité et une tolérance aux pannes afin d'assurer un fonctionnement fiable.

Les humains numériques révolutionneront l'industrie, du service client à la publicité et aux jeux. Les possibilités offertes par les humains numériques sont infinies. Grâce à des technologies d'IA avancées et d'infographie 3D, les humains numériques peuvent voir, comprendre et interagir avec nous de manière humaine.

La base des humains numériques sont des modèles d'IA construits sur la reconnaissance et la synthèse vocale multilingues, ainsi que sur de grands modèles de langage qui comprennent et génèrent des conversations. Ces modèles d'IA sont connectés à d'autres IA génératrices pour animer dynamiquement un maillage 3D réaliste d'un visage, et à des modèles d'IA qui reproduisent des apparences réalistes en temps réel en utilisant le lancer de rayons pour simuler la manière dont la lumière pénètre dans la peau, se diffuse et sort à différents endroits, donnant à la peau son aspect doux et translucide.

Nvidia Ace est une suite de technologies d'humains numériques conditionnées sous forme de microservices faciles à déployer et entièrement optimisés. Les développeurs peuvent intégrer les microservices Ace dans leurs frameworks, moteurs et expériences d'humains numériques existants. Ceux-ci incluent les microservices Neotron SLM et LLM pour comprendre l'intention et orchestrer d'autres modèles, les microservices Reva speech pour la parole interactive et la traduction, ainsi que les microservices de visage et de geste pour l'animation faciale et corporelle. Les microservices Ace s'exécutent sur le réseau mondial accéléré par Nvidia (GDN) qui fournit un traitement d'humains numériques à faible latence dans plus de 100 régions.

Les humains numériques ont le potentiel d'être de grands agents interactifs, rendant les interactions beaucoup plus engageantes et empathiques. À mesure que la technologie continuera à progresser, les humains numériques connaîtront une adoption généralisée dans tous les secteurs, révolutionnant le service client, la publicité, les jeux et bien plus encore.

Jensen Huang discute des progrès rapides de l'architecture et de l'infrastructure de l'IA, mettant en évidence les principales étapes et les orientations futures :

Mise à l'échelle des centres de données et des transformeurs

• La mise à l'échelle des centres de données de Nvidia a permis l'entraînement de grands modèles de transformeurs sur des jeux de données massifs grâce à l'apprentissage non supervisé.
• Cela a permis aux modèles d'IA d'apprendre des schémas et des relations à partir des données sans avoir besoin d'un étiquetage humain important.

IA physique

• La prochaine génération d'IA doit être ancrée dans le monde physique et comprendre les lois de la physique.
• Cela peut être réalisé en apprenant à partir de vidéos, de données de simulation synthétique et de systèmes d'IA apprenant en interagissant les uns avec les autres.

Architecture GPU Blackwell

• Blackwell est la nouvelle architecture GPU de Nvidia conçue pour l'ère de l'IA génératrice.
• Les principales caractéristiques incluent :
  • Le plus grand puce jamais fabriquée, avec deux puces connectées à 10 To/s
  • Moteur de transformeur de deuxième génération pour l'adaptation dynamique de la précision
  • IA sécurisée pour protéger les modèles contre le vol ou la falsification
  • NVLink de cinquième génération pour l'interconnexion GPU haut débit
  • Moteur de fiabilité et de disponibilité pour améliorer le temps de fonctionnement
  • Moteur de décompression pour un traitement des données plus rapide

Systèmes modulaires DGX et MGX

• Les puces Blackwell sont intégrées dans les systèmes modulaires DGX et MGX de Nvidia.
• Les systèmes DGX offrent des configurations refroidies par air, tandis que MGX propose des options de refroidissement par liquide.
• Ces systèmes peuvent être mis à l'échelle pour connecter des centaines de milliers de GPU en utilisant les technologies de réseau avancées de Nvidia.

Innovations Ethernet pour les usines d'IA

• Nvidia a développé des améliorations à Ethernet pour le rendre adapté aux schémas de communication en rafales et à faible latence requis dans l'entraînement de l'IA.
• Des technologies comme RDMA, le contrôle de la congestion, le routage adaptatif et l'isolation du bruit permettent à Ethernet d'être à la hauteur des réseaux InfiniBand spécialisés.

Feuille de route : Blackwell Ultra et plates-formes Reuben

• Nvidia prévoit de poursuivre son rythme annuel de repoussement des limites de la technologie avec les plates-formes Blackwell Ultra et Reuben.
• Ces générations futures maintiendront la compatibilité architecturale pour tirer parti de l'écosystème logiciel en pleine croissance.

Le message clé est la poursuite inlassable de Nvidia pour faire progresser l'architecture et l'infrastructure de l'IA afin de permettre la prochaine vague d'IA génératrice et d'applications d'IA physique.

Blackwell est la nouvelle architecture GPU de NVIDIA, conçue pour alimenter la prochaine génération d'IA et de calcul haute performance. Voici les principaux points saillants :

Principales caractéristiques de Blackwell :

1. Échelle massive : Les puces Blackwell sont les plus grandes puces jamais fabriquées, avec deux des plus grands dies connectés à l'aide d'un lien de 10 To/s. Cela permet une puissance de calcul sans précédent.

2. Fiabilité et disponibilité : Blackwell inclut un moteur de fiabilité et de disponibilité (RAS) qui peut tester chaque transistor et élément de mémoire, améliorant le temps de fonctionnement et la stabilité pour les déploiements à grande échelle.

3. Adaptation dynamique de la précision : Le moteur de transformeur de deuxième génération de Blackwell peut adapter dynamiquement la précision des calculs en fonction de la plage et de la précision requises, améliorant ainsi l'efficacité.

4. IA sécurisée : Blackwell inclut des fonctionnalités de sécurité matérielle pour protéger les modèles d'IA contre le vol ou la falsification.

5. Moteur de compression : Blackwell dispose d'un moteur de compression de données dédié qui peut extraire les données du stockage 20 fois plus rapidement qu'auparavant, améliorant le débit des données.

Améliorations des performances

• Blackwell offre une augmentation massive des performances de l'IA, avec jusqu'à 45 fois d'amélioration par rapport à la génération précédente.
• L'énergie nécessaire pour entraîner un modèle de 2 billions de paramètres et 8 billions de jetons a été réduite de 350 fois par rapport