NVIDIA heeft een ongelooflijke verdedigingsgracht rond zijn bedrijf opgebouwd door zijn uitgebreide ecosysteem van acceleratiebibliotheek en -frameworks. Enkele belangrijke punten:

• NVIDIA heeft meer dan 350 domeinspecifieke acceleratiebibliotheken gecreëerd die ontwikkelaars in staat stellen gebruik te maken van versnelde berekeningen. Hieronder vallen bibliotheken voor diepe leerprocessen (cuDNN), fysicasimulatie (PhysX), computationele lithografie (Litho), gensequencing (cuPASA) en meer.

• Deze bibliotheken zijn cruciaal om versnelde berekeningen toegankelijk te maken voor ontwikkelaars. Zonder hen zou de complexiteit van het overzetten van algoritmen om op GPU's te draaien enorm zijn.

• De scheiding tussen het low-level CUDA-framework en de high-level domeinspecifieke bibliotheken is wat de wijdverspreide adoptie van versnelde berekeningen mogelijk heeft gemaakt. Het is vergelijkbaar met het belang van OpenGL voor computergraphics of SQL voor gegevensverwerking.

• Het uitgebreide bibliotheekecosysteem van NVIDIA heeft een enorme verdedigingsgracht rond zijn bedrijf gecreëerd. Ontwikkelaars zijn diep geïnvesteerd in deze bibliotheken, waardoor het voor concurrenten uiterst moeilijk is om de markt te betreden.

• Het vermogen om dit bibliotheekecosysteem voortdurend uit te breiden en te optimaliseren voor de nieuwste hardware is een belangrijk concurrentievoordeel voor NVIDIA. Hierdoor kunnen ze voorop blijven lopen en hun dominantie in versnelde berekeningen behouden.

Het idee om een digitale tweeling van de Aarde te creëren, wat NVIDIA "Aarde 2" noemt, is een van de meest ambitieuze projecten die de wereld ooit heeft ondernomen. Het doel is om de Aarde te simuleren om de toekomst van onze planeet beter te kunnen voorspellen, rampen af te wenden en de impact van klimaatverandering te begrijpen, zodat we ons beter kunnen aanpassen.

NVIDIA heeft op dit gebied aanzienlijke doorbraken geboekt. Ze hebben geavanceerde simulatiemogelijkheden ontwikkeld die weerpatronen, klimaat en andere fysieke fenomenen nauwkeurig kunnen modelleren. De digitale tweeling van de Aarde wordt aangedreven door AI-modellen die leren van enorme hoeveelheden gegevens, waardoor het zeer realistische simulaties kan genereren.

Tijdens de keynote demonstreerde NVIDIA hoe deze digitale tweeling kan worden gebruikt om het pad en de impact van een naderende storm in Taiwan te voorspellen. Door meerdere simulaties uit te voeren, was het systeem in staat inzichten te geven in de onzekerheden rond de koers van de storm en de mogelijke effecten op de regio.

Tot ChatGPT het aan de wereld onthulde, ging het bij AI over perceptie, natuurlijke taalverwerking, computerzicht en spraakherkenning. Het ging over detectie en begrip.

Maar ChatGPT introduceerde de wereld in generatieve AI - AI die tokens kan produceren, of dat nu woorden, afbeeldingen, grafieken, tabellen of zelfs liederen en video's zijn. Dit vertegenwoordigt een fundamentele verschuiving, want nu kan AI niet alleen waarnemen en begrijpen, maar ook nieuwe inhoud genereren.

Dit markeert het begin van een nieuw tijdperk - het tijdperk van generatieve AI. AI is nu geëvolueerd van een supercomputer naar een "datacentrum" dat een nieuw product produceert: tokens. Net zoals Nikola Tesla's AC-generator elektronen produceerde, produceert Nvidia's AI-generator tokens, die grote marktmogelijkheden bieden in vrijwel elke sector.

Dit vertegenwoordigt een nieuwe industriële revolutie. AI is niet langer alleen een instrument voor informatieopslagen of gegevensverwerking, maar een fabriek voor het genereren van intelligentie voor elke sector. Deze verschuiving van retrieval-based computing naar generation-based computing zal een diepgaande impact hebben, aangezien gegenereerde gegevens minder energie nodig hebben om op te halen en contextueel relevanter zijn.

NVIDIA heeft een suite van AI-inferentiemicroservices, genaamd NIMS, ontwikkeld om het voor ontwikkelaars gemakkelijker te maken geavanceerde AI-mogelijkheden in hun toepassingen te integreren. Deze NIMS zijn vooraf getrainde AI-modellen die eenvoudig kunnen worden ingezet en gebruikt, zonder de complexiteit van het opbouwen van de onderliggende AI-infrastructuur.

De belangrijkste aspecten van NIMS zijn:

1. Vooraf getrainde modellen: NVIDIA heeft een verscheidenheid aan vooraf getrainde AI-modellen ontwikkeld die verschillende domeinen bestrijken, zoals taal, visie, robotica en meer. Ontwikkelaars kunnen deze modellen eenvoudig in hun toepassingen integreren zonder ze vanaf nul te hoeven trainen.

2. Geoptimaliseerd voor prestaties: De NIMS zijn sterk geoptimaliseerd om efficiënt te draaien op NVIDIA's GPU-hardware, waarbij gebruik wordt gemaakt van technologieën als Tensor Cores en CUDA. Dit zorgt voor lage latentie en hoge doorvoer bij inferentie.

3. Gecontaineriseerde implementatie: De NIMS zijn verpakt als containers, waardoor ze eenvoudig kunnen worden geïmplementeerd in cloud-, on-premises of edge-omgevingen. Ontwikkelaars kunnen eenvoudigweg de containerafbeelding ophalen en het AI-model als een service draaien.

Digitale mensen zullen de industrie revolutioneren, van klantenservice tot reclame en gaming. De mogelijkheden voor digitale mensen zijn eindeloos. Met behulp van geavanceerde AI- en computergraphics-technologieën kunnen digitale mensen ons op mensachtige wijze zien, begrijpen en met ons interacteren.

De basis van digitale mensen zijn AI-modellen die zijn gebouwd op meertalige spraakherkenning en -synthese, en grote taalmodellen die conversatie begrijpen en genereren. Deze AI-modellen zijn verbonden met andere generatieve AI om dynamisch een levensechte 3D-mesh van een gezicht te animeren, en AI-modellen die levensechte uiterlijken reproduceren, waardoor real-time path traced subsurface scattering mogelijk is om de manier te simuleren waarop licht de huid binnendringt, verstrooit en op verschillende punten naar buiten komt, waardoor de huid een zachte en doorzichtige uitstraling krijgt.

Nvidia Ace is een suite van digitale menselijke technologieën verpakt als eenvoudig te implementeren, volledig geoptimaliseerde microservices of Nims. Ontwikkelaars kunnen Ace Nims integreren in hun bestaande frameworks, engines en digitale menselijke ervaringen.

Jensen Huang bespreekt de snelle vooruitgang in AI-architectuur en -infrastructuur, waarbij hij belangrijke mijlpalen en toekomstige richtingen belicht:

Opschalen van datacenters en transformatoren

• Het opschalen van Nvidia's datacenters maakte het mogelijk om grote transformatormodellen te trainen op enorme datasets door middel van onbegeleide leerprocessen.
• Hierdoor konden AI-modellen patronen en relaties leren uit gegevens zonder uitgebreide menselijke labeling.

Fysiek gebaseerde AI

• De volgende generatie AI moet geworteld zijn in de fysieke wereld en de natuurwetten begrijpen.
• Dit kan worden bereikt door te leren van video, synthetische gegevenssimulatie en AI-systemen die leren door met elkaar te interacteren.

Blackwell GPU-architectuur

• Blackwell is Nvidia's nieuwe GPU-architectuur, ontworpen voor het tijdperk van generatieve AI.
• Belangrijke functies zijn onder meer:
  • Grootste chip ooit gemaakt, met twee chips verbonden met 10 TB/s
  • Tweede generatie Transformer-engine voor dynamische precisie-aanpassing
  • Beveiligde AI om modellen te beschermen tegen diefstal of sabotage
  • Vijfde generatie NVLink voor hoogwaardige GPU-interconnectiviteit
  • Betrouwbaarheids- en beschikbaarheidsengine voor verbeterde uptime
  • Decompressie-engine voor snellere gegevensverwerking

Blackwell is NVIDIA's nieuwe GPU-architectuur, ontworpen om de volgende generatie AI en high-performance computing aan te drijven. Hier zijn de belangrijkste hoogtepunten:

Belangrijke functies van Blackwell:

1. Enorme schaal: Blackwell-chips zijn de grootste chips ooit gemaakt, met twee van de grootste dies die met elkaar zijn verbonden met een link van 10 TB/s. Dit maakt ongekende rekenkracht mogelijk.

2. Betrouwbaarheid en beschikbaarheid: Blackwell bevat een Reliability and Availability (RAS)-engine die elke afzonderlijke transistor en geheugencomponent kan testen, waardoor de uptime en stabiliteit voor grootschalige implementaties worden verbeterd.

3. Dynamische precisie-aanpassing: De tweede generatie Transformer-engine van Blackwell kan de precisie van berekeningen dynamisch aanpassen op basis van het vereiste bereik en de nauwkeurigheid, waardoor de efficiëntie wordt verbeterd.

4. Beveiligde AI: Blackwell bevat hardwaregebaseerde beveiligingsfuncties om AI-modellen te beschermen tegen diefstal of sabotage.

Het tijdperk van de robotica is aangebroken. Onderzoekers en bedrijven over de hele wereld ontwikkelen robots die worden aangedreven door fysieke AI - modellen die instructies kunnen begrijpen en autonoom complexe taken in de echte wereld kunnen uitvoeren.

Sleutelontwikkelingen die dit mogelijk maken, zijn:

1. Multimodale Large Language Models (LLMs): Doorbraken in multimodale LLMs stellen robots in staat de wereld om zich heen te leren, waarnemen en begrijpen, en te plannen hoe ze moeten handelen.

2. Reinforcement Learning van demonstraties: Robots kunnen nu vaardigheden leren die nodig zijn om met de wereld om te gaan door menselijke demonstraties waar te nemen en ervan te leren.

3. Reinforcement Learning in simulatie: Robots kunnen vaardigheden leren door middel van trial-and-error in gesimuleerde omgevingen die de natuurwetten gehoorzamen, waardoor de "sim-naar-echt"-kloof wordt geminimaliseerd.

NVIDIA heeft Omniverse gebouwd als het platform waar deze fysieke AI-modellen kunnen worden gecreëerd. In Omniverse kunnen robots leren om autonoom objecten te manipuleren, zich in omgevingen te verplaatsen en meer.

Nvidia staat aan de voorhoede van de volgende golf van AI - fysieke AI die de echte wereld kan begrijpen en ermee kan interageren. Enkele belangrijke punten:

• Nvidia heeft platforms als Omniverse ontwikkeld om de creatie van digitale tweelingen van fabrieken mogelijk te maken, waar robots aangedreven door fysieke AI hun vaardigheden kunnen leren en verfijnen via simulatie.

• Nvidia's hardware- en softwarestack, inclusief chips als Blackwell en Jetson, bieden de rekenkracht en AI-mogelijkheden die nodig zijn om deze fysieke AI-systemen mogelijk te maken.

• Nvidia werkt samen met toonaangevende industriële automatiseringsbedrijven zoals Siemens om zijn fysieke AI-technologieën te integreren in echte robotsystemen voor fabrieken en logistiek.

• De toekomst zal een explosie zien van robotproducten, van zelfrijdende auto's tot humanoïde robots, allemaal aangedreven door Nvidia's fysieke AI-technologieën.