Meta strävar efter att utveckla den mest avancerade AI-modellen i branschen till 2025. De planerar att träna sin kommande Llama 4-modell på 10 gånger mer data än Llama 3, som de hävdar redan är konkurrenskraftig med de mest avancerade modellerna.

Zuckerberg sade att Meta hellre skulle bygga för mycket beräkningskapacitet än för lite, eftersom de planerar för den beräknings- och datamängd som behövs för de kommande åren. Den beräkningskapacitet som krävs för att träna Llama 4 kommer sannolikt att vara nästan 10 gånger större än vad som användes för Llama 3, och framtida modeller kommer att fortsätta växa bortom det.

Enligt Adam D'Angelo, VD för Quora och styrelseledamot i OpenAI, kan artificiell allmän intelligens (AGI) uppnås inom de närmaste 5 till 15 åren. D'Angelo gjorde denna förutsägelse under ett nyligt evenemang och sade att införandet av AGI kommer att vara en mycket viktig förändring för världen.

OpenAI, företaget bakom den populära språkmodellen GPT, har internt utvecklat ett nytt femgradig klassificeringssystem för att följa sin utveckling mot att bygga AGI. De första tre nivåerna inkluderar:

1. Chattbotar med konversationella språkfärdigheter.
2. Resonerare och system med problemlösningsförmåga på människonivå.
3. Agenter och system som kan vidta åtgärder.

Googles nya experimentella modell, Gemini Pro 0801, har testats i chattbotarenan under den senaste veckan och samlat in över 20 000 röster från communityn. För första gången har Gemini tagit förstaplatsen, och överträffar GPT-4 och CLAUDE 3.5 med en imponerande poäng på 1 300 och uppnår även förstaplatsen på visuella ledarskapet.

Gemini Pro utmärker sig i flerspråkiga uppgifter och levererar robust prestanda inom tekniska områden, svåra prompter och kodning. Detta är en betydande prestation, eftersom Gemini 1.5 Pro har lyckats överträffa de mycket kapabla GPT-4- och CLAUDE 3.5-modellerna.

Nvidia arbetar på att förenkla och påskynda utvecklingen av humanoidrobotar med sitt Project Roo-initiativ. Företaget introducerar en uppsättning verktyg för utvecklare i humanoidrobotekosystemet för att bygga sina AI-modeller mer effektivt.

Nvidias nyckelkomponenter i deras tillvägagångssätt inkluderar:

1. Syntetisk datagenererings-pipeline: Nvidia börjar med mänskligt insamlade demonstrationer med hjälp av blandade verklighetsenheter som Apple Vision Pro. De multiplicerar sedan dessa data med tusen eller fler med hjälp av Nvidias simuleringsverktyg som Omniverse, RoboSuite och MimicGen.

2. Distribuerad beräkningsinfrastruktur: Nvidia utnyttjar sina DGX-, OVX- och Jetson Thor-beräkningsplattformar för att driva utvecklingsarbetsflödet. DGX-enheten hanterar bearbetningen av videor och text för att träna den multimodala grundmodellen, OVX kör simuleringsstack och Jetson Thor används för att testa modellen på riktiga robotar.

3. Omniverse-driven simulering: Nvidias Omniverse-simuleringsramverk, integrerat i Isaac Lab, gör det möjligt för utvecklare att generera ett stort antal miljöer och layouter för att öka mångfalden i träningsdata.

4. Generativ AI-aktiverade verktyg: Nvidias MimicGen-verktyg hjälper till att generera storskaliga syntetiska rörelsedatauppsättningar baserade på det lilla antalet ursprungliga inspelningar, vilket ytterligare utökar träningsdata.

Forskare på ICML 2024 presenterade en ny prompt-engineering-teknik som kallas "Plan Like a Graph" som kan förbättra prestandan hos språkmodeller avsevärt på komplexa, flerstegstaskar.

Nyckelinsikten bakom denna teknik är att nuvarande språkmodeller kämpar med asynkron planering - förmågan att parallellisera vissa deltaskar samtidigt som man utför andra sekventiellt. För att hantera detta uppmanar "Plan Like a Graph"-metoden modellen att först generera en grafrepresentation av uppgiften, vilket fångar beroendeförhållandena mellan deltaskarna. Modellen kan sedan använda denna graf för att utarbeta en optimal plan för att slutföra den övergripande uppgiften.