Meta는 2025년까지 업계 최고 수준의 AI 모델을 개발하는 것을 목표로 하고 있습니다. 그들은 이미 가장 발전된 모델들과 경쟁할 수 있다고 주장하는 Llama 3보다 10배 더 많은 데이터로 향후 Llama 4 모델을 학습시킬 계획입니다.

Zuckerberg는 Meta가 향후 몇 년간 필요한 컴퓨팅 능력과 데이터를 고려하여 과도한 컴퓨팅 능력을 확보하기로 했다고 밝혔습니다. Llama 4 모델 학습에 필요한 컴퓨팅 능력은 Llama 3에 비해 거의 10배 더 많을 것이며, 향후 모델들은 이를 계속 넘어설 것입니다.

Quora의 CEO이자 OpenAI의 이사인 Adam D'Angelo에 따르면, 인공 일반 지능(AGI)은 향후 5~15년 내에 달성될 수 있습니다. D'Angelo는 최근 행사에서 AGI의 도래가 세계에 매우 중요한 변화가 될 것이라고 예측했습니다.

GPT 언어 모델로 유명한 OpenAI는 내부적으로 AGI 구축을 위한 진척 상황을 추적하기 위해 5단계 분류 시스템을 개발했습니다. 1~3단계는 다음과 같습니다:

1. 대화형 언어 능력을 가진 채팅봇
2. 인간 수준의 문제 해결 능력을 가진 추론기 및 시스템
3. 행동을 취할 수 있는 에이전트 및 시스템

D'Angelo의 예측에 따르면, 완전한 AGI 달성 이전에도 인간 수준의 문제 해결 및 행동 능력 달성은 '게임 체인저'가 될 수 있는 사건이며, 이는 세계를 크게 변화시킬 수 있습니다.

지난 1주일 동안 채팅봇 분야에서 테스트된 Google의 새로운 실험 모델 Gemini Pro 0801은 20,000건 이상의 커뮤니티 투표를 받았습니다. 이번에 Gemini는 GPT-4와 CLAUDE 3.5를 제치고 1위를 차지했습니다.

Gemini Pro는 다국어 작업과 기술 분야, 까다로운 프롬프트, 코딩 등에서 강력한 성능을 발휘했습니다. 이는 Gemini 1.5 Pro가 GPT-4와 CLAUDE 3.5와 같은 고성능 모델을 능가했다는 점에서 중요한 성과입니다.

흥미롭게도 Google은 이 모델을 Gemini 2로 명명하지 않았는데, 이는 추가적인 추론 기능이나 사후 학습 기술을 적용했을 가능성을 시사합니다. 이는 Anthropic이 CLAUDE 3.5에서 보여준 것과 유사한 접근 방식입니다.

Nvidia는 Project Roo 이니셔티브를 통해 휴머노이드 로봇 개발을 간소화하고 가속화하고 있습니다. 이 회사는 휴머노이드 로봇 생태계의 개발자들이 AI 모델을 더 효율적으로 구축할 수 있도록 도구 세트를 소개하고 있습니다.

Nvidia의 접근 방식의 핵심 구성 요소는 다음과 같습니다:

1. 합성 데이터 생성 파이프라인: Nvidia는 Apple Vision Pro와 같은 혼합 현실 장치를 사용하여 수집한 인간 데모를 출발점으로 삼습니다. 그런 다음 Nvidia의 Omniverse, RoboSuite, MimicGen과 같은 시뮬레이션 도구를 사용하여 이 데이터를 1,000배 이상 증폭시킵니다.

2. 분산 컴퓨팅 인프라: Nvidia는 DGX, OVX, Jetson Thor 컴퓨팅 플랫폼을 활용하여 개발 워크플로를 지원합니다. DGX는 비디오와 텍스트를 처리하여 멀티모달 기반 모델을 학습시키고, OVX는 시뮬레이션 스택을 실행하며, Jetson Thor는 실제 로봇에서 모델을 테스트하는 데 사용됩니다.

3. Omniverse 기반 시뮬레이션: Nvidia의 Omniverse 시뮬레이션 프레임워크는 Isaac Lab에 통합되어 개발자들이 다양한 환경과 레이아웃을 생성할 수 있게 함으로써 학습 데이터의 다양성을 높입니다.

4. 생성 AI 지원 도구: Nvidia의 MimicGen 도구는 원본 데이터 세트를 기반으로 대규모 합성 모션 데이터 세트를 생성하여 학습 데이터를 더욱 확장합니다.