Meta 正在努力开发到 2025 年成为行业最先进的 AI 模型。他们计划将即将推出的 Llama 4 模型的训练数据量是 Llama 3 的 10 倍,而他们声称 Llama 3 已经与最先进的模型具有竞争力。

Zuckerberg 表示,Meta 宁愿建立过多的计算能力,也不愿意建立不足,因为他们正在为未来几年所需的计算能力和数据做准备。训练 Llama 4 所需的计算量可能几乎是 Llama 3 的 10 倍,而未来的模型将继续超越这一水平。

这一雄心勃勃的目标意味着 Llama 4 将需要超越 Google、Anthropic、OpenAI 等公司的最新模型。能否实现这一目标还有待观察,因为 AI 领域的竞争日益激烈,进步也日新月异。不过,Meta 愿意大量投资计算能力和数据,这表明他们决心保持在大型语言模型领域的领导地位。

根据 Quora 首席执行官兼 OpenAI 董事会成员 Adam D'Angelo 的说法,人工通用智能(AGI)可能会在未来 5 到 15 年内实现。D'Angelo 在最近的一次活动中做出了这一预测,并表示 AGI 的出现将是世界上一个非常重要的变革。

OpenAI 公司开发了一个新的五级分类系统,用于跟踪其实现 AGI 的进展。前三个级别包括:

1. 具有对话语言能力的聊天机器人。
2. 具有人类水平问题解决能力的推理系统。
3. 能够采取行动的智能体和系统。

D'Angelo 的预测表明,即使在实现完全 AGI 之前,达到人类水平的问题解决和采取行动的能力也将是"改变游戏规则"的事件,可能会显著改变世界。

鉴于近年来 AI 技术的快速进步,在未来 5 到 15 年内实现 AGI 的预测,尽管雄心勃勃,但业内专家认为这在可能的范围内。特别是未来 5 年,随着更多世界顶级研究实验室和公司将精力集中在这一挑战上,AI 发展有望加速。

不过,在通往 AGI 的道路上,是否会出现任何重大障碍或技术瓶颈仍有待观察。实现这一里程碑的竞争正在加剧,其影响可能是深远的,这使得它成为未来几年需要密切关注的关键领域。

Google 的新实验性模型 Gemini Pro 0801 在过去一周的聊天机器人领域进行了测试,获得了超过 20,000 张社区投票。这是 Gemini 首次登顶,超过了 GPT-4 和 CLAUDE 3.5,获得了 1,300 分的令人印象深刻的成绩,同时也在视觉排行榜上占据了首位。

Gemini Pro 在多语言任务中表现出色,在技术领域、难度较大的提示和编码方面也展现出了强大的性能。这是一个重大成就,因为 Gemini 1.5 Pro 已经成功超越了高度强大的 GPT-4 和 CLAUDE 3.5 模型。

有趣的是,Google 没有将这个模型标记为 Gemini 2,这可能意味着他们可能实施了一些额外的推理或后训练技术来增强模型的能力。这种方法类似于 Anthropic 对 CLAUDE 3.5 所做的,该模型在推理能力方面比之前的版本有所提升。

Gemini Pro 0801 的表现突出了聊天机器人领域的持续进步,模型不断推动着可能性的边界。有趣的是,我们将看到 Gemini Pro 0801 能保持多长时间的领先地位,以及 OpenAI 或其他 AI 公司是否会在不久的将来推出更强大的模型。

Nvidia 正在通过其 Project Roo 计划来简化和加速人形机器人的开发。该公司正在为人形机器人生态系统的开发者引入一套工具,以更有效地构建他们的 AI 模型。

Nvidia 方法的关键组成部分包括:

1. 合成数据生成管道:Nvidia 从使用混合现实设备(如 Apple Vision Pro)收集的人类演示数据开始,然后使用 Nvidia 的仿真工具(如 Omniverse、RoboSuite 和 MimicGen)将这些数据扩大数千倍。

2. 分布式计算基础设施:Nvidia 正在利用其 DGX、OVX 和 Jetson Thor 计算平台来支持开发工作流程。DGX 负责处理视频和文本以训练多模态基础模型,OVX 运行仿真堆栈,而 Jetson Thor 用于在真实机器人上测试模型。

3. 基于 Omniverse 的仿真:Nvidia 的 Omniverse 仿真框架,集成到 Isaac Lab 中,允许开发者生成大量不同的环境和布局,以增加训练数据的多样性。

4. 基于生成式 AI 的工具:Nvidia 的 MimicGen 工具可以根据少量原始捕获数据生成大规模的合成运动数据集,进一步扩展训练数据。

目标是使全球开发者能够为人形机器人硬件平台构建更好的 AI 模型。Nvidia 相信"物理 AI"时代已经到来,机器人可以理解和与物理世界互动。

通过简化开发工作流程并提供强大的计算基础设施,Nvidia 旨在加快人形机器人领域的进展,推动 AI 驱动的人形机器人时代的到来。

ICML 2024 的研究人员提出了一种名为

像图一样计划

的新型提示工程技术

可以显著提高语言模型在复杂的多步骤任务上的性能。\n\n这种技术背后的关键洞见是

当前的语言模型在异步规划方面存在困难 - 即在顺序执行某些子任务的同时并行执行其他子任务的能力。为了解决这个问题

像图一样计划

的方法会提示模型首先生成任务的图形表示

捕捉子任务之间的依赖关系。模型然后可以使用这个图来制定完成整个任务的最佳计划。\n\n研究人员发现

这种方法在各种语言模型上都优于基线方法。例如

如煮咖啡、煎鸡蛋、烤吐司

的任务中

像图一样计划"的方法将完成任务的总时间缩短了 20% 以上,相比于顺序规划。

这项工作突出了语言模型仍有巨大的潜力,而创新的提示工程技术可以解锁新的能力。正如研究人员所指出的,这是一种"即用型的提示工程方法

不需要额外的训练

使其成为提高模型性能的一种可行方式。\n\n总的来说

像图一样计划"技术代表了语言模型能力的一个重要进步,特别是在涉及复杂的多步骤推理时。随着语言模型的不断发展,我们可以期待看到更多创新的提示工程方法,推动这些系统的能力边界。