曾是 OpenAI 员工的 Ilia Suk 试图发起对 Sam Altman 的叛变,现已创办了一家名为"安全超级智能公司"的新公司。该公司致力于追求安全的超级智能,Suk 认为这是当今最重要的技术问题。

Suk 组建了一支由经验丰富的工程师和研究人员组成的团队,包括联合创始人 Daniel Gross 和 Daniel Levy,共同致力于实现这一目标。该公司的使命是尽可能快地提高能力,同时确保安全性始终领先,这与 Suk 对 OpenAI 优先事项的担忧形成对比。

安全超级智能公司采取了"直接攻击"的方法,专注于单一的目标和产品。该公司总部设在美国,在帕洛阿尔托和特拉维夫设有办事处,这使其能够招募顶尖的技术人才。Suk 强调,该公司的商业模式、投资者和整个产品路线图都是为了实现安全的超级智能,而不会受到管理开销或产品周期的干扰。

该公司的发布帖表示,"超级智能触手可及",安全超级智能公司是"世界上第一家专注于这一关键挑战的直接攻击 SSI 实验室"。Suk 的目标是通过一个小型、专注的团队来追求安全超级智能方面的革命性突破。

埃隆·马斯克和特斯拉正在与戴尔和英伟达的帮助下建造一个规模绝对巨大的服务器农场。这个服务器农场正在被设计用于驱动大型语言模型和 AI 系统。

几个月前就已经有人暗示了这个项目,一张照片显示了这个庞大工程所需的冷却系统的规模。昨天,戴尔公司创始人迈克尔·戴尔确认,他们正在"与英伟达建立一个戴尔 AI 工厂,以驱动 GPT 的 XAI"。

这个服务器农场位于德克萨斯州,那里的炎热气候需要一个强大的冷却系统。照片显示了正在安装的巨大风扇的规模,用于保持服务器的冷却。

埃隆·马斯克、迈克尔·戴尔和英伟达之间的这种合作突出了支持先进 AI 系统开发所需的重大投资和基础设施。通过建设这个庞大的服务器农场,他们正在定位自己,以驱动下一代大型语言模型和 AI 应用程序。

最近发表的一篇研究论文似乎介绍了一种类似于 Q* 的技术实现,这是一种强大的算法,结合了蒙特卡罗树搜索和深度学习。这种方法允许代理通过试错的过程来学习决策和推理,就像人类学习一样。

关键创新在于使用 MCTS(蒙特卡罗树搜索)和自我完善,这使模型能够提前规划、尝试不同的选择,并从错误中学习。这是一个重大进步,超越了仅依赖于预测下一个词的传统语言模型。

结果令人印象深刻,该模型在数学基准测试中达到了 96.66% 的准确率,优于 GPT-4 和 Gemini 等大型语言模型,同时使用的参数只有它们的 1/200。这展示了在单一框架中结合规划、推理和学习的力量。

规划、实验和完善方法的能力是迈向更通用智能的关键一步。随着我们在这些领域不断取得突破,人工通用智能(AGI)的实现变得越来越切实可行。

Meta AI 最近发布了几款令人兴奋的新模型和技术:

1. Meta Chameleon:一个 70 亿和 340 亿参数的语言模型,支持混合模态输入和文本输出。这个模型可以原生处理多模态输入,与之前需要附加组件的开源模型不同。它目前仅在研究许可下提供,但这项技术是多模态 AI 能力的重大进步。

2. 多令牌预测:Meta 提出了一种新的语言建模方法,可以同时预测多个未来词,而不是传统的一次一个词的方法。这提高了模型能力和训练效率,同时允许更快的速度。Meta 正在发布用于代码完成的预训练模型,并提供非商业研究许可。

3. 生成式文本到音乐模型:Meta 已经开发出了能够从文本输入生成音乐的模型,并提供了各种条件输入以实现更大的可控性。预训练模型和推理代码将于本月晚些时候在 MIT 许可下发布,允许研究人员探索这一令人兴奋的新功能。

这些发布展示了 Meta 在多模态 AI、语言建模和生成能力方面的持续进步。这些模型和技术的开源将促进这些领域的进一步研究和开发,推动人工智能的发展。

Antropic 刚刚发布了他们的 Claude 语言模型的新版本,称为 Claude 3.5 Sonet。根据公告,这是他们"迄今为止最智能的模型",也是 3.5 模型系列的首次发布。

Claude 3.5 Sonet 的主要亮点包括:

• 它在关键评估中超越了竞争对手模型,包括 GSM 8K(96.4%)、研究生级推理(60%)和代码(92%) - 速度是 Claude 3 和 Opus 的两倍,成本只有它们的 1/10。

• 它在所有标准视觉基准测试中超越了 Claude 3 Opus,使其成为 Anthropic 迄今为止最强大的视觉模型。

• 它引入了一个名为"Artifacts"的新功能,允许用户要求 Claude 生成文档、代码、图表、矢量图形,甚至简单的游戏。

Claude 3.5 Sonet 的发布展示了 Anthropic 在开发高度capable和高效语言模型方面的持续进展。在各种基准测试中的性能改善,以及新的 Artifacts 功能,使这成为 Claude 模型系列的一个重要更新。