开放人工智能(OpenAI)宣布,他们已经开始训练下一代前沿模型,预计这将使他们在通往人工通用智能(AGI)的道路上达到新的能力水平。尽管该公司为建立和发布行业领先的模型在能力和安全性方面感到自豪,但他们欢迎在这一重要时刻进行深入讨论。

开放人工智能表示,他们最近已经开始训练这个新的前沿模型,这表明即将推出的模型可能是一个我们未曾预料到的系统,就像GPT-4一样。这与GPT-5的发展大不相同,后者更多地被该公司公开讨论。

目前还不清楚这个新模型将拥有什么样的能力,但开放人工智能的措辞暗示它可能带来重大进步。该公司以谨慎的语言而闻名,所以这一声明很可能预示着一个影响深远的新系统正在研发中。无论它是更高级的语言模型、代理系统还是其他什么,都有待观察。

尽管如此,开放人工智能将重点放在建立AGI,而不是追求超级智能,这为该公司的战略方向提供了洞见。他们似乎在押注,其他组织将解决超级智能系统的对齐问题,而开放人工智能则专注于开发可用于实际应用的强大AGI系统。

最近的一篇论文研究了大型语言模型(LLM)是否能够以类似于专业人类分析师的方式成功进行财务报表分析。研究人员向GPT-4提供了标准化和匿名的财务报表,并指示该模型分析它们,以确定未来收益的方向,即使没有任何叙述性或行业特定的信息。

该研究的主要发现如下:

• LLM在预测收益变化方面的表现优于金融分析师。
• LLM在分析师往往会遇到困难的情况下相对优于人类分析师。
• LLM的预测准确性与专门训练的最先进机器学习模型的性能相当。
• LLM的预测并非源于其训练记忆,而是生成了关于公司未来表现的有用叙述性见解。
• 基于LLM预测的交易策略产生的夏普比率和阿尔法高于基于其他模型的策略。

研究人员得出结论,LLM可能在未来的金融决策中发挥核心作用。该研究提供了一个公开的演示,让用户亲身体验LLM的财务分析能力。

谷歌最近更新了其Gemini 1.5 Pro API,对模型进行了后期训练以提高其能力。这一更新使Gemini 1.5 Pro API在Arena ELO排名中超越了Claude 3 Opus,但尚未超过GPT-4。

后期训练过程涉及在模型初始训练后对其进行细微调整,这可以显著提高其可靠性、响应性和整体性能。这是一种OpenAI一直在利用的技术,不断更新和完善GPT-4模型以保持其优势。

谷歌决定对Gemini 1.5 Pro API采取类似的方法,表明了在改善大型语言模型并保持在快速发展的人工智能格局中的竞争力方面的持续竞争。尽管顶级模型之间的Arena ELO差异相对较小,但这突出了科技巨头不断努力推动这些系统所能实现的极限的事实。

随着这些模型的收敛点不断缩小,未来一年的格局演变将是令人着迷的。人工智能领域的快速进步确实令人兴奋,我们将期待见证下一代强大语言模型及其对各行各业的潜在影响。

谷歌的新搜索生成体验(SGE)功能引起了一些争议,因为提供的AI生成答案被发现包含不准确甚至危险的信息。

讨论中突出的一些例子包括:

• 建议孕妇每天吸2-3支香烟,这显然是不安全的医疗建议。
• 建议在披萨上添加无毒胶水以使奶酪更好粘附,这可能会造成伤害。
• 建议每天至少吃一小块石头,这是极其危险的,不应该这样做。

似乎谷歌匆忙实施了这个新的搜索功能,并没有适当地审查用于生成响应的数据来源。这导致了包含笑话答案和其他不可靠信息的内容被呈现为事实。

用户在依赖SGE答案时需要谨慎,因为它们可能并不总是准确或安全的。相比盲目接受AI生成的响应,重要的是要交叉参考来自可信来源的信息。谷歌很可能需要改善内容策展和事实核查流程,以确保SGE功能的可靠性。

从文字记录中总结的关键要点如下:

1. 开放人工智能成立了一个新的安全和安全委员会,就其项目的关键决策提出建议。
2. 开放人工智能已经开始训练其"下一代前沿模型",这可能是一个超越GPT-5的新人工智能系统。
3. 这个新模型预计将带来重大的新能力,尽管具体情况还不太清楚。
4. 有迹象表明,开放人工智能正在将重点更多地转移到构建产品,而不是纯粹研究超级智能。
5. 微软新的"Recall"功能,可以跟踪个人电脑的使用情况,引发了隐私方面的担忧,正在接受调查。
6. 一项新的研究论文显示,大型语言模型在预测收益变化方面可以超越人类金融分析师。
7. 谷歌已经更新了其Gemini 1.5 Pro API,使其性能相比其他顶级模型如GPT-4和Claude 3 Opus有所提高。
8. 谷歌的新搜索生成体验功能在提供不准确或不恰当的响应方面遇到了一些问题。