数年前のOpenAIの元従業員であるIlia Sukが、「Safe Super Intelligence Inc.」という新しい会社を立ち上げました。この会社は、安全な超知能の追求に専念しています。Sukは、これが私たちの時代における最も重要な技術的問題だと考えています。

Sukは、共同創業者のDaniel GrossとDaniel Levyを含む経験豊富なエンジニアやリサーチャーからなるチームを組織しました。この会社の使命は、安全性を確保しつつ、可能な限り高速に能力を向上させることです。これは、OpenAIの優先事項に対するSukの懸念とは対照的です。

Safe Super Intelligence Inc.は、単一の焦点と製品に集中した「ストレートショット」のアプローチを取っています。この会社はアメリカに拠点を置き、パロアルトとテルアビブにオフィスを構えることで、トップレベルの技術人材の採用を可能にしています。Sukは、この会社のビジネスモデル、投資家、製品ロードマップ全体が、管理オーバーヘッドや製品サイクルの煩わしさなく、安全な超知能の実現に合わせて調整されていると強調しています。

この会社の立ち上げ記事では、「超知能は手の届くところにある」と述べられており、Safe Super Intelligence Inc.は、この重要な課題に専念する「世界初のストレートショットSSI研究所」であると述べられています。Sukの目標は、小規模な集中チームを通じて、安全な超知能に関する革命的な突破口を追求することです。

イーロン・マスクとTeslaは、DellとNvidiaの協力を得て、非常に大規模なサーバーファームを構築しています。このサーバーファームは、大規模な言語モデルやAIシステムの動作を支えるために設計されています。

このプロジェクトは数か月前に最初に示唆されており、この大規模な取り組みに必要な冷却システムの規模を示す写真が公開されていました。昨日、Dellの創業者であるマイケル・デルが、「Nvidiaと共にDell AIファクトリーを構築し、GPTのためのXAIを支えている」と確認しました。

このサーバーファームはテキサス州に設置されており、高温の気候のため、強力な冷却システムが必要とされています。写真には、サーバーを冷却するために設置されている巨大なファンの大きさが示されています。

イーロン・マスク、マイケル・デル、Nvidiaの3者による協力は、高度なAIシステムの開発をサポートするために必要な大規模な投資とインフラの重要性を強調しています。この巨大なサーバーファームの構築により、次世代の大規模な言語モデルやAIアプリケーションの動作基盤が整備されることになります。

最近発表された研究論文では、モンテカルロ木探索と深層学習を組み合わせた強力なアルゴリズムであるQ*に似た手法の実装が紹介されているようです。このアプローチにより、エージェントは試行錯誤のプロセスを通じて意思決定と推論を学習することができます。これは、人間が学習する方法に似ています。

主な革新点は、MCTS(モンテカルロ木探索)と自己洗練の使用です。これにより、モデルは先を見越して計画し、さまざまなオプションを試し、間違いから学習することができます。これは、単に次の単語を予測するだけの従来の言語モデルよりも大きな進歩です。

その結果は印象的で、このモデルは数学ベンチマークで96.66%の精度を達成し、パラメータ数が200分の1でありながら、GPT-4やGeminiといった大規模な言語モデルを凌駕しています。これは、単一のフレームワークの中で計画、推論、学習を組み合わせる力の証明です。

計画、実験、アプローチの洗練は、より一般的な知能に向けた重要な一歩です。このような分野での画期的な進歩が続くにつれ、人工一般知能(AGI)の実現が現実味を帯びてきています。

Meta AIは最近、いくつかの新しいモデルや技術を発表しました:

1. Meta Chameleon: 7億パラメータと34億パラメータの言語モデルで、マルチモーダルな入力とテキスト出力をネイティブにサポートしています。これは、以前のオープンソースモデルが追加機能を必要としていたのに対し、大きな前進です。現在、研究ライセンスの下でのみ利用可能ですが、このテクノロジーはマルチモーダルAI機能の大きな進歩を示しています。

2. マルチトークン予測: Metaは、従来の1単語ずつの予測方式ではなく、複数の単語を同時に予測する新しい言語モデリングアプローチを提案しています。これにより、モデル機能の向上とトレーニングの効率化が図られ、さらに高速化も可能になります。Metaは、非商用の研究ライセンスの下でコード補完用の事前学習モデルを公開しています。

3. テキストから音楽を生成するモデル: Metaは、テキスト入力から音楽を生成するモデルを開発しました。様々な条件付け入力を使うことで、より高い制御性を実現しています。事前学習モデルとインファレンスコードは、この月中に MIT ライセンスの下で公開される予定です。研究者がこの新しい機能を探索できるようになります。

これらのリリースは、MetaのマルチモーダルAI、言語モデリング、生成機能における継続的な進歩を示しています。これらのモデルとテクノロジーのオープンソース化により、これらの分野での研究開発がさらに推進され、人工知能の進歩につながることでしょう。

Anthropic は、Claude 3.5 Sonetと呼ばれる新しいバージョンのClaudeモデルをリリースしました。発表によると、これは「これまでで最も知的なモデル」であり、3.5モデルファミリーの最初のリリースとなります。

Claude 3.5 Sonetの主な特徴は以下の通りです:

• Claude 3やOpusよりも2倍の速さで、GSM 8K(96.4%)、大学院レベルの推論(60%)、コード(92%)などの主要な評価指標で競合モデルを凌駕しています。

• Claude 3 Opusを全ての標準的なビジョンベンチマークで上回っており、Anthropicの最強のビジョンモデルとなっています。

• 「Artifacts」と呼ばれる新機能を導入しており、ユーザーがClaudeに文書、コード、図表、ベクターグラフィック、簡単なゲームなどの生成を依頼できるようになりました。

Claude 3.5 Sonetのリリースは、Anthropicが高性能で効率的な言語モデルの開発に継続的に取り組んでいることを示しています。各種ベンチマークでの性能向上と新しいArtifacts機能は、Claudeモデルファミリーの重要なアップデートと言えます。

Arc Prizeは、抽象化と推論コーパス(ARC)に勝てるソリューションを開発するための100万ドルの公開コンペティションです。

このコンペティションの主なポイントは以下の通りです:

• ARCベンチマークは、特定のスキルではなく一般的な知能を測定します。新しいスキルを効率的に習得する能力が、真の知能の特徴です。

• 既存のAIモデルは他のベンチマークを素早く超えることができますが、ARCベンチマークは依然として大きな課題で、現在の最高の実装でも38%の成功率しかありません。

• このコンペティションは、Mike Mirzayanov、François Chollet、Greg Brockmanが主催しており、人工一般知能(AGI)への道を開くことを目指しています。

• ARCベンチマークを解決できるAIシステムを開発した最初の個人または団体に100万ドルの賞金が授与されます。

このコンペティションは、AIリサーチコミュニティにとって、可能性の限界を押し広げ、人工一般知能の実現に向けて大きな一歩を踏み出す機会を意味しています。課題は困難ですが、100万ドルの賞金と、この分野の先駆者となる機会は、業界の最高の頭脳を引き付けるはずです。