イリヤ・サツケヴァー氏の立ち上げるASI開発のスタートアップを検証
イリヤ・サツケヴァー氏は自らの計画を立ち上げるため5月にOpenAIを退職しました。準備がととのい、昨日、株式会社SSIの創立をXのポストで発表しました。株式会社SSIはASI（注01）開発のみを目的とし、モデルを商品化しない組織との事です。そこで、この会社の資金調達や開発方法がどんな物になるのか検証してみました。
※注01：ASI（Artificial Superintelligence）は、人工超知能の略で、人間の知能を超えた能力を持つソフトウェア・ベースの仮想的な人工知能（AI）システムです。最先端の認知機能や高度に発達した思考スキルを備え、人間の脳が持つ自我意識や創造力、感情認識の能力を模倣し、それをさらに超越することが期待されています。自己学習や自己進化を行い、知識や能力を飛躍的に向上させ、人間には解決が困難または不可能な問題にも解決策を見つけ出すことができるとされています。
株式会社SSIとは？
下記のNoteに詳しく解説していますが、会社概要では米国のシリコンバレーの中心地Palo AltoとイスラエルのTel Avivに本拠地をおくASIの開発のみを商業目的ではなく行う会社です。
会社設立概要ページの冒頭には下記のように書かれています。
SSI は私たちの使命であり、名前であり、製品ロードマップ全体です。なぜなら、それが私たちの唯一の焦点だからです。私たちのチーム、投資家、ビジネス モデルはすべて、SSI の達成に向けて連携しています。
OpenAIはモデルの開発には多大な計算リソースが必要なことがわかり当初目的の非営利団体が営利団体を内包する形でMicrosoftからの100億円の資金調達を引き出しました。まだAGIにさえ到達していないGPT-4oの開発でさえそこまでのリソースが必要になるのに、AGIを超え、ASIにたどり着くまでSSIはどの様な手法で、ASIの開発にたどり着くのかロードマップを予測してみました。
SSIのASI開発意図
Ilya Sutskeverの新しい会社の概要からすると、一般公開モデルの開発や短期的な商業的圧力から解放されていることを示唆しています。このアプローチにはいくつかの意図と目的が考えられます。
会社概要から読み取れるポイント
シングルフォーカス
「Our singular focus means no distraction by management overhead or product cycles」は、特定の目的（おそらくSSIの開発）に集中していることを示しています。これにより、プロジェクトの方向性や進捗が商業的な要因に左右されることなく、研究と開発に専念できる環境が整っています。
安全性、セキュリティ、進捗の強調
「Our business model means safety, security, and progress are all insulated from short-term commercial pressures」は、短期的な収益を追求するのではなく、長期的な目標達成に向けて安全性とセキュリティを重視していることを示しています。これにより、慎重かつ計画的に技術開発が行われることが期待されます。
アメリカとイスラエルのオフィス
「We are an American company with offices in Palo Alto and Tel Aviv」は、両地域の技術的優位性と人材リソースを活用していることを示しています。特に、イスラエルはAIやセキュリティ技術で高い評価を受けているため、トップ技術者のリクルートが可能です。
トップエンジニアと研究者の集結
「We are assembling a lean, cracked team of the world’s best engineers and researchers」は、少数精鋭のトップ技術者チームを構築していることを示しています。これにより、効率的かつ高品質な研究開発が可能になります。
一般公開モデルを作らない意図
これらのポイントから、いくつかの意図が推測されます：
内部プロジェクトに集中
一般公開のモデルを作らないことで、内部プロジェクトに全力を注ぎ、技術の進展を最適化することができます。これは、短期的な利益や市場の反応に左右されず、長期的な技術目標を達成するための戦略です。
安全性とセキュリティの確保
ASIのような高度な技術開発には、安全性とセキュリティが非常に重要です。公開モデルを避けることで、リスク管理と制御がしやすくなります。
知的財産の保護
非公開のモデルを維持することで、技術的な優位性と知的財産を保護することができます。これにより、競争優位を確保することができます。
SSIの資金調達
Daniel Grossが資金提供しているLeopold AschenbrennerのVCファンドが、AIラボの国有化を呼びかけている背景があります。この動きにより、SSI（Ilya Sutskeverの新しい会社）が独立して運営される期間は限られるかもしれないという指摘がされています。
つまり、ジェフリー・ヒントン博士の一番弟子でもあるイリヤ・サツケヴァー氏への期待からイスラエル政府の国家プロジェクトとされ、国から資金調達できる代わりに国の管理下に置かれるかもしれません。
イスラエルの資金調達能力
イスラエルは、テクノロジー分野で非常に強力なプレイヤーであり、国家予算の一部をテクノロジーと軍事研究に充てています。しかし、戦時中である現在の状況では、予算配分において軍事と安全保障が優先される可能性が高いです。
イスラエルの投資能力
政府予算
イスラエル政府の年間予算は約1200億ドルですが、その大部分は軍事費や公共サービスに充てられています。テクノロジー分野への投資は重要ですが、戦時中の現在、優先度が下がる可能性があります。
例えば、イスラエルの防衛予算は年間約200億ドルであり、これはテクノロジー分野への投資に影響を与えます。
ベンチャーキャピタル
イスラエルはスタートアップの聖地として知られており、多くのベンチャーキャピタルが存在します。これらのVCはテクノロジー分野への投資を積極的に行っており、年間数十億ドル規模の投資を行うことがあります。
代表的なVCには、Pitango Venture CapitalやSequoia Capital Israelなどがあります。
国際的な支援とパートナーシップ
イスラエルは多くの国際的なパートナーシップを持っており、これらを通じて追加の資金を調達することが可能です。特にアメリカやヨーロッパのテクノロジー企業や政府機関との協力が考えられます。
現在の戦時状況と影響
戦時中の現在、イスラエル政府は予算の優先度を安全保障と防衛にシフトする可能性が高いです。これにより、テクノロジー分野への直接的な投資が減少することが予想されます。ただし、以下のようなシナリオも考えられます：
防衛関連技術としての投資
AGIやAI技術が防衛に関連するものである場合、政府はこれに対して特別な予算を割り当てる可能性があります。AI技術はサイバーセキュリティや戦略的意思決定において重要な役割を果たすため、投資の対象となり得ます。
国際的な支援を受けた投資
イスラエルは、他国の政府や国際機関からの支援を受けることで、AIプロジェクトに必要な資金を調達することができます。特にアメリカとの関係は強固であり、共同研究や開発プロジェクトを通じて資金を獲得することが考えられます。
ChatGPT規模の開発を進めるなら？
AI開発には莫大な資金が必要であり、MicrosoftがOpenAIに対して行った100億ドルの投資はその一例です。これを考慮すると、SSIが同様の規模の投資を必要とする場合、年間数十億ドルの投資では不十分です。イスラエルの国防費の約半分に相当する50億ドルから100億ドルの資金を調達するのは非常に難しいと言えます。
現実的な資金調達の方法
1. 多国籍パートナーシップと共同出資
国際的な協力: 単一の国や企業からではなく、複数の国や企業からの共同出資を求めることで、必要な資金を集める方法があります。特に、アメリカ、ヨーロッパ、日本などの先進国のテクノロジー企業や政府機関との連携が考えられます。
国際コンソーシアム: 複数の国際的なプレイヤーが協力するコンソーシアムを設立し、共同で資金を提供し、リスクとリターンを共有することができます。
2. ベンチャーキャピタルと民間投資
大手VCファンド: イスラエル国内外の大手ベンチャーキャピタルからの資金調達。これには、アメリカの有力VCや世界的な投資ファンドも含まれます。
民間投資家: テクノロジー分野に強い関心を持つ富裕層やファミリーオフィスからの直接投資も期待できます。
3. クラウドファンディングと分散型投資
クラウドファンディング: 一般の投資家から資金を募ることで、広範な支援を得ることができます。これにより、多くの小口投資を集めることが可能です。
分散型投資プラットフォーム: ブロックチェーン技術を活用し、分散型投資プラットフォームを通じて資金調達を行う方法も考えられます。
4. 政府の特別予算と補助金
特別予算: 戦時中であるため、政府が特別予算を編成し、防衛関連技術としてのAIプロジェクトに投資する可能性もあります。
国際的な補助金: 国際機関や他国の政府からの研究助成金や補助金を受けることも有力な選択肢です。
レガシー覇権者が復権を目指すなら？
今や金融業界やエネルギー業界を超えてテクノ・リバタリアンが覇権を握っている世界です。現代の資産配分の傾向は以下のとおりです。
金融（30%）
伝統的な銀行、投資銀行、ヘッジファンド、プライベートエクイティなど。
依然として大きな影響力を持っていますが、テクノロジーの進展に伴い、相対的なシェアは減少しています。
エネルギー（25%）
石油、ガス、再生可能エネルギーなど。
化石燃料産業が依然として大きな資本を持っていますが、再生可能エネルギーの重要性が増しています。
テクノ・リバタリアン（45%）
暗号通貨、AI、フィンテック企業、ペイパルマフィアなど。
テクノロジー分野の急成長とともに、資本のシェアが大幅に増加しています。
レガシー覇者である金融業界の資本の頂点に立つ人物は、伝統的な銀行業務や投資銀行業務で大きな影響力を持つ人物です。彼らは金融業界はイスラエル建国の立役者でもあります。彼らが再び「テクノ・リバタリアン」からの覇権の脱却のためにテルアビブに拠点を置くSSIに投資するかもしれません。
ジョン・D・ロックフェラー（John D. Rockefeller）
標準石油会社の創設者であり、アメリカの歴史上最も裕福な人物の一人です。
J.P.モルガン（John Pierpont Morgan）
モルガン銀行（現在のJ.P.モルガン・チェース）の創設者であり、19世紀末から20世紀初頭にかけてアメリカ経済に大きな影響を与えました。
ロスチャイルド家（Rothschild Family）
ヨーロッパの金融業界で長い歴史を持つロスチャイルド家は、複数の国で銀行業務を展開し、大きな影響力を持っています。
SSIのASI開発ロードマップ
OpenAIクラスの資金調達を実現するための案を様々考えてきましたが、イリヤ・サツケヴァー氏がOpenAIで実現させたかったスーパーアライメントによるASIの開発を実行していくなら以下の様なロードマップが考えられるのではないでしょうか？
おさらいとして、OpenAIでのスーパーアライメントチームの解説を下記のNoteでしていますので合わせてご覧ください。
イリヤ・サツケヴァー氏のスーパーアライメント構想
OpenAIにおいてはチームの開発者がやめてしまったり、機密漏洩の罪で解雇されて形骸化されたチームと成り果てていました。サツケヴァー氏がこの手法でASIを開発する事を継続したい意向であれば開発費用は、OpenAIが調達した100億円よりも少なくて実現するとおもわれます。
スーパーアライメントの仕組み
小型AIモデルが大型の既存モデルをトレーニングおよびアライメントする過程で学習し、どのようにASI（人工超知能）に昇格するかについてのプロセスを詳しく説明します。
1. 小型AIモデルの役割
小型AIモデルは、大型AIモデルのトレーニングとアライメントのためのガイドラインを提供するために設計されています。このプロセスには以下のステップが含まれます：
データ収集と前処理：
小型AIモデルは、大量のデータを収集し、前処理します。このデータは、大型AIモデルのトレーニングに使用される基礎となります。
フィードバックループ：
小型AIモデルは、トレーニングプロセス中に大型AIモデルからのフィードバックを受け取り、学習パラメータを調整します。これにより、モデルの精度とパフォーマンスが向上します。
アライメントプロセス：
小型AIモデルは、大型AIモデルが人間の価値観に一致するように調整します。これには、倫理的なガイドラインや安全性の基準を満たすように設計されたアルゴリズムが含まれます。
2. 学習と昇格のプロセス
小型AIモデルが大型モデルをトレーニングおよびアライメントする過程で、以下のような学習プロセスと昇格のステップが含まれます：
初期トレーニング：
小型AIモデルは、大型AIモデルの基本的な動作を理解するために初期トレーニングを受けます。この段階では、基本的なデータ解析とパターン認識が行われます。
継続的学習：
トレーニングが進むにつれて、小型AIモデルは大型AIモデルのフィードバックを受け取り、学習を続けます。このプロセスは、モデルが自己改善し、より高度なタスクを実行できるようになるまで続きます。
アライメントと調整：
小型AIモデルは、大型AIモデルが安全かつ効果的に動作するように調整されます。このプロセスには、モデルが人間の価値観や倫理基準に一致するように設計されたアルゴリズムが含まれます。
昇格プロセス：
小型AIモデルが十分に高度な学習を遂げると、大型AIモデルとして昇格します。この段階では、モデルがさらに高度なタスクを実行できるようになります。昇格プロセスは、モデルが自己学習と自己改善を続ける能力を持つようになるまで続きます。
3.具体的な方法
弱から強への一般化:
OpenAIの研究では、小型AIモデルを使って大型AIモデルをトレーニングする「弱から強への一般化」アプローチが提案されています。この方法では、小型モデルが大型モデルにフィードバックを与え、その性能を最適化します。
自己教師あり学習:
自己教師あり学習（Self-Supervised Learning）の手法を使用し、モデルが自己学習するためのデータとフィードバックを生成します。これにより、モデルは人間の介入なしに自己改善を続けることができます。
新会社SSIで実行されるスーパーアライメントはどうなる？
Ilya SutskeverのSSIがスーパーアライメントを続行しようと考えている場合、SSIを他の企業が開発したAIをトレーニングおよびアライメントするための場として機能させるための機関とする可能性があります。
4.SSIの役割
Ilya SutskeverのSSIは、以下のような役割を果たすと考えられます：
技術的なトレーニングとアライメント：
各社が開発した大型のAIモデルを、より小型のAIモデルを使ってトレーニングし、安全性と精度を高めるための修行の場として機能します。これにより、AIモデルが人間の価値観に一致し、危険な行動を避けるように調整されます。
倫理的および安全性の強化：
SSIは、AIの倫理的な使用と安全性の確保に焦点を当て、AIモデルが人類にとって有益であることを保証します。このための研究と開発が行われ、AIの潜在的なリスクを最小限に抑える努力が続けられます。
持続的な技術進化：
AI技術の持続的な進化と改良を目的とし、技術的な限界を超える新しい方法を模索します。これにより、AI技術がさらなる高度化を遂げ、人類の利益に貢献することが期待されます。
SSIのASI開発の道は、技術的な挑戦と倫理的な課題に満ちています。各社のAIモデルが集まり、小型AIモデルを通じてトレーニングとアライメントを受けるプロセスは、協力と技術的精度の追求を示しています。現実には、莫大な資金とリソースの確保、そして技術の安全性と信頼性の確立が求められます。SSIが直面するこれらの課題を乗り越えることで、AI技術の新しい時代が始まり、地球規模の問題に対する持続可能な解決策が見つかることを期待します。