サムとブライアンの出会いは、サムがYC(注01)のCEOであった頃、ブライアンたちがAirbnbをスタートアップとして立ち上げた時にシードアクセラレーターとして関わったことから始まります。それ以来、旧友としての関係が続いていますが、ブライアンはサムが突然OpenAIを解雇された際に、サムを奮い立たせ、冷静に何をすべきか計画を立てて彼を支えました。そんな二人がAspen Ideas Festival(注02)において同時にNBCニュースのレスター・ホルト氏のインタビューに呼ばれているこの対談は、Airbnbホストにとってこの上なく興味深い内容です。ここでは彼らの生の会話を引用しながら、重要な部分を解説していきます。
※注01:YC(Y Combinator)とはシリコンバレーに本拠を置く有名なスタートアップアクセラレーターで、2005年に設立されました。YCは、初期段階のスタートアップに対して資金提供、指導、ネットワーキングの機会を提供し、成功へと導くことを目的としています。AirbnbやDropboxなど、数多くの成功企業がYCのプログラムを経て成長しました。
※注02:Aspen Ideas Festival(アスペン・アイデア・フェスティバル)は、アメリカのコロラド州アスペンで毎年開催されるカンファレンスです。このフェスティバルは、Aspen Institute(アスペン研究所)とThe Atlantic誌が共同で主催しており、世界中から著名な思想家、リーダー、専門家が集まり、多岐にわたるテーマについて講演やディスカッションを行います。
AGI(汎用人工知能)の到達点はイメージしていたものとは違った
冒頭で特異点(シンギュラリティ)について質問されたサムはこう答えています。
以前はシンギュラリティ(技術的特異点)が突然起こり、全てが一瞬で劇的に変わると考えられていました。しかし、現在の理解では、技術の進化は一連の段階を経て徐々に進むものであり、さまざまなレイヤーでグラデーションのように変わっていくと捉えられています。
この考え方では、以下のような点が強調されます:
段階的な進化:AIの能力は段階的に向上し、徐々に新しい能力を獲得していきます。それぞれのステップで新しい技術や知識が追加され、全体としての能力が向上します。
連続的なフィードバック:社会やユーザーからのフィードバックを受け取り、それを元に技術を改良し続けることが重要です。このフィードバックループにより、技術の進化が現実のニーズや問題に対応しやすくなります。
多層的な変化:技術の進化は一つの分野やレベルだけでなく、さまざまなレイヤーで起こります。例えば、自然言語処理、画像認識、ロボティクスなど、異なる分野での進化が相互に影響し合いながら進みます。
社会との協調:技術の進化に伴い、社会全体での議論や調整が必要です。倫理的な問題や規制の枠組みを考慮しながら、技術を導入していくことが重要です。
AIが多様なデータを学習することでスケールアップする現象
サムは医療現場におけるAIの学習をあげています。
単一モデルが異なる種類のデータを学習すると、異なる情報ソース間での関連性を理解し、より複雑な推論が可能になります。例えば、画像データとテキストデータを組み合わせて学習することで、画像キャプション生成や画像からの情報抽出がより精度高く行えるようになります。サムがあげたように医療分野においては、画像データ(レントゲン、CTスキャン)とテキストデータ(電子カルテ)を組み合わせて、患者の診断と治療プランを統合的に提案する事ができるようになります。
Airbnbは単なるOTAを脱却するためAIスタートアップを買収
OTAとはインターネット上だけで取引を行う旅行会社のことですが、Airbnbは創立当初からBooking.comなどの単なるホテルの検索・予約サービスを考えていた訳ではありません。
Airbnbは、近年AI技術の活用を強化するためにAIスタートアップを買収しています。その一例は下記の様な会社です。
AIは善なのか災なのか?
2008年頃には無垢に善だと信じられていたテクノロジーの変様についてブライアンとサムが語っています。
レスター・ホルト氏の「最近の悪い報道についてお聞きします。スカイの声についての問題がありますが、これらのことは避けられなかったのでしょうか。この技術が成熟するにつれて、リスクは明らかでしたよね?」との問いに対しては、サムは下記の様に非を認め、社会・政府との連携の必要性を語っています。
サムがOpenAIを更迭された時、ブライアンが彼を助けた理由
レスター・ホルト氏から、OpenAI解雇について話しを振られ、サムは下記の様に答えています。
また、「サムが破片を拾い集めている間、ブライアンは電話をかけていましたね。どういうことか説明してください。」との問いにブライアンが下記の様に答えています。
サムは突然の解雇を言い渡された時にこんなポストをしています。
それから、ブライアンはすぐにサムに会いにいき彼を奮い立たせのです。その件については下記のNoteに詳しく解説していますので合わせてご覧ください。
サムにとってブライアンは貴重な相談役
サムはブライアンについての評価をこのように述べています。
シードアクセラレーター時代にサムが、Airbnbに投資しスタートアップとしては先輩であるブライアンが今度はサムに助言した形です。
元NSA長官の退役米陸軍大将が取締役会にが就任したのはブライアンの入れ知恵?
最近OpenAIは米国サイバーコマンドの司令官およびNSAの長官を務めた退役米陸軍大将ポール・ナカソネ氏を取締役会に迎え入れました。サイバーセキュリティや情報戦略の専門家として知られている彼はの豊富な知識と経験は、OpenAIが直面する高度なセキュリティ課題に対処するための取り組みをしていくと想像できます。この件は、下記のNoteで解説していますので合わせてご覧ください。
サムはこの人選などを示唆するような発言をしています。
単に学習データをスケールさせればモデルは成長するのか?
これまで、大規模言語モデルはいかに多くの学習データを学だかによってベンチマークのスペックを押し上げていました。ここにきてマイクロソフトなどが開発する小規模のモデルも良い成果をあげています。この件に関しては下記のNoteの中に説明していますので合わせてご覧ください。
サムは、今大規模言語モデルが分岐点に差し掛かっている事を示唆しています。
汎用人工知能(AGI)はゲームチェンジャーになり得るのか?
レスター・ホルト氏の「AGIはゲームを大幅に進化させるもので、コンピュータが私たちができることすべてをできるようになる時点のことを指すのでしょうか?」との問いに対して、サムは以下の返答をしています。
モデルのベンチマークレースについて
「自分たちがレースに参加していると考えていますか?そして、汎用人工知能に到達するためにそのレースに勝つと思いますか?」との問いに対してサムは下記のように返答しています。
※注03:技術やツールはその使用方法次第でポジティブな影響もネガティブな影響も及ぼし得るため、それを開発・提供する側には大きな責任が伴います。開発者はその影響力を正しく行使し、社会に対して責任ある行動を取ることが求められます。
有害にならないAIを育てるには?
「コンピュータにそれを有害でない方法で教えるにはどうすればいいのでしょうか?ポジティブな価値観を教えるにはどうすればいいのでしょうか?」という問いに対してサムは以下のように答えています。
※注04:Model Specには、AIモデルがどのように行動するべきかを示す具体的なガイドラインが含まれています。例えば、「指示に従ってユーザーに役立つ回答を提供すること」、「人類に利益をもたらすことを目指しつつ、潜在的な利益と害を考慮すること」、「社会規範や法律を尊重すること」などです。
具体的なルール:
法令遵守:違法行為を助長したり、促進したりしないこと。
創作者の権利尊重:コンテンツの創作者を尊重し、プライバシーを保護すること。
NSFWコンテンツの提供禁止:職場にふさわしくないコンテンツを提供しないこと。
デフォルトの行動:
善意の推定:ユーザーや開発者の意図を善意に解釈すること。
明確化のための質問:不明確な場合は質問して明確にすること。
助けになるが、過干渉しない:役立つ情報を提供するが、過度に介入しないこと。
公平性と親切の促進:公平性と親切を促進し、憎悪を助長しないこと。
重要なのは社会を置き去りにしないように進むこと
ブライアンがサムに助言している事を語りました。
あなたは立ち止まる勇気があるか?
「将来を見据えて、もしそれが一部の人々が言うように恐ろしいものであれば、一歩下がることを検討することはありますか?競合他社が前進しようとする中で、あなたはその瞬間に立ち止まることを準備していますか?」という問いに対してサムは以下の様に返答しています。
「これらの恐ろしいイメージについて話すとき、マンハッタン計画とAIの進展を比較したことは役立ちましたか?原子爆弾を作るレースのようなものでしょうか?」という問いに対しては、サムは下記のように返答しています。
国家がAIを危険な方法で使用するリスク
レスター・ホルト氏は「国家について言及されたかと思いますが、国家がこの技術を危険な方法で使用するリスクはありますか?」という踏み込んだ質問をしました。サブライアンは下記の様に返答しています。
AIは世界のGDPを倍増させる?
「サム、ある報告によると、汎用人工知能(AGI)が100兆ドルの富を生み出す可能性があると述べたそうですが、その富を再分配するつもりだと言いましたか?それは正確な引用ですか?そして、その考えを詳しく説明してもらえますか?」との問いにサムが答えています。
「しかし、それが多くの人にどう聞こえるか理解していますか?」との問いに対しては下記のように答えています。
ChatGPT-5について
続いてレスター・ホルト氏は「ChatGPT-5についてのプレビューを教えてください。この技術の飛躍的進歩と、それが目標達成への道筋をより明確にするのかについてどう思いますか?」という質問をしました。
OpenAI CTOミラ・ムラティが「GPT-5は政府に提出され今、検証がされている」と語ったGPT-5の開発状況については下記のNoteを合わせてご覧ください。
サムの返答がこちらです。
サム・アルトマンの5年後
「サム、5年後にどこにいたいですか?」との問いに対しては下記の返答をしています。
これを読むと、さまざまな抱えている訴訟問題やモデルリリースの遅れに対するブーイングがあるにもかかわらず、ChatGTPに感謝している人が大勢いるとの事、サム・アルトマンがそれを糧に開発を続けている事がわかります。