「研究するAI」を作るために、「研究する人間」を知る
2024年4月20日（土）、京橋エドグランにて、Bento-kai #3が開催されました！
昨今の大規模言語モデル（LLM）の隆盛には目覚ましいものがあり、本物の人間と遜色ない、あるいはそれ以上の高度な出力を返すことが出来る現代の人工知能は、様々な分野において注目されています。科学研究の場においても、「AI for Science」の旗印のもと、研究自動化のためのツールとしての利活用が進められており、情報科学分野に限らず、様々な学術分野で、AIを用いた研究論文が増加しています（文部科学省）。サイエンスとアカデミアの課題に取り組むBento-kaiでは、そのような状況を鑑み、今回「AIと科学 - 自律的研究を行うエージェントと「いい研究」について」というテーマで勉強会を開催しました。
今回、「人工研究者」の実現を目指して研究されている独立系研究者の高木 志郎さんと、ヒューマンロボットインタラクションについて研究しながら、研究者に必要なスキルについて自身のブログや書籍で発信されている、大阪大学大学院工学研究科講師および理化学研究所脳科学総合研究センター客員研究員の石原 尚さんにご登壇頂きました。
『研究はRPGの冒険みたいなもの』
はじめに、石原さんから「アンドロイド研究と研究プロセスの明文化」という題でご講演いただきました。まず、「能動的に触れ合いのデータを収集する端末として育っていくアンドロイドを作りたい」という動機で石原さんが今まで取り組まれてきた、子供型アンドロイドの開発および高機能化についてお話いただきました。そして、子供やロボットの観察の中での気付きとして、エージェントが「発達」するためには「欲求、計画、挑戦、教訓」のサイクルを回すことが重要で、それは研究活動の推進においても同様なのではないか、という考えを示されました。さらに、研究活動を「人生」や、ロールプレイングゲームの「冒険」と同じようなものとして捉えたうえで、人生の経験やゲーム攻略の方法論が、研究実践や、自律的に研究を行うAIの開発にも応用できるのではないか、という示唆を頂きました。
研究が研究であるために必要な3つの要素
続いて、高木さんから「研究自動化と研究過程の構造化」という題でご講演いただきました。高木さんは、自律的に研究する知能を作るためのファーストステップとしてまず「研究が研究であるために必要な要素とは何か」についての考察を行い、「問いの生成・仮説の生成・仮説の検証」という三要素にたどり着いたそうです。また、石原さんが『卒論・修論研究の攻略本:有意義な研究室生活を送るための実践ガイド』にて、人間の研究者の実践を構造化・抽象化し、「立案・準備・実施・引継ぎ」と整理したことを取り上げ、各フェーズを自動化しようと思ったらどのような点が困難になるかについてご説明いただきました。特に、「準備」のフェーズを自動化することの難しさを強調し、例として、AIが物理的世界とインタラクションして、研究に必要な物質的材料を揃えることの困難さを挙げられました。なお、高木さんの考察の詳細は、2023年12月に上梓された論考「Speculative Exploration on the Concept of Artificial Agents Conducting Autonomous Research」に詳しく書かれています。
人間がする研究とAIがする研究の進め方の違い
お二人からご講演をいただいたあと、質疑応答に移りました。具体的には、以下のような質疑応答が交わされました。
Q. 石原さんが書籍を執筆した時点から今回の講演に至るまでで考えが変わった点はあるか
大きくは変わっておらず、理想や目標を達成するための道筋の中に、より細かい理想や目標のようなものがあり、研究や問題解決という営みはフラクタルになっている、という一貫した考えを持っている。
Q. 研究の立案フェーズにおいて、人間はどのように「理想（ビジョン、先に見えている嬉しい未来）」を決めているのか
理想は研究者個人がそれぞれ決めていくことではあるが、その理想が社会的に容認してもらえないと研究はできない。AIが主導する研究であっても、それはきっと変わらないだろう。
Q. 石原さんの「立案・準備・実施・引継ぎ」と、高木さんの「問いの生成・仮説の生成・仮説の検証」の違いとは
高木さんは、石原さんのように、「研究で実際に行うこと」の一連を各フェーズに分類するのではなく、「研究が機能的にどのような要素から構成されているのか」という視点に基づいて研究の要素を分類している。それが結果的に研究のフェーズ分けにある程度対応し、それは石原さんの区分けとも類似するが、視点の違いにより、区分けの境界には違いが生じる。
Q. 研究を進めていく中で、「最初の問いを修正していく能力」が必要になるが、それについてはどう思うか
（高木さん）研究を結果としてみたときに、問いを修正していく能力は「研究が研究であるために必要な要素」としては現れない。しかし、実際に研究をAIに行わせようと思ったときにはその能力の実装は必要になる。
（石原さん）実際の研究・教育現場では、どういう研究プロセスを経てきたかを明確にしておかないと、どこまで遡って問いを修正して良いか分からないので、プロセスの明示を重視している。AIが行う研究でもそういったフィードバックが大事だろう。
Q. 軽視ないし見過ごされがちだが、研究をしていくうえで必要な要素とは
研究テーマの解像度を高くすること。「研究テーマ」が指しているものが人によって違うことが多く（題材なのか課題なのか問題なのか目的なのか…）、研究テーマの解像度が低いと、あとから振り返って研究を評価するのが難しくなってしまう。
参加していただいた皆様
Bento-kaiでは、様々なバックグラウンドを持つ参加者が有機的につながる場の構築を目指しています。今回のイベントには、ラボラトリー・ライフの訳者で科学哲学者の金 信行さん、AIによる実験情報の自動抽出を進める株式会社fukuの山田 涼太さん、LLMを用いて研究者の思考・議論を複製し、仮説生成ツールの開発研究をしている株式会社EMOSTAの小川 修平さん、「脳の理解」とメタサイエンス運動に取り組む元CRDSフェローの丸山 隆一さんをはじめ、様々な方に参加していただきました。講演・質疑応答の後は、「もぐもぐタイム」を通じて、お菓子を囲みながら、参加者間での自由交流が行われました。
AIが研究で主導権を握る時代に向けて
今回のBento-kaiは「AIに自律的な研究をさせるためには」というテーマを掲げた会でしたが、どのようにしてAIに研究行為を実装するか、ということを考えるより先にまず、人間が今まで行ってきた科学研究自体を見直して「研究とはそもそもいったい何なのか」を見直すことが重要である、ということが特に強調されました。この漠然とした問いに対して、まず抽象的なところから考察を行い、それを徐々に掘り下げて具体的な形に落とし込んでいくことで、「AIの科学」の夢が実現されるのだと思います。そのためには、哲学や情報科学、機械工学など、様々な分野の研究者の知恵を総合したマルチレベルな取り組みが重要になります。
いつか科学の主導権をAIが握る時代が来るかもしれません。しかし、その時代の到来を実現するのは人です。Bento-kaiは今後も、人と人とを繋ぎ合わせる活動を通して、科学をより良いものにしていくことに貢献していきたいと考えています。
来年度以降のBento-kai
Bento-kaiは隔月（偶数月）でのイベント開催を予定しています。差し当たって、来年4月の開催に向けて、より安定して、より多くの研究者を巻き込めるよう、有志を超えた他の団体との協業を予定しています。引き続き、サイエンスとアカデミアをより良くしたいという考えを持っていらっしゃる皆様のご参加をお待ちしております。peatixのアカウントをフォローしていただくと今後開催予定のイベントについての通知をお送りいたしますので、少しでも興味を持った方はぜひフォローの方よろしくお願いします！