勉強会「AI 科学を哲学する？」を振り返って
こんにちは、独立研究者の高木と申します。
先日 2024年4月4日に、丸山隆一さん（前職 JST CRDS、現職 AI Alignment Network）と「AI 科学を哲学する？」と題したオンライン勉強会を開催しました。AIが科学に入り込んでいく時代において AI × 科学においてどんな論点がありうるのかを異なる視点を持つ方々と考えたいというのがこの勉強会の趣旨でした。
当日は実に80人近くの方にご参加いただき個人的にとても学ぶところの多い勉強会となりました。ご参加くださった皆さんありがとうございました。勉強会の開催記録については丸山さんがブログにまとめてくださっていますので、当日の様子についてはそちらのブログもご参照ください。
また、当日の高木と丸山さんの発表スライドは公開しておりますので、ご関心がある方はそちらも合わせてご覧ください。
この記事では当日高木と丸山さんが提供した話題を参照しつつ、勉強会でどのようなコメントや議論が生まれたかを振り返りながら、そこから私個人が考えた（妄想した）ことなどについて簡単にまとめていこうと思います。
丸山さんからの話題提供
AI × 科学の議論の整理
丸山さんと高木で事前に議論していた中で双方の共通の関心としてあがったのが「AI × 科学の議論の全体像が見えない」という点でした。そこで、誰がどこでどのような議論をしていて、それらは互いにどのように関係しているのかについて何かしらの整理ができるようにしたいというところから出発しました。その一つの試みとして、丸山さんはAI × 科学に関連する問いを一旦次の三つの軸から整理して見るという考え方を提案しました。
研究パイプラインに沿って考える軸（研究者/研究主体の視点）
科学哲学の論点に沿って考える軸（内的な科学論の視点）
社会の中の科学の視点から考える（外的な科学論の視点）
一つ目の「研究者/研究主体の視点」は、実際に研究に携わっている研究者が普段行っている業務や研究のフローを考えたとき、AI がそれらにどのような影響を与えるかに関する問いです。例えば「研究過程のどの部分をどのように AI でアシストできるか？」などの実用的かつ具体的な問いがこれらに該当します。AI for Science の多くの議論はここに関連した議論である印象です。
二つ目の「内的な科学論の視点」に当てはまる問いはもう少し俯瞰した立場からの概念的な問いで、AI が登場することが科学という営みにおける諸機能にどのような影響を与えるかという議論です。科学ないしそこで行われる営みの概念的な整理は科学哲学で中心的に行われてきました。丸山さんはこの中で特に「価値」「発見」「正当化」「理解」というテーマに注目して既存の AI × 科学の問いがどのように整理できるかを議論しています。
三つ目の「外的な科学論の視点」は社会の中の科学という視点です。AI が科学に導入されることによって社会に対してどのような影響があるか、あるいは社会からの影響がどのように変わるかといった問いがここに該当します。
今回丸山さんは上記のような整理を提案されましたが、丸山さんご自身も述べられているようにこの整理が必ずしも唯一のものというわけではありません。私個人がむしろ重要だと考えているのはそもそもこのように AI × 科学の議論の整理を試みようとすること自体です。丸山さんも述べられていますが、良い議論であってもこうした体系化がなされていかないと流れていって蓄積されなくなってしまいます。印象論で終わったりや互いの前提が共有されないまま平行線で終わることもあるように思います。互いの議論のすれ違いを最小化し建設的な議論を積み上げていくためにも、AI × 科学の議論を体系化していく試みは重要だと考えています。
科学とは何だったかの問い直し
丸山さんは AI 科学が進むにつれて、この整理の 2 番目の「内的な科学論の視点」が重要になってくるのではないかと指摘しています。これは、以前から指摘されているように、研究の過程のうち AI が担える部分が多くなっていくことで「そもそも科学って何だったか」という科学についての概念的な問いを問う機会がより増えていくと考えられるからです。例えば、これまでの人間の研究ではある現象についての研究がその現象の理解もそこからの予測も同時に生み出してきました。しかし機械が人間にとっての理解を伴わない予測を提供できるようになると「理解を伴わない予測は科学か？」といった問いが生まれてきます。AI が科学に入り込んでいくことで、このような科学自体の問い直しの機会が生まれるというのは個人的にとてもエキサイティングだと思っていますし、今後そうした議論はより加速していくないのではないかと思っています。
これまで科学哲学者などはこうした「科学とは何か」といった議論を長年蓄積してきました。今後は哲学者を超えて科学に関与するより多くの人々がこうした問いに関心を持っていくことになると思います。その際に哲学者が積み上げてきた議論や概念の整理を参照できると、互いの前提が共有されないまま各々の科学観で議論が進められるようなことが防げて、建設的な議論がしやすくなるのではないかと思っています。その意味で科学哲学などの議論は今後より重要性を増していくのではないかと個人的には思っています。
新しい科学の設計
これまでの議論は「AI によって科学はどう変わるか？」「科学とは何だったか？」といった、ある種今ある科学を所与として考えるような議論でした。丸山さんはここでもう一歩踏み込んで「AI によって科学はどう変わるか？」という受動的/分析的な議論だけではなく「AI によって科学をどう変えることができるのか？」という能動的/創造的な議論の可能性に言及します。今ある科学について語るだけじゃなくて未来の科学について語るということです。
私はこうした新しい科学を作っていく議論、丸山さんの言葉を借りるならば 「AI 科学の設計論」こそが最も重要な議論だと思っています。科学のシステムや実践方法については、まだまだ新しい可能性を探索していく余地が多分に残っているはずです。これまでの科学を最適化することを超えて、科学の概念的な前提を問い直し、科学によって達成したかったものを再考し、それらを最適に実行するために根底から一度ゼロベースで考え直し、新しいシステム全体を作っていくという視点を持つことで、より良い科学システムが生まれていくのではないかと思っています。
AI の躍進はこうした科学のあり方全体の再設計をする大きな可能性を提供していると考えています。現在の科学システムを批判するだけでなく、AI を用いたこうした新しい科学システムの設計の議論が進んでいくと良いのではないかなと考えています。
高木からの話題提供
私の発表では、先日公開したプレプリントを書いていく中で考えたことを中心に「AI に研究をさせる」ということに関して話題を提供しました。
研究する主体としての AI を作るとは
私は科学の全過程を自律的に実行する AI の実現に関心があります。これを「研究する主体としての AI」と表現し「そのような AI を作ることは何を作ることになるのか？」を考えました。
そのためには「研究をするとはどういうことか？」がわからないといけないと考え、研究の定義について考えました。もっと正確に言えば「ある AI が何かをしたとしてそれが研究をしたとみなされるためにはその AI は何をしていなければならないか（必要な要素は何か）」を考えました。
少し調べたところ研究の統一的な定義はなさそうであることがわかったので、素朴な直観から作業的定義を考えることにしました。色々考えた結果、現在研究と呼ばれている活動はいずれも既にあることをやっても研究とはみなされないのではないか、これは分野を超えた研究の共通点ではないかと思い至りました。そして、研究とは新しい知識を生み出す営みであると考えてみるところから出発することにしました。
新しい知識を生み出す営みとしての研究
まず新しい「知識」を生み出すとは何かということを考えました。認識論という哲学の一分野が知識とは何かについて長年議論していることを知ったので、その分野の古典的な考え方である「知識は正当化された真なる信念である」という議論から出発してみることにしました。こう定義すると、研究とは「正当化されていない信念を正当化する営み」と呼べるかもしれないと考えるようになりました。ここから、知識は主体に依存する概念であり「誰のための知識か」を意識することが必要であること、正当化するとはどういうことかを考えなければならないこと、人間と機械の接点はどこまでいっても必要そうであることなどの示唆を得ました。
続いて「新しい」知識を生み出すとは何かということを考えました。研究で生み出される知識が新しくあるためには、そもそも何が新しい知識かを認識する必要がありそうです。言い換えれば、認識主体が所属する社会にとって何が未知であるかを特定することが必要になります。つまり「研究では問いの生成をする必要がある」と言えそうです。
ここで「問い」は「1. 未知を指定し 2. それを既知にすることを志向するナニカ」ぐらいの意味でのみ使っていることに注意してください。例えば「なぜ空は青いのか」という文章は 1. 空が青いという理由を知らないという状態を含意し、2. その理由を知ろうとすることを含意しているという意味で私がここでいう「問い」と同じだと考えます。したがって、ここでの「問い」は必ずしもリサーチクエスチョンに限定されるものではないですし、その問いが重要か否かといった問いの「価値」についても言及していません。また、何が問われているかや、その問いがどのように発生するかについても言及していません。前述したように私の目的は「ある AI が何かをしたとしてそれが研究をしたとみなされるためには何をしていなければならないか」を知ることであり、研究を新しい知識を生み出す営みと捉えたときに、それを実現するために必要そうな性質にのみ注目しています。
また、わかりやすさのために「問いの生成」と表現しましたが、必ずしも時系列順に研究の最初に未知の特定が行われる必要はありません。あくまで「ある営みが研究と呼ばれるには答えを出そうとしたナニカが実際に認識主体が所属する社会にとって未知であることが確認される必要がある」というだけで、それが後から確認されても構いません。重要なのはそれが研究の過程のどこかで必ず存在する必要があるということです。そして、研究とはこの問いに答えようとする営みとして捉えられるのではないかという考えを話しました。
研究過程の区分の整理
最後に、研究過程を区分するときの分け方についての個人的な整理を共有しました。まず科学哲学では伝統的に科学の営みを科学的発見に関連する部分とその正当化に関する部分という二つの文脈に分けて議論することが行われてきました（Discovery/Justification）。私は研究とは問いを立ててそれに答える過程ではないかと述べましたが（Question/Answering）、発見の文脈と正当化の文脈の区別はこれらの区別とは異なるように思います。具体的には、問いの生成/仮説の生成/仮説の検証（Question/Hypothesis/Verification）という過程のうち、発見の文脈は前者二つを一緒くたに議論しているような印象を受けました。科学哲学の区分は「哲学が扱いやすいか？」という観点からの区分からであるように思いますが、私の区分は「新しい知識を生産するとはどういうことか？」という観点からの区分であり、その違いが現れた結果なのだと理解しています。
AI ① は「AI による予測を検証せずにそれそのものを知識とみなしていいか」といった議論が想定していると思われる AI が担っている研究過程の範囲です。AI ② は仮説の検証は人間がするとしても、どのようにして AI がある仮説/予測をしたのかがわからないといった、AI の予測に対する解釈可能性についての議論が想定していると思われる範囲です。これらはどちらも AI による理解に関連する話をしていながら、どのように異なるかがうまく腹落ちできていなかったのですが AI が担う範囲の違いとして解釈できるのではないかと考えました。
AI ③ - ⑧ は AI が科学のどの過程に応用されているかを表したものです。個人的には現在の研究自動化や AI for Sciecen がこれらの全てを自動化しているわけではないのではという問題意識から出発しました。個人的にはそれら全ての過程を AI が担う AI ⑨ に関心があります。
最初に AI × 科学の議論を自分で整理しようと思った時に、このあたりの互いの関係がわからず混乱しましたが、このように整理できるのではないかなと今は思っています。
勉強会でのコメント/議論
丸山さんと高木のこれらの話題提供を受け、勉強会では様々な議論がなされました。以下ではその中の一部を紹介します。
「主体としてのAI/エージェント」という表現について
私の議論は「研究する主体としての AI/エージェント を実現したい」というところから始まっています。勉強会ではこの前提の適切さについての反省の契機となるようなコメントをいただけました。
まず「研究が徐々に AI 化されていく中で何を以て AI が主体的に科学をしてると見做されるかは自明ではないのでは」という趣旨の応答がありました。またそれとは別に「研究というのは個人に閉じた営みではなくて複数の多様なプレイヤーの共同で行われるよね」といった議論や「研究とは個人が予測分化をすることで世界モデルを作っていく活動と特徴づけられるのではないか」と議論、そして「AI の登場によりこれまで知というものを個人に落としていくという描像が支配的だったが知は個人に閉じられたものではなくむしろ分散的で動的な営みに支えられた公共的な知識観に遷移していくのでは」という議論もなされました。
対して「主体」という表現はある独立した個体が存在しそれが何かそれ自身によって何らかの行為をするという描像を喚起します。また、それが自動化とは「質的に」異なるものだという印象を与えます。もともと私が「主体」という表現を用いようと思ったのは、既存の AI for Science や研究の自動化において（特に、それが研究をしてると呼べるために必要と思われる要素も含めて）依然として人間によって定められている点が多いという気持ちへの対置としての側面が多分にありました。であるならば「主体」という言葉が喚起する独立した個体としてのニュアンスは私の目的にとっては必要ではありません。むしろ私が目指すものは「完全に自律的に（＝人間の介入なく）研究をする AI」と表現するほうがより適切なのではないかと考えるに至りました。
また、私が実現したいのは「研究ということが自律的にできる人工的なナニカ」であればよくて、原理的にはそれが AI と呼ばれることもエージェントと呼ばれることも必要ではありません。それが上述した議論でもあったような分散的なシステムであっても何も問題はありません。しかし「主体としての AI/エージェント」という表現を用いることによって単一の何かを作成するという意味が喚起されてしまいます。私の掲げたコンセプトは勉強会で挙げられたようなより広い可能性についての間口を閉ざしてしまうという意味で表現として適切ではないのかもなと反省しました。
これに関しては丸山さんもいみじくも指摘してくださっていました。丸山さんの言葉を借りるならば「研究者 AI を作るということと AI を使って科学のシステムそのものを設計するの区別がなくなり、研究者個人を工学的に再現する必要はなくむしろ科学という営みそのものを工学的に再現するというような発想になるのではないか」という視点です。これを何と表現するのが良いのかはまだわかりかねていますが（自律的に研究するシステムの実現とか？）こうした可能性にも開かれていくように、今後より良い表現を考えていきたいと思っています。
「研究する~を実現する」ということについて
私は「研究する~を実現する」ためには「研究する」とは何かを定義する必要があると考え「研究とは（ある社会にとって）新しい知識を生み出す営みだ」と暫定的に定義しました。これに従うと、ある営みが「（ある社会にとって）新しい知識を生み出す営み」と見做されるために必要なことを充足していて、その営みができるものを実現する~ができれば「研究する~を実現する」が達成されることになります。
一方で、勉強会では「どこからどこまでが研究と呼べるかは自明ではないよね」という趣旨の議論が複数の方から出てきました。実際、私たちの普段の活動も何か特定の時間から特定の時間だけ研究をするというだけではなく日々の生活を営む中でも研究に関連することをやっていたりと、その境界は明確に定まるようなものではありません。また「研究を特別な活動と捉えすぎると見誤るのでは」といった意見もありました。
科学的理解について
議論の内容としては、科学的理解に関するものが多くありました。AI と科学的理解というテーマはやはり多くの方にとって関心が高いテーマなのだろうと改めて感じました。科学的理解に関連する議論・質問・フィードバックだけでも例えば以下のようなものがありました。
現状のAIにおける「理解」と人間の理解との違いは？
AIが作り出した知識は、人類のうちの何％が理解していれば良いのか？
人間の科学が重視するのは「説明ができる」ことや「再現性」だが、これがない機械学習によるブラックボックスな予測はむしろ「芸術」に近いのでは？
理解とはベクトルの関係で表せるか？
仮に AI が何をしているか理解できなかったとしても、AI が科学的科学進歩をもたらしていることはわかりようがあるのか？
理解的理解を手放したくない理由の一つとして、探究の喜び以外にも、 AI が研究して何か悲劇が起きた時にその悲劇を納得して受け入れられるかどうかの違いを生むという点で重要だという見方もあるのではないか？
「人類の理解を求めない知識」としてしまうなら、それは要するに「使えればいい」ということになって、ScienceというよりもEngineeringの領域に入るのでは？
理解には過程の理解と結果の理解があって、過程は理解できなくても結果が理解できれば良いという考え方もできるのではないか？
他方で、科学的理解は重要ではない/重要ではなくなっていくこともありうるのではないかという意見もありました。以前から大塚先生や高橋先生などがご指摘されているように、これまでたまたま技術の発展に理解が必要であっただけで、技術は理解なくして発展していくことは十分にありえます。多くの人々が科学に期待する役割は技術のシードを提供する役割であろうことを考えると、AI の科学への導入はこれまでの理解の営みとしての科学という側面を縮小させて技術を生み出す営みとしての科学へ引っ張っていくのではないかと私も思います。勉強会の中では、そうであるならばむしろ理解というのは今後 AI 科学にとって足枷にすらなるのではないかという指摘もなされていました。
この話題について個人的に前から注目しているのは「科学的理解」を科学が科学であるために必要、少なくとも重要だと考える人がいる一方でそれは必要ではない、あるいは重要ではないと考える人がいるということです。これは科学というものをどう捉えるか/各々の科学の定義の前提が異なるということなのではないかと理解しています。この現象の含意について、先ほどの研究の定義の話も絡めながら、以下で少し（かなり）風呂敷を広げて考えてみたいと思います。
勉強会を経て考えたこと
「研究/科学」という言葉を用いることは望ましいか
研究の定義の議論や科学的理解の理論、その他諸々を後で一人で反芻して色々考えた結果思ったのが「研究/科学という概念を介在させるのは果たして望ましいのだろうか」ということです。というのも、人々が多くの場合関心があるのは研究/科学という大きな概念の総体それ自体ではなくて研究/科学の特定の側面であるように思われるからです。
科学的理解のところで話したように、ある人にとっては現象の説明を提供するという側面が重要ですがある人にとっては予測という側面が重要かもしれません。であれば、初めから「研究/科学」という言葉を用いず「この世界についての理解をもたらす AI」「この世界についての予測をもたらす AI」という形で議論すれば良いのかもしれません。「研究/科学」という大きな言葉を介在してしまうがために混乱が起きるのであればそれを避ければいいのではという気持ちです。そう考えると、そもそも「研究/科学」を定義することも必ずしも必要ではなく、その中で自分が最も関心がある性質について最初から論じる方がいいと言えるかもしれません。
上記の議論は「研究/科学」が広い概念である、ボトムアップに形成された概念である、という点から発生するものです。これに加えて「研究/科学」が「営み/行為/手続 etc. である」という性質もこの概念を使用することの適切性を評価する上では重要なのではないかと考えました。まず、先ほどの議論に関連するところでいうと、人間が多くの場合関心があるのは「営み」それ自体ではなくてそこから得られるもの、その出力、それが達成するある目的、であるように思われます。であるならばそれをどのようにやるかを飛ばしてそれがもたらすものについて直接議論をした方が早いかもしれないと言えるかもしれません。特に、勉強会の中でも指摘がありましたが、深層学習の躍進がもたらした教訓は「どうやるか」を人間が決めるのではなく「何をしたいか」だけを人間が与え「どうやるか」は機械によしなに考えさせるのが結果的に良いというものでした。そう考えると直接目的を実現することを目指すように作られたシステム（e.g. この世界の理解をもたらすシステム）はある営為を通してそれを実現することを目指すように作られたシステム（e.g. 研究によってこの世界の理解をもたらすシステム OR 研究をするシステム）よりも原理的にはより最適な解に辿り着くことになるかもしれません。
上記の議論ではいずれも、各々の「関心」という単語が中心的な役割を果たしています。AI × 科学の議論をしていくうえでは、もしかすると「科学/研究」という言葉を介在させず、各々が各々の関心を明言してそれに基づいたコミュニケーションをしていくことが望ましいのかもしれないという可能性に思いを馳せました。
再び「設計」の話へ
前のセクションで「各々が研究/科学のどの側面に関心を持っているかという話だ」というような話題提供をしました。何度も指摘されているように、AI の躍進は密接に絡まっていた科学のこうした複数の側面を今後益々ときほどいていくと思われます。この時、自分の関心のある側面が今後どんどん注目されなくなっていく、リソースを配分されなくなっていくという可能性が当然発生し得ます。どの側面がより注目されていくかを決定するのはお金を持っている人々かもしれませんし、技術を持っている人々かもしれませんし、政府の人々かもしれませんし、社会の多数派の人々かもしれません。
そうした不確実性の中で自らが関心がある側面を生き残らせ発展させていくためには、能動的で積極的な取り組みが必要であるように思います。例えば、自分はこの世界の理解に関心があるけれどこのままいけばこの世界の制御により多くのリソースが注がれると予測するのであれば、この世界の理解をもたらす AI がどのように作れるか？それが今後も注目され続けていくためには何をしなければいけないのか？を考えることが重要であるように思われます。
まだ完全に科学の側面が解体されていない今であれば、自分が求める科学の側面を躍進させる方向に科学を作っていくことに貢献できるかもしれません。その意味でも「AI によって科学はどう変わるか」ではなく今を生きる一人のプレイヤーとして「AI によって科学をどのように変えていくことができるか」を考える視点を持つことは個々人にとってより重要になっていくかもしれません。
とはいえ…
後半かなり風呂敷を広げ「そもそも科学/研究という言葉を使うのが望ましいか」というところまで話を飛躍させました。しかし原理的にはそうであったとしても、まずは研究/科学とはどのような営みなのか構造化整理をすることは、何かを具体的に作っていく上では非常に役に立ちます。また、AI × 科学をめぐる議論の構造化を進めていくこともより体系的な議論を積み重ねていく上で重要です。そしてこれらを進めていく上では私は依然として科学哲学をはじめとした哲学の議論が重要になってくるのではないかと思っています。こうしたテーマについて立場を超えて意味のある議論ができるような場がより増えていくと良いなと思っています。
また、私自身の探究は「人はどうやって研究してるんだろうか」という興味から始まった部分があるので、私個人としては「研究する ~」という概念に依然として関心があります。この概念が特定の側面に分離/吸収されていくようなものなのかもわかっていない部分もあります。なので一個人としては今後もそうした大きな概念を意識しながら探究を続けていけたらと思っています。
終わりに
当日は私の至らないところばかりでしたが、参加してくださった皆様が色々と議論をしてくださったおかげで大変助かりました。個人的には自分の考えをあれぐらい話す機会はあまり無かったので、いただいたフィードバックや当日の皆さんの議論も含めて非常に勉強になりました。当日来てくださった皆様ありがとうございました。
また、丸山さんには事前の準備から当日の運営まで何から何までやっていただき本当にありがとうございました。丸山さんなくてはこの勉強会はできませんでした。この場を借りて感謝いたします。
記事中でも述べたように AI が入っていく中で科学をどう能動的に変えていくかという議論は今後益々重要になっていくのではないかと思っています。是非皆さんと立場を超えてこうした議論を進めていくことができればと思います。