💬生成AIとの会話#1 (情報量・途中経過と意味)

最近特に生成AIとの会話が楽しくて時間が溶けていきますが、その内容を共有したいと思います。この会話をベースに「生成AIとの関係性を探っていく」という新シリーズです😊

生成AIとの会話、情報量はどうなる？

今回、まず会話したテーマは「情報量」についてです。ここでいう情報量は「データのサイズ」ではなく、「情報理論的な情報量」のことで、wikiによると以下のような定義になります。

情報量（じょうほうりょう）やエントロピー（英: entropy）は、情報理論の概念で、あるできごと（事象）が起きた際、それがどれほど起こりにくいかを表す尺度である。ありふれたできごと（たとえば「風の音」）が起こったことを知ってもそれはたいした「情報」にはならないが、逆に珍しいできごと（たとえば「曲の演奏」）が起これば、それはより多くの「情報」を含んでいると考えられる。情報量はそのできごとが本質的にどの程度の情報を持つかの尺度であるとみなすこともできる。

情報量 wikiより

例えば、「1月に北海道で雪が降った」より「4月なのに東京で雪が降った」の方が情報量が多い、「いつもの定食屋さんで、定番メニューを食べたら美味しかった」よりも「いつも行っている定食屋さんで、新メニューがめちゃくちゃ美味しかった」の方が情報量が多い、というイメージです。情報量が多いと、驚きや学びが大きいということになります。

生成AIにこれについて質問してみました。

生成AIは「多くの人がそうだよね」と思う情報を出してくれるが、これが進むと「そうだよね」の部分が多くなり、情報量は減っていくと考える。つまり「え？！意外！そんな考え方があるんだ！」というようなことは減っていくのではないかと思っているんだけど、どうかな？

質問

それに対しての回答は「情報量が減ること≒モード崩壊」を提示しつつ、「そんなこともないよ」という内容でした。

機械学習の分野では、「学習したモデルが一部の解しか出力しなくなる」ことをモード崩壊（mode collapse）と呼びます。もし大規模言語モデルが極端に「典型的なパターン」だけを出力するようになってしまったら、確かに多様性が失われ、情報エントロピーは低下するでしょう。
ただし、実際のところChatGPTなどは「ある程度ランダム性」を導入する仕組みを持っており、温度パラメータ（temperature） や トップP（top-p） といったハイパーパラメータを調整することで、確率分布の尻尾の方（出現確率が低い単語や文章）も取り入れることができます。これによって、「意外性」を増やす ことも可能です。

ChatGPT

なるほど、意外性を増やすことも可能なんですね。少し意地悪な質問をしてみました。

「突拍子もないアイデア出して」っていって、出てきたものは「突拍子もない」という枠組みの中のアイデアだと思うんだよね。 そうではなく、アウトプットを見て、あとから振り返って「あー、あのときのあのアイデアは突拍子もなかったな」というのが、生成AIでは無いんじゃないかなと思っている。 どうかな？

さらに質問

生成AIからの回答は、「枠組みの中での意外性」を認めつつ、「それって人間も同じでしょ？」と言う回答。確かにｗ

ユーザーが「突拍子もないアイデアをちょうだい」とAIにリクエストする時点で、「突拍子もないアイデア」という枠組み をAIは与えられてしまっています。このとき、意外性が事前に目的化されているため、「本当の意味での想定外」 は起きにくい。
「あなたが知っている意外な話をして」と言われたら、人間でも「よし意外性を狙おう」と頭の中でネタを探します。結果、「まぁこのくらい驚くかな」という範囲の話をしますよね。AIも同じで、“驚かし用パターン” を探ってくるわけです。

ChatGPT

「意外性は後づけ」と言うイメージがあったのですが、それについてもこんな回答をしてくれました。

歴史上の大きな発明・発見というのは、その時点では “後から見ればすごかった” というケースが多いですよね。たとえば「相対性理論」は、登場当初は理解されない人も多く、後から振り返って「革命的だった」と評価されます。
アートの分野でも、当初は理解されずに「奇妙」「受け入れがたい」とされたものが、後に「とてつもなく斬新で新しかった」と評価されることがあります。
このような「後から振り返ったときに初めてわかる突拍子もなさ」や「事前には誰も想定していなかった価値や意味」は、“偶発的” に出てくる面が強い。
逆に、生成AIに対して「意外性を意図的に出して」とお願いして得られるもの は、どうしても「既存分布をベースにした“意外性風”」に留まりがちです。“風”と言うと少し過小評価しすぎかもしれませんが、「意図された枠の中の驚き」から抜け出しにくいのは確かです。

ChatGPT

そうすると、意外性というのは客観的に存在するのではなく、対話の中で認識されるものかもしれない。つまり「生成AIに突拍子もないアイデアを出してもらう」というより「生成AIとの対話の中で突拍子もないアイデアを共創していく」というのが近いかもしれません。

生成AIって「途中経過」って作れるの？

もう一つのテーマは「途中経過」です。

生成AIは「途中経過を作成できない」という特徴があると思うけど、それはどう思う？つまり、「この推論の途中経過を出力して」といった時に、それは「途中経過」という最終成果物になっている気がするんだよね。
これは「途中経過」とか「最終成果物」という言葉のあやかもしれないけど。

質問

これについては、生成AIの特徴を踏まえて、技術的な解説もしてくれました。(こういうのは特にありがたい。)

1. “内部の推論プロセス（Chain-of-thought）” は人間の思考とは異なる
大規模言語モデルの内部で行われている推論（内部表現や中間ステップ）は、いわば巨大な行列演算や重みづけられたニューラルネットワークのパラメータ上で行われる「ベクトルの計算」であり、人間のような「思考の文章」という形では存在していません。
この点で、「途中経過」というよりも“途中経過風の説明文” が出力されているだけであり、ある意味で「最終成果物」と変わらない扱いになります。結果として「推論過程を見せるつもりが、また別の“完成された生成結果”を読んでいる」という状況になるわけです。

2. 実際の内部推論をそのまま出力できない
OpenAIなどが公表している方針でも、モデルが実際の内部“思考”をそのまま出さないように設計されている場合があります。「Chain-of-thought（思考の連鎖）」と呼ばれる内部推論の生ログを出してしまうと、モデルの脆弱性が露呈したり、あるいはユーザにとって不必要に長い情報や不確定な情報を混在させてしまうリスクがある。また、その過程でトレーニングデータに含まれる個人情報や機密情報が意図せず露出する可能性もある。
こうした理由で、大半の商用チャットモデルは「隠れた推論は隠れたまま」で、最終的な要約や結論だけを出力するほうが望ましいとされています。

また、ニューラルネットワークの内部状態は膨大な次元を持つベクトルの連続演算であり、人間が追える形ではありません。ある程度の「解釈可能性研究」により「このレイヤーは何を学習しているか」を可視化する試みはありますが、それでも完全な形で「人間にとって意味の通る文章としての推論過程」を取り出すことはほぼ不可能です。

ChatGPT

確かに、生成AIは「一筆づつ絵を描く」と言うより、「パシャリと写真を撮る」と言う感じで回答を生成しているので、その途中を識別すること自体が不可能なんですね。多分こういうこと。

とした時に、私達人間が途中経過にロマンというか意味を感じるのはなぜなのか？「意味形成」と言う文脈で質問してみました。

私(人間？)が途中経過に興味があるのは、たぶんその途中経過自体が「意味を持った最終成果物」だからだよね。どこを切り取っても、「途中経過という最終成果物」であって、それを楽しめる、もしくはそれに意味を見いだせる。
この「意味を見出す」って私もよく使っちゃうんだけど、これってどういうことかな？例えば、ベルガンティの「意味のイノベーション」や、クリッペンドルフの「意味論的転回」などでもこの「意味を見出す」や「意味を作る」というのが出てたと思うんだけど。ブルーマーもシンボリック相互作用論の中で「社会相互作用の中で意味が作られる」と言っているし。

質問

「途中経過」に対してこんな回答をしてくれました。

「どこを切り取っても意味がある」とは何が起きているか？
→ 意味は「見る側・使う側」の文脈から生まれる
たとえばデザインのプロセスで、スケッチやプロトタイプといった「途中成果物」があったとして、それを誰かが「こういう可能性があるね」と捉えた瞬間に、それは「意味あるモノ」になる。
そこには設計者自身の文脈、あるいは受け手の過去の経験や知識、あるいは社会的合意などが相互に作用して、それまで“完成度の低いモノ”としか見なされていなかった対象に、新たな意味が付与される のです。

→ 「途中経過」そのものを鑑賞・活用する楽しみ
アートやデザインの分野では、制作過程のスケッチやメイキング映像を「作品」として公開し、それ自体を楽しむ文化があります。これは「完成品に至るプロセス」に対しても価値を見いだし、物語として共有するからこそ成り立つ。
ここでは「途中経過」は“未完成品”として扱われるのではなく、“ストーリーを補完する重要なピース” として見なされる。
受け手はそこに作者の思考や感情の痕跡を読み取り、自分なりの解釈や価値を付与し、意味のあるものとして楽しむ。

ChatGPT

そして意味を作るという点に関してはこんな回答をしてくれました。

「意味を見出す／作る」とはどういうことか？
これらの議論を総合すると、意味は、単なる客観的属性ではなく、受け手やユーザが“その対象をどう捉えるか”によって決まる。そしてその捉え方は、社会・文化・個人の経験といった文脈に依拠している。
意味は動的に変化・発見されるものであり、時間の経過や、新たな社会的相互作用、新しい文脈の導入によって、同じモノでも意味が変わる。ある人にとっては「ただの途中経過」でも、別の人にとっては「完成品にも勝るインスピレーションの源」になったりする。

「意味を見出す」行為には“解釈”と“物語づくり”が不可欠
ベルガンティやクリッペンドルフが述べるように、「モノやコトに対して新しい価値・役割を付与する」ことは、デザインの大きな仕事。それは「今までと違うストーリー・意義づけを与える」ことでもあるし、ブルーマー的に言えば「社会的相互作用の文脈を変える」こととも言える。

結論：なぜ「途中経過」すら「最終成果物」になりうるのか
私たち人間は、対象（物質的なモノだけでなく、文章・アイデア・体験なども含む）を、自分なりの文脈・物語の中に位置づけることで意味を創り出す。そのとき「途中」「最終」という区別は相対的なもので、ある場面では“途中”でも、別の場面では十分“成果物”や“作品”として意味がある。こうしたプロセスは、社会的／文化的な枠組みの中で繰り返し行われるため、「意味」は常に動的で再解釈されうる。

ChatGPT

生成AIとの関係性を探る#1

ここまでの対話でも十分に面白いのですが、ここから生成AIとの関係性を考えてみたいと思います。これまで私自身は生成AIを「人間の能力の拡張」と捉えていました。様々なことを考えてくれたり、文章を要約してくれたり、翻訳してくれたり、私ができないことを私が出来ないスピードで処理してくれるイメージです。

しかし生成AIを機能として捉えるだけではもったいないと思うようになりました。これだけ対話が出来て、その対話の結果、刺激を受けたり自分自身の考えが変わったりする。

これはもう少し考えないといけないですね。引き続き探索していきたいので、シリーズにしてみます。