
【数理的溢れ話17パス目】まだ「推論する主体」の段階にすら到達していない人工知能アルゴリズムの現状についての再確認。
たまたまX(旧Twitter)への投稿がこれまで考えてきた事の良い感じのまとめになったのでメモがてら。出発点は以下の「人工知能はなぜ嘘を吐くのか?」なる問題提起。
AIが知りもしないことまで適当なウソ混ぜて返事してくるというやつ、そもそも「不確かな情報を返してはいけない」「ウソはいけない」という設定ができてないだけじゃなく何が信ぴょう性が高く何が低いか選別をする知性や教養がないんでしょうね。自分が無知と知るのに一定の知性が必要なのは人と同じで
— 山本貴嗣 (@atsuji_yamamoto) September 15, 2024
無知の知は定義出来ない、つまり設定できないんで、チューリングテストの切り札になるんじゃないかと思ってます。
— 笹本祐一 (@sasamotoU1) September 15, 2024
おおっ!!😮
— 山本貴嗣 (@atsuji_yamamoto) September 15, 2024
三賢者ではないですがAI同士で監視なり合議させないと駄目なのかも?
— Yoshisdr200 (@yoshisdr200) September 15, 2024
確かにです;
— 山本貴嗣 (@atsuji_yamamoto) September 15, 2024
ロボット三原則を発案したアシモフ先生も、インターネットが普及して、嘘や曖昧な情報、偏向した考え方、誤解を与える表現………等があふれかえる世の中になり、それらをきちんと選別せねばならないのに、コンピューターが全くそれに追いついていない状態な事までは流石に想定されてませんでしたねえ。
— 佐藤 正 (@manngakaki) September 15, 2024
ですです、事実はSFよりも奇なりですねえw
— 山本貴嗣 (@atsuji_yamamoto) September 15, 2024
「 AI が、自身の無知を認識できた所から、 AI の真の知性が始まる」 AI 論
— ギョクセンヒロジ (@tamagawaya_uc) September 15, 2024
「自分のゆらぎの無い完成度こそが、自分の生命としての不完全さである」と語る、攻殻機動隊の人工知性・人形使いみたい…#士郎正宗 https://t.co/9jqghYH7cI pic.twitter.com/GVyi7TLAfI
知性って自己保存の手段だと思うのですがAIに保存すべき生命というか自己ってあるのでしょうか(0が1になるのかというかそういう)・・人間からみて生きているように見えるマンガのキャラクターみたいな媒介物的なものなのでは
— ころわん☆3 (@WS6JQPlRuP81929) September 15, 2024
とりあえず現在の人工知能技術はチャールズ・ダーウィン(Charles Robert Darwin、1809年~1882年)が「種の起源(On the Origin of Species、1859年)」の中で規定した「種とは確率論的推移による準安定状態の系統的推移である」という条件も、ノーバート・ウィナー(Norbert Wiener、1894年~1964年)が「サイバネティクス(Cybernetics、初版1948年、増補1961年)」の中でサイバネティクスなる学問の研究対象の定義「多種多様なフィードバックによって準安定状態を保ち続ける系」の条件も満たしてはいません、回路方程式(Circuit Equations)でいうと、あくまで原則としては原則として「定常状態(Steady State)を観察する段階」には入っておらず、まだまだ「過渡現象(Transient Phenomena)の設計を工夫する」段階に留まっているのです。
過渡現象と回路方程式

ここまでまとめてふと思いついた事。機械学習アルゴリズムにおいては「学習用データ」と「検証用データ」を分けて与えて最終精度を検証流が、そのうち「学習用データ」は「初期化処理(第1回目の過渡現象)」の材料に使われ、「検証用データ」は「その定常状態がどの様な準安定状態にあるか」観察する為に使われるとは考えられないだろうか?
さらに付け加えるなら、機械学習において「学習済みモデルのパラメーターを特定のタスクやデータセットに合わせた調整」を意味するファインチューニング(fine tuning)とは、かかる定常状態における「第2回目以降の過渡現象」と規定できるのではあるまいか?
それを踏まえて先に進む事にしましょう。
ハルシネーションの大源流は今年のノーベル物理学賞対象となった時期の人工知能研究にあったりして。①1980年代前半に登場したホップフィールドネットワークは局所最適化の壁が超えられずアルフベット26文字も学習し切れなかった。②1980年代に入るとこの壁を越える為に確率輪的揺らぎが導入された。 https://t.co/MPdBnFxVlB
— Yasunori Matsuki (@YazMatsuki) October 26, 2024
×②1980年代に入ると⚪︎1980年代後半に入ると。実際に実装されたホップフィールド・ネットワークは、現在では初学者向けに「決定論的ニューロンとヘブ則だけでは極所最適解を超えられない実例」として晒し者にされてる有様だけど、本当の理論的ポテンシャルは…という話。https://t.co/xL2PrfALBN
— Yasunori Matsuki (@YazMatsuki) October 26, 2024
③今度は組み合わせ爆発問題が発生したので,それを抑え込む為にヒルトン博士が逆誤差伝播法(バックプロパゲーション)を開発。ノーベル物理学賞の範囲はここまでだけど、ヒルトン博士は2000年代に人工知能演算にGPUを対応させた人でもある。https://t.co/DTSZSWBkhB
— Yasunori Matsuki (@YazMatsuki) October 26, 2024
なお最近話題のtransformer系アルゴリズムは「先に並列処理対応した決定木系に追いつくべく再帰もバックトラックも畳み込みも捨てた深層学習の並列処理例」なる復讐鬼みたいなコンセプトモデルとして出発した訳ですが…https://t.co/lI2gzBz7B7
— Yasunori Matsuki (@YazMatsuki) October 26, 2024
「言葉をベクトル化して出現頻度や条件付同時出現率分布から分布意味論空間を構築する」自然言語処理(NLP)処理そのものに想像以上の汎用性がある事が発見され、今は各社がこぞって数学問題を解かせたりしているという…「そこに意識は宿り得るのか?」そもそも意識とは?
— Yasunori Matsuki (@YazMatsuki) October 26, 2024
ところでダーウィンによる種の定義「確率論的かつ系統的に推移する準安定状態」や、その下位互換としてのサイバネティクス研究対象の定義「多種多様なフィードバックによって準安定状態を保ち続ける系」は準安定性、すなわち回路方程式でいう「定常状態」を維持したままの推移を前提とする訳ですが…
もしその外側にさらに「リセットさん=終了処理(最終遷移状態)が訪れる都度、必要なデバッグを加えた上で上でまた初期化処理(初回遷移状態)を遂行してくれる主体」を想定したらどうでしょう?

超越主義(Transcendentalism)は、19世紀初頭にアメリカで発展した哲学的・文学的運動であり、個人の内面的な直観と精神的な成長を重視する思想です。自然、自己、そして神との一体感を探求することに重点を置き、物質主義や伝統的な権威に反対しました。特にラルフ・ウォルド・エマーソンやヘンリー・デイヴィッド・ソローが中心的人物として知られています。以下、超越主義の歴史とその限界について解説します。
超越主義の歴史
起源と思想的背景 超越主義は、アメリカのニューイングランド地方で1830年代に台頭しました。その思想的なルーツは、イマヌエル・カントの「超越的知識」やロマン主義、東洋哲学(特にヒンドゥー教と仏教)、さらにはプラトニズムにあります。これらの思想は、理性よりも感覚や直観による認識がより本質的な真実に導くと考え、個々人の内面に神聖な要素が存在し、それを通じて宇宙や自然と繋がることができるという信念に繋がりました。
主要な思想家
ラルフ・ウォルド・エマーソン(1803-1882) エマーソンは「自然」(Nature, 1836)などのエッセイで、自然と自己の調和を説き、真理は外部の権威ではなく、個人の内面にあると主張しました。彼は物質的成功や社会的な伝統に縛られることなく、精神的成長を重視しました。
ヘンリー・デイヴィッド・ソロー(1817-1862) ソローはエマーソンの影響を受け、自然と社会に対する独自の哲学を発展させました。彼の代表作「ウォールデン」(Walden, 1854)は、自然の中での生活を通じて自己を見つめ直し、精神的な自由を追求する記録です。また、「市民的不服従」(Civil Disobedience, 1849)で政府や社会の不正に対する個人の抵抗を論じ、後の社会運動に影響を与えました。
文学的影響 超越主義はアメリカ文学に深い影響を与えました。エマーソンやソローの作品だけでなく、ウォルト・ホイットマンの詩やナサニエル・ホーソーン、ハーマン・メルヴィルなどもこの思想と対話し、その中で人間の精神と自然の関係を探求しました。特にアメリカン・ルネサンス(1830-1860)の時期には、超越主義がアメリカ文学の独自性を形作る一助となりました。
社会的影響 超越主義は、単なる哲学や文学運動に留まらず、19世紀のアメリカ社会にも影響を与えました。個人の自由と自主性を強調する思想は、奴隷制度廃止運動や女性の権利運動といった社会改革運動にも繋がりました。ソローの「市民的不服従」は、マハトマ・ガンディーやマーティン・ルーサー・キング・ジュニアなど、後の非暴力抵抗運動に大きな影響を与えました。
超越主義の限界
社会的・経済的現実との乖離 超越主義は理想主義的な哲学であり、特に個人の精神的成長や自然との一体感を重視する一方で、社会的・経済的な問題への具体的な解決策を提示することには限界がありました。特に、産業革命の進行や都市化、労働問題などの現実的な社会問題に対して、超越主義の思想は現実的な対応力に欠けると批判されました。彼らの強調する個人の精神的な自由は、すべての人が同等に享受できるものではなく、特権的な立場にある人々に向けられたものであるという批判もあります。
実践的な影響の制約 エマーソンやソローの思想は、個人の内面や道徳的成長に重点を置いているため、具体的な社会変革に結びつくことが難しかった面があります。例えば、ソローは自然との共生や政府への不服従を唱えましたが、実際に大規模な社会運動や政治的変革をもたらすことはありませんでした。そのため、超越主義の思想は個人的な啓発には役立つ一方で、広範な社会的・政治的影響力を持つことには限界がありました。
理想主義的すぎる側面 超越主義は、個々人が直感的に真理を理解し、宇宙や自然と調和することができるという前提に基づいていますが、これは過度に理想主義的であり、現実社会における人間の複雑な状況や制約を無視しているという批判があります。人間の限界や社会的な不平等、権力構造に対する具体的な分析や対処策が不足していたため、理想論として評価される一方で、現実的な影響力を持たなかったという評価もあります。
普遍性の欠如 超越主義は、アメリカの特定の社会的・文化的文脈で生まれた思想であり、その価値観や世界観は普遍的ではありません。特に、エマーソンやソローが提唱した自然との調和や自己の内面的な探求は、すべての文化や社会に受け入れられるものではなく、アメリカ的な個人主義の一部として解釈されることも多いです。
結論
超越主義は、アメリカの哲学・文学において重要な役割を果たし、個人の精神的自由や自然との調和を強調する革新的な思想運動でした。しかし、その理想主義的な性質や、社会的現実との乖離、具体的な実践的影響力の欠如といった限界があり、19世紀以降の現実的な社会問題や政治的課題に対しては、直接的な解決策を提供するものではありませんでした。それでも、後の哲学や社会運動に対する思想的なインスピレーションを提供し続けています。
これは有名な「自らをプログラミングし続けるプログラム」すなわちAGI(Artificial General Intelligence=汎用人工知能)の実現方法の一つ。

まぁそういう考え方もあるという事です。
実はそもそも(数値最適化モデルの限界を補完する形で現れた)人工知能アルゴリズム概念の大源流は中学校で習う連立一次方程式で「変数の数と式の数が合わないので厳密解が求められない(近似値しか得られない求)場合」なんですね。そりゃハルシネーションは不可避としか…https://t.co/r8gZAhLa4Z
— Yasunori Matsuki (@YazMatsuki) October 26, 2024
最近は「個性とは学習の順番、つまりマルコフ連鎖過程で生じるものなので一気に並列処理で学習するtransformerはそれを備えられないのでは?」という研究も。突如としてJ.P.ホーガン「仮想空間計画(1985年)」=SAOのアリシゼーション計画の設定が現実味を帯びてきた?https://t.co/URggvNxAW6
— Yasunori Matsuki (@YazMatsuki) October 26, 2024
ただまぁ現在の人工知能開発ですら「専用の原発でも用意しないと電力供給がおっつかない」レベルなんで「末端にも相応の処置能力を持たせる」となれば、それこそヤシマ作戦状態…その実現はまだまだ遠い未来の話となりそうだ?https://t.co/JpLonyOprs
— Yasunori Matsuki (@YazMatsuki) October 26, 2024
ここで案外重要なのは現在の深層学習アルゴリズムが、元来のインスパイア元たる神経生理学上のヘブ則とも…https://t.co/dMiHh6ZrVk
— Yasunori Matsuki (@YazMatsuki) October 26, 2024
ホップフィールド博士のスピングラス理論とも全く別の理論に基づく実装によって成立してる点で、まだまだこの領域についての探究は始まったばかりという辺り。こりゃSF業界も一苦労…https://t.co/ixawaAzliF
— Yasunori Matsuki (@YazMatsuki) October 26, 2024
部分的にはこちらの投稿でもした話ですね。
『…ポリコレを奨励することは会社の利益につながる場合がある一方で、ポリコレ配慮を強制された従業員には認知機能の低下や私生活の質の悪化の懸念が発生します。』
— 狸穴猫/松村りか (@mamiananeko) October 14, 2024
利益に繋がりもしないものを強制するのはもっと悪いわな…
ポリコレは脳の認知機能を低下させると判明! https://t.co/E6YDRzhPFd
今年ノーベル物理学賞を人工知能研究が受賞して話題になりましたが、実はその研究の肝も「探索範囲に十分な分散幅を持たせない限り、しばしば局所最適解で停滞してしまって正解に辿りかない」という話だったりして。
— Yasunori Matsuki (@YazMatsuki) October 14, 2024
二人の受賞者のうち、ホップフィールド博士の先行研究にこの問題があって、それを克服して「深層学習」の概念を確定させたのが後続のヒントン博士だったという感じ。
— Yasunori Matsuki (@YazMatsuki) October 14, 2024
残酷な事にこのホップフィールド・ネットワーク、現在のAI学習では「局所最適化の壁が越えられないとはどういう事か」学ぶ教財に(以降のAIにこの問題は存在しない為)。https://t.co/xL2PrfALBN
— Yasunori Matsuki (@YazMatsuki) October 14, 2024
そんな感じで以下続報…