AI開発を規制すべきか。サイモンを読みながら考える
ジェフリー・ヒントン
ヤフートップに、
「AI研究の第一人者、ジェフリー・ヒントン博士が危険性を語るためGoogleを退社」
とあった。
AI開発を一時中止すべきとの内容だ。
元記事のNY times誌を見ると様相が違う。
「AIは核のように開発を宇宙から見つけることができない。秘密裏に開発する国が必ずある」
「80年代のAI開発はほとんど、ペンタゴンから資金援助を得ていた」
各国の国防省が血眼で開発を進めているはずだ。民間だけ開発を止めたら、兵器用AIばかり発達し、逆に危険だろう。
停止の合意がなされたとしても、必ず内密に開発を進める者がいる。我々だけ開発をストップさせるには、リスクが高すぎる。
開発の一時停止など非現実的なのだ。
ユヴァル・ノア・ハラリ
エコノミスト誌の、ユヴァル・ハラリの記事も興味深かった。
古代ギリシャの哲学者プラトン、「洞窟の寓話」を紹介している。
一生洞窟につながれ、壁と向き合う人々。さまざまな影が壁に映され、彼らは幻影を現実だと思い込み生きている。
今後一生、AIの作り出す幻影を現実と思って生きる人間も生まれよう。
AIの次の目標は、親密さを築くことだと彼は言う。メディア程度とは比べものにならない影響が出る。
しかし、そんなことができるのだろうか。
ハーバート・サイモン
人工知能の父、サイモンの”The science of Artificial”を読んでいる。『人工物の科学』と訳すのが一般的だが、『自然科学』に対する『人造科学』と訳したい。研究中の起業理論、エフェクチュエーションの基盤となる文献。
これまでの科学は自然世界を記述してきたが、人が作り出す独自の世界がある。それが「人造科学(the science of artificial)」である。
例えば、「畑」は人造科学の産物。森よりアスファルト道路に近いとされる。
イミテーションのサファイヤグラスも人造科学。風合いが天然物とは違うが、いくつかの特徴を模しオリジナルと同じ感覚を得られる。経験が同じであれば人造物として成功だという。
親密性も人造物なら可能だろう。いくつかの特徴を模せば良い。少し風合いが違う親密性となろう。
オリジナルを完璧にコピーする必要はない。特徴を掴み、同じような経験を与えられればいい。この辺りが「経験論」の興味深いところである。
信頼できないパーツを寄せ集め、信頼できるシステムを作る。
これが人造科学の要諦だ。
信頼できないパーツが、全体として信頼できる結果を生む場合がある。Chat GPTも同じだ。「美味しい」と「まずい」の違いすら理解していないAIだが、信頼できないものを組み合わせ信頼できるものにまで高められた。
完璧性を期す理論主義では不可能だ。経験主義でないとできない。
実際に作りながら考える手法。
コンピューターの世界は経験主義で作られるものが多い。
理論的にはうまくいかないと言われる組み合わせでも、とにかく動かしてみるのだという。修正を繰り返すとしっかり動くものになる。
書籍ではタイムシェアリング・システムを作った例が印象的だった。
一番可能性がありそうなパーツに深刻な理論的欠点があった。明らかに正確に動きそうにない。
こういう時の正攻法は、実際に組み立ててみて改良を繰り返すことだ。
一旦作り上げ、どんな挙動をするかを見てみる。
理論的に必要ないと考えられていることを行うこととなる。
やはり理論通りではなかった。
極めてニッチなシステムを作る時、そんなことを知っている人間など誰もいない。
おおまかなことしか掴めていない「理論」など役に立つものではない。
そしてシステムは完成した。
生成AIとの付き合い方も同じだろう。
信頼できないAIを組み合わせ、全体として信頼できるものを組み上げる。開発を止めるのではなく、開発しながら「どう世に貢献できるものへ修正するか」と考える。そもそも開発を止めるなど非現実的なのだ。
プラグマティズムのジェームズはこう語る。
人は完成のことばかり話す。完成したシステムだけが素晴らしいと。
まるで死んだ男の生き霊に取り憑かれているように、我らは完成に取り憑かれている。
最初から完成を望むなど、呪われた生き霊に取り憑かれたも同じだ。
理屈が分かるまで開発を止めるなど、時代に逆行する愚行である。理論の完成には数十から数百年かかる。半年の開発停止に意味などない。
現在、合理主義が限界を迎えつつある。
ヘーゲルは、すべてを知っているつもりでいる輩を「神のいとし子」と呼び軽蔑した。人は神のいとし子ではあり得ず、必ず現実の洗礼を浴びる。
我々は不完全さにより目覚める。不完全さを認識したときに、学び、問い、連帯するからだ。
不完全さにこそ、自己を支える生を見出す。
失敗こそ自らの鍵、失敗こそ本質なのだ。
お読みくださいまして、誠にありがとうございます！
めっちゃ嬉しいです😃
起業家研究所・学習塾omiiko 代表 松井勇人（まつい はやと）
下のリンクで拙著、『人は幽霊を信じられるか、信じられないかで決まる』の前書きを全文公開させていただきました。是非ぜひお読みくださいませm(_ _)m
どん底からの逆転劇を描いた『逆転人生』。４名の起業家と一緒に上梓いたしました。
５名分、下のリンクより少しづつ公開させていただきます。
是非お読みくださいませ(^○^)
下が処女作ですm(_ _)m
起業家はトラウマに陥りやすい人種です。
ですが、トラウマから立ち上がるとき、自らがせねばならない仕事に目覚め、それを種に起業します。
起業論の専門用語でエピファニーと呼ばれるもの。エピファニーの起こし方を、14歳にも分かるよう詳述させて頂きました。
書籍紹介動画ですm(_ _)m
サポートありがとうございます！とっても嬉しいです(^▽^)/