人工知能(AI)よ何処へ行く？

生成型AIと呼ぶのか、対話型AIと呼ぶのか…英語でも"Generative AI"と呼んだり”Conversational AI”と呼んだりと呼称が定まってない感じだが、あれこれネット情報を収集したり、自分でもChatGPTを触ってみたりすればするほど、とてつもないものが出現したという思いが強まる。

何年か前、「シンギュラリティ」って言葉が取り沙汰されたのを覚えている。「AIが人智を超える日」ってなイメージで、それが2045年頃に来るとか言われてた。

AIが成長するために「学習する｣データが、ヒトが過去に生んだデータの域を超えないなら、「人智を超える」日は遠いのかもしれない。過去にデータの無い、例えば「万有引力の発見」とか「相対性理論の考案」とかをAIがやってしまうイメージは、今は未だ無い。

けど、ヒトが「知的活動」だの「知的創造」だと考えていた営みの大部分が、実は自分が過去に学習した知識や思考のパターンの適用でしかないのだとすれば、AI は易々とその「知的活動」を代替してしまうだろう。つまり、凡人の「知的な｣営みの大半がAI に置き換えられてしまうという意味での「サブ・シンギュラリティ」は今年開幕してしまったのかもしれない。そのかぎりでは、「シンギュラリティ」がにわかに現実味を帯びて感じられるようになった。

さて、話題は変わって。

昨14日のFTに”OpenAI’s red team: the experts hired to ‘break’ ChatGPT”という興味深い記事が載った。
Chat GPTを開発した組織Open AI は、最新モデルGPT-4が問題のある、あるいは邪悪な出力をしないように、さらには我々の倫理観や価値観に違(ﾀｶﾞ)う出力をしないように、各分野の専門家50名を雇って、問題点を指摘させているんだそうだ。セキュリティホールを探して指摘してくれるホワイトハッカーを雇うようなものかな。

記事は一例として、委嘱を受けた化学の研究者は「GPT-4は化学の研究を加速し質を高めるだろう」としながら「危険な研究にも用いられ得る」と述べていて、Open AIが対策を検討しているという。

とてつもない能力を備えたこのAI を”civilize”していくのはたいへんだ。「教育」し損なうと知的フランケンシュタインを産んでしまうのかも。

ところで、AI に食べさせる（学習させる）データに偏りがあると、出力にも影響が出るらしい。例えば、これは別情報ソース（伊藤穣一氏のYoutube【GPTと人間の共存する未来】）だが、英語で質問するのと日本語で質問するのでは、回答の出来に差が出てしまうらしい。
食べさせるデータは英語文献が圧倒的に多いからだ。ただ、伊藤穣一氏によると、GPT-3→GPT-4で日本語での能力が向上して差が少し縮まったそうだが。このFT記事も「AI の普及が言語のダイバーシティを圧迫するリスク」を指摘する声があると言っている。

データの偏りと言えば、中国が開発する生成型AIは「西側の有害文献」を読ませないように規制するんだろうけど、そういう中華AI が中国の官製文献も制限無く学習する西側AI と将棋みたいに「対局」したら、やはり情報統制のかかっていない西側AI が勝利するんだろうか。それって、「西側価値観の勝利」って未来を暗示するんだろうかｗｗ

以下【妄想】

中国のAI 研究者「AI に読ませるデータの統制を解除して、西側データも制限無く読ませられるようにしてください。さもないと、我々のAI は100％米国のAI に負けます」
共産党の人「そうすれば我が国のAI は必ず米国のAI に勝てるのか」
研究者「『ぜったいに』とは･･･でも米国のグダグダぶりを見てください。あんな問題だらけの国を生んだ西側価値観が100％正しいとは思えません。少なくともAI が我々の価値観と西側価値観を「正･反･合」の弁証法的に糾合した『第三の道』を示してくれるはずです」
共産党の人「そんな危ない話に乗るわけにはいかないな。学習データの範囲については、さらに検討するが、とりあえず英語文献は≪People's Daily≫や”Global Times"など我が国発の英語文献以外を読ませてはならない」