おかしな回答もある意味、叡智を超えている!?[20241024]

---

今週は生成AIについての話をしている。

先日、大学病院にお勤めの医師と話をしていた際のこと。

医師：「小西さんは、LLMに詳しいですか？」
私　：「あまり詳しくありませんが、いかがなさいましたか?」
医師：「私のところは、内科とか外科とかいろいろな科の患者が運ばれてくるのですが、LLMを導入して診断業務を軽減できないかと実験をしているのです。患者の主訴や、症状などは自然言語でそのまま入力できる方が良いので」
私　：「何か問題が生じましたか?」
医師：「既に医療業務向けにはいくつものLLMが出ているのですが、どれもこれも『帯に短し、たすきに長し』なのですよね」

よくよく話を聞いてみると、ベース知識がどの国の医学論文をカバーしているとか、自然言語の元が日本語なのかそうではないのかによってクォリティが全く違うのだそうだ。

技術的な事は私も知らないが、こんな風に回答した。

「実験的にLLMを導入されているのでしょうが、先生方のフィードバックで進化していきます。AグループのLLMとBグループのLLMとの比較など、先生方の正直な感想がこれらのツールを進化させていくのです。大学病院とは、そういう実験的な取組みをするところですし、科学の進歩の為に少々の不便を我慢しながら尽力くださいませ」

医師たちも、生成AI界隈のツールには悩まされている様子である。

ふれ込みとしては「人間の叡智を超える人口知能」とのこと。

なので、変な回答をしてくると面喰うという。

これはビジネスの世界も同じで、完全に信用して生成AI界隈のツールを使ってはいけないことは常識だ。

思わぬところで足下をすくわれることもある。

私に言わせれば「あまり自信はないのですが、○○○○○○のことですよね」とか回答してくれれば良いのだが、堂々ともっともらしく回答を作成するから、面喰うというのは納得する。

知識ベースのことは、本当に悪気無く人々を騙すので安心しきっては使用できない。

一方で、お絵かきなどは「嘘ばかり」でも笑っていられることも多い。

未来のオフィスについて絵を描かせたら、巨大なコーヒーカップの中で人々が泳いでいる絵を作成してきた。

いやいや、面白い発想だと思った。

コーヒーベルトが北上していて、日本がコーヒーの産地として世界的に注目される日も遠くないとか、たまたま誰かが書いた文書を食わせたからだろうか。

何が関係してそのような絵を描いたのかはわからない。

笑える絵や写真は「それとして採用」することができる。

ホワイトカラーの生産性を爆上げするのも嘘ではないが、100%信用したら痛い目に遭うのも間違い無い。

いつ、どこと契約すると生成AIについての経験価値を上げることができるのだろうか?
ご存じの方、誰か教えて下さい。

合同会社タッチコア　小西一有