いんよう！第11回「AI（ディープラーニング）の話①」
2018年10月30日公開 30分
今回のテーマは、AI（人工知能、ディープラーニング）。専門家ではない二人が繰り広げる会話のフワフワ具合をお楽しみください。AIについては素人だからといって無関係でいられるわけではなく、仕事をしたり生活を送る上で向き合わなければならない未来が見えています。自分が何を知っていて何を知らないのかを確認するためにも、まずは喋ってみようというスタンスですので、気楽にお聞きください。
ここからは地引網の収穫です。薄い冊子を作るイメージで自分勝手にまとめています。
★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
「萌えトークと同じ熱量で～AI第一回」
■ 固有名詞
AlphaGO
■ 書籍
「人工知能は人間を超えるか」/松尾豊 角川EPUB選書
■目次
1. 知能を使う知性のおきどころ
2. 病名 ＜ どうするどうなる治るのか
3. 医師の役割のこれから。知性、責任、報酬。
4. 医師という職業の進行方向あるいは行き止まり
5. 基礎研究者とAI～次回へ続く
1. 知能を使う知性のおきどころ
最初～7分40秒
● AIというといろんなイメージを持つ人がいるので、機械学習の中の「ディープラーニング」で、特に画像解析でどういうことができるか、ほかにはどういうことができるかについて話をしたい。いっちーはそれなりに詳しいと思うので。
今まで画像認識するときは人間が「ここを見ろ」とプログラムに書いて判定した。例えば黒い猫と白い猫を見分ける場合は白か黒かを判定するプログラムを作ることが考えられるし、猫とライオンを見分けるならたてがみがあるかないか、とか、メスならどうするんだ、とか対象が持ってる特徴を人間が抽出して機械に学習させる。基準値をプログラムに入れないといけない。でも最近はディープラーニングができて、どこを見て判断するか自体も任せられる。それがすげえ。自分で何を判断すればいいか考えられるという意味で、知能としての機能を持っているということ。部分的にも知性があるというか。（よう）
● 中途半端な理解までしかいってなかった人が多くわいてきたのが何年か前。惜しいけど違う人工知能の使い方をした人があふれて、2，3年前までは先にやり始めた人が次から次へデータを持っていく感じで楽しそうだった。
具体的には細胞を見せて、これがAという病気なのかBなのかCという病気なのか決めなさいというAI。でもそれは間違い。病気かどうかというのも人間が考えた概念なので、ゴールの「ABC」が変。（いん）
● 人工知能における「学習」という概念。「この画像はA」「この画像はB 」と人間が診断したものをたくさん用意しておいてそれをAIに突っこんで「こういうパターンがA」と人工知能自身に基準やどこを見て決めるかを学習させていく。この場合は画像がインプットで診断名がアウトプット。そのアウトプットが間違っていたのではないかというのがいっちーの意見だね。（よう）
● 僕らが本当に知りたいのは病名じゃなくて、実際にそれで命がどうなるか。真のアウトプットは病名じゃないでしょ、と。もっと言えばAという薬を使えば生き延びられるという結論までいくならいい。たとえば食中毒。カンピロバクター、サルモネラ、黄色ブドウ球菌などという、食中毒の原因菌の名前を当てさせようとしたのはわかってない人たち。わかってる人たちは、どの菌でもいいから一週間後に治るか二週間治らないか一日で治るか、をゴールにした人。何の薬を飲んで何日後に治るかがわかれば菌の名前はわからなくてもよい。AIをやるときに自分たちが便宜上付けた名前にとらわれ過ぎていた。（いん）★注1
２．病名 ＜ どうするどうなる治るのか
7分41秒～13分26秒
よう：なんかさ、AlphaGOってあるじゃん
いん：AlphaGO？あああ、あのー、囲碁の
よう：そうそう囲碁のAIね。あのー、世界チャンピオンにぶっちぎりで勝つっていうさ。
いん：はいはい。そうですそうです。
よう：で、なんか別にさ、こういう石が並んでるときはここの端が危ないからそこを抑えましょうとかそういうことじゃないみたいだよね、あの、彼らが、AlphaGOが判断してるのって
いん：おもしろいみたいですねあれ。実際あれ見ると
よう：この盤面の石の並び、黒と白の石の並び、このパターンだったらどこに置くのが一番勝率が高いかっていう判断をしてるんだよね
いん：そうです
よう：画像認識として
いん：そう
よう：だからあれ、柄なんだよね単に、彼らにとってはね。
いん：そうなんです。
よう：で、この柄の時はここが正解というか一番確率が高いっていうさ。
いん：そうそうそうそう
よう：で、人間が考えてきた定石みたいのがあるじゃん。ここはこうツケとかないとこっちを、こう右辺を取られちゃうからダメ、みたいなさ。で、そういうアルゴリズムを一生懸命さ、プログラムさせて学習させようとしてたけど、ディープラーニングが出てきて、もう、そういう中身はどうでもいいと、全部そっちが、AIが勝手にやってくれと。ある意味丸投げしたんだよね。ほんとに最終のアウトプットとどう関連するかっていうことをやって、そのコンセプト自体がよかったっていうのももちろんあるし、まあそれ以外にもね、グーグルのさ、リソース力（りょく）っていうかさ、もちろんあるとは思うんだけど、それによって人類が到達できないであろう領域にいっちゃったわけだよね。
いん：そういうことですよね。ええ。
よう：それを、そういうコンセプトを医療でもやった方がいいんじゃないかってことね。
いん：そういうことです。で、やっぱり強力だなあと今思ってるデータがいくつか出てるんですけど、有名なところでは肺がんの細胞をＡＩに読ませると、遺伝子変異の種類がわかる。
よう：いやー、それ論文になってるよねたしかね。
いん：そうです。これは…
よう：それはちらっと読んだよ。
いん：ネイチャー…
よう：ネイチャーかネイチャーメット（？）かどっちかじゃなかったっけ
いん：ネイチャー…なんとかに載ったんですよねえ
よう：そっか
いん：ネイチャー…なんだったかに載ったんですよ。姉妹誌に載ったんですよね。で、あとはこれはパーソナルコミュニケーションのレベルなのでまだ論文化されてないのもあるんですけど、悪性リンパ腫の染色体転座と、肝細胞がんの遺伝子変異と脳腫瘍の遺伝子変異と軟部腫瘍の一部の遺伝子変異は読めるらしいです。
よう：ふふっ。この今の10秒ぐらいいっちーが喋ってたことってさー、（笑）あの、一般の人が聞いたらほぼ呪文だよね（笑）
いん：ふはははは（笑）何が言いたいかっていうと、今まで細胞をみてもダメだから遺伝子を…とかタンパクを獲ってきて、とか実験をしてやんなきゃいけなかったものが、なんか病理医がちらっと顕微鏡でみているようなものをコンピュータが見ると、わけのわからんプログラムまで全部読みに行っちゃえるんだよ、っていうことですよね。
よう：そうだね
いん：ただ気をつけなきゃいけないのは、プログラムそのものは読んでないんですよ。
よう：ああ。あのー
いん：変異と呼ばれる部分だけをいきなり答えをスパーンと返してくると。
よう：だから中身がブラックボックスって言われてるのはそういうことなんだよね。その、途中の過程はよくわからんが、そのインプットとアウトプットはこう対応してるよってことだけわかるようになるってことなんだよね、AIは。
いん：そうです。で、今まさに先輩のそのツッコミが面白かったんですけど僕がさっき言ったあの数秒は、わかんない人には何にもわかんないよね、って言いますけど、人間がやればブラックボックスじゃないかっていえばそんなことはまったくなくて
よう：はあはあはあはあはあ
いん：専門家がやってることって結局ほとんどの人にとってはわけがわからないので
よう：確実にそうだよね。だからえーっと、医療っていう、厳密にわけるとさ、医療ってさ、ん－とサイエンスではなくて科学技術だと思うんだけどさ。★注2
いん：んなー ★注3
よう：サイエンスを基にした、技術だよね
いん：そうですね。ええ。
よう：だからその、医療にとってはさ、そのやっぱり患者さんの予後とか、まあ生存率ってことだよね、とかさ、まああとは生活の質に直結してる方が絶対いいよね。
いん：そうなんです。かつ、人間がやらないとAIはブラックボックスだからわけわからんこと言うぞって科学者は言うんですけど、一般の人からしたら科学者の言ってることもほぼ何言ってるかわからないので、あの、なに言ってるかわからない学者の代わりに何言ってるかわからないAIがやってくれたっていうのは、一般の人にとっては別に痛くもかゆくもない、と
よう：そうだよね。なんか…
いん：そういうことだよね、ってことになっちゃうんですね
よう：まあ、結果が出ればいいっていうかさ、それでその患者さんが治ればいいっていう話なわけだよね
いん：だから究極んとこ言うと病名どうでもいい、みたいな。
よう：うん。病名どうでもいいよね。で、治ればいいってのは別に、めたら（？）適当にやればいいってことではなくてこう、まあ途中の過程の理屈がわかんないとしてもその確実に相関があるっていうかさこの症状、とかこの細胞の形であればこの治療がいい！みたいなのが、ちゃんと、その、理屈ではないけどちゃんとわかればいいって話だよね。
いん：そうです。実践としてはそれでいいと。だからAIに全部食われますよね、という話をするわけですよね。
3. 医師の役割のこれから。知性、責任、報酬。
13分27秒～20分16秒
● その話をすると「AIが奪わない、人間だけにできる仕事があるはずだ」と安心したがる人がいるが、医療（の領域）では人間にしかできない仕事なんてやる意味がないのでは、と思う。例えば薬の開発なんかは（医療というより）サイエンス。患者は人間と話したいはずだ、とかいうけどそれは看護師さんでよくね？医者である必要ないだろ、いらんべ？と。（いん）
● 現状は医師がコミュニケーションの一端を担っているのは事実だけど、医師がそれに特化する必要はあるのか、ということか（よう）
● 人にしかできない仕事はあるけど、今ある職業を残すことはない。新たに作ればいい。医者ほど給料の高い仕事を残す意味がないのでは、とずっと思っている。基礎研究者は勤務医より給料もらってない。現状は、高度な知性でサイエンスをやっている人よりも、現場で徹夜している人のほうが給料が高い（いん）
● 人命を直接扱っている負荷の大きさがあるから、金銭的な報酬を多くもらうべきだという理屈は成り立つ。（よう）
● 本当にそうだろうか。医師の言うことで医療経済がまわって病院に収益が出る。そのキーマンだから払ってるのでは。（いん）
● 経済の原理からいえば、お金が発生するところから近い人と遠い人がもらえるケースが多い。遠いのは経営者。近いのは現場にいる医師。（よう）
● AIが医療の知性の部分、結果を導く部分を半分以上やったら、フロントマンとしての医者は、レストランでいうところの配膳人と同じ役割になるのでは。そしてその給料は（現状の）医者より安いはず。（いん）
● 医療事故が起こった場合に医師が責任を負わないとしたら、という話にもなる（よう）
● それについては柞刈湯葉が書いている（笑）（いん）★注4
● 仮にAIが診断することになって、医療従事者が従うようになれば責任はAIにあるが、訴訟を受ける責任者を医者が続けるならそういう意味での報酬や地位はあり得る（よう）
● 経営者でいいのでは？（いん）
● それはそうかもしれない（よう）
● だからAIが人間の仕事を奪うことはない、という人に対しては「給料の面を除けばね」というのが今のぼくの考え。ポジションはいるかもしれないけど給料体系は変わる（いん）
4. 医師という職業の進行方向あるいは行き止まり
よう：いっちーは、じゃあ医師の仕事はそういう風になるってふうに予想してるの？
いん：ぼくは、アメリカは早いかもなーと思ってます
よう：ああー、そうかもね
いん：切り分けが。あのーすでに内視鏡を胃まで入れるのはナースプラクティショナーがやってる、とか
よう：はいはいはいはい
いん：心臓のカテーテルも、ナースがもう心臓まで到達させてるって話を聞くと、
よう：ああーなるほどなー
いん：アメリカのドクターは、まだその技術的に未確信な部分に特化して9時5時で働いて、さっさと帰ってバカンスして
（キーンコーンカーンコーン）
いん：まあまあ、とっくに分業が、アメリカのほうが進んでいるわけじゃないですか。
よう：そうだね
いん：同じ世の中にいて
よう：うん、うん
いん：で、日本それに比べるとだいぶ遅いので、まあAIが来ても遅いまんまぐでぐですると思うんですけど、アメリカは早いかもなーと思いますね。
よう：そうだなあ
● アメリカ先行でAI中心の診療が始まって、責任を取るためだけの医者みたいなことになると、まず一般的に病気に対するガイドラインが変わる。すると日本の診療がガラパゴス化するので、医者に対する風当たりが強くなる。日本の診療基準だけでやってんじゃねえかと。で、経営者がそれを理由に給料を下げ始める。まず最初に当直代、残業代みたいのが削られて、一部の保険診療外の仕事とか民間病院と大学との給料格差が出て、という感じの未来を想像している。20年くらいのスパン。アメリカはあと5、6年で変わってくと思う。（いん）
● 臨床現場にがんがんAIが入ってくる？（よう）
● もう入りつつある。（いん）
● 部分的にAIが肩代わりしてるくらいなら、職業的なポジションは動かない。そうすると、当然そのできない部分が難しい領域として残って、そこはやっぱり人の力でやるという話になる。たとえば8割くらいAIにできるとなったら、本当のエキスパートを除いていらないという話になりそう。
「最近の医者は診断ができない。AIが動かなくなったらどうするんだ」みたいなことを言う人も出るだろうが、今の医療従事者は最先端の医療機器の使い方はわかっている。AIを補助的に使う診断技術が生まれてくるだろうし、AIが到達していない病気は一部の人がエキスパートとして教育を受ける、という移行期のようになるのでは。医者は人間が文明を得てからずっといる職業ではある。それがいよいよなくなるのか。（よう）
● なくならないのでは。いろんな形でいるのでは。（いん）
● 医師の地位は時代によって変遷している。人の命がかかっているからそれなりに尊重されてはいるが、医学が発達せずにあまり役に立っていない時はそうでもない。今は治せるものが多いから影響力があるし、その分報酬も高い。（よう）
5. 基礎研究者とAI～次回へ続く
20分27秒～最後
いん：いやー、でもですねえ、ほんとに、ほんとに、パラダイムシフトですこーんと変わってほしいっていう淡い期待がぼくはあります。
よう：変わってほしいんだね（笑）
いん：変わってほしいほうですね。
よう：うん
いん：ほんっとに。あれ？これ人いらなくない？っていうのにどっかで気づいてグーグルあたりがすぽーんと金出して、わーっていう、あっという間でした～くらいの話、来ないかなあと思って。
よう：グーグルってさ、病理医雇ってるんじゃなかったっけ？雇ってるかどうかわかんないけど。
いん：グーグルは、顕微鏡につけるAI診断デバイスみたいな、時代に逆行したこともやってるんで、あれ病理医雇ってますね。
よう：顕微鏡に、その診断AIを付けるっていうのは逆行してんだ
いん：はい。逆行ですね。だって人間の目がここに癌があるよって見つけやすーいっていうデバイスを…
よう：ああ、そういうデバイスなんだね。なるほどね。
いん：人補助なんですけど、グーグルの能力をもってすれば人すらいらん、というところまでいけるはずなのになぜそこで止まったっていうですね。
よう：ほーん
いん：止まってないんでしょうけどね
よう：まあね
いん：おそらく
よう：いろいろやってるプロジェクトの一つなんだろうけどね
いん：おそらくですね、ええ おそらく（笑）いろいろやってんでしょうね何のデータ取ってやがるんだっていうそんな話ばっかりですけどね。
よう：ついにね、まあ、おれらの基礎研究領域にもさ、やっぱちょっとずつその機械学習を使ったみたいな話も出てきててさ、
いん：あっ、マジですか
よう：まあまあ、出始めてっていうか、なんか、みんなちょっと興味を持ち始めてるっていうところで、たとえばグーグルの、その出してる、そのオープンソースの機械学習のソフトの使い方の講習とかさ、
いん：おおおーん。え、基礎研究で何をどう…ああー
よう：いやまあ、ま、やっぱ最初は画像だと思うよ。おれらもやっぱり研究で写真を撮る、それを解析するんだけど
いん：はいはい
よう：今は基本的に見た目に差があるってところから話が始まるんだよね。見た目に差があるから、じゃあそれを画像解析ソフト使ってちゃんと定量化するっていうかさ、目に見える、差があるって統計処理できる形にまあ数値化するってことだけど、にしましょうってことになるけど、AI使うんだったらまず見た目に差があるかどうかっていう判断いらなくなるよね
いん：そうですね
よう：とりあえずAIに突っこんでみようぜみたいなさ、話になると思うんだよね
いん：そうなりますよね
よう：うん。で、そっちの方が人の目では、こう見つけられないような面白いことがわかるんじゃないかっていう、こうみんな淡い期待を一生懸命抱いているよ今。おれも抱いてるけど（笑）なんかそうでも、そんなにうまくは行かねえなみたいな話に絶対なるんだけどさ、研究領域の場合さ。そんなに話簡単じゃねえよみたいなさ。
ただうまくやればね、いろいろかなり強力な手段にはなるだろうってみんな思ってんじゃないのかなあ
いん：結局そこは、なんか日ごろから思うんですけど、基礎研究者っていう仕事は未来永劫変わらないですね
よう：いやおれどうかと思うよ。どうかすりゃそんなこともねえんじゃねえかかと思ったりするよ
いん：マジですか
よう：うん。なんかさー、まあいっちー読んだことあると思うんだけどさ、あのー…あ、来週にするか（笑）
いん：んふっ（笑）わかりました、じゃあその続きは来週
よう：あのー、松尾豊さんの「人工知能は人間を超えるか」っていう本
いん：うん、うん、うん
よう：…を読んでちょっと思ったことがあるっていう話なんだけどさ
いん：じゃあちょっと来週と…
よう：今日はあれだね、今までで一番真面目な話したね
いん：今までそんなに不真面目でしたっけ？（笑）
よう：（笑）
いん：割と毎回大真面目に話してたけどそうか
よう：熱量としては変わんないよ
いん：熱量は変わんないんですね
よう：おれが萌えの話をしてるときの熱量とは変わんないよ（笑）
いん：（笑）
よう：ただ一番硬かったかもしれないなとは思うよね
いん：（笑）じゃあちょっと来週もお付き合いいただいて
よう：そうですね。はい、じゃありがとうございました
いん：はい、ありがとうございました。
★注1. この辺を聞いていて「あっ、國松先生ぽい」と思いました。診断名よりどう症状を改善させるか、という話。
★注2. これはこの2年半後の第148回「科学と科学技術と科学技術サービス」への布石になっている気がします。よう先輩がずーっと考えていることなのですね。
★注3. リアクション芸のバリエーションが豊富なヤンデル先生がたまにする相槌「んなー」。「なるほど」を強調してるのでは、と思われます。
★注4 「東京都交通安全責任課」（「まず牛を球とします」河出書房新社 収録作）、あるいはそれを長編化した「未来職安」（双葉社）のことと思われます。なお、湯葉氏はこの作品について「Alpha GO が人間のトッププロを破り、一挙にAIへの期待感（および恐怖心）が高まっていた時期に『AIが進歩すれば人間の仕事は責任を取ることだけになるだろうと』」思って着想を得たと書いています。いんよう！での文脈にピタリ賞で、こっわ。
＊＊＊＊＊＊＊＊＊ 感想 ＊＊＊＊＊＊＊＊＊
● 理系ポンコツとしてはわからないことが多すぎるので、一言一句起こすためにまんま文字起こしの部分が増えてしまいました。「ディープラーニング」も「Deep L」っていう表記があったなあと思いつつ、それでいいのかわからないのでそのままカタカナにしました。
● いんよう！の柱の一つである「AI」はここから波及してどんどん話が膨らんでいきます。個人的には、いんよう！を聴いていなかったらAIに関心を持つことはほぼゼロだったと思うので、ありがたいことです。概要欄には「会話のフワフワ具合をお楽しみください」とありましたが、いえ充分です、という気持ち。
● とても不思議なのは、AIがどうやって結果を導くのかがブラックボックスである、という点。たしかに理系ポンコツは人間に理屈の筋道を説明されてもわかんないので、AIのことも「そういう頭脳」と思えばいいのかもしれません。機械だろうと人間だろうと学習した結果を「なるものはなる」的に呑み込むしかないので。
● 医師という職業の行く先についてヤンデル先生が想定するとき、ほぼ必ず報酬の話になるなあと思います。お金について話しているときのヤンデル先生は、常に自分に刃を向けているように見えます。
● 萌えトークとサイエンストークを同じ熱量で語るのが、いんよう！の大きな魅力の一つですが、それが自覚のもとにいかんなく発揮されていることがわかった回でした。