AIの文章生成ツールを悪用して原稿を書くことは可能か？
フォレスト出版編集部の寺崎です。
「出版社で書籍の編集の仕事をしている」と人に話すと、決まって聞かれる、アルアルな質問があります。
「へぇ～、どんな本、書いてるの？」
いやいやいや、編集者は書かないの。書くのは著者。編集は企画アイデアを考えて、それを著者に書いてもらって本にする仕事だよ。
こう答えるのが常です。
しかし考えてみたら、本は書かなくても日常的に「文章を書く行為」は多いかもしれません。日々書いてはボツにされる企画書の山、著者や関係者とやりとりするメール、新刊告知のメルマガ、セールスレター、PR文書、いままさに書いているnoteの記事などなど。
電話でのコミュニケーションが激減したため、パソコンやスマホでテキストを打ち込む量も年々増えています。リモートワークが常態化したいま、さらにテキストでのコミュニケーションが増えて、文書を書く時間がどんどん増えています（これは編集者に限らないことと思いますが）。
というように、仕事するなかで「文章を書く行為」の比重はけっこう多い。
「文章を書くのを自動化できないかなぁ……」
そんな夢想を抱く世のスボラーマンに朗報です。
文章を自動生成するAI（人工知能）で「文書生成の自動化」が実現するかもしれません。
「あまりにも危険すぎる」と危惧されるAIによる文章生成
人工知能を研究する非営利組織である「OpenAI」が開発した、AIによる文章生成ツール「GPT-2」は、高精度のテキストを簡単に自動生成できるそうです。非営利組織OpenAI はテスラCEOのイーロン・マスク氏やマイクロソフトが出資する団体です。
「文書が自動生成できるなんてイイじゃん！」と思うかもしれませんが、これが「高精度すぎて危険」とのことで、フルバージョンを公開していませんでした。
なぜ危険かというと、フェイクニュースを簡単につくれるため。悪用が懸念されるからです。
ある実験では、AIが生成したフェイクニュースを読んだ70％の人が、ニューヨークタイムズの記事であると誤解したそうです。危ないっすね。
その後さまざまな検証を経て、今年６月に最新のGTP-3が限定公開され、その文書生成能力の凄さが話題となっています。GTP-3は文書だけでなくWEBページやプログラムまで、簡単な命令でAIが自動生成するそうです。
しかし現在は、前述のように悪用の危険性があることと、今後の研究開発のための資金調達源として商用利用することが決定したため、マイクロソフトのクラウドプラットフォームAzureから許可された利用者のみAPI経由で利用できる状態です。
そこで、ひとつ前の世代のGPT-2を利用して文章を生成させることができる「Text Synth」というウェブサイトがあるので、そこで実験してみることにしました。
AIはヴィトゲンシュタインの夢を見るか？
おふざけに「なぜ、男はバカなのか？」という文章を入れてみます。日本語には対応してないので、英語で入れます。「Why is a man stupid?」と入力して、「Generate another」をポチると自動的に文章が生成されます。
以下の文章がニョロ、ニョロッと自動生成されました。
Why is a man stupid?
The truth is that a man is stupid when he is unable to understand the facts of reality. This is not necessarily due to the fact that he is illiterate, nor because he lives in a madhouse. On the contrary, some people are so stupid that they could not understand reality any more than a chicken could understand anything else. Some people are so stupid that they cannot comprehend the very idea of God. It does not really matter which is the cause. What is important is that it comes to the same conclusion. We ask a man what is "true" when he is incapable of comprehending anything else. The answer is absolutely nothing. It is impossible to understand anything else. It is not possible to understand anything else, because there is no other subject to comprehend other than oneself. We ask whether a man is intellectually perfect when he can comprehend nothing else. We ask when he is intellectually complete when he can comprehend none at all. The answer is absolutely none.
これを自動翻訳エンジンでは現在最高峰とされる「DeepL」（←Google翻訳より賢いです）で日本語に訳してみます。
（日本語訳）
―――――――――――――――――――――――――
なぜ人はバカなのか？
本当は、現実の事実を理解できないときに、人は愚かである。これは、文盲だからというわけでも、精神病院に住んでいるからというわけでもありません。それどころか、ニワトリが何かを理解するのと同じくらい、現実を理解できないほど愚かな人もいる。
中には、神の考えそのものを理解できないほど愚かな人もいます。
どちらが原因であるかは本当に重要ではありません。
重要なのは、同じ結論に至ることです。
私たちは、他の何かを理解することができない人に、何が「真実」であるかを尋ねます。
答えは絶対に何もありません。
他の何かを理解することは不可能である。自分以外に理解すべき対象がないので、他の何かを理解することは不可能である。他に何も理解できない時に、その人が知的に完全であるかどうかを問うています。何も理解できないときに、その人が知的に完全であるかどうかを問うています。
答えは絶対に何もありません。
―――――――――――――――――――――――――――
うーん、なにやら哲学的ですがイミフですね。「男」のつもりで「men」と入れたら、「人」「人間」という意味で出力されてしまいました。そのために、よりヴィトゲンシュタインな感じです。
しかも、最終結論は「答えは絶対に何もありません」と絶望的です。
お題が悪かったのかもしれません。
AIはこうして「安倍首相辞任」のフェイクニュースを作る
ちょうど昨日、安倍首相が辞任を表明しました。では、AIで「安倍首相の辞任」を報じるフェイクニュースをつくってみます。
「Prime Minister Abe has announced his resignation.（安倍首相が辞任を表明した）」と入力してみます。
さて、どんな文章を生成してくれるでしょうか。
Prime Minister Abe has announced his resignation.
Prime Minister Shinzo Abe of Japan says he will resign after losing office for failing to curb Tokyo's use of nuclear weapons.
ROK-US relations with the US are in some doubt after Donald Trump's election win and China's decision to deploy missile interceptors in disputed waters in the East China Sea.
North Korea had threatened to fire an intermediate-range missile over Japan, saying it was ready for war.
China is the dominant economic power in Asia and the region's largest trading partner. It is not a member of the Nuclear Non-Proliferation Treaty, which requires countries to prevent nuclear weapons from falling into the wrong hands.
The US and China have long called for the nuclear disarmament treaty's withdrawal.
At a summit in Switzerland, China's Prime Minister Li Keqiang urged the nuclear-armed neighbours to find a way to resolve their tension over it by reducing tensions.
China has also condemned North Korea's recent missile tests and said Beijing doesn't want the issue to be used by Pyongyang to trigger an armed conflict.
（日本語訳）
―――――――――――――――――――――――――――
安倍首相が辞任を表明しました。
日本の安倍晋三首相は、東京の核兵器使用を抑制することに失敗したとして、政権を失った後に辞任すると述べている。
ドナルド・トランプ氏の当選と中国が東シナ海の係争海域にミサイル迎撃機を配備することを決定したことで、韓米関係には疑問の声が上がっている。
北朝鮮は日本の上空に中距離ミサイルを発射すると脅し、「戦争の準備はできている」と述べていた。
中国はアジアの経済大国であり、最大の貿易相手国でもある。核兵器が悪の手に渡らないようにすることを義務付ける核不拡散条約（ＮＰＴ）には加盟していない。
米国と中国は長い間、核軍縮条約の離脱を求めてきた。中国の李克強首相はスイスでのサミットで、核武装した隣国に対し、緊張を緩和することで核武装をめぐる緊張を解消する方法を見つけるよう促した。
中国はまた、北朝鮮の最近のミサイル実験を非難し、北京はこの問題が平壌によって武力紛争の引き金になることを望んでいないと述べている。
―――――――――――――――――――――――――――
安倍首相は健康上の理由で辞任したわけですが、AIのフェイクニュースはまるっきりデタラメですね。
フェイク① 東京の核兵器使用を抑制することに失敗（マジか！）
フェイク② ドナルド・トランプ氏が当選（マジか！）
フェイク③ 北朝鮮が日本の上空に中距離ミサイルを発射して「戦争の準備はできている」と脅した（マジか！）
この一般公開されているGPT-2はけっこうお粗末なAIと揶揄されているようですが、GPT-3にいたってはネイティブの人が読むと「きわめて自然で、人間が書いた文章と見分けがつかない」そうです。
こんな感じで文章が生成できるとなると、人間が手も頭も使わずにフェイクニュースが量産できそうです。
デタラメの論文が学術誌に載った珍事件
このAIによるフェイクニュースの話を耳にしたとき、まっさきに思い出したのは「ソーカル事件」です。
ソーカル事件（ソーカルじけん、英: Sokal affair）とは、ニューヨーク大学物理学教授だったアラン・ソーカルが、1995年に現代思想系の学術誌に論文を掲載したことに端を発する事件をさす。
ソーカルはポストモダン思想家の文体をまねて科学用語と数式をちりばめた無内容な論文を作成し、これをポストモダン思想専門の学術誌に送ったところ、そのまま受理・掲載された。その後ソーカルは論文がでたらめな内容だったことを暴露し、それを見抜けず掲載した専門家を指弾するとともに、一部のポストモダン思想家が自分の疑似論文と同様に、数学・科学用語を権威付けとしてでたらめに使用していると主張した。
論文の発表につづいてソーカルは、フランスのポストモダン思想家を厳しく批判する著作を発表し、社会的に大きな注目を集めた。
（wikipediaより）
この事件では、当時「フェイク」を見抜けなかった学者たちが赤っ恥をかいたわけですが、いまやAIによるフェイクニュースで人類が騙されて赤っ恥をかく日が近づいてきています。
さて、われわれ人類はどうしたらいいか。
答えはシンプルです。
自分の頭で考え、確かな知恵と経験を蓄え、揺るぎないインテリジェンスを磨くこと。
そのために有効なのが「読書」です。
出版社の人間がこんなことを言うと宣伝にしか聞こえませんが、読書はインテリジェンスを磨くための超コスパのいい行為です。このことは、古今東西あらゆる人が主張されているので、言うまでもないことですが。
インテリジェンスを磨くわが社自慢の厳選書籍10選
そこで、フォレスト出版の書籍ラインナップから「フェイクにやられないインテリジェンスを高める」ことに役立ちそうなアイテムを紹介します。
ライトなビジネス書が多い弊社ラインナップのなかでは、やや硬質な書籍群たちです。
生きるうえでのさまざまな疑問や悩みやとまどいを、世界の思想書50冊からひとつの解答とおぼしき光明を見いだす、混迷の時代のハンディ哲学書。
タオ（道）の伝統の中で少数の覚者のみに受け継がれてきた覚醒のための奥義「クンルンネイゴン」継承者による究極のソリューション。
アインシュタイン曰く「問題解決のために私に１時間が与えられたら、最初の55分は適切な問いを探すのに費やすだろう」。「ソリューション」「答え」を追い求める現代人へのアンチテーゼ。
問題やトラブルをバッサバッサ片付けていくスゴい人はなにがスゴいかって、そりゃ「推論」をしてるからさ。解決すべき問題が山積みな人のための仮説と成果のつくり方。
それでもやっぱり問題が解決できないって？ うーん、困ったね。じゃ、これはどうだろう？ 哲学、宗教、神話、歴史、経済学、人類学、数学ほか、さまざまなジャンルから由来する37の問題解決技法をまとめてある。まさに問題解決法の道具箱だ。
ちょっと角度を変えて「ユニークな民族から学んでみる」というのはどうだろうか。著者は日本人からユダヤ教に改宗した人物ゆえ、日本とユダヤ双方から観点が学べる。日本人である自分を俯瞰するのに好適な書。
なにごとも最終的に行き着く終着駅は哲学かもしれない。なんだかんだいいつつ、みんな死ぬ。どんなイケメンも美女も衰え死にゆく。であれば、死ぬまでに読んでおきたい哲学書を読もう。そうしよう。
人間の歴史、民族問題、国際政治を理解するために必須なのが「宗教」の知識だ。キリスト教、ユダヤ教、イスラム教、仏教･･････でも、この本はそうした各論は論じない。宗教のヤバさ、なぜ宗教が存在するのか、その本質をグイグイえぐる。まじヤバい。
ええっと、『非常識な成功法則』はじめ、数々の自己啓発書（通称・ジコケー）を出しまくってきたフォレスト出版がこんなタイトルの本を出していいのかなー？ーーいいのです。アマゾンの紹介文に「世の中にはびこるのが自己啓発ビジネスです」とかあるけど、自己欺瞞してないかなー？ーーいいのです。人間はそういう複雑な生き物だから。人間だもの。
進化＝進歩だと思ってますか？うーん・・・それが違うんだな、これがまた。「進化」とは世代を越えて伝わる「性質の変化」にすぎず、そしてそこに人間の認知バイアス（いわゆる「思い込み」）が激しく影響を及ぼしているというお話。ざっくり言うと。
「あ、これ、面白そう」と思ったら、ぜひポチってみてください。
では！