先生、ChatGPTは人間の仕事を奪うのですか？（１４）
前回は OpenAI の CEO サム・アルトマンの解任騒動を GIGAZINE の記事で追いかけてみましたが、一番気になったのはこの記事。
その他の記事も眺めていて「どうやら OpenAI の経営陣の中では、騒動以前から不協和音が鳴り響いていたんだなぁ」とは感じたのですが「それにしても CEO 解任の引き金になった論文って何が書いてあったのだろう？」とね。
論文『Decoding Intentions』のサワリを読む
取締役会メンバーのヘレン・トナーが書いたとされる学術論文、さすがにOpenAI やアルトマンを非難するような文言はないのでしょうが、アルトマンが激怒した内容ってなんだったんでしょうか？
ヘレン・トナーって誰？
今回の解任騒動で一躍「時の人」になった彼女。早速 Wikipedia にページが出来ていました（既に削除動議が出てますが😀）。
このページを見る限り若手研究者と言って良いのでしょう。特に目を引くのは効果的利他主義（Effective altruism）の活動家としてのキャリアです。なるほどＡＩ倫理の観点でも現実的な視点で切り込みそうだ。なお、彼女が OpenAI の取締役会メンバーに指名された経緯については書いていませんでした。
全６６ページの重量級の論文だが…
GIGAZINEの記事にあるように、トナーのくだんの論文は次のページからダウンロードできます。
表紙も入れると全６６ページの重量級の論文なのですが、本文はその半分の３５ページ。残りのほとんどは参考文献リストです。さらに調べると先頭の２ページが（ちょっと長めの）要約で、続く表１まで見れば、この論文の概要は把握できる構成になってます。
なので、この冒頭の３ページを翻訳して、次のページに掲載しました。
この論文は主に政策決定者に向けて書かれています。社会学や経済学の素養のない僕にはチト荷が重いかもね😀
争点となった箇所は？
さて GIGAZINE の記事によると「論文を読んだアルトマンが激怒した」とされる箇所は？というと29ページの最後から30ページにかけての次の段落のようです。
A different approach to signaling in the private sector comes from Anthropic, one of OpenAI’s primary competitors. Anthropic’s desire to be perceived as a company that values safety shines through across its communications, beginning from its tagline: “an AI safety and research company.”152 A careful look at the company’s decision-making reveals that this commitment goes beyond words. A March 2023 strategy document published on Anthropic’s website revealed that the release of Anthropic’s chatbot Claude, a competitor to ChatGPT, had been deliberately delayed in order to avoid “advanc[ing] the rate of AI capabilities progress.”153 The decision to begin sharing Claude with users in early 2023 was made “now that the gap between it and the public state of the art is smaller,” according to the document—a clear reference to the release of ChatGPT several weeks before Claude entered beta testing. In other words, Anthropic had deliberately decided not to productize its technology in order to avoid stoking the flames of AI hype. Once a similar product (ChatGPT) was released by another company, this reason not to release Claude was obviated, so Anthropic began offering beta access to test users before officially releasing Claude as a product in March.
翻訳すると…
民間企業における告知の異なるアプローチが、OpenAI の主要なライバルの１つである Anthropic から来ています。Anthropic は「ＡＩの安全と研究を行う企業」というタグラインが示す通り、安全性を重視する企業であると見られたいという思いが、そのコミュニケーション全体を通じて明らかです[152]。この企業の意思決定を注意深く見ると、このコミットメントは言葉だけのものではないことがわかります。2023年3月に Anthropic のウェブサイト上で公開された戦略文書は、ChatGPT のライバルである Anthropic のチャットボット Claude のリリースが「ＡＩ能力の進歩が加速させる」ことを避けるために意図的に遅らせられていたことを明らかにしました[153]。この文書によると、2023年初めに Claude をユーザーと共有し始めた決定は、「これと公開されている最先端のチャットボットとの差が縮まった現時点で」行われたということです。これは明らかに、Claude がベータテストに入る数週間前に ChatGPT がリリースされたことへの言及です。つまり Anthropic は、ＡＩハイプをあおることを避けるために、故意にその技術を製品化しないことを決めたのです。そして似た製品(ChatGPT)が他社によってリリースされ、Claude をリリースしない理由がなくなったため、Anthropic は Claude を３月に製品として正式にリリースする前に、ベータテストユーザーからのアクセスの受付を開始したのです。
この文章はライバルである Anthropic を褒め称えてるようにも読めるので「流石にアルトマンは怒るだろうなぁ…」と僕はつい思っちゃいました。
想像するに「あなたは OpenAI の取締役会メンバーの立場なのに、公に出す文書の中でこのような言及をするのはいかがなものか？」って言うだろうなぁと思うのですが、皆さんはどう感じましたか？
もっとも、この文書が「すべての始まり」というわけではないようで、おそらく、それなりの時間をかけてアルトマンと取締役会の間で相互不信が風船のように肥大しきっていたところに、彼女の論文が最後のひと針になった…というのが真相だったのではないかと僕は想像しています。
アルトマンのクーデターは成功したのか？
結局 OpenAI の CEO 解任騒動は、アルトマンの大逆転に終わり「たった４日間で収束」と報道されています。前回も紹介したとおり…
従業員の全面的な支持を受けてCEOに返り咲いたアルトマンを見れば正しく「雨降って地固まる」的に理解してしまいそうです。ですが、僕は「本当にそうなの？」って疑ってます🤭
お祭り状態のWikipedia英語版
…というのも、Wikipedia にこんなページが現れたから。
上記のヘレン・トナーのページもそうですが今回の OpenAI の CEO 解任騒動に連動して Wikipedia 英語版のアルトマン関連ページはある種の祭状態になっている（いた）ようです。もちろん Wikipedia 英語版の OpenAI のページもガンガン追記されているようで…
既に日本語版の記述内容とかなりの乖離が出ているみたい。リファレンスとして、ニューヨークタイムズやウォールストリートジャーナルの記事からの引用も増えているようなので、今回の騒動は経済界でのビッグニュースとして大手マスメディアの注目を集めているようです。
となれば、中にはアルトマンと OpenAI にとっては「不都合な真実」の記述もありそう。日本のマスメディアは OpenAI 周辺の関係者の情報だけをネタとして拾っているようで、正直、あまりにナイーブ過ぎると感じてます。
今回の騒動で注目すべきことは？
１年前の ChatGPT のサービス公開以来「Google をコードレッドに追い込んだ先進のＡＩベンチャー」として注目を集めてきた OpenAI ですが、躍進を続けるその眩いばかりのニューカマーのグッドイメージに、我々は少し幻惑されていたかもしれません。ここ１年の OpenAI の躍進はサム・アルトマンのリーダーシップの賜物なんでしょうが、次の記事が指摘するように、それは同時に OpenAI の経営トップに不協和音を奏でさせるものでもあったのでしょう。
今回、多くの報道で「主任研究員」と紹介されているイルヤ・サツキヴァーですが、実は OpenAI の創業時の CEO だったようです。
今回の騒動、当初のアルトマンとサツキヴァーの争点は「ＡＩの安全性」に対する見解の相違のようですが…
結局、サツキヴァーはアルトマンに従ったようです。今後、彼が OpenAI の経営に関わることはないんだろうなぁ…と僕は想像してますが、彼の存在に僕はかつてのサンマイクロシステムズの創業者ヴィノット・コスラを思い出してしまいます。躍進を続けるベンチャーでは、創業者であっても（あるいは創業者故に）スポイルされるという事例として。
しかし…
ヘレン・トナーが論文で連呼していたアンソロピックって何者なんだろうか？（つづく）
#OpenAI
#CEO解任
#サム・アルトマン
#ヘレン・トナー
#イルヤ・サツキヴァー
#ヴィノット・コスラ
#Anthropic
#アンソロピック
#ダリオ・アモデイ
#ダニエラ・アモデイ