見出し画像

AIのゴッドマザーが語る、AGIが人類にもたらすもの

11,603 文字

フェイフェイ・リー、お会いできて光栄です。Possibleへようこそ。
同様です。アリヤ、お会いできて嬉しいです。ImageNetのアイデアを思いついたきっかけは何だったのでしょうか?
具体的な瞬間を特定するのは難しいのですが、2006年頃が中心でした。私は機械学習アルゴリズムを使って画像内のオブジェクトを理解しようと深く研究していました。どこを見ても、機械学習モデルには過学習という数学的概念から逃れられませんでした。これは、モデルの複雑さとモデルが使用するデータが完全に一致しない場合に起こります。特にデータの量だけでなく、データの複雑さとデータ量がモデルを効果的に駆動していない場合です。
もちろん、全てのモデルが同じというわけではありません。現在、ニューラルネットワークモデルははるかに高い容量と表現力を持っていることがわかっています。しかし、そういった専門用語は置いておいて、データとモデルの間には確実な相互作用があります。私が見る限り、人々はデータに注意を払っておらず、モデルにばかり注目していました。
それが私が洞察を得た瞬間でした。モデルだけを見るのではなく、データに注目し、データを使ってモデルを駆動する必要があると考えました。その頃、プリンストン大学の教員として早期のキャリアを積んでいた私は、WordNetという研究に出会いました。WordNetはコンピュータビジョンとは無関係でしたが、世界の概念を整理する素晴らしい方法でした。私はWordNetという名前が気に入り、一つのことが別のことにつながり、ImageNetが生まれました。
それは、大規模データと視覚世界の多様な表現の必要性を私が情熱的に信じていたからでした。ImageNetという素晴らしい成果を経て、現在はWorld Labsがあります。ImageNetからWorld Labsへの流れについて、World Labsのアイデアは何なのか、私たちが向かっている方向性の重要な部分として何を構築しているのか、これをどのように理解すべきなのか、World Labs自体とAIのトレンドとしての両方の観点からお聞かせください。
そうですね、これは私たちの好きなトピックですね。技術がどこに向かっているのかについて。特にImageNet以降、私のキャリアを通じて obsessively 考えてきたことの一つは、知能とは何か、そして機械に知能をどのように実現させるかということです。
私にとって、それは2つの単純なことに集約されます。人間の知能を見ると、一つは、私たちが言葉を話すこと、言語的なコミュニケーションを知識を整理し伝達するための道具として使用することです。しかし、もう一つの知能の半分は私たちにとってとても深遠なものです。それは、私たちが物事を行うということに帰着します。
オムレツを作ったり、ハイキングに行ったり、友達と楽しく過ごしたり、お互いの存在を楽しむことは、私たちが言う言葉をはるかに超えています。ビール缶を持って快適に向かい合って座れること、こういったことも全て知能の一部です。
その知能の部分は、私たちが住む3D世界を理解し、それを知覚し、一連の理解と推論と予測に変換して、その中で物事を行う能力に根ざしています。私の意見では、その能力は空間知能と呼ばれ、人間のような知的な動物が持つ根本的な生得的能力です。3D空間を扱う能力です。
ImageNetは、2D画像のピクセルにラベルを付けるという探求から生まれました。人間にとって2D画像は3D世界の投影です。これは、私たちが住む視覚世界をより完全に理解するための赤ちゃんのような一歩だったことがわかります。その一歩は重要でした。なぜなら、人間であれ動物であれ機械であれ、それらの物体や画像を理解しラベル付けすることは最初の重要なステップだからです。
しかし今、15年以上、14年が経過し、私たちはより大きな探求に向かう準備ができていると思います。それは知能のもう一つの重要な半分を解き放つための本塁打のような探求です。それは空間知能の問題です。
空間知能が本当に面白いのは、実際に2つの側面があることです。一つは物理的な3D世界で、もう一つはデジタルの3D世界です。私たちはその間に住むことは決してできませんでしたが、空間知能は今や、物理的な3D世界とデジタルの3D世界の両方を理解する統一的な技術となりうるのです。
空間知能の可能性について考えると、1880年に馬車が走る未舗装の道路に戻ってみると、これは全く違う世界でした。しかし1980年に戻ると、人々は違う車を運転していますが、同じ建物に住んでおり、まだ車を運転しています。つまり、現実世界の仕組みはほぼ同じです。この知能のもう一つの半分が、今後数十年でそれを変えると思いますか?デジタル世界で過去数年間に見られた大きな変革を、現実世界でも目にすることになるでしょうか?
そう思います、アリヤ。そして、現実とデジタルの境界線が曖昧になり始めると思います。例えば、私が高速道路を運転していてタイヤがパンクした場合を考えてみましょう。私は技術者ですが、そのパンクしたタイヤに苦労すると感じています。
しかし、もしグラスを着用するか、パンクしたタイヤに向かって携帯電話を向けるだけで、視覚的なガイダンスや対話、またはその組み合わせを通じてタイヤ交換のプロセスを案内してくれるアプリケーションと協力できれば、それは物理的な3D世界とデジタルの3D世界の境界を打ち破る、非常に日常的な例となります。
タイヤ交換や心臓手術を行うなど、このような技術が人々を力づける姿は、私にとって本当にワクワクするイメージです。
あなたは常にLLMを使って自分自身を教育していると言いますが、それは常にインスピレーションを与えるものだと思います。私の子供たちは「私は数学が得意だから、もう学ぶ必要はない」と言いますが、「フェイフェイ・リーでさえLLMを使って学んでいるんだよ」と言えます。あなたはまだ学ぶべきことがたくさんあると思います。Large World ModelsとLLMsの違いについて、人々にどのように説明し、将来どのように展開すると考えていますか?
基本的に、先ほど言ったように、一つは物事を言うこと、もう一つは物事を見て行うことです。そのため、それらは非常に根本的に異なるモダリティです。大規模言語モデルの基本単位は文字や単語などの語彙であり、私たちのWorld Modelsではピクセルやボクセルが基本単位です。
それらは非常に異なる言語です。私は、言語は人間の言語であり、3Dは自然の言語だと感じています。私たちは、AIアルゴリズムが人々に仮想または物理的なピクセルの世界とやり取りすることを可能にする地点に到達したいと考えています。
あなたの答えは、社会生物学者のエドワード・O・ウィルソンの言葉を引用した別の引用を思い出させます。「私たちは旧石器時代の感情、中世の制度、そして神のような技術を持っており、それは非常に危険です。」AIの時代における人類の機会について、これをどのように逆転させ、どのような機会があるとお考えですか?
私はまだそれを信じています。そしてそれを信じているからこそ、あなたと私、そして私たちの友人たちは人間中心AIインスティテュートを設立しました。もし私がその文を逆転させるなら、人間は神のような技術を創造する能力があり、それによって中世の制度を改善し、旧石器時代の感情を超越する、あるいは旧石器時代の感情を創造性、生産性、慈悲に向けることができるということです。
技術を構築して私たちの願望を実現するための鍵は何だとお考えですか?それは思いやりに焦点を当てることでしょうか?それとも人間中心性と相互作用の共生に関する問題でしょうか?技術とAIが私たちのより良い自己を実現するのを助けるための次のステップとして、あなたは何を構築しますか?
なぜあなたがH.シムズ専攻だったのか分かりますね。哲学と技術の組み合わせがあなたの中にあります。私も同意します。先ほどの引用で、私たちは「旧石器時代」という言葉を否定的な意味で使いましたが、実際にはそうではありません。
それは非常に中立的な言葉です。人間の感情や自己イメージは、進化や私たちのDNAに深く根ざしており、それを変えることはできません。そして世界は、それゆえに同時に美しくも混沌としているのです。
技術と技術の人間との関係の未来を追求する上で、私たちはそれを尊重する必要があります。私たちが誰であるかという最も根本的な、真に旧石器時代的なルーツのいくつかを尊重する必要があります。技術開発が本当に尊重する必要があり、それを尊重すればするほど、私たちはより良くなれる、いくつかのことがあります。
一つは人間のエージェンシーの尊重です。私は本当に、AIの公共コミュニケーションの問題の一つは、私たちがあまりにも頻繁にAIを文の主語として使用し、まるで人間のエージェンシーを奪っているかのように言うことだと思います。「AIがガンを治療する」というような文です。私も時々そう言ってしまうことがありますが、真実は人間がAIを使ってガンを治療するということです。AIがガンを治療するのではありません。
あるいは「AIが核融合を解決する」というのも、真実は人間の科学者やエンジニアがAIをツールとして使用して核融合を解決するということです。そしてさらに危険なのは「AIがあなたの仕事を奪う」というものです。私たちは本当に、この技術には機会と仕事を創出し、人間のエージェンシーを強化する機会がはるかに多くあることを認識する必要があります。それは私が気にかける非常に重要な第一原則です。
そして二つ目の重要な第一原則は、すべての個人が健康で生産的で、社会の尊重される一員になりたいと願っているという人間の尊重です。私たちがAIをどのように開発し使用するにしても、それを見失うことはできません。それを見失うことは危険であり、逆効果です。私はこれら2つのことだけでも、この技術の開発を導く上で重要だと思います。
これについて話すことは、あらゆる技術やイノベーションの本質は人間に対して慈悲深くあるべきだという深い信念に根ざしています。それが人類文明の弧であり、私たちがツールを作るたびに、そのツールを善のために使用したいと考えてきました。
もちろん、それは諸刃の剣であり、私たちはツールを誤用する可能性があり、ツールを悪用する悪意ある行為者もいるでしょう。そのため、技術とツールの暗部を見ることでさえ、私たちはそれをより良くする方法、より人間中心にする方法を追求したいという思いを強めるのです。
それが本当に人間中心AIインスティテュートの基本原則でした。私たちはAIを、あなたと私、そしてスタンフォードの友人たちは、そのような強力なツール、文明のツールとして見ています。できるだけ早い段階で、人間と人間の利益を中心に据えた枠組みを構築する必要があります。
人間中心AIと、それが各企業や開発者をどのように導くべきかという絶対的に重要な側面の一つは、人々を力づけるというこの概念です。
あなたは長い間、さまざまな立場でAIに携わってきました。今、多くの人々がAIについて理解し始めたばかりだと感じています。現在のAIイノベーションの瞬間について、私たちがどこにいるのか、開発者が直面している課題は何か、そしてこれらの問題を解決するために次のレベルに進むために何が必要だと考えていますか?
これは素晴らしい瞬間です。私がこれを革命の変曲点だと絶対的に考える理由は、アプリケーションにあります。今やAIは一般の人々やビジネスによって使用することができ、私たち初期のAIパイオニアがキャリアの初期段階で考えていた多くの夢が実現されているか、ほぼ実現されているからです。
例えば、一般的に言われているチューリングテストは、ほぼ解決された問題です。チューリングテスト自体は、私は知能の究極のテストとは呼びませんが、非常に難しい基準であり、正当な基準でした。そしてそれは解決された問題です。
自動運転車についても、完全には解決されていませんが、2006年と比べてはるかに解決に近づいています。これらのモデルの力が一般の人々やビジネスの手に届くようになったため、私はこれがAI革命の素晴らしい段階だと考えています。
しかし、アリヤ、私たちはシリコンバレーのバブルの中に住んでいることも強く認識しています。まだ世界の人口全体がAIの現状について理解を深めている段階だからです。ただし、私たちは未来を見ており、未来がどこに向かっているのかを知っています。
多くのPossibleのリスナーは、これが人間を大きく増幅させる可能性があり、それが非常にポジティブなものになりうるという、あなたの言葉に共感できると思います。私たちは否定的な結果についても心配する必要がありますが、正しい方向に導きたいと考えています。開発の観点から、AIを正しい方向に進めるために何をする必要があると考えますか?また、政府や分野を超えた協力が必要だと考える場合、それについてもお聞かせください。
正直なところ、私たちにできることはたくさんあると思います。そしてそれは昨日行うべきだったと思いますが、遅くはありません。私たちはただ本当にこれに取り組むことを約束すべきです。
一つのことは、これをSF(サイエンスフィクション)ではなく、科学に基づかせることです。AIによる人類の絶滅や、AIによる世界平和など、どちらの側も科学よりもSFに近い誇張された言説が多すぎました。そのため、AIポリシーやAIガバナンスをどのように扱うかを考える際は、データに基づき、科学的事実に基づき、科学的方法論に基づくことが非常に重要です。
二つ目は、他の多くの技術やツールと同様に、人間に影響を与える応用分野、つまり現場での応用に関してガードレールを設けることが、上流の開発を止めるよりも、私たちのガバナンスのエネルギーを集中させるべき正しい場所だと本当に信じています。
車の初期の頃を考えてみてください。当時は安全ではありませんでした。シートベルトもなく、最初はドアさえありませんでした。速度制限もありませんでした。そして私たちは教訓を得ました。人命を犠牲にした教訓もありましたが、私たちはフォードやGMに工場を閉鎖するように言ったわけではありません。シートベルトや速度制限などの規制の枠組みを作ったのです。
今日のAIも同様です。それは非常に強力な技術ですが、害も伴います。そのため、私たちが見るべきは、AIが医療に応用される場合、FDAの規制措置をどのように更新するか、AIが金融に応用される場合、規制のガードレールをどのように設けるかということです。応用分野こそが、私たちがガバナンスのエネルギーを集中させるべき場所です。
最後に、しかし重要なことは、AIの前向きな未来は前向きなエコシステムから生まれるということを理解する必要があるということです。そのエコシステムには民間セクターが必要です。民間セクターは、大企業としても、起業家精神としても非常に重要だと思います。
しかし、公共セクターも必要です。なぜなら、公共セクターは公共財を生み出すからです。私の意見では、公共財には2つの形態があります。一つは、好奇心駆動型のイノベーションと新しい知識です。AIを核融合に使用するにせよ、病気の治療に使用するにせよ、教師たちを力づけるために使用するにせよ、これらの異なるアイデアの多くは公共セクターから生まれます。ImageNetも公共セクターから生まれました。
もう一つの形態の公共財は人々です。私たちはより多くの若者と一般の人々にこの技術について教育する必要があり、公共セクターはK-12から高等教育まで、教育における社会的責務の大部分を担っています。これらが、私が非常に気にかけているAIガバナンスとポリシーの異なる側面です。
実際に、あなたが今話したことで強調すべきもう一つは、AI for allについてです。なぜなら、あなたがやってきた他のことの一つは、AIがスタンフォードの素晴らしい教授やカルテックの物理学博士だけのものではなく、他のすべての人のものでもあることを確実にするための取り組みだからです。AI for allとその使命や貢献について少しお話しいただけますか?
AIAは、私が以前の学生や同僚と共同設立した非営利組織です。その使命は、多様な背景を持つK-12の学生たちに、大学でのサマープログラムやインターンシップを通じてAIに触れる機会を提供することです。
アイデアは、AIの公共財としての教育の部分に取り組むことです。私たちはAIが世界を変えることを知っていますが、誰がAIを変えるのでしょうか?私たちは、より多様な人々がこの技術を使用し、開発し、あらゆる種類の素晴らしい目的のために活用するように、インスピレーションを受けてほしいと考えています。
そのため、私たちは女性や、地方や都市部の、あるいは歴史的に代表されてこなかったコミュニティや背景を持つ学生たちに焦点を当て、これらのサマープログラムに参加してもらっています。救急車の配車アルゴリズムの改善から、地方コミュニティの水質評価にAIを使用するまで、これらの若者たちがAIを使用したり、AIを学んだりする姿を見るのは本当に刺激的です。まだ小さな取り組みですが、AIにより多様な人々を包含するという非常に重要な目標のために、これが成長し続けることを願っています。
あなたはまた医療にも取り組んできました。人々が人類の状態の向上について追跡すべき分野の一つは、AIが医療に何ができるかということだと思います。これについて、あなたが行ってきた仕事と、将来のAIと医療について期待する仕事について少しお話しいただけますか?
私の本にも書いているように、私は多くの理由でAIの医療応用に情熱を持っています。医療は人間中心性の核心そのものです。医療は非常に広い産業で、基礎的な生命科学、創薬や診断から、臨床診断、臨床治療、医療提供、公衆衛生まで及びます。
興味深いことに、このシステムのあらゆる点で、AIが大きな助けになる可能性があることを私たちは見ています。私が好きで焦点を当てているもう一つの分野は医療提供です。そこでは人間が人間を助けています。アメリカには患者が必要とする看護師が圧倒的に不足しています。その仕事は過酷で、看護師の離職率は高いのです。
例えば、驚くべき統計があります。一つのシフトで、看護師は薬や機器を取りに行くだけで平均4マイル以上歩くことがあります。一つのシフトで、看護師は150から180の異なるタスクをこなすことがあります。その一方で、十分なケアが不足しているために病院のベッドから転落する患者がいます。トリアージの問題も多くあります。それに、自宅で一人暮らしをする高齢者は、リスクや認知症の進行に直面しています。
過去10年以上、私の仕事は、非侵襲的で非接触のスマートカメラを使用して、私たちの介護者が患者に注意を払うのを助けることでした。病院のベッドにいる患者の場合、転倒を防ぐために彼らの動きに注意を払います。自宅にいる場合は、彼らの行動、孤独、栄養摂取に注意を払い、何が起きているのかを追跡できます。手術室にいる場合は、看護師が毎分数えなければならない器具に注意を払い、それらが患者の体内に取り残されないようにします。
私たちがNBAインテリジェンスと呼ぶこのようなスマートカメラ技術は、医師や医療従事者を支援し、患者のケアの質を集団的に向上させることを目的としています。
さて、AGIという言葉が多く使われていますが、あなたはどこかで「AGIが何を意味するのかさえわからない」と言ったかもしれません。なぜなら、明らかに多くの人々がそれを自分自身のロールシャッハテストのように解釈しているからです。このAGIの議論について、それが何を意味すべきか、そしてこれをより合理的なものにするために何が必要か、「素晴らしい」「ひどい」「すべての仕事を破壊する」「すべての人類を助ける」といった散漫な議論ではなく、少しお話しいただけますか?
アリヤ、これは最も楽しい、しかし同時にフラストレーションを感じる会話です。私は本当にAGIが何を意味するのかわかりません。なぜなら、この用語は約10年前、AIが成熟し、商業的な関心が高まってきた頃に、商業界から生まれたと思うからです。
当初の意図は、AIに「General(一般的な)」という言葉を加えることで、AIの未来がより一般化可能な能力を持つことを強調することでした。例えば、今日の自動運転車は、単に木を検出するカメラよりもはるかに一般化可能です。そのため、一つの特定のタスクに焦点を当てるのではなく、一連のタスクを実行できる強力な技術という考え方は本物です。
私が100%明確に感じられない理由は、AIの創始者であるジョン・マッカーシーやマービン・ミンスキーの歴史に遡ると、1956年の夏から始まった彼らの夢と希望は、考え、人々の意思決定を助け、最終的には物事を行うことができる機械を作ることでした。彼らの元々のAIの夢で、木を検出するような極めて狭いAIタスクを夢見た人は誰もいませんでした。
人工知能としてのこの分野の誕生は、思考する機械でした。そう考えると、私たちは同じ夢を共有し、同じ科学的好奇心を共有し、同じ探求を共有しています。それは、極めて知的なタスクを実行できる機械です。そういう意味で、私はそれをAIと呼ぶべきかAGIと呼ぶべきかわかりません。私にとって、それは同じことです。
あなたが言ったように、声やロボットのAIの新しい進歩により、「ああ、私はAIと普通の会話をしているんだ」と感じたり、AIがあなたのために何かをしてくれそうだと感じたりするところまで近づいていると思います。現在、あなたの生活の中で特に役立っていると感じるエージェントの使い方や、今後数年間で物事を変えると思われるエージェントのAIと音声の可能性について教えてください。
私は間違いなく、知識を共有し、人々が検索や概念化、学習を自然言語で行えるようにすることは非常に強力なツールだと考えています。私自身も、概念を理解したり、論文を理解したり、単に質問をしたりするためにLLMsを使用しています。
最も私を興奮させるのは、人々や子供たちがそれを自分の学習を改善するためのツールとして使用している姿を見ることです。私が強調したいのは、何があっても人々の中にエージェンシー、自己エージェンシーを保ち、学習し、力をつけるための良いツールを与えることです。そして、これらの強力なツールを深化させていく中で、私自身もそれに取り組んでいますが、人々がこれらのツールを使ってより正確に物事を行えるような協力的な能力をより多く見ることができると期待しています。
それは正しいことだからというだけでなく、人々がAIを開発している人たちは人間を置き換えて排除しようとしているという物語を避けるためにも重要だと思います。私は1日10時間も画面を見たくないし、私以上に画面を見たくないと思っている人はいないでしょう。人間の相互作用は非常に重要で、教育やコミュニティ、共感など、あらゆる面で重要です。
あなたの素晴らしい本『World's I See』で語られた話の一つは、高校の数学教師のサベラ先生についてでした。それは人間の相互作用が重要であることを示しています。そのことともしかしたら彼が与えてくれた忘れられないアドバイスについて、もう少しお話しいただけますか?
本は、15歳で英語を話せないまま、ニュージャージーの公立高校に入学した移民の子供としての私の初期の日々を認めています。それが私の旅の始まりでした。幸運なことに、すぐにサベラという数学教師に出会い、彼は私に敬意と無条件の支援の精神で接してくれました。
数学の教師としてだけでなく、新しい移民として困難な10代の時期を通じて、そして彼が亡くなるまで、私の友人となってくれました。彼が私に教えてくれたのは言葉を通してではありませんでした。「ねえフェイフェイ、AIが世界を支配しようとしているから、AIを人間中心にするように」などとは決して言いませんでした。そんな言葉は当時の私たちの辞書にもなかったと思います。
彼は行動を通して教えてくれました。結局のところ、私たちの社会や人生の意味は、私たちがお互いのために、お互いに対して行う前向きなことであり、私たちが持つ信念であり、私たちが追い求める光のビーコンなのです。
彼の行動を通じて、英語を話せず、新しい国で何をしているのかわからない無知な子供であっても、他の人間を尊重し、引き上げることは美しいことだと理解するようになりました。そのような寛大さ、根本的な親切さと思いやりこそが、人間であることの核心です。彼から私が得た最大の学びは、人間を中心に置くということでした。
美しいですね、ありがとうございます。
では、手短に答えていただきたいのですが、未来に対する楽観を感じさせる映画や歌、本はありますか?
「となりのトトロ」は私の大好きな映画の一つです。はい、私はその音楽が聞こえます。歌は下手なので歌うのは控えますが。はい、それはとてもシンプルで美しく、私は美しいピクセルの虜なのですが、それでいてとても深遠です。子供たちと一緒に見る口実がありますが、正直なところ、彼らがどう感じるかは気にしません。私はただ見るのが大好きなのです。
素晴らしいですね。では、あなたがもっと質問してもらいたいと思う質問は何ですか?
私はAIを使って人々を助ける方法についてもっと質問してもらいたいと思います。なぜなら、それについて何時間でも話すことができますし、スタンフォードや世界中にいる私の素晴らしい同僚たちの多くがそれを行っているからです。彼らが何をしているのか、彼ら自身の分野の天才的な専門家であるため私が知らない場合でも、少なくとも人々を彼らの仕事に導くことはできます。
そうですね、今、多くの人々が素晴らしいことをしていますし、より多くの人々にそれを続けてもらう必要があります。
あなたの業界以外で、進歩やモメンタムを感じ、インスピレーションを受けている分野はどこですか?
実際、私たちの人類のエネルギーへの注目は私にインスピレーションを与えます。なぜなら、私は完全にAIから離れることができないのですが、開発は電力という非常に現実的な問題に直面しているからです。
環境の変化や、世界の人々へのエネルギーの民主化は非常に重要です。また、私たちは常に化石燃料に頼ることはできません。そのため、エネルギー分野におけるこれらの進歩や世界的な動きは興奮を覚えます。
最後の質問として、もし人類にとって全てが上手くいった場合、今後15年間で何が可能だと思いますか?そしてそこに到達するための最初のステップは何でしょうか?
私は、特に共有された繁栄を強調した、知識、幸福、生産性の世界的な向上を見たいと思います。それを強調したい理由は、技術面では私は楽観主義者だからです。技術は人々を助けることができ、正しく使用すれば新しい知識を発見し、革新を助け、私たちの幸福を向上させることができることを知っています。
しかし、それが起こるとき、私たちはその繁栄を共有する必要があり、その利益を民主化する必要があるという教訓を何度も学んでいることを認識することが非常に重要だと思います。
私もそう願っています。フェイフェイ、ありがとうございます。
Possibleは、Wonder Media Networkが制作しています。ホストはアリヤ・フィンガーと私、リード・ホフマンです。ショーランナーはシャ・ヤンです。Possibleはケイティー・サンダース、エディー・アラード、サラ・シュレ、ヴァネッサ・ハンディ、アーリア・イェーツ、パロマ・モレノ・ヒメネスが制作しています。ジェニー・カプランはエグゼクティブプロデューサー兼編集者です。ジェシカ・ウィリアムズ、AIシェラルズ、ヘリン・シャティ、ラッセル・ウォルド、リトルモンスターメディアカンパニーに特別な感謝を捧げます。

いいなと思ったら応援しよう!