AIが実現させる個別指導の可能性

こんにちは、Choimirai Schoolのサンミンです。

はじめに

2023年5月2日、Khan AcademyのCEO、Sal Khan氏がまたもTED Talksへ登壇です。今回のタイトルは「The Amazing AI Super Tutor for Students and Teachers」。AIが教育に与える影響を説いていて、話の中には同氏ならではの明快で研ぎ澄まされた知見が息づいています。日本でもぜひ拡散してほしい内容でしたので日本語訳（DeepL）をつけたスクリプトをシェアします。

YouTube

Descript

TED: The Amazing AI Super Tutor for Students and Teachers - Descript

Introduction: AI in Education

So, anyone who's been paying attention for the last few months has been seeing headlines like this, especially in education. The thesis has been, students are going to be using ChatGPT and other forms of AI to cheat, do their assignments, they're not going to learn, and it's going to completely undermine education as we know it. Now, what I'm going to argue today is not only are there ways to mitigate all of that, if we're going to get rid of all of that, if we put the right guardrails, we do the right things, we can mitigate it, but I think we're at the cusp of using AI for probably the biggest positive transformation that education has ever seen.

この数カ月間、注目していた人は、特に教育分野でこのような見出しを目にしたことがあると思います。その内容は、学生がChatGPTや他の形態のAIを使ってカンニングをしたり、課題をこなしたり、学習しなかったり、私たちが知っている教育を完全に崩壊させるというものです。今日私が主張したいのは、そのすべてを軽減する方法があるだけでなく、もしすべてを排除しようとするなら、正しいガードレールを設置し、正しいことをすれば、軽減することができます。しかし、私たちはAIを使って、おそらく教育がこれまでに見たこともないような、前向きな変革ができる手前まで来ていると思うんですね。

The Two-Sigma Problem and Personal Tutors

And the way we're going to do that is by giving every student on the planet an artificially intelligent but amazing personal tutor, and we're going to give every teacher on the planet an amazing, artificially intelligent teaching assistant. And just to appreciate how big of a deal it would be to give everyone a personal tutor, I show you this clip from Benjamin Bloom's 1984 two-sigma study, or he called it the two-sigma problem. The two-sigma comes from two standard deviations, sigma the symbol for standard deviation, and he had good data that showed that, look, a normal distribution, that's the one that you see in the traditional bell curve right in the middle, that's how the two-sigma comes from, the traditional bell curve right in the middle, that's how the world kind of sorts itself out, that if you were to give personal one-to-one tutoring for students, then you could actually get a distribution that looks like that right, it says tutorial one-to-one with the asterisk, like that right distribution, a two-standard deviation improvement.

その方法は、地球上のすべての生徒に人工知能を搭載した素晴らしい個人家庭教師を与え、地球上のすべての教師に人工知能を搭載した素晴らしい教育助手を与えることです。すべての人に個人的な家庭教師を与えることがどれほど大きなことかを理解するために、ベンジャミン・ブルームが1984年に行ったツーシグマ研究（彼はツーシグマ問題と呼んでいました）の映像をお見せしましょう。ツーシグマは2つの標準偏差からきています シグマは標準偏差の記号です 彼は良いデータを持っていました 見てください 正規分布です 従来のベルカーブのちょうど真ん中にあるのがそうです ツーシグマはそこからきています 従来のベルカーブのちょうど真ん中にあるのがそうです ツーシグマはそこからきていますもし、生徒に対して1対1の個人指導を行った場合、右のような分布になる可能性がある。

Just to put that in plain language, that could take your average student and turn them into an exceptional student, it can take your below-average student and turn them into an above-average student. Now the reason why he framed it as a problem was he said, well, this is all good, but how do you actually scale group instruction this way? How do you actually give it to everyone in an economic way?

平凡な生徒を優秀な生徒に、平均以下の生徒を平均以上の生徒にしてしまうことができるのです。しかし、このような集団指導を実際に行うにはどうしたらよいのでしょうか。経済的な方法で、すべての人にグループ指導を行うにはどうしたらいいのでしょうか。

Khanmigo: AI Tutor in Action

What I'm about to show you is, I think, the first moves towards doing that. Obviously, we've been trying to approximate it in some way at Khan Academy for over a decade now, but I think we're at the cusp of accelerating it dramatically. I'm going to show you the early stages of what AI, which we call Khanmigo, what it can now do, and maybe a little bit of where it is actually going.

これからお見せするのは、それを実現するための最初の一歩だと思います。もちろん、カーンアカデミーでは10年以上前から何らかの形で近似的な試みを続けてきましたが、今、それを劇的に加速させる端緒に立っていると考えています。カーンミーゴと呼んでいるAIの初期段階と、それが今できること、そして実際にどこへ行こうとしているのかを少しお見せします。

So this right over here is a traditional exercise that you or many of your children might have seen on Khan Academy, but what's new is that little bot thing at the right. And we'll start by seeing one of the very important safeguards, which is the conversation is recorded and viewable by your teacher. It's moderated, actually, by a second AI. And also, it does not tell you the answer. It is not a cheating tool. Notice, when the student says, tell me the answer, it says, I'm your tutor, what do you think is the next step for solving the problem?

この右側は、皆さんや多くのお子さんがカーンアカデミーで見たことがあるような伝統的なエクササイズですが、新しいのは右側にある小さなボットのようなものです。まず、非常に重要な保護措置の1つである、会話が記録され、教師が見ることができることを確認します。会話は記録され、先生も見ることができます。この会話は、2番目のAIによってモデレートされます。また、答えを教えてくれるわけではありません。カンニングの道具ではありません。生徒が「答えを教えてください」と言うと、「私はあなたのチューターです、問題を解くための次のステップは何だと思いますか？」

AI Tutor Identifying Mistakes and Misconceptions

Now, if the student makes a mistake, and this will surprise people who think large language models are not good at mathematics, notice not only does it notice the mistake, it asks the student to explain their reasoning. But it's actually doing what I would say not just even an average tutor would do, but an excellent tutor would do. It's actually able to divine what is probably the misconception in that student's mind, that they probably didn't use the distributive properly. Remember, we need to distribute the negative 2 to both the 9 and the 2m inside of the parentheses. This, to me, is a very, very, very big deal.

生徒がミスをした場合、大規模な言語モデルは数学が苦手だと思っている人を驚かせるかもしれませんが、間違いに気づくだけでなく、生徒にその理由を説明するよう求めます。しかし、これは、平均的な家庭教師でもできることではなく、優れた家庭教師ができることなのです。その生徒の心の中にある誤解、つまり「分配を正しく使っていないのではないか」という誤解を見抜くことができるのです。私たちは、括弧の中の9と2mの両方に負の2を分配する必要があることを思い出してください。これは私にとって、とても、とても、とても大きなことなのです。

AI Tutor in Computer Programming

And it's not just in math. This is a computer programming exercise on Khan Academy where the student needs to make the clouds part. And so we can see the student starts defining a variable, left x minus minus. It only made the left cloud part, but then they can ask a Khanmigo, what's going on? Why is only the left cloud moving? And it understands the code. It knows all the context of what the student is doing, and it understands that those ellipses are there to draw clouds, which I think is kind of mind-blowing. And it says, to make the right cloud part as well, try adding a line of code inside the draw function that increments the right x variable by one pixel in each frame. Now, this one is maybe even more amazing because we have a lot of math teachers. We've all been trying to teach the world to code, but there aren't a lot of computing teachers out there. And what you just saw, even when I'm tutoring my kids, when they're learning to code, I can't help them this well, this fast. This is really going to be a super tutor.

しかも、数学だけではありません。これはKhan Academyのコンピュータプログラミングの練習で、生徒は雲の部分を作る必要があります。生徒が変数、left x minus minusを定義し始めたのがわかります。しかし、カーンミーゴに、「どうなっているんですか？なぜ左の雲だけが動いているのですか？と聞けば、カーンミーゴはそのコードを理解します。生徒がやっていることの文脈をすべて理解し、楕円は雲を描くためにあるのだと理解していますし、これはちょっと驚きです。そして、「右の雲の部分を作るには、draw関数の中に、各フレームで右のx変数を1ピクセルずつ増加させるコードを追加してみてください」と書いてあります。さて、これはもっとすごいことなのですが、私たちには数学の先生がたくさんいます。私たちは皆、世界にコードを教えようとしていますが、コンピューティングの教師はあまり多くありません。今見ていただいたように、私が子供たちの家庭教師をしているときでさえ、子供たちがコードを学ぶとき、これほどうまく、これほど速く教えることはできないのです。これは本当にスーパー家庭教師になりそうです。

Understanding the AI Super Tutor

And it's not just exercises. It understands what you're watching. It understands the context of your video. It can answer the age-old question, why do I need to learn this? And it asks socratically, well, what do you care about? And let's say the student says, I want to be a professional athlete. And it says, well, learning about the size of cells, which is what this video is about, that could be really useful for understanding nutrition and how your body works, et cetera. It can answer questions. It can quiz you. It can connect it to other ideas. You can now ask as many questions of a video as you could ever dream of.

しかも、ただのエクササイズではありません。あなたが見ているものを理解することができます。映像の背景を理解します。なぜこれを学ぶ必要があるのか、という古くからの問いに答えることができます。という古くからの疑問に答えることができます。そして、「あなたは何に興味があるのですか？例えば、生徒が「プロのアスリートになりたい」と言ったとしましょう。このビデオでは、細胞の大きさについて学んでいますが、これは栄養学や体の仕組みなどを理解するのにとても役に立つでしょう。質問に答えることができる。クイズにすることもできます。他のアイデアにつなげることもできます。ビデオに対して、思いつく限りの質問を投げかけることができるのです。

Providing Guidance and Coaching

So, another big shortage out there, I remember the high school I went to, the student-to-guidance counselor ratio was about 200 or 300 to 1. In a lot of the country, it's worse than that. We can use Khanmigo to give every student a guidance counselor, academic coach, career coach, life coach, which is exactly what you see right over here. And this is all, you know, we launched this with the GPT-4 launch. We have a few thousand people on this. This isn't a fake demo. This is really it in action.

私が通っていた高校では、生徒とガイダンスカウンセラーの比率が200～300対1だったのを覚えています。Khanmigoを使えば、すべての生徒にガイダンスカウンセラー、アカデミックコーチ、キャリアコーチ、ライフコーチをつけることができます。これはすべて、GPT-4のローンチ時に開始したものです。数千人が利用しています。これは偽のデモではありません。これは偽のデモではなく、本当に動いているのです。

Learning Literature and History

And then there's, you know, things that I think it would have been even harder, it would have been a little science fiction to do with even a traditional tutor. There's a student, we run an online high school with Arizona State University called Khan World School, and we have a student who attends that online school based in India, her name is Sanvi, and she was doing a report on "The Great Gatsby". And when she was reading the Great Gatsby, Jay Gatsby keeps looking at the green light off into the distance. And she's like, well, "why does he do that?"" She did some web searches, and people have obviously studied this and commented about the symbolism of that, but none of it was really resonating with her. And then she realized that she had Khanmigo and that she could talk to Jay Gatsby himself.

そして、従来の家庭教師ではもっと難しく、ちょっとしたSFのようだったと思うようなこともあります。アリゾナ州立大学と共同でカーン・ワールド・スクールというオンライン高校を運営しているのですが、そのオンラインスクールに通っているインド在住の生徒がいます。彼女は『グレート・ギャツビー』を読んでいて、ジェイ・ギャツビーが遠くの緑の光をずっと見ているんです。ウェブで検索してみると、明らかにその象徴について研究し、コメントしている人がいましたが、どれも彼女の心に響くものではありませんでした。そして、カーンミーゴがあれば、ジェイ・ギャツビー本人と話すことができることに気づいたのです。

Debating and Developing Arguments

And so, ah, splendid choice, old sport, I am now Jay Gatsby, the enigmatic millionaire from F. Scott Fitzgerald's Classic. And so "why do you keep staring at the green light?" "Ah, the green light, old sport, it's a symbol of my dreams and desires, you see. It's situated at the end of Daisy Buchanan's dock, across the bay from my mansion. I gaze at it longingly as it represents my yearning for the past and my hope to reunite with Daisy, the love of my life." And what was cool is, Sanvi said, I had this long conversation, she called him Mr. Gatsby, and at the end she actually apologized for taking his time, which I thought was very polite of her. But you can imagine, this unlocks learning literature, learning, you can talk to historical figures, we're even probably going to add an activity, you can talk to, like, the Mississippi River. It brings things to life in ways that really were science fiction even six months or a year ago. Students can get into debates with the AI. And we've got, here's the students debating whether we should cancel student debt, the student is against cancelling student debt, and we've gotten very clear feedback, we started running it at Khan World School, in our lab school, that we have, Khan Lab School. The students, the high school students especially, they're saying, this is amazing to be able to fine-tune my arguments without fearing judgment, it makes me that much more confident to kind of go into the classroom and really participate. And we all know that Socratic dialogue debate is a great way to learn, but frankly, it's not out there for most students, but now it can be accessible to, hopefully, everyone.

それで、ああ、素晴らしい選択だ、オールドスポーツ。私は今、F・スコット・フィッツジェラルドの古典に登場する謎めいた大富豪、ジェイ・ギャツビーになった。それで、「なぜ、緑の光を見つめ続けるのか」。"緑の光 "は、私の夢と欲望の象徴なんだ。私の屋敷から湾を隔てたデイジー・ブキャナンのドックの端にあるんだ。過去への憧れと、最愛の人デイジーとの再会を象徴するものとして、私はそれを長く見つめている。そして、クールだったのは、サンヴィが言った、私はこの長い会話をした、彼女は彼をミスター・ギャツビーと呼んだ、そして最後に彼女は実際に彼の時間を奪ったことを謝った、私は彼女が非常に礼儀正しいと思った。歴史上の人物に話しかけることもできますし、ミシシッピ川に話しかけるというアクティビティも追加する予定です。半年前、1年前でもSFだったような方法で、物事に命を吹き込むことができるのです。学生たちは、AIとディベートをすることもできます。カーン・ワールド・スクールやカーン・ラボ・スクールで運用を開始したところ、非常に明確なフィードバックを得ることができました。生徒たち、特に高校生は、「判断を恐れることなく自分の主張を微調整できるなんて素晴らしい！教室に入って本当に参加できる自信がついた」と言っています。ソクラテス・ダイアローグ・ディベートが素晴らしい学習方法であることは周知の事実ですが、正直なところ、ほとんどの生徒にとって利用できるものではありません。

Collaborative Writing with AI

A lot of the narrative, we saw that in the headlines, has been, it's going to do the writing for kids, kids are not going to learn to write, but we are showing that there's ways that the AI doesn't write for you, it writes with you. So this is a little thing, and my eight-year-old is addicted to this, and he's not a kid that really liked writing before, but where, you know, you could say, I want to write a horror story, and it says, ooh, a horror story, how spine-tingling and thrilling. Let's dive into the world of eerie shadows and chilling mysteries. And this is an activity where the student will write two sentences, and then the AI will write two sentences. And so they collaborate together on a story, the students write, "Beatrice was a misunderstood ghost, she wanted to make friends but kept scaring them by accident", and the AI says, "poor Beatrice, a lonely spirit yearning for companionship, one day she stumbled upon an old abandoned mansion", etc., etc. I encourage you all to, you know, hopefully one day try this, this is surprisingly fun.

しかし、私たちは、AIがあなたのために書くのではなく、あなたと一緒に書く方法があることを示しました。これはちょっとしたことですが、私の8歳の子供はこれにハマっています。彼は以前から文章を書くのが好きな子供ではありませんでしたが、「ホラー小説を書きたい」と言うと、「おお、ホラー小説か。不気味な影やゾッとするような謎の世界に飛び込んでみましょう。そしてこれは、生徒が2つの文章を書き、次にAIが2つの文章を書くという活動です。生徒が「ベアトリスは誤解された幽霊で、友達を作りたかったが、偶然怖がらせてしまった」と書くと、AIは「哀れなベアトリスは、仲間を求める孤独な霊で、ある日古い廃屋に偶然出会った」と言う、といった具合に、共同で物語を作るのです。皆さんもぜひ、できればいつかやってみてください、これ、意外と楽しいですよ。

Prototype for Enhancing English and Language Arts

Now, to even more directly hit this use case, and what I'm about to show you, everything I showed you so far is actually already part of Khanmigo. What I'm about to show you we haven't shown to anyone yet, this is a prototype, we hope to be able to launch it in the next few months, but this is to directly use AI, use generative AI, to not undermine English and language arts, but to actually enhance it in ways that we couldn't have even conceived of even a year ago.

さて、このユースケースをさらに直接的に実現するために、これからお見せするのは、これまでお見せしたものはすべて、実はすでにKhanmigoの一部なのです。これからお見せするものは、まだ誰にも見せていません。これはプロトタイプで、今後数ヶ月のうちに発売できると思います。しかし、これはAI、生成AIを直接使うことで、英語や語学を弱めるのではなく、1年前には考えられなかったような方法で、実際に強化するものです。

Reading Comprehension and AI-driven Questions

This is reading comprehension, the student's reading Steve Jobs' famous speech at Stanford, and then as they get to certain points, they can click on that little question, and the AI will then, socratically, almost like an oral exam, ask the student about things, and the AI can highlight parts of the passage. Why did the author use that word? What was their intent? Does it back up their argument? They can start to do stuff that, once again, we never had the capability to give everyone a tutor, everyone a writing coach, to actually dig in to reading at this level.

これは読解です。生徒がスティーブ・ジョブズのスタンフォードでの有名なスピーチを読んでいます。ある地点で小さな質問をクリックすると、AIが、まるで口頭試問のように、生徒にいろいろ聞いてきます。著者はなぜその言葉を使ったのか？その意図は何なのか？それは彼らの主張を裏付けているのか？このようなことができるようになるのです。繰り返しますが、私たちには、すべての人に家庭教師や作文コーチをつけて、このレベルの読解を実際に掘り下げる能力はありません。

AI Writing Coach and Feedback

And you could go on the other side of it, we have a whole workflow that helps them write, helps them be a writing coach, draw an outline, but once a student actually constructs a draft, and this is where they're constructing a draft, they can ask for feedback, once again, as you would expect from a good writing coach. In this case, the student will say, let's say, does my evidence support my claim? And then the AI not only is able to give feedback, but it's able to highlight certain parts of the passage, and says, you know, on this passage, this doesn't quite support your claim, but once again, socratically, says, can you tell us why? So it's not only fooling the student, it's making them a better writer, giving them far more feedback than they've ever been able to actually get before, and we think this is going to dramatically accelerate writing, not hurt it.

しかし、学生が実際に草稿を作成すると、ここで草稿を作成するのですが、その際、優れたライティングコーチに期待されるように、フィードバックを求めることができます。この場合、生徒が言うのは、例えば、「私の根拠は私の主張を支持しているか」ということです。そして、AIはフィードバックを与えるだけでなく、パッセージのある部分を強調して、このパッセージはあなたの主張を全くサポートしていない、しかしもう一度、聖職者のように、その理由を教えてくださいと言うことができるのです。このように、生徒を騙すだけでなく、生徒をより良い作家にし、これまで実際に得ることができなかったフィードバックを与えることで、書くことを妨げることなく、劇的に加速させることができると考えています。

AI for Teachers: Personalized Education and Saving Time

Now, everything I've talked about so far is for the student, but we think this could be equally as powerful for the teacher to drive more personalized education, and frankly, save time and energy for themselves and for their students. So this is an American history exercise on Khan Academy, a question about the Spanish-American War, and at first it's in student mode, and if you say, tell me the answer, it's not going to tell the answer, it's going to go into tutoring mode.

ここまでの話はすべて生徒のためのものですが、私たちは、教師がよりパーソナライズされた教育を推進し、率直に言って、自分自身と生徒のための時間とエネルギーを節約するためにも、これは同じように強力なものになると考えています。これはカーンアカデミーのアメリカ史の演習で、米西戦争に関する問題です。最初は学生モードで、「答えを教えて」と言っても、答えを教えてくれるわけではなく、個別指導モードになります。

Teacher Mode: Lesson Planning and Grading Assistance

But that little toggle, which teachers have access to, they can turn student mode off, and then it goes into teacher mode, and what this does is, it turns into, you could view it as a teacher's guide on steroids. Not only can it explain the answer, it can explain how you might want to teach it. It can help prepare the teacher for that material. It can help them create lesson plans, as you can see it doing right there. It will eventually help them create progress reports, it will help them eventually grade. So once again, teachers spend about half their time with this type of activity, lesson planning, all of that energy can go back to them, or go back to human interactions with their actual students.

しかし、教師がアクセスできる小さなトグルは、学生モードをオフにして、教師モードにすることができます。答えを説明するだけでなく、どのように教えたらよいかを説明することができます。教師がその教材に対して準備するのに役立ちます。このように、レッスンプランを作成するのにも役立ちます。最終的には、進捗報告書の作成にも役立ち、採点にも役立ちます。つまり、教師はこのような活動、授業計画に約半分の時間を費やしていますが、そのエネルギーはすべて、実際の生徒との人間的な交流に還元することができるのです。

The Power of Large Language Models

So, you know, one point I want to make, these large language models are so powerful, there's a temptation to say, like, well, all these people are just going to slap them onto their websites, and it kind of turns the applications themselves into commodities. And what I've got to tell you is, I kind of thought that, that's one of the reasons why I didn't sleep for two weeks when I first had access to GPT-4 back in August. But we quickly realized that to actually make it magical, I think what you saw with Khanmigo a little bit, it didn't interact with you the way that you see ChatGPT interacting, it was a little bit more magical, it was more Socratic, it was clearly much better at math than what most people are used to thinking.

このような大規模な言語モデルは非常に強力であるため、多くの人がこれを自分のウェブサイトに貼り付けて、アプリケーションそのものを商品化してしまおうという誘惑に駆られることがあります。8月に初めてGPT-4にアクセスしたとき、2週間眠れなかったのもそのためです。しかし、実際に魔法をかけるには、Khanmigoで見たように、ChatGPTで見たようなやり取りをするのではなく、もう少し魔法的で、ソクラテス的で、多くの人が考えるよりも明らかに数学に優れていることにすぐに気がつきました。

The Importance of AI Thinking Before Speaking

And the reason is, there was a lot of work behind the scenes to make that happen. And I could go through the whole list of everything we've been working on, many, many people, for over six, seven months, to make it feel magical. But perhaps the most intellectually interesting one is we realized, and this was an idea from an open AI researcher, that we could dramatically improve its ability in math and its ability in tutoring if we allowed the AI to think before it speaks. So if you're tutoring someone and you immediately just start talking before you assess their math, you might not get it right. But if you construct thoughts for yourself, and what you see on the right there is an actual AI thought, something that it generates for itself, but it does not share with the student, then its accuracy went up dramatically, and its ability to be a world-class tutor went up dramatically. And you can see it's talking to itself here. It says, the student got a different answer than I did, but do not tell them they made a mistake. Instead, ask them to explain how they got to that step.

その理由は、それを実現するために、舞台裏でたくさんの仕事があったからです。そして、魔法のように感じられるようにするために、6、7ヶ月以上にわたって、多くの、多くの人たちが取り組んできたことを、すべて列挙することができます。しかし、おそらく最も知的好奇心をそそるのは、オープンなAI研究者のアイデアですが、AIが話す前に考えるようにすれば、数学の能力や家庭教師の能力を劇的に向上させることができることに気づいたことです。つまり、もしあなたが誰かの家庭教師をしていて、その人の数学を評価する前にすぐに話し始めたら、正しく理解できないかもしれません。しかし、自分のために思考を構築し、右側に見えるのは実際のAIの思考で、自分自身のために生成したものですが、生徒とは共有しません。ここでAIが自分自身と会話しているのがわかります。生徒が私と違う答えを出したが、間違えたとは言ってはいけない。その代わりに、どうしてそのステップに至ったのかを説明するよう求めます。

Addressing the Two-Sigma Problem

So I'll just finish off. Hopefully, what I've just shown you is just half of what we are working on, and we think this is just the very tip of the iceberg of where this can actually go. And I'm pretty convinced, which I wouldn't have been even a year ago, that we together have a chance of addressing the two-sigma problem and turning it into a two-sigma opportunity, dramatically accelerating education as we know it.

では、最後に一言。願わくば、今お見せしたものは、私たちが取り組んでいることのほんの半分に過ぎず、これは、この先の展開の氷山の一角に過ぎないと考えています。そして、1年前には考えられなかったことですが、私たちは一緒にツーシグマの問題に取り組み、それをツーシグマのチャンスに変えて、私たちが知っている教育を劇的に加速させるチャンスがある、と確信しているのです。

AI's Potential Impact: Optimism vs. Pessimism

Now, just to take a step back at a meta level, obviously, we heard a lot today, the debates on either side. There's folks who take a more pessimistic view of AI. They say, this is scary. There's all these dystopian scenarios. We maybe want to slow down. We want to pause. On the other side, there are the more optimistic folks who say, well, we've gone through inflection points before. We've gone through the Industrial Revolution. It was scary, but it all kind of worked out.

さて、メタ的な話になりますが、今日、私たちは、どちらの立場からの議論もたくさん聞きました。AIをもっと悲観的にとらえる人たちもいます。これは怖い」と言うのです。ディストピアのようなシナリオがある。私たちはスピードを落としたいのです。一時停止したいものです。一方、楽観的な人たちもいて、「私たちは以前にも変曲点を通過してきた。産業革命は経験済みです。恐ろしかったが、すべてうまくいった。

The Importance of Active Participation

And what I'd argue right now is I don't think this is like a flip of a coin, or this is something where we'll just have to wait and see which way it turns out. I think everyone here and beyond, we are active participants in this decision. I'm pretty convinced that the first line of reasoning is actually almost a self-fulfilling prophecy, that if we act with fear and if we say, hey, we just got to stop doing this stuff, what's really going to happen is the rule followers might pause, might slow down, but the rule breakers, as Alexander mentioned, the totalitarian governments, the criminal organizations, they're only going to accelerate. And that leads to what I am pretty convinced is the dystopian state, which is the good actors have worse AIs than the bad actors.

そして、今、私が主張したいのは、これはコインの裏表のようなものでも、どちらに転ぶかわからないものでもない、ということです。ここにいる皆さんはもちろん、それ以外の皆さんも、この決断に積極的に参加しているのだと思うのです。もし私たちが恐怖を感じて行動し、「こんなことはやめよう」と言えば、実際に起こることは、ルールを守る人たちは一時停止し、スピードを落とすかもしれませんが、ルールを破る人たち、アレクサンダーが言ったように、全体主義の政府や犯罪組織は、加速する一方なのです。そして、ディストピア的な状態になるのです。善玉は悪玉よりも悪いAIを持つということです。

Fighting for Positive Use Cases

But I'll also talk to the optimist a little bit. I don't think that means that, oh, yeah, then we should just relax and just hope for the best. That might not happen either. I think all of us together have to fight like hell to make sure that we put the guardrails, we put in, when the problems arise, reasonable regulations, but we fight like hell for the positive use cases. Because very close to my heart, and obviously there's many potential positive use cases, but perhaps the most powerful use case, and perhaps the most poetic use case, is if AI, artificial intelligence, can be used to enhance HI, human intelligence, human potential, and human purpose. Thank you.

でも、楽観主義者にも少し話をします。それは、ああ、そうか、それならリラックスして、ただベストを望めばいいということではないと思うんです。それも叶わないかもしれない。私たち全員が、ガードレールを設置し、問題が発生したときには合理的な規制を設け、ポジティブなユースケースのために必死に戦わなければならないと思っています。というのも、私の心に非常に近いところに、明らかに多くのポジティブな使用例があるのですが、おそらく最も強力な使用例、そしておそらく最も詩的な使用例は、AI、人工知能がHI、人間の知能、人間の可能性、人間の目的を高めるために使用されることです。ありがとうございました。