374 チャット GPTのOpenAIのサムアルトマンCEOのインタビュー記事を翻訳しました。
OpenAI CEO Sam Altman says AI will reshape society, acknowledges risks: 'A little bit scared of this'
"This will be the greatest technology humanity has yet developed," he said.
ByVictor Ordonez , Taylor Dunn, and Eric Noll
March 17, 2023, 6:55 AM
このオープン記事のAIを使った翻訳です。
ChatGPTを開発した会社のCEOは、人工知能技術が私たちが知っている社会を再構築すると考えています。彼は、人工知能には現実的な危険が伴うが、私たちの生活を劇的に向上させる「人類がこれまでに開発した最も偉大な技術」になる可能性もあると信じている。
OpenAIのCEOであるSam Altmanは、「ここでは注意しなければならない」と述べています。"私たちがこのことに少し怯えていることを、人々は喜ぶべきだと思います"
アルトマンは、ABCニュースのビジネス・テクノロジー・経済担当主任記者レベッカ・ジャービスの独占インタビューに応じ、GPT-4--AI言語モデルの最新イテレーションの展開について語った。
もっと見る OpenAIがGPT-4をリリース、チャットボットが以前のバージョンより大幅に賢くなったと主張
アルトマンはインタビューの中で、OpenAIはChatGPTの展開に規制当局と社会の両方が可能な限り関与する必要があると強調し、フィードバックがこの技術が人類にもたらす可能性のある悪影響を抑止するのに役立つと主張しています。また、政府関係者とは「定期的に連絡を取っている」とも述べています。
ChatGPTはAIの言語モデルで、GPTはGenerative Pre-trained Transformerの略です。
わずか数カ月前にリリースされたばかりだが、すでに史上最も急成長した消費者向けアプリケーションとされている。このアプリは、わずか数カ月で月間アクティブユーザー数1億人を達成しました。これに対し、UBSの調査によると、TikTokはそれだけのユーザーを獲得するのに9カ月、Instagramは3年近くかかったという。
サム・アルトマンの独占インタビューは、ABCの「World News Tonight with David Muir」で午後6時30分（東部標準時）からご覧ください。
Altmanは「完璧ではない」としながらも、GPT-4は統一司法試験で90パーセントのスコアを獲得しました。また、SATの数学のテストではほぼ満点で、ほとんどのプログラミング言語でコンピュータコードを書くことができるようになりました。
GPT-4は、最終的に人工知能（Artificial General Intelligence）を構築するというOpenAIの目標に向けた一歩に過ぎません。これは、AIが人間よりも一般的に賢いAIシステムとして表現される強力な閾値を超えるときです。
アルトマンは、自社製品の成功を喜びつつも、AIが危険な実装をする可能性があることを認め、夜も眠れないという。
PHOTO： OpenAI CEOのSam AltmanがABC Newsのビジネス・テクノロジー・経済主任特派員Rebecca Jarvisと話す（2023年3月15日）。
OpenAI CEO Sam Altman speaks ABC News' chief business, technology & economics correspondent Rebecca Jarvis, Mar. 15, 2023.
ABCニュース
"私は、これらのモデルが大規模な偽情報に使用されることを特に心配しています。"とAltmanは述べています。"今、彼らはコンピュータコードを書くのが上手になっているので、（彼らは）攻撃的なサイバー攻撃に使用される可能性があります。"
アルトマンが共有しない、一般的なSFの恐怖： 人間を必要とせず、自分で判断し、世界征服を企てるAIモデルです。
"誰かがインプットしてくれるのを待つのです。"とAltmanは言います。"これは、非常に人間がコントロールしやすいツールです。"
しかし、彼は、どのような人間がコントロールすることができるかを恐れているという。"私たちがかけた安全制限をかけない人間が他にも出てくるだろう "と彼は付け加えた。"社会は、それにどう対応するか、どう規制するか、どう対処するかを考える時間は限られていると思います。"
ウラジーミル・プーチン大統領は、2017年の学校初日にロシアの学生に、AIレースをリードする者はおそらく "世界を支配する "と語ったと引用されています。
もっと見る 流行した人工知能のテキストボット「ChatGPT」とは？
"だから、それは確かに冷ややかな発言だ。"とアルトマンは言った。"代わりに私が望むのは、私たち全員がさまざまな方法で使用できる、より強力なシステムを次々と開発し、それを日常生活や経済に統合し、人間の意志を増幅する存在になることです。"
・誤報に対する懸念
OpenAIによると、GPT-4は、画像を入力として理解する能力を含め、以前の反復から大規模な改良を加えています。デモでは、GTP-4が誰かの冷蔵庫の中身を説明したり、パズルを解いたり、インターネットのミームに隠された意味を表現したりする様子も見せています。
この機能は現在、ベータテストに参加している視覚障害者のグループを含む、一部のユーザーしか利用できません。
しかし、ChatGPTのようなAI言語モデルの一貫した問題は、誤った情報であるとAltmanは言います： このプログラムは、事実上不正確な情報をユーザーに与えてしまう可能性があるのです。
"私が最も注意しようとするのは、「幻覚問題」と呼ばれるものです。"とアルトマンは言います。
"モデルは、自信満々に、あたかも全くの作り話であるかのように物事を述べます。"
OpenAIによれば、このモデルがこの問題を抱えるのは、暗記ではなく演繹的な推論を用いるためでもある。
"GPT-3.5からGPT-4で見られた最大の違いの1つは、より良い推論をするためのこの創発的な能力でした。" OpenAIの最高技術責任者のMira Muratiは、ABC Newsに語りました。
「目標は、次の単語を予測することであり、それによって、言語を理解することができることがわかりました」と、Murati氏は言います。"私たちは、これらのモデルが、私たちと同じように、より世界を見て、理解することを望んでいます。"
"私たちが作るモデルを考える正しい方法は、事実データベースではなく、推論エンジンです。"とアルトマンは言いました。"彼らはまた、事実データベースとして動作することができますが、それは本当にそれらの特別なものではありません - 私たちは彼らがしたいことは、暗記するのではなく、推論する能力に近いものです。"
もっと見る グーグルがヘルスケアAIを拡張する際に知っておくべきことは以下の通りです。
アルトマンと彼のチームは、「このモデルが時間とともにこの推論エンジンになり、最終的にはインターネットと自身の演繹的推論を利用して事実と虚構を分けることができるようになる」ことを望んでいる、と彼は言う。OpenAIによると、GPT-4は以前のバージョンよりも正確な情報を生成する可能性が40％高くなったという。それでもアルトマンは、正確な情報を得るための主要な情報源としてこのシステムに頼ることは「使ってはいけないことだ」と述べ、プログラムの結果をダブルチェックするようユーザーに勧めています。
悪質なアクターに対する予防策
ChatGPTをはじめとするAIの言語モデルが、どのような情報を含んでいるのかも気になる点です。例えば、ChatGPTがユーザーに爆弾の作り方を教えることができるかどうか。アルトマンは、ChatGPTには安全対策が施されているため、答えは「ノー」であるとしています。
「心配なのは......この技術を作ったのは我々だけではない、ということです」とAltmanは言う。"私たちが設定したような安全制限を設けない人が他にも出てくるでしょう"
Altmanによれば、AIによるこれらの潜在的な危険のすべてに対して、いくつかの解決策と安全策がある。そのうちの1つです： ChatGPTは、低い賭け金のうちに社会におもちゃとして提供し、人々がどのように使うかから学ぶことができます。
現在、ChatGPTが一般公開されているのは、主に「多くのフィードバックを集めている」ためだと、ムラティは言います。
MORE： あなたの仕事にもAIがやってくる？
OpenAIのアプリケーションを一般ユーザーがテストし続けることで、安全対策が必要な箇所を特定することが容易になるとムラティは言います。
「人々は何に使っているのか、それだけでなく、何が問題なのか、何が欠点なのか、そして技術に踏み込んで（改善して）いくことができるようになります」とムラティは言います。アルトマンは、ChatGPTの各バージョンに一般の人々が触れられることが重要だと言います。
「もし私たちが、この小さな研究室で秘密裏に開発し、GPT-7を作り、それを一気に世に送り出すとしたら...。それは、もっと大きなマイナス面がある状況だと思います」とAltmanは言います。「人々は、この技術に慣れるために、更新し、反応し、デメリットがどこにあるのか、何を軽減できるのかを理解する時間が必要です。
違法または道徳的に好ましくないコンテンツについては、OpenAIの政策立案者のチームが、ChatGPTに入る情報、ChatGPTがユーザーと共有することを許可する情報を決定しているとAltmanは述べています。
「私たちは、様々な政策や安全の専門家と話し、システムの監査を受け、これらの問題に対処し、安全で良いと思われるものを提供しようとしています。"また、我々は最初から完璧なものを得ることはできませんが、賭け金が比較的低いうちに教訓を学び、エッジを見つけることがとても重要です。"
AIは雇用を代替するのか？
この技術の破壊的な能力の懸念の中に、仕事の置き換えがあります。Altman氏は、近い将来、これが一部の仕事に取って代わる可能性が高いとし、それがどれほど早く起こるかを心配しています。
"数世代にわたって、人類は大きな技術シフトに素晴らしく適応できることを証明してきたと思います。"とAltmanは言います。「しかし、もしこれが1桁の年数で起こるとしたら、これらのシフトのいくつかは...。それが一番心配なところです"。
しかし彼は、ChatGPTを代替品としてではなく、もっとツールとして見ることを勧めています。
また、「人間の創造性は無限であり、私たちは新しい仕事を見つけることができます。新しい仕事を見つけることができるのです。"
ChatGPTを人類のためのツールとして活用する方法は、リスクを上回るものだとAltmanは言います。
「私たちは皆、自分用にカスタマイズされた、学習に役立つ素晴らしい教育者をポケットに忍ばせることができるのです。"私たちは、今日得られるものを超えた医療アドバイスを皆に与えることができます。"
・ChatGPTを「副操縦士」に
教育現場では、ChatGPTを利用して課題をカンニングする生徒がいるとして、物議を醸しています。教育関係者は、これを自分の延長として使えるのか、それとも生徒の自ら学ぼうとする意欲を削いでしまうのか、意見が分かれています。
・ChatGPTを使用した5年生の授業の内部を見る
アルトマンは、「教育は変わらなければならないが、それはテクノロジーによって他の何度も起こったことだ」と述べ、生徒が教室を超えた教師のような存在を持つことができるようになると付け加えました。"私が最も期待しているのは、生徒一人ひとりに個別の学習--素晴らしい個別学習--を提供できることです"。
どのような分野でも、アルトマンと彼のチームは、ユーザーにChatGPTを「副操縦士」と考えてもらい、広範囲なコンピュータコードの記述や問題解決を手助けしてくれる人物を求めています。
"あらゆる職業にそれがあれば、生活水準のような、より高いクオリティ・オブ・ライフを手に入れることができます。"とAltmanは言います。「しかし、現在では想像もつかないような新しいものを手に入れることもできるのです--それが約束です」。
The CEO behind the company that created ChatGPT believes artificial intelligence technology will reshape society as we know it. He believes it comes with real dangers, but can also be "the greatest technology humanity has yet developed" to drastically improve our lives.
"We've got to be careful here," said Sam Altman, CEO of OpenAI. "I think people should be happy that we are a little bit scared of this."
Altman sat down for an exclusive interview with ABC News' chief business, technology and economics correspondent Rebecca Jarvis to talk about the rollout of GPT-4 -- the latest iteration of the AI language model.
MORE: OpenAI releases GPT-4, claims its chatbot significantly smarter than previous versions
In his interview, Altman was emphatic that OpenAI needs both regulators and society to be as involved as possible with the rollout of ChatGPT — insisting that feedback will help deter the potential negative consequences the technology could have on humanity. He added that he is in "regular contact" with government officials.
ChatGPT is an AI language model, the GPT stands for Generative Pre-trained Transformer.
Released only a few months ago, it is already considered the fastest-growing consumer application in history. The app hit 100 million monthly active users in just a few months. In comparison, TikTok took nine months to reach that many users and Instagram took nearly three years, according to a UBS study.
Watch the exclusive interview with Sam Altman on "World News Tonight with David Muir" at 6:30 p.m. ET on ABC.
Though "not perfect," per Altman, GPT-4 scored in the 90th percentile on the Uniform Bar Exam. It also scored a near-perfect score on the SAT Math test, and it can now proficiently write computer code in most programming languages.
GPT-4 is just one step toward OpenAI's goal to eventually build Artificial General Intelligence, which is when AI crosses a powerful threshold which could be described as AI systems that are generally smarter than humans.
Though he celebrates the success of his product, Altman acknowledged the possible dangerous implementations of AI that keep him up at night.
"I'm particularly worried that these models could be used for large-scale disinformation," Altman said. "Now that they're getting better at writing computer code, [they] could be used for offensive cyberattacks."
A common sci-fi fear that Altman doesn't share: AI models that don't need humans, that make their own decisions and plot world domination.
"It waits for someone to give it an input," Altman said. "This is a tool that is very much in human control."
However, he said he does fear which humans could be in control. "There will be other people who don't put some of the safety limits that we put on," he added. "Society, I think, has a limited amount of time to figure out how to react to that, how to regulate that, how to handle it."
President Vladimir Putin is quoted telling Russian students on their first day of school in 2017 that whoever leads the AI race would likely "rule the world."
MORE: What is ChatGPT, the artificial intelligence text bot that went viral?
"So that's a chilling statement for sure," Altman said. "What I hope, instead, is that we successively develop more and more powerful systems that we can all use in different ways that integrate it into our daily lives, into the economy, and become an amplifier of human will."
Concerns about misinformation
According to OpenAI, GPT-4 has massive improvements from the previous iteration, including the ability to understand images as input. Demos show GTP-4 describing what's in someone's fridge, solving puzzles, and even articulating the meaning behind an internet meme.
This feature is currently only accessible to a small set of users, including a group of visually impaired users who are part of its beta testing.
But a consistent issue with AI language models like ChatGPT, according to Altman, is misinformation: The program can give users factually inaccurate information.
"The thing that I try to caution people the most is what we call the 'hallucinations problem,'" Altman said. "The model will confidently state things as if they were facts that are entirely made up."
The model has this issue, in part, because it uses deductive reasoning rather than memorization, according to OpenAI.
"One of the biggest differences that we saw from GPT-3.5 to GPT-4 was this emergent ability to reason better," Mira Murati, OpenAI's Chief Technology Officer, told ABC News.
"The goal is to predict the next word – and with that, we're seeing that there is this understanding of language," Murati said. "We want these models to see and understand the world more like we do."
"The right way to think of the models that we create is a reasoning engine, not a fact database," Altman said. "They can also act as a fact database, but that's not really what's special about them – what we want them to do is something closer to the ability to reason, not to memorize."
MORE: Here's what you need to know as Google expands its health care AI
Altman and his team hope "the model will become this reasoning engine over time," he said, eventually being able to use the internet and its own deductive reasoning to separate fact from fiction. GPT-4 is 40% more likely to produce accurate information than its previous version, according to OpenAI. Still, Altman said relying on the system as a primary source of accurate information "is something you should not use it for," and encourages users to double-check the program's results.
Precautions against bad actors
The type of information ChatGPT and other AI language models contain has also been a point of concern. For instance, whether or not ChatGPT could tell a user how to make a bomb. The answer is no, per Altman, because of the safety measures coded into ChatGPT.
"A thing that I do worry about is ... we're not going to be the only creator of this technology," Altman said. "There will be other people who don't put some of the safety limits that we put on it."
There are a few solutions and safeguards to all of these potential hazards with AI, per Altman. One of them: Let society toy with ChatGPT while the stakes are low, and learn from how people use it.
Right now, ChatGPT is available to the public primarily because "we're gathering a lot of feedback," according to Murati.
MORE: Is AI coming for your job?
As the public continues to test OpenAI's applications, Murati says it becomes easier to identify where safeguards are needed.
"What are people using them for, but also what are the issues with it, what are the downfalls, and being able to step in [and] make improvements to the technology," says Murati. Altman says it's important that the public gets to interact with each version of ChatGPT.
"If we just developed this in secret -- in our little lab here -- and made GPT-7 and then dropped it on the world all at once ... That, I think, is a situation with a lot more downside," Altman said. "People need time to update, to react, to get used to this technology [and] to understand where the downsides are and what the mitigations can be."
Regarding illegal or morally objectionable content, Altman said they have a team of policymakers at OpenAI who decide what information goes into ChatGPT, and what ChatGPT is allowed to share with users.
"[We're] talking to various policy and safety experts, getting audits of the system to try to address these issues and put something out that we think is safe and good," Altman added. "And again, we won't get it perfect the first time, but it's so important to learn the lessons and find the edges while the stakes are relatively low."
Will AI replace jobs?
Among the concerns of the destructive capabilities of this technology is the replacement of jobs. Altman says this will likely replace some jobs in the near future, and worries how quickly that could happen.
"I think over a couple of generations, humanity has proven that it can adapt wonderfully to major technological shifts," Altman said. "But if this happens in a single-digit number of years, some of these shifts ... That is the part I worry about the most."
But he encourages people to look at ChatGPT as more of a tool, not as a replacement. He added that "human creativity is limitless, and we find new jobs. We find new things to do."
The ways ChatGPT can be used as tools for humanity outweigh the risks, according to Altman.
"We can all have an incredible educator in our pocket that's customized for us, that helps us learn," Altman said. "We can have medical advice for everybody that is beyond what we can get today."
ChatGPT as 'co-pilot'
In education, ChatGPT has become controversial, as some students have used it to cheat on assignments. Educators are torn on whether this could be used as an extension of themselves, or if it deters students' motivation to learn for themselves.
MORE: An inside look at a 5th grade classroom using ChatGPT
"Education is going to have to change, but it's happened many other times with technology," said Altman, adding that students will be able to have a sort of teacher that goes beyond the classroom. "One of the ones that I'm most excited about is the ability to provide individual learning -- great individual learning for each student."
In any field, Altman and his team want users to think of ChatGPT as a "co-pilot," someone who could help you write extensive computer code or problem solve.
"We can have that for every profession, and we can have a much higher quality of life, like standard of living," Altman said. "But we can also have new things we can't even imagine today -- so that's the promise."
いいなと思ったら応援しよう！
