機械学習入門：ChatGPTのコア技術「GPT」を理解する。直感的に分かりやすいyoutube 解説！（第２回/全3回）

機械学習入門：ChatGPTのコア技術「GPT」を理解する。直感的に分かりやすいyoutube 解説！（第２回/全3回）

元NTT基礎研究所AI研究者&サッカー理論に基づくAI（旧IT）人材育成法提案者
岡田康義です。いつもご愛読ありがとうございます。

機械学習入門：ChatGPTのコア技術「GPT」を理解する。youtubeの直感的に分かりやすい解説です。動画時間が長いので、3回に分けて記載しますが、本日第2回目です。出来るだけ、難しい専門用語は最低限にして説明しています。

動画では、まず初期の chat GPTでの取り組みについで紹介し、課題が発生したので、課題を解決しようとしています。その部分を一般の方向けに解説しています。

★初期の処理と課題は、第1回でご説明しました。今回は第2回目です。

〈 chat GPT処理手順〉
エンコード（質問入力あとの処理）
デコード（回答するための出力）
があり、その間にコンピュータ内での
処理が入りますが、事前に学習を行っており、単語ごとに、次の関連して出現確率の高い物を導出し、導出した単語を付加して、次の単語を出力していくことを繰り返していくという手順です。
〈課題〉逐次処理すると学習させることや処理に膨大な時間がかかるという問題が生じました。

★課題の解決方法の考え方
⓵逐次処理していると時間がかかるので、　
一気に文章の単語を逐次処理するのではなくて並列処理する。
⓶並列処理しようすると本来文章入力の時の語順がバラバラになるので、本来どこの順番にあった情報もコンピュータ内で処理できるベクトル情報として入力して、デコード（回答するための出力）時に必ず参照する。
⓷ ⓶の時には、Attentionメカニズムも同時に考える、これは、アテンションメカニズム　
は、単語の意味や文脈を理解するための仕組みです。例えば、文章の中で「犬」という言単語が出てきたとき、アテンションはその「犬」という言葉に注目することで、
処理を効率化できるようになりました。

★⓵から⓷をみると並列処理とAttentionメカニズムがキーのようですね。次回第3回目最終回にもう少し詳しく説明します。

https://youtu.be/mMFv3nVCLg8

★chat GPT利用でお困りのかたは、本投稿への岡田康義への返信でお問い合わせください。

p.s.
2023.3.１日
⓵電子割符を世界へ普及する会発足、
パスワード忘れに悩んでいる方歓迎！
会員募集中。
⓶東京 AIクラブでは AI技術を身につけて、
副業や AI技術者として、高単価な仕事をしたい人を支援しています。【入会希望の方は岡田康義までお尋ねください】
#岡田康義AI オンラインサロン開設
チャットでchat GPTなどの使い方の方法についてお答えします。
#電子割符を世界へ普及する会
以下のファミリークラブにもAIプロンプトエンジニア育成コース設置しました。
#東京AIクラブ （旧東京ITクラブ）
#神奈川AIクラブ （旧神奈川ITクラブ）
#名古屋AIクラブ （旧名古屋ITクラブ）
#ぐんまAIクラブ （旧ぐんまITクラブ）
#JapanI AIクラブ（旧#JapanITクラブ）