AI：初期衝動に突き動かされて
今日は朝6時に起きてCourseraの機械学習コースを2時間やった。
Andrew Ng先生の噛んで含めるような講義を聴いても、文系だった私は勾配降下法を理解するのにずいぶん苦労している。
先日の連休は簡単なAIのウェブアプリを作り、Courseraの生成AIと大規模言語モデルのコースを終えるのに三日で17時間以上勉強した。
私はジミ・ヘンドリックスの言葉を思い出す。
I practice a guitar for ten hours, and even if i think I exerted myself, it’s being practiced for eleven hours any who you are. Such one.
自分が一日10時間練習してもどこかの誰かは11時間やっている。そういうものさ。
——もっともっとAIを勉強しよう。
✴︎✴︎✴︎
2017年に論文Attention is all you needが発表されて以降、Transformerをベースにした大規模言語モデル（LLM）は着実に進化を遂げている。
エンコーダーだけを使用したもの、デコーダーだけを使用したもの、両方を使ったもの。様々なタイプ、様々な規模のLLMが次々に登場してきた。
昨年の11月にOpenAIがChatGPTをリリースすると、ブラウザでチャット形式という親しみやすいインターフェイスが一部で注目を集めた。使ってみた人は出力される回答の精度の高さに驚いた。
2023年が始まり、ChatGPTはエンジニアやAI研究者でない一般の人の注目をぼちぼちと集め始める。私もその一人だ。ChatGPTについての日本語の情報はほとんどなかったから自分で実際に色んなプロンプトを試してみるしかない。
どうせなら一人でやるより色んな人が結果をシェアした方が良いと思い、電車の中でスマホから某サイトにChatGPTのコミュニティを立ち上げた。1月の終わり頃だった。
ChatGPTのおかしな回答をシェアしたり、回文を作らせて失敗したりするのを楽しむたわいもないコミュニティだったがみるみる登録者の数が増えてあっという間に1000人を超えた。
3月14日、OpenAIのGPT-4の発表はまるでお祭りだった。デモの動画を見ながら劇的に上がったクオリティやマルチモーダルの魔法のような機能にだれもが驚きを覚えた。
何かが始まっている。
そんな予感をだれもが感じただろう。
✴︎✴︎✴︎
いま、7月。メディアでAIという文字を見ない日はない。たった半年ですっかり状況が変わった。ChatGPTのプラグイン数はあっという間に600を超え、最初は数えるほどしかなかったFuturepediaに登録されているAIツールの数は4000を超えている。まるでカンブリア大爆発のようだ。
LLMだけでなく、画像、動画、3Dとあらゆる生成AIが目まぐるしい進歩を遂げている。日々届けられるAI関連のニュースは止まることを知らない。
この渦中にあって初期衝動を抱いた人たちがいる。新しいものを始める時の独特の興奮、自分も何かを作らなければならない——作りたいという切迫した思いに突き動かされるアマチュアビルダーたちだ。
✴︎✴︎✴︎
ロック名盤のいくつかはバンドのデビューアルバムだ。
1967年のザ・ジミ・ヘンドリックス・エクスペリエンスの「Are You Experienced?」、1989年にインディーズレーベルから発売されたニルヴァーナの「Bleach」。それらのアルバムにはバンドの初期衝動が詰まっていると言われている。
音楽を作り出すという純度の高いモチベーションがそこにはある。
✴︎✴︎✴︎
私はこの数ヶ月毎日独学でPythonを学んでいる。JavaScript、HTML、CSSも。
GLIDEやStreamlitクラウドを使っていくつかウェブアプリも作ってみた。性格を与えたチャットボットや、OpenAI APIを叩いておすすめの映画作品を返させるようなどこにでもあるアプリだ。
それでもどうしても自分で作ってみたかった。
似たようなアプリを見るたびに他の人に自分と同じ初期衝動を感じる。彼らも作らずにはいられないのだろう。
もっと色んなことを覚えて、LLMをファインチューニングしたり、PEFTを試したり、自分の好きな分野のベクターデータベースを追加したり、LangChainで連続的にプロンプトを動かしたりしたい。
彼らも同じだろうか？
✴︎✴︎✴︎
ほとんどのバンドが消えていくように、多くのアマチュアビルダーの初期衝動は現実的な実を結ばないだろう。
ビジネスでもないし、誰かに頼まれたわけでもない。ただ勝手にやってるだけだ。ウェブアプリたちはネットの海の中で埋もれていく。
それでもかまわない。
一生の中で突き動かされるような思いに出会えることはそう何度もないからだ。2023年に生きていることの幸運を噛み締めて、このまま衝動に身を任せて行こう。
100% written by human