AlexNet
巷では、OpenAIのo1で盛り上がっている中、こっそり2話目のBlogを書いていこうと思う。
2012年当時を思い出しながら、あの時何を考えていたのか、Evernote(懐かしい!!)に書いてあったメモを見ながら振り返っていく。
何者なのかは、こちらをご覧下さい。
*headerの写真は、当時の渋谷と恵比寿の間にあったオフィスの写真があったので、貼ってみた
会社設立のきっかけ
どうやったら会社立ち上げられるんですか。という質問を、よく受けるのだが「登記すれば誰でも社長になれるよ」と素っ気ない回答をしている。
何故かというと、再現性もないし、参考にならないからである。
それぞれに、異なる動機があり、目的があるので、十人十色の起業のやり方があると考えている。
そして、地獄のような日々が待っており、そんな簡単に勧められるようなものでもないので、あまり話題にしないようにしている。
では私自身は、どのようなきっかけで会社立ち上げをしたのかというと、内なる情熱と無知が合わさり、自然と登記していた。
当時、情報があまりなかったので、渋谷法務局のおじちゃんに教えてもらいながら、手書きで書類を作成して申請したのは、今でも鮮明に覚えている。
内なる情熱を見つける
会社設立にあたって、この要素を極めて重要だと考えている。
理由は、熱狂できるほど好きなテーマでないと、会社運営なんてやってられないからである。
基本的には、お金がない、福利厚生もない、長時間の重労働、超低賃金、信用皆無なので銀行口座すら作れない、社会からの孤立、etc…まぁなんというか、最底辺の人間に落ちないといけなくて、まともな社会人がやるような職業ではなく、狂人がやるものだと思う。
まさに「諸君、狂いたまえ」といった名言がピッタリな状況なのではないか。
2024年現在は、ニュースとかを見ていると、いきなり何千万時には、数十億の資金をシードで調達している会社を見るが、それは天賦の才を持った、いわゆる持っている人間であって、私のような凡人には到底できるイメージが湧かない。
しかし、凡人でも狂うほど、何かに打ち込むと、あら不思議。何をしていても仕事のことを考え、それこそ夢でも仕事しているので、物事が少しづつ進んでいった。
では、その熱狂はどうやって見つけるのか。
私の場合は、好きなもの、具体的には、SF漫画や小説、映画などで、気になる単語が出てきたら調べたり、世界観をどうやったら技術的に実現できそうか、などを調査し検証を繰り返した。
サイエンスフィクションは、人間が想像しているものなので、人間が想像できるものは、実現できる。とジュール・ヴェルヌも言っているし、私もそう考えている。
話が長くなってしまったが、このような思考実験をしている中で、AlexNetに出会い、深層学習の可能性に熱狂し、会社設立に至ったのだった。
AlexNetとは
ここで、やっとAlexNetの話が出てきたので、少し紹介しておこうと思う。
著者はノーベル物理学賞をとったGeoffrey Hinton、Alex Krizhevsky、Ilya Sutskever。
ImageNet Large Scale Visual Recognition Challenge(ILSVRC)2012年で2位と圧倒的な差をつけて優勝した、8層からなる、元祖CNNである。
詳しくは、以下の論文で紹介されているが、活性化関数にReLU使ったり、Overfittingしないように、Data AugmentationやDropoutなど、今でも使われているであろう手法が使われている
https://proceedings.neurips.cc/paper/2012/file/c399862d3b9d6b76c8436e924a68c45b-Paper.pdf
これらの工夫により、手作業で特徴量設計しなくても、GPU(GTX580)と大規模データセットがあれば、従来手法を大きく上回る認識性能を獲得できるようになったことは、当時私にとっては衝撃的であり、これは「AI時代」の本格的な到来を予感させるものであった。
無知ということ
AlexNetが出てきたことにより、SFで描かれているような、AIが自律的に行動するような世界が到来するのではないか。と考え、居ても立ってもいられれなくなり、勢いで会社設立してしまった。
もちろんお金はない。支援してくれる人もいない。いまでこそ「起業の科学」のような優れた教本もあるが、渋い会社設立の本くらいしかない。
なにより、無知である。
これが良い面と悪い面で作用する。
良い面
どのくらい大変なのか、想像がつかないため、恐怖心があまりない
恐怖心がないので、物事がとりあえず前に進み、そして失敗する
失敗したら、学ぶ。というサイクルが高速に進んでいき、楽しくてアドレナリンが出て、労働について麻痺することで、圧倒的経験不足を物量で叩ける
悪い面
相談できる相手がいないので、基本的に暗中模索のため、失敗確率が極めて高い
失敗の危険度の目測を見誤るため、学びどころの騒ぎではない、致死的な失敗を多くしてしまう
その結果、お金がなくなり、活動できなくなるので、受託開発をやることになり、本来やるべきことができないジレンマに陥る
今振り返ると、滅茶苦茶だな。と当時の自分を心配してしまうのだが、その当時は、奇跡としか言いようがない出来事が、数多く起こり、なんとか生き残ることができた。
その奇跡の数々は、次の記事に回そうかと思う。
まとめ
熱狂できるほどの、内なる情熱を見つけられるかが、起業する上での判断になるのではないかと考える。人生でそうそう出会う機会がないので、もし読者諸兄が、そのようなテーマに出会えたら、幸運だと思ったほうがよい。
無知は、最強の武器であるが、諸刃でもある。人は簡単には死なないが、企業は簡単に死ぬので、使い所を間違えないようにしたほうが良いし、無知を認識できたら、すぐさま学ぶことを薦める。とりあえず、本5冊くらい買って調べて、GPTとかに質問すれば、大体知識は獲得できるはず。
ヒントン先生がノーベル賞取ったのに、甘利先生の知名度が上がらないのは、なにか心にひっかかるものがある(まとめでもなんでもない感想です)