サンフランシスコ留学日記11・12日目
この記事について
この記事は僕のサンフランシスコ留学について書いているものです。詳細は前回の記事を参照してください。
ちなみに今回は時間があったので、11日目と12日目をバラバラに書いています。だいぶキャンプにも慣れてきたし、文章も今日は少し自信あり。
Day11
GPU使えねえ
さて、昨日はデータを集めて、GPUを使おうとしたところで終わりました。本日は最初にインストラクターの方からGPUの使い方を聞くところから始めたのですが…結論から言うと諦めました（）やはりGPUは扱いにくい印象。正直自分のノートPCのセットアップしたときもかなりてこずったから、想像はしてたけど、Windowsでもだめですか（僕はLinuxだったせいもある）。
keras、お前もか
気を取り直してCPUで学習を開始しました（CPUも機種からして最新版のCore i7だからかなり強力）。するとまた問題が、kerasを使って単純な6層のネットワークで学習させようとしたんですけど、何故か損失はちゃんと減るのに、何故かaccuracy（精度）が2epoch目ぐらいから1.0に張り付いてるw（しかもvalidation dataも一緒に）。またインストラクターの人に聞くと、GridSearchCVなる適切なパラメータを探すモデルでやるとうまく行くのに、なんでaccuracyがバグってるのかは分からなかった。その後も正則化とか試したけど直らず、明日またやろうと思ってました。
が、帰る直前に調べているとkerasのissueを見つけまして、accuracyは無視しろって事らしい。多分これ見る限り、カテゴライズするようなタスクと同様の処理でaccuracyを計算しているせいでバグってるみたい。機械学習のライブラリは複雑だから、自分で作ったほうが自分にあったAPIが使える（）
進捗
それでも、進捗はありました。Javascriptのコード作ってくれた人から、「そろそろJavascriptとPythonを繋げない？」って言ってくれたので、早速方法を考えました。で、やっぱり簡単なWebAppを作りたかったらGithub Pagesってことで、GithubPagesでサイトをホスティングして、GithubActionsのワークフローに作ったPythonのAPIを叩く方式を取ることにしました。
ちなみに、この辺は去年以外の2年間はHP作って、そのためにバックエンドとフロントエンドのつなぎ方とかも勉強してたから、昔取った杵柄って感じだった（というか、このプロジェクトの作業してると、文化祭の時のことが思い出される）。
Evening Activity
ここまであんまり触れてませんでしたけど、夕食の後にEvening Activityなるお楽しみ会みたいなのがあります。それで今日はボードゲームをしようと言うことで、僕はワンナイト人狼に参加しました。
ゲームの名前はOne Night Ultimate Werewolf。この名前で調べればやり方が出てくると思いますけど、概ね我々の知る人狼と同じです。ただ、違う点はTrouble makerとかRobberかな。これらの役職はなんと職業を変更することができてしまいます。なので、実際に一回僕に起こったことですけど、人狼が役職チェンジされると、チェンジされた相手を教えてもらえば、100%市民陣営が勝てますw
他にもTrouble makerとRobberが同じ人の職業を変えたせいで変わってなくて混乱したりとめっちゃ盛り上がりました。人狼って喋らないと疑われるから、一番英語力上がるかも（）
Day12
モデル構築続行
昨日帰り際にaccuracyが使えないことが分かったところで終わったので、今日はネットワークを深くして、損失を減らしていきた…かったのですが、またうまく行かなかった（）ちゃんと標準化もバッチ学習もしたし、ドロップアウト層も入れてかなり深いネットワークにしたのに、なぜか損失が減らないし、実際テストデータで試しても、あんまりうまく訓練できてない。
午前中はずっとkerasで頑張ってたけど、やっぱり普段使ってないライブラリだと、勝手がわかりにくくて工夫もしにくいから、午後はJuliaで自分の作ったライブラリとFluxを組み合わせて作業してた。ちょっとまだモデル構築できてないから、この話はまた明日。
ちなみに、正直僕の作ったHorseMLはデータの下準備がかなりしやすいと自負しているので、Juliaで機械学習する時に、他のライブラリを使うとしてもPreprocessingのためだけでも使ってみてもらえると嬉しいです（興味のある方は下のレポジトリを見てください）。
その他
これ以外を全てその他でくくるのだいぶ雑な気がするけど、いいまとめ方が思いつかなかったから許して（）
今日は昼食の後にインストラクターの方がChatGPTに関するプレゼンテーションをしてくれました。明日以降もインストラクターがそれぞれのプレゼンテーションをしてくれるようです。
あと、何かいいこと？をするとチケット（何に使えるのかは知らん）がもらえるシステムなんですけど、そのチケットを賭けてブラックジャックをやりましたwあれはめっちゃ楽しかった。インストラクターの人が負けると大量のチケットが放出されるから、チケット結構増えた。やっぱりゲームしてるときが一番英語喋ってるな。
明日以降の予定
明日にはモデルかGithubActionsのコネクションかのいずれかは完成させたい。あと、どうも他のチームが機械学習詳しい人いなくて困ってるようなので、余裕あれば教えてあげたい。
それと、今まで数々の事情により変えていなかったお土産をbook storeに買いに行く予定。