Takao Mizuno

Software Engineer | オーストラリア在住 | 社会人留学 | クイー…

Takao Mizuno

Software Engineer | オーストラリア在住 | 社会人留学 | クイーンズランド大学 情報工学修士 | 東京大学 ブロックチェーンから自動車業界に貢献したい

最近の記事

ChatGPTの裏側 シリーズ2

はじめにこの記事は前回のLLMを理解するシリーズ第二弾です。 今回はLLMの核となるAttentionとは何かについて解説していきます。なるだけ数式を使わずに直感的に理解できるように頑張ります!これが理解できればあとは本を読んで理解できるようなるはずです! 復習前回は、入力されたテキストをLLMが解釈できる高次元ベクトルに変換するというところまで見ていきました。例えば、「たくさん実ったみかんの木がある船の名前は」という入力があった場合、この文章をトークンごとに分割し、各

    • ソフトウェアエンジニア兼オーストラリア大学院生の一週間

      最近なかなかブログを書く時間を作れていませんでした。。 本当なら前回のLLMの続きを書きたいところですが、時間があまり取れないので今回はソフトウェアエンジニアのオーストラリア大学院生がどのような1週間を過ごしているのかについて書きたいと思います。 社会人での海外大学院留学を考えている方に参考になれば幸いです。 大まかなスケジュール大体、こんな感じのスケジュールで過ごしています。ルーティンが大好きなので本当に大体こんな感じの生活です。 月曜日月曜日は、基本的に仕事をしていま

      • 理解して差をつける!ChatGPTの裏側! ~シリーズ1: 概要と入力文章の処理~

        はじめにこの記事はChatGPTを使っていて、どうやって動いているのか知りたい人向けの記事の第一弾です。このシリーズを読み終わった時あなたは以下のような状態になっています。 ChatGPTがどのように文章を作っているのかわかる。 これからのAIの動きを追うための基礎がわかる。 同僚や先輩に「ChatGPT、当たり前のように使ってますけど、その裏側どうなってるか知ってます?」という豆知識を披露できるようになる 今回は上記の状態になるためのシリーズ第一弾です!数学の知識が

        • 都知事選から考える技術の行く末 ~政治の透明性を高める挑戦~

          私はブロックチェーンとIoTを組み合わせることに興味があるのですが、論文や事例を見ているとブロックチェーンという技術を普及させるために問題点があるなと感じています。それは 「ブロックチェーンを使うことで、ユーザーが直接感じることのできる利益が少ない」 ということです。なぜ自分がこの分野に興味があるのかというと、単純に「動くものが好きなこと」と「ブロックチェーンを使うことで不正のない世の中を作ることができる」と考えているからです。しかし、「不正のない世の中を作ることができる」の

        ChatGPTの裏側 シリーズ2

          Rustaceanへの道

          コロナになってブログをかけていませんでした。すみません。38度後半の熱が4日間続いて死ぬかと思いました。 最近、rust を使って IOTA 関連の個人開発をしています。初めはrustの勉強を全くせずにググったりcopilotの補完機能やChatGPTを使って「rustを使って書く」ことをしていました。初めてプログラミングを勉強したときは文法などから勉強しましたがそれ以降は基本的にこのやり方で新しい言語を学んできました。いわば書きたいと思ったら作りながら覚えるという感じです

          Rustaceanへの道

          世界を変える(かもしれない)技術。IOTA

          はじめに今回は、私が個人的に興味があり利用している IOTA についての記事です。対象は以下の人たちです。この記事はこれから投稿する私の記事に関係することが多くなると思うのと、単純にとても面白い技術なのでぜひ読んでみてほしいです。ビジネスに関係あるかは分かりません。すみません。 ブロックチェーン技術に興味がある人 IoT に興味がある人 エンジニアリング中級者以上 IOTAについてIOTAとは、オープンソースの分散台帳技術です。[1] 特徴としてIoT 用に特化されて

          世界を変える(かもしれない)技術。IOTA

          Bitcoinの取引データとランサムウェアの事件を紐づける

          はじめに今回は技術ブログを書こうと思いますが、この記事では「実際にランサムウェアの支払いに使われたBitcoinの取引と、現実に起きた事件の組み合わせ」のデータをどのように取得したかについてまとめます。 前提私は「LLMを使った、ランサムウェアの支払いに使われたBitcoin取引の非匿名化」をテーマに研究をしています。 Bitcoinはその匿名性を利用して ランサムウェア の支払いの手段として使用されることが多くあります。実際、2019 年には 1 兆円以上の額が支払いに

          Bitcoinの取引データとランサムウェアの事件を紐づける

          自分に合った会社選び

          カジュアル面談をして思ったこと 今の仕事が国の委託研究ということもあり、うまく行ってもあと半年と少しで終了になることと、同時にあと半年で大学院も修了するので最近ちょっとずつ転職活動を始めています。 今の私の状況としてはオーストラリアかアメリカ企業を調べながら、日本の企業でも本当に自分のやりたいこととマッチしていてかつ自分がその会社に価値を提供できる可能性があるなら応募しようというと思っています。 そのため、いくつかの企業がありがたいことに時間を作ってくださり、ここ一ヶ月でカジ

          自分に合った会社選び

          クイーンズランド大学の試験

          ちょうど今は試験期間で、仕事と試験勉強に明け暮れています。 私はオーストラリア、ブリスベンにあるクイーンズランド大学の Master of Information Technology に通っています。 今学期は 3 セメスター目で、コンパイラと UX デザインと修士論文の授業を取っています。 (クイーンズランド大学では本当は 2 セメスター目です。私は、最初はクイーンズランド大学ではなく、クイーンズランド工科大学という大学に通っていました。しかし、2023 年の 7 月に

          クイーンズランド大学の試験

          自分の考え方の特徴を利用してやろう

          思考のクセ今回は自分が研究や研究開発を行うにあたって考えた難しいことを考える時にどうすれば自分の考えをまとめることができるようになったのかについて話します。 皆さんは、開発中に設計をしたり難しいアルゴリズムを考える必要があったり、難しい論文を理解しなければいけない時に頭の中で考えようと思っても何か脳に霧がかかったような感じがしてうまく思考が働かない時があったりしませんか? 開発に限ったことだけでなくても簡単なことでもいいです。上司に質問する内容があるのに具体的にどうやって文章

          自分の考え方の特徴を利用してやろう

          ブログ

          私私は社会人としてソフトウェアエンジニアをしながら、オーストラリアのクイーンズランド大学の情報工学の修士コースに通っています。 中島聡さんという、自分が尊敬しているエンジニアの方が著者の「結局、人生はアウトプットで決まる」を読んで、今学期の大学院の授業も少しだけ落ち着いたのでブログを始めようかなと思ったので書いてみることにしました。 ちなみに修士論文のテーマは、「Large Language Model を使って Ransomware に使われた Bitcoin 取引を非匿