Takao Mizuno

Software Engineer | オーストラリア在住 | 社会人留学 | クイー…

Takao Mizuno

Software Engineer | オーストラリア在住 | 社会人留学 | クイーンズランド大学 情報工学修士 | 東京大学 ブロックチェーンから自動車業界に貢献したい

記事一覧

ChatGPTの裏側 シリーズ2

はじめにこの記事は前回のLLMを理解するシリーズ第二弾です。 今回はLLMの核となるAttentionとは何かについて解説していきます。なるだけ数式を使わずに直感的に理解でき…

Takao Mizuno
1か月前
4

ソフトウェアエンジニア兼オーストラリア大学院生の一週間

最近なかなかブログを書く時間を作れていませんでした。。 本当なら前回のLLMの続きを書きたいところですが、時間があまり取れないので今回はソフトウェアエンジニアのオー…

Takao Mizuno
1か月前
24

理解して差をつける!ChatGPTの裏側! ~シリーズ1: 概要と入力文章の処理~

はじめにこの記事はChatGPTを使っていて、どうやって動いているのか知りたい人向けの記事の第一弾です。このシリーズを読み終わった時あなたは以下のような状態になってい…

Takao Mizuno
2か月前
1

都知事選から考える技術の行く末 ~政治の透明性を高める挑戦~

私はブロックチェーンとIoTを組み合わせることに興味があるのですが、論文や事例を見ているとブロックチェーンという技術を普及させるために問題点があるなと感じています…

Takao Mizuno
2か月前
6

Rustaceanへの道

コロナになってブログをかけていませんでした。すみません。38度後半の熱が4日間続いて死ぬかと思いました。 最近、rust を使って IOTA 関連の個人開発をしています。初め…

Takao Mizuno
2か月前
4

世界を変える(かもしれない)技術。IOTA

はじめに今回は、私が個人的に興味があり利用している IOTA についての記事です。対象は以下の人たちです。この記事はこれから投稿する私の記事に関係することが多くなると…

Takao Mizuno
3か月前
2

Bitcoinの取引データとランサムウェアの事件を紐づける

はじめに今回は技術ブログを書こうと思いますが、この記事では「実際にランサムウェアの支払いに使われたBitcoinの取引と、現実に起きた事件の組み合わせ」のデータをどの…

Takao Mizuno
3か月前
2

自分に合った会社選び

カジュアル面談をして思ったこと 今の仕事が国の委託研究ということもあり、うまく行ってもあと半年と少しで終了になることと、同時にあと半年で大学院も修了するので最近…

Takao Mizuno
3か月前
9

クイーンズランド大学の試験

ちょうど今は試験期間で、仕事と試験勉強に明け暮れています。 私はオーストラリア、ブリスベンにあるクイーンズランド大学の Master of Information Technology に通って…

Takao Mizuno
4か月前
3

自分の考え方の特徴を利用してやろう

思考のクセ今回は自分が研究や研究開発を行うにあたって考えた難しいことを考える時にどうすれば自分の考えをまとめることができるようになったのかについて話します。 皆…

Takao Mizuno
4か月前

ブログ

私私は社会人としてソフトウェアエンジニアをしながら、オーストラリアのクイーンズランド大学の情報工学の修士コースに通っています。 中島聡さんという、自分が尊敬して…

Takao Mizuno
4か月前
ChatGPTの裏側 シリーズ2

ChatGPTの裏側 シリーズ2


はじめにこの記事は前回のLLMを理解するシリーズ第二弾です。

今回はLLMの核となるAttentionとは何かについて解説していきます。なるだけ数式を使わずに直感的に理解できるように頑張ります!これが理解できればあとは本を読んで理解できるようなるはずです!

復習前回は、入力されたテキストをLLMが解釈できる高次元ベクトルに変換するというところまで見ていきました。例えば、「たくさん実ったみかん

もっとみる
ソフトウェアエンジニア兼オーストラリア大学院生の一週間

ソフトウェアエンジニア兼オーストラリア大学院生の一週間

最近なかなかブログを書く時間を作れていませんでした。。
本当なら前回のLLMの続きを書きたいところですが、時間があまり取れないので今回はソフトウェアエンジニアのオーストラリア大学院生がどのような1週間を過ごしているのかについて書きたいと思います。
社会人での海外大学院留学を考えている方に参考になれば幸いです。

大まかなスケジュール大体、こんな感じのスケジュールで過ごしています。ルーティンが大好き

もっとみる
理解して差をつける!ChatGPTの裏側! ~シリーズ1: 概要と入力文章の処理~

理解して差をつける!ChatGPTの裏側! ~シリーズ1: 概要と入力文章の処理~

はじめにこの記事はChatGPTを使っていて、どうやって動いているのか知りたい人向けの記事の第一弾です。このシリーズを読み終わった時あなたは以下のような状態になっています。

ChatGPTがどのように文章を作っているのかわかる。

これからのAIの動きを追うための基礎がわかる。

同僚や先輩に「ChatGPT、当たり前のように使ってますけど、その裏側どうなってるか知ってます?」という豆知識を披露

もっとみる

都知事選から考える技術の行く末 ~政治の透明性を高める挑戦~

私はブロックチェーンとIoTを組み合わせることに興味があるのですが、論文や事例を見ているとブロックチェーンという技術を普及させるために問題点があるなと感じています。それは
「ブロックチェーンを使うことで、ユーザーが直接感じることのできる利益が少ない」
ということです。なぜ自分がこの分野に興味があるのかというと、単純に「動くものが好きなこと」と「ブロックチェーンを使うことで不正のない世の中を作ること

もっとみる
Rustaceanへの道

Rustaceanへの道

コロナになってブログをかけていませんでした。すみません。38度後半の熱が4日間続いて死ぬかと思いました。

最近、rust を使って IOTA 関連の個人開発をしています。初めはrustの勉強を全くせずにググったりcopilotの補完機能やChatGPTを使って「rustを使って書く」ことをしていました。初めてプログラミングを勉強したときは文法などから勉強しましたがそれ以降は基本的にこのやり方で新

もっとみる
世界を変える(かもしれない)技術。IOTA

世界を変える(かもしれない)技術。IOTA

はじめに今回は、私が個人的に興味があり利用している IOTA についての記事です。対象は以下の人たちです。この記事はこれから投稿する私の記事に関係することが多くなると思うのと、単純にとても面白い技術なのでぜひ読んでみてほしいです。ビジネスに関係あるかは分かりません。すみません。

ブロックチェーン技術に興味がある人

IoT に興味がある人

エンジニアリング中級者以上

IOTAについてIOTA

もっとみる
Bitcoinの取引データとランサムウェアの事件を紐づける

Bitcoinの取引データとランサムウェアの事件を紐づける

はじめに今回は技術ブログを書こうと思いますが、この記事では「実際にランサムウェアの支払いに使われたBitcoinの取引と、現実に起きた事件の組み合わせ」のデータをどのように取得したかについてまとめます。

前提私は「LLMを使った、ランサムウェアの支払いに使われたBitcoin取引の非匿名化」をテーマに研究をしています。

Bitcoinはその匿名性を利用して ランサムウェア の支払いの手段として

もっとみる
自分に合った会社選び

自分に合った会社選び

カジュアル面談をして思ったこと
今の仕事が国の委託研究ということもあり、うまく行ってもあと半年と少しで終了になることと、同時にあと半年で大学院も修了するので最近ちょっとずつ転職活動を始めています。
今の私の状況としてはオーストラリアかアメリカ企業を調べながら、日本の企業でも本当に自分のやりたいこととマッチしていてかつ自分がその会社に価値を提供できる可能性があるなら応募しようというと思っています。

もっとみる
クイーンズランド大学の試験

クイーンズランド大学の試験

ちょうど今は試験期間で、仕事と試験勉強に明け暮れています。
私はオーストラリア、ブリスベンにあるクイーンズランド大学の Master of Information Technology に通っています。

今学期は 3 セメスター目で、コンパイラと UX デザインと修士論文の授業を取っています。
(クイーンズランド大学では本当は 2 セメスター目です。私は、最初はクイーンズランド大学ではなく、クイ

もっとみる
自分の考え方の特徴を利用してやろう

自分の考え方の特徴を利用してやろう

思考のクセ今回は自分が研究や研究開発を行うにあたって考えた難しいことを考える時にどうすれば自分の考えをまとめることができるようになったのかについて話します。
皆さんは、開発中に設計をしたり難しいアルゴリズムを考える必要があったり、難しい論文を理解しなければいけない時に頭の中で考えようと思っても何か脳に霧がかかったような感じがしてうまく思考が働かない時があったりしませんか?
開発に限ったことだけでな

もっとみる

ブログ

私私は社会人としてソフトウェアエンジニアをしながら、オーストラリアのクイーンズランド大学の情報工学の修士コースに通っています。
中島聡さんという、自分が尊敬しているエンジニアの方が著者の「結局、人生はアウトプットで決まる」を読んで、今学期の大学院の授業も少しだけ落ち着いたのでブログを始めようかなと思ったので書いてみることにしました。

ちなみに修士論文のテーマは、「Large Language M

もっとみる