![見出し画像](https://assets.st-note.com/production/uploads/images/134280036/rectangle_large_type_2_ff6936217d6a6bdd9b77bbbd4ce25d70.png?width=1200)
Turing Semiconductor/AI Day 潜入レポ
日本でテスラを追い抜いて完全自動運転を目指すTuring社の現在地を示す Turing Semiconductor/AI Dayが開催されたので潜入レポをお届けします。
イメージビデオからスタートしました。
![](https://assets.st-note.com/img/1710532040874-IpAqkCDzps.png?width=1200)
代表取締役の山本 一成さん登壇です。
いきなり、AIとカメラのみでハンドルかがないEVを作るとぶち上げました。
![](https://assets.st-note.com/img/1710532070311-Bb7Uqcwu9Y.png?width=1200)
ルールベースではうまくいかない。
![](https://assets.st-note.com/img/1710532110857-JslcChx1C7.png)
似たようなシチュエーションでも大分違う操作が必要。
![](https://assets.st-note.com/img/1710532150801-0ke0aw4phu.png)
車が世界を理解する必要がある。これをルールベースでやるのは大変。世界を理解するAIが必要。
![](https://assets.st-note.com/img/1710532237264-PvyqtiwRgc.png)
マルチモーダルのHeronをリリースした。Heronは世界を大分理解している。
![](https://assets.st-note.com/img/1710532278363-UNFKLPK4Sr.png)
ルールベースではあり得ない状況に対応するのは難しい。Heronは予測できている。
![](https://assets.st-note.com/img/1710532311456-g4Aa6e46xs.png?width=1200)
AIの歴史を少し。AlphaGoが何をしているか。画像から状態ベクトルというものを読み取る。
![](https://assets.st-note.com/img/1710532347101-LR4j1ld6ks.png)
状態ベクトルをニューラルネット化する。ゲームの場合、エミュレーターとなる。
![](https://assets.st-note.com/img/1710532377896-Pe2cQ9POSf.png)
世界のエミュレーターを世界モデルという。世界モデルがあれば自動運転ができる。
![](https://assets.st-note.com/img/1710532408849-hBBoecQB5J.png)
自動運転世界のエミュレーターはカメラやカーナビ画像から予測する。
![](https://assets.st-note.com/img/1710532442676-Tg7z6wwP9v.png)
世界モデルを理解するAIで自動運転が可能となる。
![](https://assets.st-note.com/img/1710532472761-i0nNmJxptb.png?width=1200)
来ている方で機械学習とかやっている人は力を貸して欲しい
![](https://assets.st-note.com/img/1710532502118-1yoqqd89y8.png?width=1200)
生成AIで目指す完全自動運転
![](https://assets.st-note.com/img/1710532543528-ieGL3V1Kx8.png)
第3世代の自動運転タスク
![](https://assets.st-note.com/img/1710532576048-4NmDa0FO6k.png)
LLMから完全自動運転へ : 山口 祐
![](https://assets.st-note.com/img/1710532606663-HhVSxTzkni.png?width=1200)
自動運転に向けた学習戦略
![](https://assets.st-note.com/img/1710532638888-cw4Et9U2EO.png)
政府のGENIACプロジェクトでGoogle CloudのH100×280を調達。
![](https://assets.st-note.com/img/1710532669443-8nDEJOP6cg.png)
別に独自Gaggle ClusterでH100×96を調達
![](https://assets.st-note.com/img/1710532698929-QENx8mwU2x.png)
大規模AIを車に搭載する
![](https://assets.st-note.com/img/1710532731488-k0DEA9xbYo.png)
自動運転AI: 開発の3軸
![](https://assets.st-note.com/img/1710532767517-9D1Mzyzqfc.png?width=1200)
完全自動運転の「知能」を実現するマルチモーダル生成AIの開発: 井ノ上 雄一さん
![](https://assets.st-note.com/img/1710532799831-UgAbpfxxa9.png)
Heron-X。画像だけでなく、動画、テキスト、音声、アクションなどのモーダルを扱えるようにする。
![](https://assets.st-note.com/img/1710532835023-iQnruxKsGw.png)
なぜマルチモーダル生成AIなのか
![](https://assets.st-note.com/img/1710532866811-xS75T3KUxS.png)
生成AIのコア技術Transformerの可能性
Transformerでできること。
![](https://assets.st-note.com/img/1710533023236-JhzLZw4HWQ.png)
GPT-4で車を動かすことができた。素晴らしいことだが応答時間、精度など課題がある。
![](https://assets.st-note.com/img/1710533056815-v8rUCYNzu7.png)
マルチモーダルAI Heron
![](https://assets.st-note.com/img/1710533090154-QPUs6AHLlw.png?width=1200)
独自データセット
![](https://assets.st-note.com/img/1710533140731-xyoZAZ7aRi.png)
Heronの高性能化
![](https://assets.st-note.com/img/1710533182153-wxE6Gn4jTH.png)
MoE-Heron
Mixture of Experts:パラメータサイズの小さい複数の専門家を配置することで推論コストを抑える。
![](https://assets.st-note.com/img/1710533213489-GbYgG8mA8L.png)
What’s Next…
動画生成AIモデルもやります。
![](https://assets.st-note.com/img/1710533246877-wYOdcy366j.png)
生成AIをエッジで実現するアクセラレーター開発: 柏屋 元史さん
![](https://assets.st-note.com/img/1710533278149-8YudE0ZVJZ.png?width=1200)
Hummingbird : 生成AI用アクセラレーター半導体
![](https://assets.st-note.com/img/1710533305291-Mn8aZXH1KM.png)
なぜ半導体が必要なのか。完全自動運転を実現可能なエッジデバイスは存在しないので、ないなら作る。
![](https://assets.st-note.com/img/1710533333266-UKgxRTWs5B.png)
データセンターとエッジの違い。電源、格納場所に制限がある。
![](https://assets.st-note.com/img/1710533398128-WDhAZGxZkc.png?width=1200)
パラメータの量子化&整数化
浮動小数点ではなく整数
量子化は 2〜8 bitの可変長で対応
![](https://assets.st-note.com/img/1710618358487-iwVcAjQ7aT.png)
モデル改良
バンド幅を削減するためにMoEを使ってモデル化する。更に多段化する。
![](https://assets.st-note.com/img/1710618417425-GceWdZ7aui.png)
生成AI on FPGA
まずはFPGAで検証する。
![](https://assets.st-note.com/img/1710618475293-4shrY4g4Bq.png?width=1200)
Swan: 生成AIをFPGAで動かす実験的実装。オープンソースとして公開する予定。
![](https://assets.st-note.com/img/1710618524050-kzSCih6Bzb.png)
半導体開発のロードマップ
2024 Phase 1 FPGA
2026 Phase 2 Test Chip
2028 Phase 3 MP Chip
2030 完全自動運転車への搭載
![](https://assets.st-note.com/img/1710618563848-WRGGjjJJJr.png)
End-to-Endな自動運転AIの実現 : 棚橋 耕太郎さん
![](https://assets.st-note.com/img/1710618604845-4zvKgLD0en.png)
Tokyo30 2025年までに、カメラとAIだけで東京エリアを30分以上、介入なしで走行し続ける自動運転モデルを開発するスローガン。
![](https://assets.st-note.com/img/1710618655374-2fVFlj98vl.png)
End-to-Endな自動運転の構成
![](https://assets.st-note.com/img/1710618710948-iExSxFsGXt.png)
End-to-Endな自動運転の構成を人に例えると
![](https://assets.st-note.com/img/1710618766650-k0xUgNdsWc.png)
従来の自動運転システム
機能ごとに分かれたモジュールが独立して動いている。
LiDAR点群+HDマップ → Perception → Prediction → Planning → Control
![](https://assets.st-note.com/img/1710618816193-PjEMqdWPLU.png)
End-to-Endな自動運転AI
画像から車の経路を直接出力する。
![](https://assets.st-note.com/img/1710618861033-BtLykFNEfT.png)
Data-Centric Approach
モデルだけでなくデータを改善することで全体の精度を高める。
良いデータを作ることで良いモデルを作る。
![](https://assets.st-note.com/img/1710618921427-oGP0C5OHjT.png?width=1200)
データ収集車両を使って、良いデータを集めている。
![](https://assets.st-note.com/img/1710618971073-u3iIyMuiBo.png)
走行動画データ検索
走行データにラベリングした多様な学習データをベクトル検索する。
UIがあるが、実際はAPI
![](https://assets.st-note.com/img/1710619041923-TT1PNs4FcN.png)
E2E自動運転モデル
世界を表すベクトルを獲得することで経路を生成する。
![](https://assets.st-note.com/img/1710619084549-lIoKQJOOMj.png)
E2Eの主役はTransformer
モデル全体を同時に学習することができる。
![](https://assets.st-note.com/img/1710619126794-X9pD7HsL5g.png)
ルートナビゲーション
人がカーナビを見て運転するようにカーナビの画像を入力にモデリングする。
![](https://assets.st-note.com/img/1710619166455-5P2H5rTVjH.png)
Tokyo30タイムライン
Tokyo30 2025年までのスケジュール
![](https://assets.st-note.com/img/1710619210172-ymE3y2sCBw.png)
Q&A
不正確です。大体こんな感じのやりとりと思って下さい。
Q: 動画生成AIのSoraとの比較して同じかどうか。
A: 基本的にTransformerを使うのは一緒。Soraは綺麗な映像を目標とするものなのでその点は異なる。
Q: Tokyo30でどこまで実現
A: End to Endで賢いことができる
Q: e2eで賢くと言うことだが、具体的に言語モデルをどう制御に結びつけるのか。
A: 具体的にはこれから。最終的にはCANの制御になる。
Q: Tokyo30ではハミングバードを使うか、それともサーバーか。
A: ハミングバードになる。
Q: 半導体の人員構成は?
A: 現在は人員は3人
Q: 計算資源はテスラと比べてどうなんだ
A: 生成AIでは同じラインに立っている。見た目ほどのビハインドではないと思ってる
Q: カメラだけでということだがジャイロセンサーなどは不要か
A: 必要であれば取り入れるが、不要と考えている。カメラにこだわっている理由は、推論できる特徴量が多い。モジュールを減らしたい。
Q: 半導体にFPGAから次の段階のコストは?
A: 5-6年後にどうなっているかはわからないがTransformerベースは変わらないと思うのでそこを見越している。
Q: シミュレーターを使っているか
A: 検証で使うスタンス
Q: 自動運転車に対するUIは
A: タクシーに乗った時の会話のように会話ベースのUIになる
Q: 自動運転が実現されたときに寡占化になるか。
A: ハンドルがない車を買う人がどれだけいるかわからないが、その時に何社が作れているか。Turingはその1社になる。
感想:どのセッションもLLMに力を入れていることを分かりやすく話してくれていて、方向性に関しては日本のどのメーカーよりも説得力があります。
また、Heronは自動運転にとどまらず広い応用範囲があると感じており、注目しています。
AI,半導体に特化した発表ということもあるかもしれませんが、実車や部品も見せて欲しかった。
山本 一成さんと記念撮影。
とても元気で気さくな人でした。手ブレすみません。
![](https://assets.st-note.com/img/1710621850010-uXO6DuPOJW.png)