【論文】Temporal Fusion Transformer(TFT)とかいう時系列予測www
スレッド
上記の論文に対してなんJの架空のスレを創造的に書いて。 レス番や名前、投稿日時、IDも書き、アンカーは全角で＞＞と書くこと。 10人以上の専門家と2人の初学者をスレ登場させて 多角的に議論して。スレタイトルも考えて、30回以上やり取りしてください。
1 名無しさん＠お腹いっぱい。 2024/11/22(金) 12:34:56.123 ID:ts1expert
時系列予測界隈に革命来たか？
Googleの研究者が出した論文がガチですごい
2 機械学習研究者 ◆ML3xp3rt12 2024/11/22(金) 12:35:23.456 ID:ml2pro123
アテンションメカニズムとゲーティング機構の組み合わせが秀逸やな
特に静的な特徴量の扱いが上手い
3 統計学徒 2024/11/22(金) 12:36:11.789 ID:stats567
従来のARIMAとかと比べても予測精度かなり上がってるよな
P50損失で見ても電力データで約180%改善
4 なんJ民A 2024/11/22(金) 12:37:45.321 ID:nj123abc
なんか難しそうやけど、要は未来予測精度上がるってことなんか？
5 AIエンジニア 2024/11/22(金) 12:38:22.654 ID:ai456def
＞＞４
そうそう。特に複数の時間軸での予測が得意。
例えば電力需要を1時間後から24時間後まで一気に予測できる
6 深層学習の専門家 2024/11/22(金) 12:39:33.987 ID:dl789ghi
実装の観点から見ても良く設計されてる
Variable Selectionの部分なんか特にエレガント
7 データサイエンティスト 2024/11/22(金) 12:40:12.345 ID:ds234jkl
解釈性もあるのが素晴らしいわ
attention weightsで重要な変数も分かるし
8 なんJ民B 2024/11/22(金) 12:41:43.210 ID:nj567mno
ワイにも分かるように例えて
9 予測分析研究者 2024/11/22(金) 12:42:21.543 ID:pa890pqr
＞＞８
野球で例えると、打者の過去の成績、天候、球場、対戦投手など
色んな要素を考慮して次の打席の結果を予測するようなもんや
10 時系列解析の達人 2024/11/22(金) 12:43:11.876 ID:ts345stu
ablation studyの結果も興味深いな
各コンポーネントがちゃんと機能してる証拠や
11 機械学習実務家 2024/11/22(金) 12:44:33.654 ID:ml678vwx
実務でも使えそうやな
特に小売データでの予測精度が従来手法より21%も改善してるのは朗報
12 統計学教授 2024/11/22(金) 12:45:21.987 ID:st901yz1
ただし計算コストの問題は無視できんで
GPUないと現実的な時間で学習終わらん
13 なんJ民A 2024/11/22(金) 12:46:44.321 ID:nj123abc
＞＞９
なるほどわかりやすいわ
じゃあ打率とか出塁率の予測にも使えるんか？
14 データマイニング研究者 2024/11/22(金) 12:47:32.654 ID:dm432def
＞＞１３
そうやな。しかも単に予測するだけやなくて
なんでその予測になったかも説明できるのが特徴や
15 AIアーキテクト 2024/11/22(金) 12:48:21.789 ID:aa567ghi
multi-head attentionの解釈性を高めた工夫も素晴らしい
従来の課題をうまく解決してる
16 深層学習研究者 2024/11/22(金) 12:49:11.234 ID:dl890jkl
＞＞１２
確かにその通り
特にハイパーパラメータチューニングに時間かかる
17 予測モデル評価専門家 2024/11/22(金) 12:50:23.567 ID:pe123mno
volatilityデータでの結果も興味深いね
金融分野での応用に期待できる
18 なんJ民B 2024/11/22(金) 12:51:44.890 ID:nj567mno
ワイでも使えるんか？Pythonちょっとできるで
19 機械学習エンジニア 2024/11/22(金) 12:52:33.210 ID:ml234pqr
＞＞１８
GitHubにコード公開されてるで
でも前処理とかハイパーパラメータ調整は結構知識いるかも
20 統計物理学者 2024/11/22(金) 12:53:21.543 ID:sp567stu
理論的な美しさもあるな
特にgating mechanismの設計が秀逸
21 時系列モデラー 2024/11/22(金) 12:54:11.987 ID:tm789uvw
季節性の捕捉能力も見事やで
電力データの24時間周期とか小売の週次パターンもちゃんと学習できてる
22 AIコンサルタント 2024/11/22(金) 12:55:33.321 ID:ac901xyz
実務での応用考えると、欠損値の扱いどうなんやろ？
論文では触れられてないよな
23 なんJ民A 2024/11/22(金) 12:56:44.654 ID:nj123abc
＞＞１９
せやったんか
でも難しそうやな...初心者には敷居高そう
24 深層学習の第一人者 2024/11/22(金) 12:57:21.789 ID:dl432def
static covariate encodersのアイデアは他のモデルにも応用できそう
汎用性高いわ
25 予測システム開発者 2024/11/22(金) 12:58:11.234 ID:ps567ghi
＞＞２２
その辺は実装時の課題やな
前処理でいい感じに補完する必要ありそう
26 統計学研究者 2024/11/22(金) 12:59:23.567 ID:st890jkl
quantile損失使ってるのも良いよな
予測の不確実性も定量化できる
27 なんJ民B 2024/11/22(金) 13:00:44.890 ID:nj567mno
＞＞２３
ワイも諦めるわ...
もっと簡単なとこから始めるのがええんかな
28 機械学習の達人 2024/11/22(金) 13:01:33.210 ID:ml123mno
＞＞２７
そうやな、まずはARIMAとか基本的なモデルから
その方が学習の筋道としては正しいで
29 データ分析アーキテクト 2024/11/22(金) 13:02:21.543 ID:da456pqr
interpretabilityの部分は実務で重宝するわ
上司への説明も楽になりそう
30 時系列予測研究者 2024/11/22(金) 13:03:11.876 ID:tp789stu
今後の発展も期待できるな
特に計算効率化の余地はまだありそう
31 深層学習実装者 2024/11/22(金) 13:04:33.321 ID:di901vwx
実装難しい部分もあるけど、その分得られる結果は価値あるよな
特に解釈性は実務では重要
32 AIリサーチャー 2024/11/22(金) 13:05:44.654 ID:ar234yz1
これベースに改良版も出てきそうやな
まだまだ伸びしろありそう
33 なんJ民A 2024/11/22(金) 13:06:21.789 ID:nj123abc
＞＞２８
サンガツ！
じゃあまずはARIMAから勉強するわ
論文PDF
原文
日本語訳
キーワード
このスレのキーワードをスペース区切りで重要な日本語の用語を5つ列挙しください。単語にスペースがある場合は_で置換してください。
時系列予測 アテンション機構 解釈性 予測精度 ハイパーパラメータ_チューニング