Akira's ML news #Week 48, 2020
今週の注目記事/論文
- 少数データ、小計算時間で高解像度画像を生成するGAN
- 層を入れ替えることでスタイル変換を行う
- AIの力を借りて植林をする
---------------------------------------------------------------------
2020年第48週(11/22~)に私が読んだ論文や記事で特に面白かったものを紹介します。※なるべく新しいものを紹介していますが、論文投稿日はこの週のものとは限りません。※有料設定してますが、投げ銭用なので全部無料でみれます
過去の記事
Week 47の記事 ⇦ Week 48の記事(コレ)⇨ Week 49の記事
2020年9月のまとめ
2020年10月のまとめ
内容 :
論文, 技術的な記事, 実社会における機械学習適用例, その他話題
---------------------------------------------------------------------
論文
----------
少数データ、小計算時間で高解像度画像を生成するGAN
TOWARDS FASTER AND STABILIZED GAN TRAINING FOR HIGH-FIDELITY FEW-SHOT IMAGE SYNTHESIS
https://openreview.net/forum?id=1Fqg133qRaI
少数データ(100~1000)かつ小計算量(1GPUx十数時間程度)で高解像度(256^2~1024^2)をゼロから学習/生成できるGAN。各解像度の情報を組み合わせるSLEモジュールと、Discriminatorの中間特徴量マップから再構成を行わせる制約で強化することが技術的な肝。
信頼できるかの閾値を自動決定する損失関数を使えば多くのタスクでカリキュラム学習が可能になる
Curriculum learning in many tasks is possible if you use a loss function to automatically determine the threshold of what is reliable
SuperLoss: A Generic Loss for Robust Curriculum Learning
https://papers.nips.cc/paper/2020/hash/2cfa8f9e50e0f510ede9d12338a5f564-Abstract.html
サンプル毎の信頼度を動的に決定し、かつ、信頼できるかの閾値も自動決定できるカリキュラム学習ができる損失関数SuperLossを提案。既存の損失関数に付け加えることができるので、分類、物体検知、回帰など色々なタスクで活用可能でき、ラベルノイズがある状況で効力を発揮した。
学習済みモデルを活用することで少数データでGANによる変換が可能に
Leveraging the pre-trained model allows transformation by GAN with a small amount of data.
DeepI2I: Enabling Deep Hierarchical Image-to-Image Translation by Transferring from GANs
https://arxiv.org/abs/2011.05867
GANを用いた画像の他クラス変換(Image-to-Image Translation)において、Generaotor ,Discriminator, 変換元を読み込むEncoderすべてに既存の学習済みモデルを活用する案を提案(変換元を読み込むEncoderは学習済みDの重みを採用)。事前知識を使えるので、少ないデータで変換が可能になる。
End-to-end framework for anomaly detection
A Transfer Learning Framework for Anomaly Detection Using Model of Normality
https://arxiv.org/abs/2011.06210
End-to-Endで異常検知をする手法。正常画像データセットを学習済みモデルで埋め込んだ特徴量分布と、検査画像がどれだけ離れているかによって異常度を測定する。分布との距離はSSIM等を用いている。
層を入れ替えることでスタイル変換を行う
Resolution Dependent GAN Interpolation for Controllable Image Synthesis Between Domains
https://arxiv.org/abs/2010.05334
学習済みStyleGANを用いたスタイル変換の研究。新たなデータセットで転移学習したStyleGANの浅い部分と通常の学習済みStyleGANの深い部分を入れ替えることで、スタイル変換を行うGAN。写真をディズニー風に変換することが可能。
物理的なパズルを深層学習で解く
Solving Physics Puzzles by Reasoning about Paths
https://arxiv.org/abs/2011.07357
ある球を別の球を使って所定の位置に接触させるパズルを解く研究。何もしない場合の球の軌道、理想的な球の軌道などを予測させる4つのモデルを教師あり学習で学習させることによって、タスクを解く。
知覚的な損失関数を用いて生成モデルを改善する
A Loss Function for Generative Neural Networks Based on Watson’s Perceptual Model
https://arxiv.org/abs/2006.15057
生成モデルにおいて、より人間の知覚に近いWatsonモデルの損失関数を改良したものを使うことで、生成画像の質をより高品質にする研究。VAEにそれを適用することでボヤけの少ない高品質な画像が生成させることを確認。
---------------------------------------------------------------------
技術的な記事
----------
機械学習モデル解釈性の丁寧な解説
解釈性が大切である理由や、モデルの透明性などの機能を定義から丁寧な説明と図で解説している記事。例えば透明性に関しては、人間がモデルと同じ段階を踏みながら推論できるか、そして各ステップは解釈可能か、などの要素を解説している。
---------------------------------------------------------------------
実社会における機械学習適用例
----------
AIの力を借りて植林する
ヒートアイランド現象は公衆衛生上の懸念になるが、都市に植林をすることでそれを防ぐことができる。GoogleのTreeCanopy Labでは、空撮画像と機械学習で都市の樹木被覆密度を示すマップを作ることができ、これにより人手による樹木調査をする必要がなくなる。Tree Canopy Labは、2021年までに90,000本の植樹と維持を行い、503平方マイル以上の都市に年間20,000本の植樹を続けるという短期的な目標を掲げており、すでに市内の人々がこの目標を達成できるよう支援している。
機械学習を用いて密猟から動物を保護する
Googleと国際的な保護慈善団体であるZSLは、機械学習を用いて銃声を特定する機械学習モデルを構築した。音響センサーにより最大1km離れた銃声を検知でき、それにより野生動物保護活動家の活動を補助することができる。
---------------------------------------------------------------------
その他話題
----------
機械学習による差別と法律
機械学習モデルは意図せず学習データによって潜在的に差別的になることがある。単純な対策としてマイノリティーに加点するなどで調整することが考えられるが、それは現状の法律では難しいとしている。
モンスターをGANで生成
ゲームのモンスターを自動生成するGAN。既存イラストのデータセットは多様性や著作権の観点から使えなかったため、３Dモデルを使ってデータセットを作ることで、マスクによってその生き物個数の構造、造形、部位毎の比率を明示しながら学習させることができる。
---------------------------------------------------------
TwitterでMLの論文や記事の紹介しております。
https://twitter.com/AkiraTOSEI
記事は以上です。ここから下は有料設定になっていますが、特に何もありません。調査や論文読みには労力がかかっていますので、この記事が気に入って投げ銭しても良いという方がいましたら、投げ銭をして頂けると嬉しいです。
過去の記事
Week 47の記事 ⇦ Week 48の記事(コレ)⇨ Week 49の記事
2020年9月のまとめ
2020年10月のまとめ
ここから先は
Akira's ML news & 論文解説
※有料設定してますが投げ銭用です。無料で全て読めます。 機械学習系の情報を週刊で投稿するAkira's ML newsの他に、その中で特に…
記事を書くために、多くの調査や論文の読み込みを行っております。情報発信を継続していくためにも、サポートをいただけると非常に嬉しいです。