機械学習を統一するアルゴリズムとは
世の中にはとてもたくさんの機械学習のアルゴリズムが存在します。 私も仕事柄、機械学習に触れる機会が多いのですがとても追いきれそうにありません。 これらの機械学習を統一するアルゴリズムをここでは『マスターアルゴリズム』と呼びます。そんなマスターアルゴリズムを求める旅に連れて行ってくれるのが今回ご紹介する本になります。
この本の特徴的なところは、機械学習のアルゴリズムの5つの派閥にグループ分けしているところです。 このグループ分けによって機械学習のアルゴリズムの違いが明確になり、これだけでも見通しが良くなります。
そしてこの5つのグループを統合していくことで、マスターアルゴリズムへと到達します。 マスターアルゴリズムへの旅はまだ道半ばですが、筆者の考えるマスターアルゴリズムについても本の中で紹介されています。 以下ではそのマスターアルゴリズムのイメージを図を交えながら簡単に紹介します。
5つの機械学習の派閥
本書では機械学習を大きく5つのグループに分けています。 そしてこれら5つを統合するものがマスターアルゴリズムと位置づけられています。 以下ではそれぞれのグループについて簡単に紹介します。
・記号主義
記号主義とは「AならばB」のような論理式を使って知識を表現する考え方です。 知識を論理式の形で表現することで数学的な推論の操作を反復することで、様々な結論を得ることができます。いわゆる知識推論型のAIはこの記号主義に属します。
・コネクショニズム
コネクショニズムとはニューロンの結合関係及び発火パターンによって知識を表現する考え方です。 推論の誤差を使って結合関係を微調整することで精度を高めることができます。 ディープラーミングなどニューラルネットワークを用いた機械学習がコネクショニズムに属します。
・進化主義
進化主義は生物の進化の過程を模して、環境に適合した解を得るという過程により知識獲得を表現する考え方です。 遺伝子の変異と自然淘汰によって、機械学習における探索と活用を自然に扱うことができます。 遺伝的アルゴリズムや遺伝的プログラミングといった進化的計算が進化主義に属します。
・ベイズ主義
ベイズ主義はベイズの公式における事後分布の更新として知識の獲得を表現する考え方です。 確率を更新していくと言う形で推論を行う点が特徴的となっています。スパムメール判定のベイジアンフィルターやベイジアンネットワークを使った因果推論などがベイズ主義に属します。
・類推主義
類推主義は似たもの同士をグループに分けると言う形で知識を表現する考え方です。 いわゆる教師なし学習が多いなど、学習に必要となるデータが少ないことが特徴的です。 サポートベクターマシンなどのクラスタリングアルゴリズムが類推主義に属します。
筆者の考える最強のアルゴリズム
無数にある機械学習のアルゴリズムの5つのグループに分けることでかなり見通しが良くなりました。 しかし、これだけ特徴が異なる5つのグループをどうやってまとめるのでしょうか。「僕の考えた最強のアルゴリズム」ではないですが、筆者が考えるマスターアルゴリズムを見てみましょう。
筆者は機械学習のアルゴリズムの知識の「表現」「評価」「最適化」という三つの要素に分割し、この要素を再構成することでアルゴリズムの統一を図っています。 ざっくりと再構成の方針をまとめると 以下のようになります。
・マルコフ論理ネットワークを知識表現に採用することで記号主義・ベイズ主義論・類推主義を統合
・知識表現の最適化を進化主義とコネクショニズムを統合した方法で実行
・ マルコフ論理ネットワークによる表現
マルコフ論理ネットワークでは論理式間の関係をネットワークで表現します。 各頂点が論理式に対応しますが、 論理式ごとにその論理式が正しい確率が割り振られます。
このマルコフ論理ネットワークを知識の表現に用いることで、記号主義における論理式とベイズ主義における確率を統合することができます。 また類推主義における類似関係は論理的で表現することができます。
それで3つのグループを統合する表現の形が出来上がりました。
・ 進化主義とコネクショニズムを統合した最適化
知識の表現は学習によって最適化され更新されていきます。 この最適化の仕組みとして、進化主義では進化のメカニズムを、コネクショニズムでは重みの調整が採用されています。
マスターアルゴリズムではこれら2つの最適化を統合した知識の更新を行います。 ネットワークの構造を遺伝的アルゴリズムで更新し、ネットワークの重みを最急降下法などコネクショニズムで用いられている方法で更新します。
ニューラルネットワークの構造と重みを進化計算で更新するニューロ進化と呼ばれる方法もあります。ニューロ進化との違いは、 重みの更新自体は進化 から切り離されて行われるということでしょう。 遺伝子によりネットワークを決定してしまうのではなく、重みの更新という可塑性を残すというのは実際の生物で行われていることに近いと言えます。
まとめ
5つの機械学習のグループを統一するマスターアルゴリズムについて紹介しました。 この本で紹介されている統一方法が唯一の答えと言うわけではありません。 自分が触れている機械学習はどのグループに属するのかあるいはどのグループとどのグループを統合しようとしているのかを意識するのも面白いかもしれません。 興味を持たれましたらぜひ本書の方もご一読下さい。
この記事が参加している募集
この記事が気に入ったらサポートをしてみませんか？