PR

ブック・インサイド『Python機械学習プログラミング』―単純な例でADALINEのイメージをつかむ

2016年9月16日(金)
福島 真太朗(ふくしま しんたろう)
今回も前回に引き続き、書籍『Python機械学習プログラミング』の2章の内容についてより分かりやすく理解するためのヒントを解説していきます。今回は、ADALINEのイメージがつかめるように、ADALINEのシンプルな例を取り上げます。

原著の『Python Machine Learning』は2015年9月に米国などで発売。「機械学習の考え方」と「Pythonプログラミングによる実践」をバランスよく解説していると評価され、米国Amazon.comでベストセラー。その日本語訳はコラムや脚注、付録が追加され、2016年6月に発売されました。ここでは、本書のより効果的な活用法について監訳者が解説します。

ADALINE

本書の2章では、「ADALINEと学習の収束」から「大規模な機械学習と確率的勾配降下法」(2.4~2.6節)の中で、ADALINE(ADAptive LInear NEuron)というアルゴリズムが扱われます。前回説明したパーセプトロンとADALINEの主な違いは、図2-1のようにまとめられます。

図2-1:パーセプトロンと ADALINE の相違点
図2-1:パーセプトロンと ADALINE の相違点

■活性化関数の出力
パーセプトロンの活性化関数は、総入力をクラスを表す数値に変換しますが、ADALINEの活性化関数の出力は総入力そのものになります。

■重みの更新
パーセプトロンは重みをサンプルごとに更新しますが、ADALINEは全サンプルに対して更新します。

ここでは、ADALINEについてより詳しく補足的な解説を行っていきます。

誤差平方和:真の値と予測値の差を2乗して足し合わせる

パーセプトロンでは、総入力zを各入力信号に重みをかけて足し合わせたものとして計算していました。例えば、入力信号が2つの場合(x1x2)、総入力zを次式で定めていました(w0は定数項のため、x0 = 1)。

また、出力については、総入力が0以上かどうかを判定して、総入力が0以上の場合はクラス1を、総入力が0未満の場合はクラス-1を割り当てていました。すなわち、次式の活性化関数を定義していました。

ADALINEで使用される誤差は、誤差平方和(Sum of Squared Error : SSE)です。誤差平方和は、「各サンプルの真の値と予測値の差(残差)を2乗したものをすべてのサンプルに対して足し合わせたもの」です。つまり、誤差平方和が大きいほどサンプル全体として真の値と予測値の差が平均的に大きいことになります。i 番目のサンプルの真の値を y(i)、予測値を φ(z(i)) とすると、誤差平方和は次式で表されます。

N個のサンプルのインデックスを i = 0 から i = N − 1 までとすると、上式は以下のように表すことができます。

例えば、N = 3 の場合(サンプルが3個)では、以下のようになります。

パーセプトロンで扱った例の場合、i 番目のサンプルに対して活性化関数の出力は、次のとおりです。

したがって、誤差平方和は 1 番目から 100 番目までのサンプルの真の値と予測値の差 (残差)を 2 乗して足し合わせたものになります。したがって、誤差平方和は次のとおりです。

この誤差平方和が小さくなれば、真の値と予測値は平均的に近くなります。このような重み w0w1w2を探す必要があります。

著者
福島 真太朗(ふくしま しんたろう)
1981年生まれ。株式会社トヨタIT開発センターのリサーチャー。2004年に東京大学理学部物理学科卒業。2006年東京大学大学院新領域創成科学研究科修士課程修了。専攻は物理学・応用数学。

連載記事一覧

開発言語書籍・書評

ブック・インサイド『Python機械学習プログラミング』―単純な例でADALINEのイメージをつかむ

2016/9/16
今回も前回に引き続き、書籍『Python機械学習プログラミング』の2章の内容についてより分かりやすく理解するためのヒントを解説していきます。今回は、ADALINEのイメージがつかめるように、ADALINEのシンプルな例を取り上げます。
開発言語書籍・書評

ブック・インサイド『Python機械学習プログラミング』―パーセプトロンを読み解く

2016/8/8
前回は、書籍『Python機械学習プログラミング』を読むために必要な知識、読み方等について説明しました。今回は、2章の内容についてより分かりやすく理解するためのヒントを解説していきます。
開発言語書籍・書評

ブック・インサイド―『Python機械学習プログラミング』学び方ガイド

2016/6/30
本記事では、書籍『Python機械学習プログラミング』を読むために必要な知識、読み方等について説明します。

Think IT会員サービスのご案内

Think ITでは、より付加価値の高いコンテンツを会員サービスとして提供しています。会員登録を済ませてThink ITのWebサイトにログインすることでさまざまな限定特典を入手できるようになります。

Think IT会員サービスのご案内

関連記事