PR

ブック・インサイド『Python機械学習プログラミング』―単純な例でADALINEのイメージをつかむ

2016年9月16日(金)
福島 真太朗(ふくしま しんたろう)
今回も前回に引き続き、書籍『Python機械学習プログラミング』の2章の内容についてより分かりやすく理解するためのヒントを解説していきます。今回は、ADALINEのイメージがつかめるように、ADALINEのシンプルな例を取り上げます。

勾配降下法: 誤差平方和の勾配と逆方向に重みをずらしていく

ここでは、勾配降下法を用いて重みの更新を行いながら、最適な重みの値に近づけていきます。本書では、一般的な記法で記述されていますが、ここでは簡単な例で説明します。Irisデータセットの品種がsetosaまたはversicolorの100サンプルについて、2番目の特徴量(Petal-Length)と品種(setosaまたはversicolor)の関係を説明します。xをPetal-Length、yを品種(setosaのとき-1、versicolorのとき1)として、これらの関係を次の式で表します。この式のw1は傾き、w0は切片です。

w0w1の最適値を勾配降下法を用いて求めてみましょう。この場合、以下の式が最小となるw1w0を推定します。

この例の場合は、最小二乗法などを用いて、解析的に J(w0, w1 ) を最小化するw0w1を求めることができます。しかし、ここではそうしたアプローチを行うのではなく、w0w1を少しずつ変化させながら収束させていく方法をとってみましょう。そのために、以下の式により重みw0w1の更新処理を繰り返していきます。

Δw0、Δw1は重みの更新の大きさを表しています。これらの式をまとめると、次のように行列を用いて表すこともできます。

更新の大きさΔw0、Δw1はどのように決めればよいのでしょうか。勾配降下法では「誤差平方和の勾配方向」にとります。誤差平方和の勾配とは、「誤差平方和 J(w0, w1 ) の w0w1に関する偏導関数」となります。w0に関する偏導関数は、次式のようになります。

2行目から3行目の変形では、例えば、次の関係を用いています。

わかりにくい場合は、まず次の式をおきます。

この式に対して、連鎖律を使って次のように変形するとよいかもしれません。

同様にして、w1に関する偏導関数は、次のようになります。

図2-2 は、w0w1ともに − 5 から 5 までで 0.01 刻みで点を取ったときに誤差の値をプロットしています。また、各点における勾配の向きと大きさをベクトルで表しています。

図2-2:誤差とその勾配。横軸:w0、縦軸:w1
図2-2:誤差とその勾配

図2-2 を見ると、図の左側のやや上側付近から右側のやや下側付近にかけて青色が濃い領域が存在していることを確認できます。この領域では、誤差および勾配が小さくなっていることを確認できます。

勾配降下法では、誤差を最小化するために、それぞれの重みにおいて誤差が最も小さくなる方向に重みをずらしていく処理を繰り返していきます。誤差が最も小さくなる方向とは、勾配の逆方向です。したがって、先ほど求めた∂J(w0, w1 ) ⁄ ∂w0、∂J(w0, w1 ) ⁄ ∂w1にマイナスをつけた−∂J(w0, w1 ) ⁄ ∂w0、−∂J(w0, w1 ) ⁄ ∂w1によって、w0w1を更新します。よって、次の式で更新することになります。

さらに、学習率というパラメータを導入します。学習率は、「どの程度勾配の逆方向にずらすか」を表すパラメータです。学習率を η とすると、w0w1の更新ルールは次式のように表されます。

例えば、重みw0w1の初期値を w0 = 0、w1 = 0 と設定します。このとき、1 回目の重みの更新は、次式により行われます。

著者
福島 真太朗(ふくしま しんたろう)
1981年生まれ。株式会社トヨタIT開発センターのリサーチャー。2004年に東京大学理学部物理学科卒業。2006年東京大学大学院新領域創成科学研究科修士課程修了。専攻は物理学・応用数学。

連載バックナンバー

開発言語書籍・書評

ブック・インサイド『Python機械学習プログラミング』―単純な例でADALINEのイメージをつかむ

2016/9/16
今回も前回に引き続き、書籍『Python機械学習プログラミング』の2章の内容についてより分かりやすく理解するためのヒントを解説していきます。今回は、ADALINEのイメージがつかめるように、ADALINEのシンプルな例を取り上げます。
開発言語書籍・書評

ブック・インサイド『Python機械学習プログラミング』―パーセプトロンを読み解く

2016/8/8
前回は、書籍『Python機械学習プログラミング』を読むために必要な知識、読み方等について説明しました。今回は、2章の内容についてより分かりやすく理解するためのヒントを解説していきます。
開発言語書籍・書評

ブック・インサイド―『Python機械学習プログラミング』学び方ガイド

2016/6/30
本記事では、書籍『Python機械学習プログラミング』を読むために必要な知識、読み方等について説明します。

Think IT会員サービス無料登録受付中

Think ITでは、より付加価値の高いコンテンツを会員サービスとして提供しています。会員登録を済ませてThink ITのWebサイトにログインすることでさまざまな限定特典を入手できるようになります。

Think IT会員サービスの概要とメリットをチェック

他にもこの記事が読まれています