深層学習の肝となるのはニューラル・ネットワーク. ニューロン(神経細胞)と多数の軸索/シナプスをコンピューター上にモデル化する. モデル化したニューロンをパーセプトロンと呼ぶ. 軸索とシナプスは、パーセプトロンへの入出力で表現される. パーセプトロンは入力値に重みを掛けて和をとり、その値を活性化関数で処理し、その結果がパーセプトロンの出力となる.

<?xml version=”1.0” encoding=”UTF-8” standalone=”no”?>

ニューラル・ネットワークはパーセプトロン間の結合で構成される. ３つの入力値からなる入力層、四個のパーセプトロンからなる隠れ層、一個のパーセプトロンからなる出力層を用いた全結合型ニューラル・ネットワークは以下の様になる. 全結合のそれぞれに、重みと呼ばれるパラメターがある. このパラメターをデータで学習させるのが機械学習. コンピューターの能力が許せば、どんな複雑なモデルも多層パーセプトロンで表現可能となる. 隠れ層の数が二以上の場合を特にディープ・ニューラル・ネットワークと呼び、これの機械学習を深層学習と称する.

<?xml version=”1.0” encoding=”UTF-8” standalone=”no”?>