パーセプトロンってなに？

ニューラルネットワークを作ろうと思ったので、とりあえず基本となるパーセプトロンから。

図にするとこんな感じ。

xが入力、zが出力となっていて

• u = w * x
• z = f(u)

関数fは活性化関数と呼ばれるもの。

単調増加する非線形関数が用いられる。

よく使われるのがロジスティック関数とかシグモイド関数とか呼ばれるもの

• f(u) = 1 / (1 + exp(-u))

他には双曲線正接関数やランプ関数などが用いられる

結局のところ、「ある値付近で急に立ち上がるインパルスみたいな関数であればなんでもいい」と理解している。（たぶん）

パーセプトロンの話に戻る。

入力は何個でも構わない

入力が増えたらその分だけ計算が増える

• u = w1 * x1 + w2 * x2 + w3 * x3
• z = f(u)

これをたくさん並べたものがニューラルネットワークとなる。

続きはまた今度。