File tree Expand file tree Collapse file tree
Expand file tree Collapse file tree Original file line number Diff line number Diff line change 7070
7171 \mathbf {y} \equiv \mathbf {z}^{(L)}
7272
73- と表記する.重みやバイアスはネットワークのパラメータであり,明示的に :math: `\mathbf {y}(\mathbf {x}; \mathbf {\theta })` のように書くこともある.このパラメータを学習し,適切な出力を得ることがニューラルネットワークの目的である.教師あり学習では,下記のような入力 :math: `\mathbf {x}` に対する望ましい出力 :math: `\mathbf {d}` のペアが複数与えられる.
73+ と表記する.重みやバイアスはネットワークのパラメータであり,明示的に :math: `\mathbf {y}(\mathbf {x}; \mathbf {w })` のように書くこともある.このパラメータを学習し,適切な出力を得ることがニューラルネットワークの目的である.教師あり学習では,下記のような入力 :math: `\mathbf {x}` に対する望ましい出力 :math: `\mathbf {d}` のペアが複数与えられる.
7474
7575.. math ::
7676
8282
8383.. math ::
8484
85- \|\mathbf {d}_n - \mathbf {y}(\mathbf {x}_n; \mathbf {\theta })\| ^2
85+ \|\mathbf {d}_n - \mathbf {y}(\mathbf {x}_n; \mathbf {w })\| ^2
8686
8787 が用いられる.これを訓練データの :math: `N` 個のサンプルについて加算した
8888
8989.. math ::
9090
91- \mathcal {L }(\theta ) = \sum _{n=1 }^N \|\mathbf {d}_n - \mathbf {y}(\mathbf {x}_n; \mathbf {\theta })\| ^2
91+ \mathcal {E }(\mathbf {w} ) = \sum _{n=1 }^N \|\mathbf {d}_n - \mathbf {y}(\mathbf {x}_n; \mathbf {w })\| ^2
9292
9393 が損失関数となる.なお,目的とする関数の値域により適切な活性化関数を選定する必要がある.例えば,目的とする関数の値域が :math: `[-1 ,1 ]` であればtanh関数,任意の実数 :math: `(-\infty , \infty )` であれば恒等関数が適切である.
9494
You can’t perform that action at this time.
0 commit comments