機械学習

2/4ページ
  • 2019.04.14

平均誤差の計算

≪ [前の記事] バッチサイズとエポック 損失関数の平均値  分類問題を学習するネットワークの場合、出力値 $\boldsymbol{y}$ の各成分が入力データの属するクラスを表します。たとえば下図にあるように、ネットワークに $\boldsymbol{x}$ を入力して   \[\boldsymbol{y}=\begin{bmatrix}y_0\\y_1\\y_2\end{bmat […]

  • 2019.04.12

バッチサイズとエポック

≪ [前の記事] 1 of K 表記法   バッチサイズとエポック ミニバッチ学習  機械学習においては、普通は手持ちのデータをまとめて全部学習に使うようなことはしません。全データを訓練データとテストデータに分け、さらに訓練データもいくつかのバッチ(かたまり)に分割して、バッチごとに重みの最適化を実行します。言い換えれば、バッチとは重みの更新間隔です。このような学習の仕方をミニバッチ学 […]

  • 2019.04.10

1 of K 表記法 (one-hot表現)

≪ [前の記事] 複数データの同時入力   1 of K 表記法 (one-hot表現) 1 of K データの作成  ニューラルネットワーク は、バックプロパゲーション という手法を使って出力値を目標変数(正解値)に近づけるように重みを調整します。ネットワークが分類問題を学習する場合、一般に目標変数は 1 of K (one-hot) 形式で表記されます。    1 of K 表記法 […]

  • 2019.04.07

複数データの同時入力

≪ [前の記事] 人工ニューラルネットワーク   複数データの同時入力  重みパラメータ $W$ を最適化するためには、たくさんのデータ $\boldsymbol{x}$ を入力し、ネットワークから出力値を得て、実測値との差分から損失関数を計算する必要があります。前回記事 で定義した layer()関数は1度に1個のデータしか渡せなかったので、複数データをまとめて入力 できるように l […]

  • 2019.04.05

人工ニューラルネットワーク

≪ [前の記事] 人工ニューロン ニューラルネットワークの構造  生物のニューラルネットワークをコンピュータ上に模倣したモデルを 人工ニューラルネットワーク (Artificial Neural Network) とよびます。機械学習の分野では「人工」を省略するのが一般的なので、当講座でも以降は単に ニューラルネットワーク(Neural Network) と記述します。  ニューラルネ […]

  • 2019.04.04

人工ニューロン

≪ [前の記事] 生物の神経細胞ネットワーク   人工ニューロン (Artificial Neuron) 神経細胞のモデル化  前回記事で扱った生物の神経細胞(ニューロン)の機能になぞらえて、コンピュータ上に「複数の信号を受け取り、適当な重み(荷重)を加えて足し合わせて、活性化関数によって強度を調整して出力する」という関数を設計します。  このようなモデルを 人工ニューロン (Arti […]

  • 2019.04.03

生物の神経細胞ネットワーク

≪ [前の記事] 気温と湿度による降雪現象の分類  本章から現代の機械学習の核心部分ともいえる人工ニューラルネットワークを学びます。人工ニューラルネットワークは、生物の神経細胞間で行われる情報伝達の仕組みを模倣した自動学習システムです。本格的な人工ニューラルネットワークについて学ぶ前に、今回は 生物の神経細胞ネットワーク について簡単に解説しておきます。 神経細胞とシナプス  生物の神 […]

  • 2019.03.10

気温と湿度による降雪現象の分類

≪ [前の記事] 決定境界によるクラス分類   北海道室蘭市の降雪現象の分類 北海道室蘭市の気象データ  2017年11月1日から2018年1月31日にかけての、北海道室蘭市の最低気温 $\boldsymbol{\mathrm{X}}$ と平均湿度 $\boldsymbol{\mathrm{Y}}$ , および「降雪現象なし」を表す $\boldsymbol{\mathrm{T}}$ […]

  • 2019.02.27

決定境界によるクラス分類

≪【前の記事】交差エントロピー誤差関数   クラス分類  前回記事で定義した平均交差エントロピー関数を最小化するパラメータベクトルを決定します。 共役勾配法(Conjugate Gradient Method)  今回は 共役勾配法 (Conjugate Gradient Method) というアルゴリズムを使うので、method には "CG" を渡しておきます。さらに、この手法では […]

  • 2019.02.22

交差エントロピー誤差関数

≪【前の記事】最尤推定 対数尤度と交差エントロピー誤差関数  前回記事では、ある気温 $x$ が与えられたとき、目標変数 $y$ が $1$ をとる(すなわち雨に分類される)確率 $P(t=1|x)$ は ロジスティック関数   \[L(x)=\frac{1}{1+\exp\{-(ax+b)\}}\] によって与えられると仮定しました。今回は手持ちの実測データ   \[\boldsym […]

1 2 4