Python関数 functools.reduce() functools.reduce()functools.reduce() は「イテラブルの各要素に演算を連続的に作用させて1つの値に集約させる」高階関数 です。 functools.reduce(function, iterable)最初に... 2019.05.01 Python関数
Python関数 【NumPy】要素を置換する関数 numpy.where(condition, x, y)は、conditionに記述された条件を満たす要素をxで、満たさない要素をyに置換します。 2019.05.01 Python関数
機械学習 確率的勾配降下法(SGD) ≪【前の記事】学習用データの作成 確率的勾配降下法(SGD)下図のように、入力層、中間層、出力層がそれぞれ 1 層ずつからなるニューラルネットワークを構築します。 中間層の活性化関数は ReLU を採用します。 すでに部品は揃っているので、... 2019.04.29 機械学習
機械学習 学習用データの作成 ≪【前の記事】Middle_layerクラス 学習用データの作成ニューラルネットワーク を試験運用するための簡単な学習用データを作成しておきます。入力データは $xy$ 平面の座標とします。正解値(目標変数)は、放物線 $y=x^2-4$ ... 2019.04.27 機械学習
機械学習 中間層の実装 ≪【前の記事】Output_layerクラスMiddle_layerクラス活性化関数クラスの実装今回設計する中間層(Middle_layer クラス)では、メソッドに活性化関数と、その導関数を渡す必要があります。これらの関数を別々に設定して... 2019.04.26 機械学習
Python数学 双曲線関数 双曲線関数双曲線余弦 (hyperbolic cosine)、双曲線正弦 (hyperbolic sine) および 双曲線正接 (hyperbolic tangent) は、それぞれ次式によって定義されます。 \&\sinh x=\fra... 2019.04.26 Python数学
機械学習 出力層 ≪【前の記事】重み更新式の意味Output_layer_cクラスバックプロパゲーション機能 を持つ ニューラルネットワーク の実装を始めます。 今回は 出力層 をインスタンスとして生成する Output_layer_c クラスを設計します ... 2019.04.25 機械学習
Python数学 【SymPy】級数展開 ベキ級数展開ある関数 $f(x)$ を $x$ のベキ級数(整級数) \ で表すことを 関数の 級数展開 といいます。無限に項をとることによって、理論上は関数と級数展開は厳密に一致しますが、実用のために有限項で打ち切っても、適切な数の項をと... 2019.04.21 Python数学
機械学習 重み更新式の意味 ≪【前の記事】バックプロパゲーション重みの更新式の意味今回は前回記事で得たバックプロパゲーションにおける 重みの更新式 の意味を考えます。 出力層の重み更新式$d-1$ 層 $i$ 番ニューロンから $d$ 層 $j$ 番ニューロンに入力さ... 2019.04.21 機械学習
機械学習 バックプロパゲーション ≪【前の記事】平均誤差の計算 損失関数の勾配ニューラルネットワークは、ある層の出力値の線形結合を次の層に渡すことを繰り返すので、ネットワークからの出力ベクトル $\boldsymbol{y}$ には、入力ベクトル $\boldsymbol{... 2019.04.20 機械学習