機械学習

機械学習

最尤推定(MLE)

≪【前の記事】K-分割交差検証最尤推定(MLE)次のデータは、2017年11月から2018年1月にかけて、青森県青森市で降水(降雨または降雪)のあった日の最低気温と、降雨・降雪の現象を示すデータです(気象庁が提供しているデータを元に作成しま...
機械学習

検証曲線(validation curve)

検証曲線(validation curve)scikit-learn回帰分析これまでの記事では、ほとんどゼロからモデルを構築しながら色々な回帰分析の手法について学んできました。今回は回帰分析シリーズの締め括りとして、scikit-learn...
機械学習

複数モデルの比較検討

複数モデルの比較今回は複数の非線形モデルを作成して、曲線の形状や評価値を見ながら、比較検討作業を行ないます。そのための準備として、最初に「任意の関数オブジェクトを渡すと、平均 2 乗誤差を計算する関数を返す関数」を定義しておきます。 # #...
機械学習

K-分割交差検証

≪【前の記事】ホールドアウト検証 K-分割交差検証前回記事で扱ったホールドアウト検証は、入力データと目標データを一つの方法で分割するので、結果に偏りが生じる可能性があります。そこで今回は下図のようにデータを 4 等分して、テストデータと訓練...
機械学習

ホールドアウト検証

≪【前の記事】ガウス基底モデル ホールドアウト検証前回記事で説明したオーバーフィッティング問題を解消する方法の1つがホールドアウト検証と呼ばれる手法です。 ホールドアウト検証はデータを学習データ (訓練データ) とテストデータに分けておき、...
機械学習

ガウス基底モデル

≪【前の記事】Fit_funcクラスガウス基底モデル前回までは多項式近似を扱いましたが、今回は \ で定義される ガウス関数 を基底関数として用いた ガウス基底モデル を扱います。 $\sigma=10,\ \mu=20k\ (k=0,\ ...
機械学習

任意関数の近似関数を生成するクラス

≪【前の記事】線形基底関数モデルFit_funcクラス前回記事では、入力変数 $x$ と目標データ $y$ の関係を基底関数 $\phi_k(x)$ の線形結合 \ によって近似するようなモデル(線形基底関数モデル)について学びました。今後...
機械学習

線形基底関数モデル

≪【前の記事】最小二乗法による単回帰分析線形基底関数モデル前回までは 25歳以下に限定した年齢と体重のデータを使っていました。今回は年齢制限をなくして、幅広い年齢層から 20人を無作為抽出したデータを使用します。 # Linear_basi...
機械学習

最小二乗法による単回帰分析

≪【前の記事】平均二乗誤差と回帰直線線形回帰モデル② 最小二乗法による単回帰分析前回記事では年齢データ $x_k$ と体重データ $y_k$ をもとに、  \ を最小にするような $a,\ b$ を勾配法のアルゴリズムで計算させて、年齢 $...
機械学習

平均二乗誤差(MSE)

≪【前の記事】最急降下法【機械学習】平均二乗誤差次のように $N$ 人の年齢 $x_k$ と体重 $y_k$ のデータセットが用意されたとします。 \[\boldsymbol{x}=\begin{bmatrix}x_0\\x_1\\\vdo...