40. 機械学習

40.1.基礎知識 40.2.モデル選択 40.3.様々なモデル 40.4.モデル解析 40.5.正則化パラメータ付き重回帰分析


 40.1. 基礎知識
更新日 :
40.1.1. 質的変数
「性別」や「満足度」等の大小優劣をつけられないデータのこと。

40.1.2. 量的変数
「人数」等の離散型、「電圧」等の連続型の大小優劣つけられるデータのこと。

40.1.3. 多変量解析法
解析名入力出力教師データ
重回帰分析量的変数量的変数あり
数量化1類質的変数量的変数あり
判別分析量的変数質的変数あり
数量化2類質的変数質的変数あり
主成分分析量的変数新規軸なし
数量化3類質的変数新規軸なし
クラスター分析量的変数質的変数なし
多次元尺度構成法質的変数質的変数なし




 40.2. モデル選択
更新日 :
40.2.1. 赤池情報量基準(AIC)[重要]
赤池情報量基準(AIC)

40.2.2. ベイズ情報量基準(BIC)[重要]
ベイズ情報量基準(BIC)

40.2.3. モデル同定の一致性
赤池情報量規準(AIC)は予測精度を上げるために
モデルパラメータの次元を実際より多く見積もる傾向にある。
これを「AICはモデル同定の一致性を持たない。」と呼ぶ。
逆に、ベイズ情報量規準(BIC)とハナンクイン情報量規準は、
モデル同定の一致性を持つ。

40.2.4. マローズのCp基準
マローズのCp基準

40.2.5. カルバック・ライブラー距離[重要]
カルバック・ライブラー距離

40.2.6. 全変動距離
全変動距離

40.2.7. ヘリンジャー距離
ヘリンジャー距離

40.2.8. クロスバリデーション(交差検証)
クロスバリデーション(交差検証)




 40.3. 様々なモデル
更新日 :
40.3.1. ロジスティック回帰分析[重要]
ロジスティック回帰分析

40.3.2. ロジスティックシグモイド関数[重要]
ロジスティックシグモイド関数

40.3.3. ロジスティック回帰モデル(ロジットモデル)[重要]
ロジスティック回帰モデル(ロジットモデル)

40.3.4. プロビットモデル[重要]
プロビットモデル

40.3.5. 一般化線形モデル[重要]
一般化線形モデル

40.3.6. 連結関数(リンク関数)[重要]
連結関数(リンク関数)




 40.4. モデル解析
更新日 :
40.4.1. 2クラス分類問題の事後確率[重要]
2クラス分類問題の事後確率

40.4.2. 2値データ集合における尤度関数[重要]
2値データ集合における尤度関数

40.4.3. 交差エントロピー誤差関数[重要]
交差エントロピー誤差関数

40.4.4. 最急降下法(1次近似)
最急降下法(1次近似)

40.4.5. ニュートン法(2次近似)
ニュートン法(2次近似)




 40.5. 正則化パラメータ付き重回帰分析
更新日 :
40.5.1. L1正則化
L1正則化法

40.5.2. L2正則化
L2正則化法