回帰モデル
 最小二乗モデル

 構成・方式など
 タスク
 導入
 Sample

 用語
  回帰モデル
 ・回帰問題の出力層の活性化関数は、一般的に 恒等関数を使用する。
 ・線形回帰
最小二乗モデル
 ・正則化項付き
リッジ回帰
重回帰分析の損失関数に正則化項を加えたもの
微分可能
パラメータはゼロにならず、モデルが複雑になりやすい。
ラッソ回帰
重回帰分析の損失関数に正則化項を加えたもの
微分できない。
一部のパラメータがゼロになる。（特徴選択できる。）
エラスティックネット
リッジ回帰 と ラッソ回帰 の線形結合
 ・非線形回帰
ランダムフォレスト
サポートベクターマシン
ニューラルネットワーク
k近傍法

 最小二乗モデル
 ・各係数を最小二乗法などで求めることでモデルとなる式を決定する。
 ・最小二乗法
損失関数を最小化させる様にパラメータを決定
 ・参考