Create a gist now

Instantly share code, notes, and snippets.

What would you like to do?
# 知能開発特論6(2016/11/15)
## 画像処理の特徴抽出以降フローについて
教師あり、なし
* 自己組織化マップ
unsupervised ver. NN
* NN
パーセプトロン
線形式を近似
$g(x)=wx$
出力関数fはステップ関数が代表的
$f(x) = 1(x≧0),0(x<0)$
→\{underline}sigmoid func(0と1で表す関数)
基本的に3層(多階層だとうまくいかないとされていた)
非線形も学習可
* bp
出力×教師信号=誤差
論理回路のデモ(00,01,11,10)
* DNN
NNを何層も
事前学習  
入力層から順にunsupervised learning
細かいところから徐々に特徴抽出
画像認識+DNN
→CNN
フィルタ(畳み込み)、ダウンサンプリング
位置ずれの吸収
* SVM
パーセプトロンの発展系
教師付き2クラス分類器
汎化高い
マージン最大化→識別境界を決定
g(x) = w^Tx + b (線形)
フェルマーの定理
ラグランジュの定理
クーンタッカーの定理
w = \sum yは教師
b = -(/2)
ソフトマージン=緩和変数 完全分離条件なし
元のデータを別空間に写像(非線形)
多項式カーネル
ガウス
RBF(radial basis function)
写像されたら線形分離
* bootstrap(バギング)
ランダムなn個のデータを選択、ブートストラップ集合生成、識別器(決定木)作成
複数識別器を作成
多数決により結果出力
Adaboost
データに重み付け(誤ったデータの重みが大きくなる)
弱識別器(識別器にも重み付ける)
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment