JSAI2017レポート

JSAI2017report.md

概要

• 技術的に何か複雑で新しいものは少なく、学生の発表ということもあり、あまりレベルは高くない
• 技術的にユニークであり、知見としたい点を発表する

教師なし学習（PCANet）

各種機械学習のオーバーヘッドとなりうる点では、学習させるデータのペアを作ることが求められることが多い   これは教師あり学習と呼ばれ、人間がなんらかの形でデータセットを作成する必要がある

比べて教師なし学習という分野があり、こちらは学習する対象のデータさえ与えれば、後は勝手に学習していくものであり、特に人間が頑張ってデータセットを作る必要はない
自然言語処理では、有名なところでは　word2vecやfastText, tfidfなど数値を計算する、頻出する系を計算する系などが該当する

これを画像処理までに拡張できないか、という視点で行われた理論がある

それが、PCANetと呼ばれる学習方法である

DeepLearningでは通常、パーセプトロン同士のつながりの太さを学習していくが、あらかじめいくつかの重みとフィルタを設計したものをパーセプトロンの学習部分に組み込んでおき、 適切に重みを取り出していくというアプローチをとってくものである

ユニークな技術で、人間による、教育を行わずとも特徴量を取り出せることが、示された

強化学習(Reinforce Learning)

GAN(Generative Adversarial Network)など、絵や文字を生成することが流行ったが、理論的背景は、強化学習の一種である 強化学習の本質は、人間が作った正解データを学習するのではなく、なんらかの（ゲーム等であれば）得点を学習していくものである

評価機（多くの場合はゲームシステム）と深層学習モデルを対立させ、モデルは最初のうちはランダムに近い行動をとるが、ランダムに動いたうちの行動で、評価機から多く点数を引き出せたものを（目的関数の目的値を大きくとり）強く学習し、低い点数であったものを（目的値を小さくとり）学習しないという方法をする

理論を構築するのは容易であるが、なかなか任意の目的に対して適切に収束させるのが難しく、評価機もディープラーニングによる学習機構に組み込んだのが、GANだと見ることができる

実応用例としては、Alpha GOなどがある

参考

• [1] PCANet: A Simple Deep Learning Baseline for Image Classification?
• [2] Deep Reinforcement Learning for Keras