確率変数によってパラメタライズされているもの。線形関数になっているとか。入力に近い、低レベルの層を最適化するから。modelに基づく難しい最適化の方法をつなげる。簡単な問題から難しい問題に連続的に変化させる方法。methodの近似と考えられる。これによって、グローバルな最適化も可能かもしれない。人間は20年も学習が必要。率的に導けるのではないか。必須の要素であるということを言ってきた。ラベルデータはそもそも尐ない。ラベルなしのデータは多い。未来のタスクは分からない。け保存する学習をしておくほうがいい。層ごとの教師なし学習。ローカルな情報だけで可能である。局所解に陥るのをさける。Auto-encoderは明示的に保存するので。難しいのか、それとも最適化問題が複雑すぎるのか。これはオンラインの設定では現実的ではない。