様々なツールのバージョンアップがありました。様々なツールのバージョンアップがありました。ML.NETはオール.NETでの開発に道を開くもので、これでXamarinやHololensといったプラットフォームで開発している方も機械学習を扱いやすくなったと思います。TensorFlowのチュートリアルは大幅に改善されており、過去に比べだいぶわかりやすくなっています。強化学習の弱点について、分析と対策がだんだんと進んできているなという印象を受けます。Glowはこれまでの生成モデルとは異なるアプローチで、これがうまくいったとなると画像以外の分野にも転用されるかもしれません。個人的には自然言語のAdversarialはかなり衝撃的な結果でした。こちらも強化学習関係の記事が多いですが、Udacityの強化学習講座のコードはとてもよくできています。ロボットの操作に興味があるかたは、ロボットに関するアルゴリズムが学べるリポジトリもおすすめです。arXivTimesで初めてのオフラインイベントを開催しました。発表者のご厚意により全発表スライドが提供されていますので、ぜひ参照いただければと思います。Foundation謹製の.NETで使用できる機械学習ライブラリが、ONNX形式に対応。MLでの推論実行まで、オール.NETで行うことがやりやすくなった。SharePythonでグラフの描画を行うライブラリであるplotlyがメジャーバージョンアップ。インタラクティブなグラフが書きやすくなり、パフォーマンスも向上したもよう。ShareTensorFlowの1.9がリリース。チュートリアルがかなり整備され、tf.kerasベースの入門も作成された。Colabでの実行もでき、初心者にかなり優しくなった。Share正規化の手法で、Batch・Instance・Layerという3種のNormalizationをミックスする手法の提案。平均を引いて分散で割るという形式は同じだが、平均・分散を各手法における平均/分散の重みつき平均で算出する。Share画像生成を可逆変換の関数を組み合わせ行う手法。並列計算が行いやすいの3点を満たす(VAEだと1、GANだと2、自己回帰だと3がNGになる。可逆変換の場合逆変換で1、各関数(encoder)により2の獲得が可能)。Shareモデルフリーとモデルベースで、どれぐらいサンプル効率に差があるのかを分析した研究。モデルフリーにおいても、探索をUCB(未探索のところほど探索する手法)で行い、学習率を直近の経験を重く評価するよう調整することでモデルベースの下限と同等の性能が出せることを証明。Share自然言語処理におけるAdversarialな変換の研究。単純な言いかえ(ルールで変換)で文書読解やQA、感情分類のモデルをだませることを確認。isをWhat'sに変えるだけでQAが間違えるなどかなり衝撃的な結果。Share強化学習でランダムシードによって挙動が変わってしまう問題について、どれくらいシードを取れば十分なのか調査した研究。結論としては、AとB、2つのアルゴリズムを比較する際はブートストラップ法で信頼区間を求めた上で、有意水準0.05未満のウェルチt検定を行う。ShareMSに買収された強化学習StartupであるBonsaiによる、強化学習のメリットと適用の難しさについての記事。解きやすい単位に分割して確実性を担保している。ShareICLR2018での、カリキュラム学習と模倣学習についての論文紹介。論文の紹介だけでなく背景となる強化学習の課題もあり、わかりやすい。ShareUdacityで公開されている深層学習講座にて使用されているサンプルコード。Notebookで参照可能。他にない所としては、連続値を離散化するテクニックを紹介している。Shareロボティクスに関わるアルゴリズムと実装が学べるリポジトリ。ロボットの操作では強化学習より既存のアルゴリズムが使われることも多いので、それを学ぶのによさそう。Share2018/7/8、ACL2018開催ジャスト一週間前というタイミングで、ACL2018読み会を開催しました。本記事では、当日の内容と発表された論文の紹介をして行きたいと思います。Shareデータの条件付変換についての記事。画像生成における条件付け(「犬」の画像を生成するなど)がわかりやすい例だが、この考えがより多くのタスクに転用可能であることを様々な研究事例を元に紹介している。その「条件を与える」という操作がどうモデル化できるかについて解説している。Shareデータを作成するときの手段とツール(サービス)のまとめ。ツールは画像系だけでなく、自然言語・音声まで紹介されている。Share機械学習における様々な評価指標の解説。Kaggleをやるときにこの指標何だっけ?ということ結構あるのでありがたい。Hubでも公開されている、文脈を考慮した単語表現が獲得できるELMoの仕組みと評価についての記事。Share大きなデータセットで特徴抽出処理を行ったときに、その抽出結果を保存しておくためのテクニック。Arrowのリポジトリに移行したので、pyarrow.featherで使うこと推奨です。