MITが統計・データサイエンスの講座を開講しました。登録せずに受講できるので、ぜひ受講してみましょう。PyTorchが、大幅な変更を伴うアップデートを行いました。MITが統計・データサイエンスの講座を開講しました。登録せずに受講できるので、ぜひ受講してみましょう。PyTorchが、大幅な変更を伴うアップデートを行いました。使用している方は、マイグレーションガイドをチェックしましょう。NAIS-Netは固定的なネットワークから離れた、ちょっと変わったモデルです。Retrieve~は、テキストのスタイルトランスファーを行う研究で興味深いです。Co-Trainingは、半教師あり学習を扱った方法で、Resourcesにもありますがこの分野への注目が高まっていることを感じます。自動運転車のテストフレームワークまでオープンソースになる時代とは、ちょっと驚きです。Eagerのチュートリアルが出たので、まだ触っていない方にお勧めです。全米クイズ王チームに勝った話は、先端の質問回答システムがどのように作られているのか丁寧に解説されています。Share統計・MITがデータサイエンスの講座を公開。credential)を獲得することも可能。Exampleのコンペティションが開催。攻撃側と防御側のトラックに分かれている。ShareフロントエンドのTensorFlow.jsが、Node.jsに登場。Node.js上で使えるようになる日が来るかもしれない。Share破壊的変更を伴うPyTorch0.4.0がリリース。マイグレーションガイドが提供されているので、既存ユーザーは一読を推奨。Share入力に応じて適応的に学習を行うためのアーキテクチャの提案。通常の伝搬では隣のレイヤから入力をもらうしかないが、提案構造では単一の層(x)を、任意の回数(K)、skip-connection+毎回入力を適用することで伝搬していく。して作成されるブロックを連結してネットワークを構成する。Share画像のスタイル転移の研究と実装をまとめたもの。Prismaといったスタイル転移を利用したアプリケーションについても取り上げられている。Share文のスタイルトランスファーを行う研究。具体的には、ネガティブな文を意味を維持したままポジティブな文にするなど。属性と関連が深いワード(n-gram)を頻度から特定し、関連語とそれ以外に分けた後、それ以外/転移先の関連語をそれぞれRNNでエンコードした結果を結合しデコーダーから生成を行う。Share教師なしデータに対する、協調学習を行う試み。片方の分類機がつけたラベル(と少量の教師データ)でもう片方が学習し、というのを交互に繰り返していく。分類機に与える教師なしデータに対するサンプリングバイアスを防ぐ+学習に効果的なデータを与えるために、強化学習を使用している。Share自然言語理解を行うモデルの性能測定プラットフォームGLUE(データセットを含む)の発表。内容としては、質問回答や感情分類、テキスト間の関係推定などのタスクからなり、単一のモデルがこれら複数のタスクをどれだけこなせるかを測定する。Share質問回答のモデルを、CNN+Attentionのみで作成したという研究。これにより、学習/推論速度が向上し精度も高まった。Attention+全結合で行っている。ShareAutoEncoderと自己回帰モデルを組み合わせて、生成モデルを作成する研究。自己回帰モデルは当然予測する先のデータに依存してはならないが、AutoEncoderの入力には全データが入ってくる。このため、マスクをかけて先のデータが伝搬しないようにする。シンプルな構成で扱いやすい。Share自動運転車の開発を手掛けるVoyageが、自動運転車の安全性テストを行うためのフレームワークをオープンソースでリリース。歩行者が横断歩道を渡っていたら?というようなシナリオテスト、自動車としての機能テスト、エラーからの回復のテストなどが含まれているとのこと。eagerで、基本的なアイリスデータセットの分類を行ってみるチュートリアル。Share物体検知のモデルであるSSDを使って、道路の損傷を検知するという記事(コードも公開されています)。Share疑似ラベル(自分/あるいは協調相手が予測したラベル)を使用した半教師あり学習についてのサーベイ。Share自然言語処理を現実に役立てるのが難しい点の解説と、ただ周辺環境は加速度的に変化しているので活用が可能になるタイミングを見逃すな、という話。SharePyTorchで絶賛開発中の、モデルをコンパイルして高速に動かす仕組みを実際に動かしてみた記事。ShareNIPSで開催された早押しクイズ選手権で優勝したモデルの解説。単純に質問回答を行うモデルだけでなく、回答のタイプ(人名なのか、作品名なのかetc)、情報検索を行うモデルを組み合わせて回答を行っている。Servingでホスティングする方法についての解説記事。Averaging)を使う方法。仕組みの解説と、PyTorchによる実装が紹介されている。VGG16/Resnet-110で論文同等のエラー率の低減が得られたとのこと。Shareモデルフリーのモデルを使って、モデルベースの学習を行う手法。大まかには一定間隔ごとの状態における報酬を最大化するようにし(状態予測=モデルベース)、「一定間隔以内に(報酬の高い)状態にたどり着けるか」はモデルフリーで学習するという手法。