GoogleがWaveNetベースの合成も使える音声合成APIを発表しました。研究発表からAndroidへの適用、機能単独のAPIの公開と、スピードがとても速いです。GoogleがWaveNetベースの合成も使える音声合成APIを発表しました。研究発表からAndroidへの適用、機能単独のAPIの公開と、スピードがとても速いです。NLP関連のOSSのワークショップは、個人的にはトレンドなテーマです。ACL参加者の方はぜひフィードバックをお願い致します。Modelはとても面白く、またしっかりした研究です。ネットワークをいじるのでなく、しっかりした仮設に基づき「狙って構成を組んで当てている」感じが強いです。Text2Shapeも単純なEnd2Endでなくしっかりした手順を踏んでおり、これは画像とテキストに限らず、ドメインの異なる表現を繋ぐ際に使える手法な気がします。あと、YOLOv3のテンションは勇気をくれます。「音を聞くことで、熱帯雨林を守る」は、非常に良い取り組みと思います。以前密猟者をドローン+画像認識で検知する話がありましたが、NGOのような活動にも機械学習が利用されていることを感じます。Netflixでの事例は面白いですが、書き出しに「何の役に立つのだろう?」という問いかけがあり、実際投資対効果の出る活用には苦労しているのかなという雰囲気を感じました。UCLの強化学習コースはとてもおすすめです(資料のダウンロードが重いのがたまにきずですが)。ShareGoogleがWaveNetベースの音声合成APIを公開(ただ、日本語ではWaveNet版は使えない)。ShareUberの自動運転車事故に関する考察で、レーダーであるLIDARを使っていればたとえ真暗闇でも検知できたはずだし、画像のみでも十分可能だったのではないかとしている(そのため、LIDARがオフの状態でのテストをしていたのではないかという疑いがある)。ShareTensorFlowが、推論に特化したNVIDIAのTensorRTに対応。V100?)に比べて8倍高速になったとのこと。ShareACL2018の期間中開催される、自然言語処理のOSS開発に関するワークショップ。開発やAPI設計、またコミュニティの盛り立て方といったことがテーマに上げられている。ゲストにはspaCy開発者のMontaniさん、またStanfordのManning先生といった豪華メンバが登場。ShareDNNの挙動を理解するために、ネットワーク内のノードを削除して反応がどう変るかを検証した研究。猫や犬といった特定のクラスにのみ反応するノードはあまり重要でなく、よくわからない(confusing)ほうが重要(削除したときの影響が大きい)。Model)とエージェントの操作(Controller)を分けて考えたモデル。環境は画面の表現をVAEで、時系列の遷移をRNNで学習(次時刻におけるVAEの潜在表現zの分布を予測する)、操作側はVAEの潜在表現とRNNの隠れ層を結合して重みをかけるだけというシンプルさ。Racingの環境では10,000エピソードで学習)。シミュレーター上での学習が実環境へ転移可能なことも検証されている。Share知識グラフを使ってZero-shotの画像判定を行う試み。知らない動物でも知識グラフを辿ればわかるという発想で、各ノードが画像クラスに対応した知識グラフを使用し、ノードを表す単語からグラフ畳み込みを通じ画像特徴ベクトルを得る(ImageNetはWordNetベースなのでこれが可能)。SOTAを18.7%更新。Normalizationはバッチのサイズが小さくなるとエラー率が高くなってしまうため、チャンネルをグループに分けてそれ毎に正規化を行おうという話(論文中の図の解説がわかりやすい)。ShareYOLOが進化しv3がリリース。バウンディングボックスの推定はYOLO9000を下地に各ボックスについてオブジェクトが収まっていそうかを計算し閾値で絞り込んでいる。ShareよくチューニングされたLSTM/QRNNは、近年のSOTAのモデルに比肩する/勝るという実験結果。Shareクエリに対し関連する複数の文書から回答する形の要約(クエリ型)と、抽象型要約を組み合わせる研究。クエリとの関連度を各文の各単語について計算し、このスコアと単語自身を学習済み抽出型要約への入力にしている。再帰的に生成を行うことで指定単語分の要約を生成。Share自然言語から3D画像の検索、また生成を試みた研究。3D画像とその説明のペアについて、画像はCNN・テキストはRNN(GRU)でエンコードし、言語=>3D=>言語の復元変換を学習する(言語・3Dを同じカテゴリの別のものと差し替えても学習)。異なるカテゴリが遠くなるよう学習する。Share中古のAndroidスマホに太陽光のバッテリーと周辺の音を拾うためのマイクをつけて(1kmぐらいは捕捉できるようになるらしい)、録音した音声から違法伐採者の伐採音かどうかをTensorFlowのモデルで検知するという仕組み。この紹介サイト自体も非常に凝っており、一見の価値あり。ShareNetflixでの機械学習の活用事例について。ユーザーのデバイス・接続ネットワークに応じた配信を行うために、ネットワーク品質の推定・配信すべき動画品質の予測などを行っている。再生ボタンを押す前の予測的キャッシュやデバイスの異常検知なども紹介されている。ここの資料には何度も助けられています。Share機械学習における、実験結果の管理について。すべてが解決されているわけではないけれど、解決しないといけない問題点が良くまとまっている。Share人物の画像を生成する目的と、手法についてまとめられている。データに対する追加アノテーション(Augmentation)の手法として、その分野のSOTAのモデルを用いて人物画像に間接位置やセグメンテーションの情報を付加しているのは面白い。した複数モデルの合わせ技は今後増えてきてもよいと思う。Share今年の言語処理学会における、研究発表のまとめ。ピックアップした論文について概要以外に所感も書かれており、参考になる。なく、誰でも発表論文のPDFを参照可能。SharespaCyベースで共参照を算出するNeuralcorefが、新バージョンを公開。(共参照とは、「私の母の名前は花子だ。彼女は・・・」という時、母=花子=彼女を解決するタスク)。