#2を開催しました!研究を率いるマネージャーたちのアツすぎて深すぎる議論をまとめております。#2を開催しました!研究を率いるマネージャーたちのアツすぎて深すぎる議論をまとめております。PyTorch-LightningはPyTorch公式リポジトリ入りするようです。うちのチームメンバーからの評価も高いです。handoutは、作業というより説明資料を作る時にすごい役立ちそうだなと思いました。ここから書籍にできたりするとさらに便利そうです。ワイン畑での物体検出は、実践的でとても面白い論文です(データセットも公開されています)。実際に画像を見るとブドウは非常に見分けがつきずらかったり、ロボットに見回らせるので異なる画像フレーム間でブドウをダブルカウントしないようにするなど、様々な工夫が凝らされています。自然言語で動作の指示を行う研究は、シンプルなネットワークでコンセプトをきっちり検証しています。ACL2019のまとめ記事が出てきました。全体のまとめも、知識グラフに関する研究のまとめもとてもよくまとめてくれています。言語処理研究のトレンドを知りたい方はぜひ。傾向スコアを使った因果推論を実装してみた記事は大作です。因果推論系の記事は増えてきたな~と思います。個人的にも勉強したいトピックです。ニューラルネットの学習状況を音で把握するというのは面白い試みです。これが職場に鳴り響いていたらちょっと嫌ですが。今の研究開発に点数をつけるとしたら何点か?が今回のテーマです。SharePyTorchで開発したモデルを、効率的に学習/検証するためのpytorch-lightningが、PyTorchオフィシャルになるよう。SharePythonのコードをそのまま配布資料に変換できるツール。コメントがMarkdown形式ドキュメントになり、コードの実行結果(図の出力など)は実行された上でドキュメントになる。Share特徴ベクトルに基づく検索が可能なGNESについて、開発の背景と特徴がまとめられた記事。Labにより開発が主導されているよう。Share物体検出の技術を利用して、ワイン畑のぶどうをカウントする研究。単純な物体検出の適用に留まらず、アノテーション技法の開発(ぶどう/背景を線で示すと領域提案を行う)、3D情報を利用したダブルカウントの防止(別角度から見た同じぶどうを識別)など、実用が意識された内容。Share画像のセグメンテーションを効率化する研究。Convolutionで一気に最適化する。頂点一致とマスク一致のlossで学習を行う。Shareロボットを自然言語で動かす研究。似た単語には似た動作を行わせることを目的としている。モデルはRNNを使用しており、指示(単語ベクトルの系列)を入力した後ノードの接続を切って動作環境に配置し、今度はセンサーデータを入力とし行動を出力する(指示とセンサーの入力ノードは別れている)。ShareACL2019での研究トレンドをまとめた資料。バイアスの問題や医療文書への応用(患者に読みやすくするなど)、BERTにできること/できないことの解明といったトピックがまとめられている。音声/テキストで欺瞞を見抜くという変わり種の研究もある。ShareACL2019での、知識グラフを使用した研究のまとめ。グラフから実際にどう文書(発話など)にするのか、QA(推論)でどう活用するかなど、幅広い研究について紹介されている。Shareランキングの学習では入手しやすいクリックのデータを使用したい。クリックの発生は表示順の影響(Examine)を考慮する必要がある。Share傾向スコアを利用した因果推論の実装を行なった記事。因果推論ではどうにかして「検証対象の条件以外は全て同じ」集団をペアにして(平均値=期待値)比較したいが、対象の等質性をはかる指標として傾向スコアを利用する。この傾向スコアのモデリングについて、様々なモデルで検証を行なっている。Share機械学習の実験ログを管理するツール/サービスの紹介記事。Omniboardで比較が行われている。どれも一長一短という印象。TPU版を試して見た記事。速く、分散推論も可能とのこと。検出の頑健性には課題あり、という印象。概要と使い方がよくまとまっている。ShareDNNを利用した異常検知についてまとめられた記事。異常検知への適用の歴史も書かれていて、どんな形で発展していったかがわかる。Shareニューラルネットの学習状況を音で把握しようという試み。normの大きさに応じてピッチを上げていて、勾配が爆発したりNaNになったりすると異常音で察知できる。