RevueRevueNews:世間をにぎわせているコロナウィルスですが、機械学習界でも対策の試みがあります。この動きも論文公開の仕組みがあってこそなので、情報共有の重要性を感じます。Colabが課金プランを発表しました。GPUが手元になくても実験できる環境が整ってきていると思います。Google/Facebook共に多言語のデータセットを公開しました。自然言語はこれからマルチリンガルに向かうのかなと感じます。マルチリンガルの研究が行われる中で、様々な国の言語に潜む法則性などがわかってくれば面白いと思います。Articles:今週は言語モデル関連が多かったです。次ステップではなくnステップ(n-gram)、知識グラフや検索と組み合わせるなどなど。個人的には「言語モデルというタスクでなぜ様々なタスクに転移可能な知識が獲得されるのか」という点に興味があります。実のところすべての自然言語処理タスクは穴埋め問題に過ぎないのでは?という見方もあるかもしれません。画像だとタスク間の関連度合いを調べた研究がありましたが、自然言語のタスクでも同様のマップを作ってみると面白いと思います。Analyticsを使用しています。