BrainPad株式会社ブレインパッドのデータ活用に関する取り組みや製品・サービス開発の裏側、社員の日常などをご紹介します。カリフォルニア州サンノゼで、3月26日から29日の4日間開催されているNVIDIA(エヌビディア)のイベント「GTC2018」の現地レポートをお送りします!現地レポートは、複数回お届けする予定です。今回は、その第3回です!こんにちは。アナリティクスサービス本部、AI開発部の仲田です。技術イベント「GTC2018」3日目のレポートです。その模様もこの記事の最後でレポートします!(以降、セッションの紹介が続くので、パーティの様子を知りたい方は最後までスクロールしてください)■セッションまずは、1日目・2日目に引き続き、セッションの模様をお届けします。社内での経験を踏まえて紹介していました。データサイエンティストのスキルセットをレーダーチャートとして表す図などを紹介して、企業のデータサイエンスの成熟度が今どの段階にいるのかについてや、データサイエンスチームのスキルセットから今後伸ばす領域/補う領域を決めたりといった判断について触れられていました。すべてのスキルを持つ必要はなく、必要に応じて伸ばすべき領域を決めるべきだといった話など、企業のデータサイエンスの成熟度等の議論は日本でも非常によく聞く内容ですが、世界的にも同じようなことが議論されているのだと実感しました。Optimization」をご紹介します。この講演では、ベイズ最適化によるハイパーパラメータ探索自動化ソフトウェアの機能紹介が行われていました。ハイパーパラメータチューニングの経験がなくても聞いたことがあるとは思いますが、深層学習を含む機械学習モデルのチューニングは非常に困難かつ非自明です。使われていますが、より洗練された手法としてベイズ最適化が挙げられます。社の製品は、このベイズ最適化周りの自動化をおこなってくれるソフトウェアです。ベイズ最適化をするだけならばよくあるのですが、今回特に気になった機能として、「複数指標のチューニング」があります。精度を高くしたいという要求はもちろんですが、一方で、「モデルの訓練時間」「モデルの推論時間」を短くしたいという要求もあるはずです。精度と訓練時間を組み合わせた指標を作成するのは非常に難しいため、通常はそれぞれ独立に評価されていることが大半かと思います。そこで、パレート最適の文脈で使われるパレートフロンティアをうまく利用する方法が提示されていました。簡単に言えば、複数指標でチューニングするときは、指標の両方が同時に良くなる場所の周りを重点的に調べればよいというだけなのですが、この発想を実際に数理的に判断、実装してソフトウェアにしている例はなかなか見かけないと思います。自然な並列化が難しいのですが、そのあたりの問題を吸収するスケジューラもあるのでちゃんとスケールしますよ、とも付け加えられていました。Learning」をご紹介します。この講演では、最初に「本来あるべきAIのすがた」を議論してから、スピーカーらの強化学習における先進的な取組みを説明していました。氏のページにまとまっています。囲碁において成功を収めていると言って問題ないでしょう。特定のゲームだけを解くようなものではなく、より汎用的なもののはずです。*2例えば人間は初めてプレイするゲームであっても、これまで獲得したある種の「常識」や「事前知識」から、ある程度のスコアを得ることが可能です。「炎に入ったら危なそうだ」「ハシゴは登れそうだ」という事前知識などが挙げられるでしょう。強化学習のエージェントは基本的にすべてゼロの状態から訓練が始まるため、事前知識がありません。このような場合に、強化学習のエージェントに「常識」を獲得させる方法として、スピーカーが主に研究しているのが「経験による獲得」です。言い換えれば、「自分の行動とその結果を元に、世界がどういう法則で動いているのかを学習する」ということです。この場合に重要なのは、「あくまで概念を獲得するべきであって、完璧な未来の予測は必要ない」ことだと述べられていました。ビンを落としたときには「割れる」という概念を予測できれば良いのであって、「割れた欠片がどこに飛び散るかをひとつひとつ予測」する必要はないということです。*5」を利用すればよいという発想が自然です。中間層を利用して、その世界の動き方を学習するようにした研究では、スーパーマリオを一切の報酬関数なしである程度クリア可能なことがわかりました。*7、興味深い例が次々と紹介されていました。child's?」*8がオシャレに引用され、拍手喝采でセッションが終了しました。パーティはキーノート会場で実施されました。会場の前方には、参加者が書いた輪郭に合わせて絵を生成するブースが設けられていました。プレイしている一方で、会場隅では謎の巨大チェス盤で対戦している人がいたり、独特の雰囲気でした。参加者は大変多く、盛り上がったまま10時過ぎになってもまだパーティが続いていました。日本だとなかなか見慣れない規模・雰囲気でしたので、貴重な経験となりました。パーティ会場で知り合った日本人参加者の方とも少しお話しする機会があり、情報交換もすることができました。次回のブログもよろしくお願いいたします!ブレインパッドは、イベントへの参加や最先端の情報収集など、さまざまな取り組みを積極的に実施しています。実際のビジネスで自分の知識・技術を活用してみたいという方、ぜひエントリーください!www.brainpad.co.jp*1:GPUイベントなのでちょっと無理やりハイパワーマシン/分散処理の話を挟んだようにも見えましたが(笑)*2:「弱いAI」「強いAI」の話に近いですね*3:強化学習では「モデルフリー」と「モデルベース」としてよく参照される概念です*4:実際、人間の赤ちゃんもいろんな行動をしてみて地球からの重力の存在等を認識すると説明がありました。地球からの重力の存在(高い場所からモノは落ちる)はまさに「常識」の知識にあたります*5:CNNは、層が深くなるにつれて認識の抽象度が上がっていくことがわかっています*6:本当は、「自身の行動に関連する部分のみをうまく抽出」したり、「結果の予測が難しい行動を積極的に選択」したりする工夫がたくさんあって更に面白い研究なのですが、ここでは割愛します。採用ページスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。