university)概要:スパース制約を用いた変数選択は近年様々な分野で用いられている。L1制約が広く用いられるが、推定値にバイアスが生じるという問題点が知られている。そこでバイアスを抑えるようデザインされた非凸スパース制約が提案されている。本研究では、非凸スパース制約の性能を理論的に明らかにし、達成限界を理論的に保証したアルゴリズムを構成する。非凸スパース制約に対するモデル選択規準を導出する。),武田朗子(統計数理研究所)概要:複数のクリック率の不明なオンライン広告をウェブサイトに配置する問題を考える。このとき、クリック率の高い広告から順に配置したいが、ユーザのフィードバックを見ながらオンライン的に配置を最適化する必要がある。下の位置にある広告は通常より見る確率が低いが、この割引効果を考慮したオンライン最適化を多腕バンディット問題として定式化し、有効なアルゴリズムを提案する。情報工学専攻)概要:組み込み機器にインストール可能な予算付きオンライン学習法を提案する。ここではregressionを前提とする。perceptronを使った予算付き学習法の発展版:重み付き射影学習法を提案する。boundを持つことを示す。regressionに適用し、アンバランスデータに強いことを示す。発表者:松田源立(東京大学)概要:筆者らは、以前に、源信号の2次元特徴空間上でのガウス分布近似を利用し、源信号分布を適応的に評価可能かつシンプルな独立成分分析手法(適応的ICA)を提案した。本研究では、適応的ICAの源信号分布に依存しない特性を利用し、一般的な情報量基準を導入することで、非ガウス源信号の個数同定によるノイズ除去や、少数サンプルからの特徴抽出等が可能となることを示す。発表者:松島慎(東京大学)概要:一般化加法モデルは複雑かつ解釈性の高い予測関数のモデルであるが、大規模なデータからの学習は計算量的な困難があった。本研究では一般化加法モデルの経験リスク最小化に対し全変動ノルムを用いた正則化を課すことで、効率的に複雑かつ解釈性の高い予測関数を学習できることを示す。統計的機械学習の見地から、この枠組みは最適な予測関数を漸近的にPAC学習の意味で学習可能であることを示す。bandits発表者:徐立元(東京大学/理化学研究所),本多淳也(東京大学/理化学研究所),杉山将(理化学研究所/東京大学)概要:各腕の報酬がその腕の特徴量に対する線形モデルで表現される線形バンディットの設定において、報酬の期待値が最大の腕を早く見つける最適腕識別問題を考える。これまでは事前に固定した戦略に基づいて引く腕を決める手法が提案されていたが、過去の報酬から戦略を適応的に変化させることで、更に性能が改善できる。本発表ではこの考えに基づく新しい手法を提案し、従来法よりも早く最適腕を識別できることを理論的・実験的に示す。エンタングルメントエントロピー(EE)は量子力学系の情報量を定量化するものである。近年、量子系との対応を通じて、ニューラルネットワークにおいて、EEが果たす役割が解析されつつある。我々は、制限ボルツマンマシンについて、可視層と隠れ層の間のEEが学習とともにどのように変化していくかを調べた。EEが学習を反映した指標となっているか議論したい。有効な隠れ層の構造についても考察する予定である。発表者:松田孟留(東京大学),駒木文保(東京大学)概要:行列補完とは、行列型データの観測成分をもとに未観測成分を推定する問題であり、商品推薦など多くの応用をもつ。本研究では、経験ベイズ法による行列補完のアルゴリズムを開発した。テンソル補完への拡張も行った。δ(θ_U>θ_L)に対し,確率的多腕バンディット問題設定において,与えられたKアームの中に損失平均がθ_U以上のものが存在する,または全てθ_L以下である場合に,できるだけ少ない回数試行することで確率1−δ以上で正しく答える問題を考える。この問題に対し,グレイゾーン幅θ_U−θ_Lを利用したアルゴリズムを提案し,その理論的及び実験的解析を行う。発表者:伊藤秀剛(NTT),堤田恭太(NTT),松林達史(NTT),戸田浩之(NTT)概要:信号による交通制御を最適化する問題を考える。信号による交通制御においては、複数の信号を系統的に制御することの有効性が知られている。そこで本研究では、ベイズ最適化を用いて、信号を系統的に制御するパラメータの最適化を実現する手法を提案する。発表者:岩瀬智亮(ヤフー株式会社),大倉俊平(ヤフー株式会社)概要:実サービスにおいて、推定モデルの定期的なパラメータ更新は精度維持のために必須である。一方で、通常のRNNモデルは更新前のモデルの隠れ状態を更新後のモデルが引き継ぐことができない。各系列の初めから状態を再計算することは計算コストが高く、かつそのために過去の系列データをすべて記憶しておく必要が生じる。本研究では、これらの問題を緩和する学習方法を提案し、記事閲覧実績データに適用してその有効性を検証した。)概要:オープンソースソフトウェアの分野ではソフトウェアはパッケージ単位に分割されて提供されるが、パッケージの数が増えるにつれ、パッケージ間の依存関係のつながりはより複雑になり、全てのパッケージを通じた巨大な関係の全体像を把握することは難しくなる。本研究では、依存関係ネットワークにおいてベイズ的なコミュニティ抽出手法を適用し、複雑なパッケージの繋がりを分かりやすく理解できるようにする方法を提案する。HOMO値など)予測を深層学習を用いて行うことで物性予測が可能になってきている。物性の計測は実験の手間がかかる。そこで、本研究では分子の構造情報のみが与えられたデータと構造情報と物性の両方が与えられたデータの両方を用いた半教師あり学習による性能向上をはかった。その手法と実験結果について述べる。Grandient)発表者:洪青(筑波大学),中田秀基(筑波大学/産総研),谷村勇輔(筑波大学/産総研)概要:強化学習とニューラルネットワークを結合した学習モジュールは、比較的単純な環境であるビデオゲームなどにおいては人間よりも高い性能を示すことが知られているが、より複雑な環境における性能は明らかではない。本稿ではActorとCritic双方にDDPを用いるアルゴリズムDDPGを高度に複雑なシミュレーション環境における学習に適用し、その有用性を確認する。Networks)概要:強化学習のタスクにおいては効率的な探索が求められる。本発表では、収益分布の事後分布を求め、Bayes-UCBに基づいて探索を行う手法を提案する。Bayes-UCBを利用することで、高い収益が得られるかどうかが不確実と思われる状態・行動対をより重点的に探索することができる。簡単な計算機実験で提案法の有効性を確かめる。発表者:山中友貴(NTT),高橋大志(NTT),山田真徳(NTT)概要:教師なし学習を用いた異常検知は、機器故障監視やセキュリティ監視をはじめ数多くの分野に応用されている。本発表ではこの中でも、確率密度推定を用いた異常検知システムに着目する。このような異常検知システムは、学習対象となる正常データ間に数の偏りがある状況では、数が少ない正常データを誤検知してしまう傾向にある。そこで本発表では変分オートエンコーダを用い、前述の課題に対応した新たな異常検知システムを提案する。健一(国立情報学研究所)概要:逐次的に得られる多次元データに対し、限られた次元数の観測に基づいて線形回帰モデルを構築し、逐次的に予測値を出力する問題を考える。この問題に対して、多項式時間アルゴリズムで劣線形なリグレットを達成することは困難であることが示されている。本研究では、入力データが適当な条件をもつ生成モデルに従うという仮定のもとで劣線形リグレットを達成する多項式時間アルゴリズムを提案する。これを拡張し、希少事象の発見に特化した手法の提案を行った。本提案手法を、人工衛星に搭載する光学系での迷光の発生条件の探索に適用し、提案アルゴリズムの有効性を実証した。)概要:ユーザーのストレスを予測することは、ワークロード最適化などに対して大きな可能性を秘めている。これまでに、様々な手法でストレス予測が試みられてきたが、センサの利用しやすやプライバシーの問題から、日常的な状況で利用することは困難である。本研究では、VRやARの普及に伴い一般的なデータとなり、プライバシーの問題も生じにくい頭部姿勢の動きから抽出した特徴量によってストレスの度合いを予測できることを示す。Tree)とは、標本点の集合を表現するデータ構造で、標本点による木構造とその深さに応じた半径の閉球で構成される。このデータ構造は最近傍点探索に用いられ、検索システムなどに応用がある。本研究は、標本点の分布の情報を用いて被覆木の効率化手法を提案した。提案手法は、ノンパラメトリック統計手法を用い、小球確率に基づく最適な閉球半径を導出する。発表では手法及び理論的・実験的な性能を示す。おいて様々な形で利用される技術である言語モデル、とくにリカレントニューラルネットワークを用いた言語モデルに焦点をあてる。このモデルでは文脈を表すベクトルとの内積が最も大きくなる単語ベクトルを求め、それをモデルの予測として用いる。単語に対応するベクトルが複数あれば言語モデルの精度向上や応用の可能性などが見込める。様々な実験によってこの考えが有効であることを示す。対してスケールする新しい学習アルゴリズムを提案する。)概要:DQNは目標値を計算するためのターゲットネットワークを導入し、サンプル間の依存関係を軽減することで学習を安定化させている。ターゲットネットワークを更新しない限り価値は伝播されないため、DQNは学習に膨大な時間を要する。そこで我々はターゲットネットワークを目標値の制約として用いる手法を提案する。提案手法は従来法よりもサンプル効率が良く、ターゲットネットワークの更新頻度に対してロバストである。発表者:小西卓哉(国立情報学研究所),福永拓郎(科学技術振興機構さきがけ),藤田澄男(ヤフー株式会社),河原林健一(国立情報学研究所)概要:本研究では、各アイテムの状態が確率的に決まるアイテム集合上において、単調劣モジュラ関数のナップサック制約付き最大化問題を考える。状態によって目的関数とナップサック制約への貢献が異なる場合を考え、理論保証のある適応的近似アルゴリズムを提案する。具体的な応用先として、ユーザの反応を考慮したニュースリストの推薦問題についても合わせて議論する。Networks),乾健太郎(東北大学,理化学研究所)概要:言語表現の間の共起の強さのモデル化は自然言語処理における基本的タスクである。自己相互情報量は計算コストが小さく経験的に有用だが疎性に弱い。深層学習ベースのモデルは疎性に強いがデータ数と学習時間を要する。本研究ではカーネルによる相互共分散への標本対の寄与を計算し、これを共起の尺度とする。実験では、提案手法が相対的に計算コストが小さく、またデータが疎で小標本の場合に有効であることを示す。センター)概要:スパースSVMは分類問題に用いられる手法であり、同時スクリーニングは不要なサンプル・特徴量を除くことでSVMを高速化する手法である。多くの実データは正例とラベル無しデータからなるが、このようなデータに対する同時スクリーニング手法は存在しない。本研究ではこの手法を開発する。(SGLD)は大規模データにおける事後分布からのサンプリングで広く使われる。その背景にある確率的勾配とウィーナー過程により、SGLDが生成したサンプルの値は実数全体をとる。本発表では、実数全体に定義されたSGLDを、有限区間に定義された変数に対してどのように用いるかについて述べる。孝行(IBM東京基礎研究所)概要:本発表では、系列データにおける予測問題を扱う。系列内の各データの役割やそれらの間の関係性を適切に記述することで精度の高い予測を目指すことに加えて、推定された構造そのものが意味を持つようなモデルを提案する。発表者:松下亮祐(株式会社NTTデータ数理システム)概要:データ融合は、観測される変数が部分的に重複する複数のデータセットを融合し、一つのデータセットを得る技術である。本研究では、ホットデック法とよばれるノンパラメトリックな手法に対し、データ融合で作成したデータセットから得られる経験分布の、真の確率分布に対する近似精度の理論的評価を行う。近似精度の評価は、機械学習における汎化誤差の評価同様、手法の妥当性等を議論するうえで中心をなすと考えられる。京都大学)概要:複数の対象の状態を維持するために各時刻においてメンテナンス行動をとるべき部分集合を決定する問題を考える。このとき状態は後に影響することから逐次意思決定となり、かつ隣接する対象を同時刻にメンテナンスすることで行動コストが抑えられることから組み合わせ最適化となる。