データ分析エンジニアのブログスマートフォン用の表示で見るデータ分析エンジニアのブログ日常のことからプログラミングや機械学習まで@六本木この広告は、90日以上更新していないブログに表示しています。今回はオンライン学習と呼ばれる機械学習の学習方法についてです。PassiveAggressiveというオンライン学習のアルゴリズム(以下PAアルゴリズム)はGmailの優先トレイにも使われているのですが、2006年に発表された比較的新しい手法だからでしょうか、、ネットで検索しても情報がそんなにありませんでした。オンライン学習まずはオンライン学習(逐次学習)について説明します。オンライン学習とは訓練データを1つずつ読み込み、モデルを更新する学習方法です。特徴としては以下のようなことが挙げられます。訓練時にデータ全体をメモリに載せる必要がない1つの訓練データからの学習だけなら高速ロバストでノイズに強いPAアルゴリズムそして本題のPAアルゴリズムですが、これはオンライン線形分類器のアルゴリズムの1種で、オンライン学習という名のごとく、訓練データが1つ与えられるごとに重みを更新していきます。その際、常に重みを更新するのではなく、下記の通りAggressiveの時のみ、重みを更新します。重みを更新こちらが重みの更新式です。Lは損失関数なので、制約条件は新しく与えた訓練データを正しく分類することです。その制約を満たしつつ、元の重みベクトルW(old)に最も近いWを新しい重みベクトルW(new)とするというのがこの数式の意味です。EchizenBlog-Zwei・数式は完全に省かれていますが、とてもわかりやすく書かれています。@IT・こちらは数式もありますが、丁寧で簡単に説明されています。・数式による説明が詳しいです。(1)注目記事はてなブログをはじめよう!ishitsukajunさんは、はてなブログを使っています。ブログを報告するスターをつけました引用をストックしましたストック一覧を見る閉じる引用するにはまずログインしてくださいログイン閉じる引用をストックできませんでした。再度お試しください閉じる限定公開記事のため引用できません。