寄付ウィキペディアに関するお問い合わせ言語このWikipediaでは言語間リンクがページの先頭にある記事タイトルの向かい側に設置されています。ページの先頭をご覧ください。translation、NMT)は、人工ニューラルネットワークを使用して単語の並びの尤度(ゆうど、確からしさ)を予測する機械翻訳へのアプローチであり、通常は単一の統合モデルで文全体をモデル化する。translation、SMT)モデルで必要とされるメモリのごく一部しか必要としない。従来の翻訳システムとは異なり、翻訳性能を最大化するために、ニューラル翻訳モデルのすべての部分が一緒に(エンド・ツー・エンドで)訓練される[1][2][3]。歴史[編集]ディープラーニングの応用は、1990年代に音声認識で最初に登場した。NMTシステムが初めて登場した。WMT'15にも初めてNMTシステムが登場し、翌年にはすでに入賞者の中にNMTシステムの90%が含まれた[4]。仕組み[編集]ニューラル機械翻訳は、個別に設計されたサブコンポーネントを使用するフレーズベースの統計的(英語版)アプローチとは異なる[5]。従来行われてきたことを超える抜本的なステップではない。モデルの構造は、フレーズベースのモデルよりも単純である。個別の言語モデル、翻訳モデル、並び替えモデルはなく、一度に1つの単語を予測する単一のシーケンスモデルのみがある。このシーケンス予測は、ソースセンテンス(原文)全体と、すでに生成されたターゲットシーケンス全体を条件としている。NMTモデルでは、深層学習(ディープラーニング)と特徴学習(英語版)を利用している。用いて行われるのが一般的であった。エンコーダとして知られる双方向リカレントニューラルネットワークは、ターゲット言語の単語を予測するために使用されるデコーダと呼ばれる第2のRNNのソースセンテンスをエンコードするため、ニューラルネットワークによって使用される[6]。リカレントニューラルネットワークは、長い入力を単一のベクトルにエンコードする際に困難に直面する。mechanism)[7]によって補正できる。Models)がさらに存在する[8]。Networks、Convnets)は、原理的には長い連続シーケンスに対していくらか優れているが、いくつかの弱点があったために当初は使用されなかった。これらは「注意メカニズム」を使用することにより、2017年にうまく補償された[9]。注意ベースのモデルであるトランスフォーマーアーキテクチャは[10]、いくつかの言語ペアの主要アーキテクチャとして存続している[11]。