2019OpenAIが、テキストの一部を入力すると自然言語の文章を生成する言語モデル「GPT-2」の完全版を公開した。2月の段階では「悪用される危険がある」として限定版を公開したが、完全版を公開することで高性能な検出モデル開発を促すのが目的。イーロン・マスク氏が共同会長を務める非営利の米AI(人工知能)研究企業OpenAIは11月5日(現地時間)、自然言語の文章を生成する言語モデル「GPT-2」を公開したと発表した。同社は2月、GPT-2を発表したが、その段階では悪意あるアプリに流用される懸念から、オープンソース化はせず、縮小版モデルと論文のみ公開した。GPT-2は、ネット上のテキストの次の単語を予測するためだけに訓練されたTransformerベースの言語モデル。800万のWebページのデータセットで訓練し、15億のパラメータを持つ。同社は段階的にパラメータの少ないモデルを公開してきたが、これまで広範な悪用はされていないため、完全版の公開に踏み切った。完全版を公開することにより、外部の研究者らが、より高性能な合成テキスト検出モデルを開発することを期待するとしている。Transformer」も15億パラメータ版に更新されており、誰でも試すことができる。Dragonが火星着陸に成功」と「安倍首相が辞任」というテキストを入力した結果だ。日付(自民党の「次の会議」が3月3日となっている)などでフェイクだと分かりそうだが、かなりそれらしい内容になっている。Dragonが火星着陸に成功」(左)と「安倍首相が辞任」のテキスト生成結果OpenAIは、「過去9カ月のGPT-2開発の経験により、AIに関する公開標準作成のための課題についての貴重な洞察を得ることができた。この問題に関する取り組みを継続していく」としている。CenterShare。