Segmentationを目的として、Transformerを適用した研究のサーベイ資料です。Realityナンバープレート認識ビジョン&ITラボの代表的なソリューションや製品の例を紹介いたします。Learning)8深層学習についてのコンサルティングや開発支援などを行います。発/プロダクトを提供します。MLPで変換するというアイデアは、MetaFormer構造の目的とよく似ています。徴ベクトルのシーケンスへ変換する。Attention(注意機構)という仕組みを用いることで、例えば単語同士の関係の重要度などを特徴ベクトルに埋め込んでいる。Embeddingに相対座標を利用する等、Transformerを点群に適用するにあたり、様々な工夫を施している。チャネル方向のSotmaxによる重み付き和PositionalEmbeddingなし。