Symposia」においてEthos-N57/N37やMali-G57、Mali-D37を発表した。2019で詳細な説明が行われていたので、その内容についてご紹介したい(Photo01)。SensitiveではまだNPUの採用はそれほど進んでいない。Sensitive向けのEthos-N37を今回追加した形になる(Photo03)。Processorと若干ではあるが相違点もある。詳しくは後述この3ファミリーであるが、基本的な構成は同じである。扱えるデータタイプはInt8とInt16のみ、動作周波数は最大1GHz程度である。違いとしてはハイエンドのEthos-N77のみ、CE(後述)あたり1~4MBのSRAMを搭載できる(N57/N37は512KBで固定)事と、CEの数である。この結果として、ハイエンドのEthos-N77では4TOP/s@1GHzの処理性能と、最大5TOP/Wの効率が得られるとしている。Processorでは7nmプロセスの場合で3TOP/Wだったわけだが、これはSRAMの量を最大4MB増加したことで、DRAMアクセスの頻度がさらに減り、その分高効率になったと思われる内部構造の話は後述する。ターゲット市場としては、例えばDTVにおける超解像やエッジにおける音声変換などにもMLが活用され始めている現在において、NPUのニーズは意外に広範に渡る。スマートフォンに限っても、Ethos-N57がターゲットとするミッドレンジ向けですらすでにMLのニーズは高い(Photo06)し、Ethos-N37はむしろスマートフォン「以外」でのニーズが高そうだ(Photo07)。Photo05:Arm公式のBlogに掲載されているものと内容は同じだが、色合いが異なる。横軸が必要となるメモリ帯域、縦軸が処理性能となるPhoto06:アバターがどこまで利用されるのかは良く分からないが、その他はありがちなアプリケーションと言える。いう点だが、現状のML向けのNPUに関しては、標準と呼ばれるアーキテクチャが存在しない(学習はともかく、推論はかなりまちまちである)。ここに広範な構成なEthosを提供することで、シェアを獲りに行きたいというArmの意向が透けて見える。StackがUnifiedになっているのがメリットと言えばメリットだろうか)のだがEthosの内部構造また、Ethosの内部構造であるが、Ethos-N37/N57/N77で完全に共通である。Unit)とDMAエンジンを組み合わせたものとなる。Photo09:PLEの中身については、2018年の安藤先生の記事に詳細があるので、そちらを参照していただきたい。2019ではそれとは別にメモリ回りの詳細が説明された。Processorの特長は大容量のSRAMを搭載することだった。Sensitive向けのEthos-N37でもCEあたり512KB(つまり4CEのEthos-N57だとトータル2MBになる)のSRAMを搭載するのはかなり厳しいものがある。30における説明では、CEあたり1MB構成とするEthos-N77が7nmプロセスで2.5平方mmほどのエリアサイズになるとされる。7nmで2平方mmオーバーはかなり大きい。これに対する基本的な考え方だが、要するにDRAMを多用すると、それだけスループットが落ち、消費電力が増えるので、最初のネットワークのロードや元画像のロードはDRAMから行うとしても、その後はすべて内部のSRAMで賄う事で高効率が実現できる、という意見である。Photo10:Ethosのアーキテクチャを利用した場合の、SRAMとDRAMの利用頻度を示したものそしてEthos-N37とEthos-N57では、概ね外部のDRAM帯域はそれぞれ2GB/secと4GB/secあれば十分間に合うとしている。2GB/secと言えばx8構成のLPDDR4-2133が1個で間に合うし、4GB/secもx16構成のLPDDR4-2133にすれば十分であり、外部DRAMのニーズを最小限に抑えられることになる。Photo11:赤がネットワークのウェイトのロード、緑が実際にネットワークをアクティベーションした時の帯域となる。GPU、それとEthosで共通のフレームワークが提供されるので、一度書いたアプリケーションはどのプロセッサ上でも利用できる(Photo12)。Photo12:すでにCortex-AやMaliを採用しているSoCベンダーにとっては、Ethosは導入しやすいというのは事実である。ミドルレンジにはEthos、バリューは無しといった構成であっても、ソフトウェアは共通に利用できるためであるただCortex-AやMali上で無理やりMLアプリケーションを動かすよりも、Ethosを使った方がより電力効率が良い上にピーク性能も出しやすいというのがArmの説明であり、これを補強するものとして今後はML処理がどんどん増えてゆく、とする(Photo13)。Ethosシリーズを組み合わせるとより楽になる、というのがSoCベンダーに対するArmのメッセージということであろう。いうと微妙な気はするが、自動翻訳や顔認証などは実際にバリュー向けでもニーズが増えてきそうだ※本記事は掲載時点の情報であり、最新のものとは異なる場合があります。Corporation。