ビット対称量子化が行われます。今後の取り組みとして、量子化プロセスを効率良くスケーリングするため、インテルでは精度とパフォーマンスの要件に応じてモデルを量子化するスケーラブルな自動量子化ツールを開発しています。推論を使用することで、レイテンシーとスループットの向上という利点が得られます。倍以上のレコードを処理できることを示しています。サンプルの評価データセットで行われました。サンプル/秒に向上しています。サンプル/秒に向上しています1。