単純にFloat16による計算を行えば精度が下がることが知られている。メモリ消費量の削減ができる。Segmentationなど)の利用が可能になる。バッチサイズを増加させることができるため、学習が安定する。Coreの有効活用ができる。GPUへの転送量が減るので、計算速度の高速化が実現できる。※オリジナルの重みは常にfloat32で保持する。float16で計算するものを選定している。Float16だと、学習の終盤で勾配が小さすぎて重みの更新ができなくなる。誤差をスケール(X倍)させる。誤差が小さすぎると勾配がfloat16で表現ができない。