畳み込みニューラルネットワークの行列演算におけるTensor コアを用いた並列処理

摘要

物体検出のディープラーニングに用いられる畳み込みニューラルネットワーク（CNN）では多くの行列演算が行われており，学習時間を短縮するためには行列演算の高速化が不可欠である．行列演算の高速化には，GPUの活用が広く行われているが，さらなる速度向上を実現するためには，単精度浮動小数点数FP32 の代わりに，半精度浮動小数点数FP16 を利用して，GPU の演算性能を高めることが挙げられる．加えて，Tensor コア[1]を活用することにより，行列演算の高速化が可能になる．そこで本手法では，FP16 およびTensor コアを利用するCUDA プログラムを開発しており，CNN に用いられる行列演算に適用した． NVIDIA Quadro RTX 6000 上で行った性能評価の結果，提案手法の有効性が確認された．