一种基于非局部神经网络的非局部建模方法

摘要

本发明中提出的一种基于非局部神经网络的非局部建模方法，其主要内容包括：非局部神经网络，非局部块，其过程为，在非局部均值操作之后，在深度神经网络中定义一个通用的非局部操作，非局部操作基于不同位置之间的关系计算响应，它能支持可变大小的输入，并在输出中保持相应的大小，可以与卷积或递归层一起使用，也可以被添加到深层神经网络的早期部分，通过非局部操作能够结合非局部和局部信息，建立一个更加丰富的层次结构。本发明中非局部运算直接通过计算任意两个位置之间的交互来获取长时记忆，无需其间的距离，非局部运算效率很高，能够维持可变输入的大小，并且能很方便地与其他运算相组合。