残差学习

摘要： 近年来,各种基于卷积神经网络的单幅图像超分辨率方法取得了优异的性能提升。现有的超分辨率网络大多数都是使用单种尺度的卷积核来提取低分辨率图像的特征信息,这样很容易造成细节信息的遗漏,也无法很好地利用低分辨率图像的多尺度特征来提高图像的表达能力。为了解决超分辨率重建中存在的问题,提出了一种新的超分辨重建方法称为分型残差网络(fractal residual network,FRN)。该网络使用分形残差注意力块,充分利用不同的层次特征,生成更精细的特征。同时,引入信道注意机制,自适应地重新缩放每个通道的特征,增加网络判别学习能力。此外,该算法将局部残差学习与全局残差学习相结合,以弥补信息丢失,降低学习难度。实验结果表明,该方法在重建性能上优于其他很多算法。

摘要： 针对小样本下基于深度学习的高光谱图像分类方法精度不高的问题,本文提出一种基于空谱特征增强残差网络的高光谱图像分类方法。该方法利用三维卷积核同时提取高光谱图像的空间和光谱特征。同时,在普通三维卷积神经网络结构前加入空间和光谱特征增强的残差网络模块,通过恒等映射保留高光谱原始信息的同时用较少的参数增强网络的信息流,并且在构造更深层网络的同时避免了梯度消失的问题。实验表明:本文方法能充分利用高光谱图像的空间和光谱特征,在印第安纳森林数据集、帕维亚大学数据集上分别能够取得99.29%、99.74%的总体分类精确度,提高了小样本下的分类精度。

摘要： 在同一场景下被捕获的一对红外与可见光图像虽然具有不同的模态,但是具有共享的公有信息和互补的私有信息,学习并融合上述信息可以得到一幅完整的融合图像。受益于残差网络的启发,在训练学习阶段,通过网络分支间特征层面的互换和相加,强制每一个分支映射到一幅具有全局特征的标签图上,来鼓励各个分支学习对应模态图像的私有特征。直接学习得到图像的私有特征可以避免设计复杂的融合规则并保证特征细节信息的完整。在融合预测阶段,采用最大值融合策略融合私有特征,并在解码层与学习得到的公有特征相叠加,最后解码出集成了红外和可见光图像信息的融合图像。使用在NYU-D2上合成的多聚焦图像数据集训练该模型,在TNO真实的红外和可见光数据集上进行测试,实验结果表明,与当前主流的红外与可见光融合算法相比,所提算法在主观效果和客观评价指标上都取得了较好的成绩。

摘要： 提高地震资料的信噪比是地震数据处理的重要任务之一,与依赖信号模型及其相应先验假设的传统地震噪声衰减算法相比,基于大型训练集的深度神经网络的去噪方法通过对大型数据集进行学习,训练完成后可以对面波进行自适应智能降噪。根据叠前高密度地震数据的特点,建立面波去噪训练库,通过去噪卷积神经网络来衰减地震数据的面波噪声。为了准确高效地提取地震数据面波噪声的特征,采用残差学习和批量标准化相结合的方式来加快训练过程并提高算法的面波去噪效果,去噪卷积神经网络能够有效处理未知噪声水平的面波降噪。模型数据和单点高密度地震数据测试结果表明,常规带通滤波及变分模态分解方法对有效信号损伤较大,而去噪卷积神经网络在高效去除面波噪声的同时能够较好地保护有效信号。

摘要： 针对特高压换流站全景监视系统运行环境导致的视频图像抖动、镜头出现积灰等问题,以及基于深度学习的高分辨率图像重建算法存在细节特征失真和计算复杂度较高的缺陷,提出一种基于多尺度卷积块和残差网络的图像超分辨率重建方法,通过增加具有较小内核的深度卷积层来获取图像的鲁棒细节特征,并在训练过程中加入残差网络,加快网络收敛速度,解决消失梯度,改善图像重建质量。对部分标准数据集和特高压换流站全景监视图像数据集进行了图像超分辨率重建和目标识别实验研究,与超分辨率卷积神经网络(super-resolution convolutional neural network,SRCNN)和快速超分辨率卷积神经网络(fast SRCNN,FSRCNN)方法相比,所提算法的结构相似指数均值分别增加了0.0043和0.0298,峰值信噪比分别提高了0.17 db和0.83 dB。实验结果表明所提方法重建了细节信息更逼真的高分辨率图像,可以满足换流站全景监视的需求。

摘要： 针对强杂波背景下慢速运动目标检测性能不足的问题,设计了一种基于深度卷积神经网络(DCNN)的目标检测方法。主要将雷达回波信号距离—多普勒谱作为输入,送入设计的DCNN中,通过学习回波信号中杂波特征,并隐含的去除回波信号中目标成分,得到回波信号的残差谱。然后利用残差谱与回波信号R-D谱进行背景对消以抑制杂波,进而实现对回波信号中运动目标的检测。由于该方法通过学习杂波特性进而进行目标检测,因此适用于未知杂波模型的场景,避免了假设的模型与实际环境不符合的问题。实验验证:该方法相比于传统的杂波抑制目标检测方法,具有较好的性能表现。

摘要： 在深度学习中,随着卷积神经网络(CNN)的深度不断增加,进行神经网络训练所需的数据会越来越多,但基因结构变异在大规模基因数据中属于小样本事件,导致变异基因的图像数据十分匮乏,严重影响了CNN的训练效果,造成了基因结构变异检测精度差、假阳性率高等问题。为增加基因结构变异样本数量,提高CNN识别基因结构变异的精度,提出了一种基于生成对抗网络(GAN)进行基因图像数据扩增的方法——GeneGAN。首先,利用Reads堆叠方法生成初始基因图像数据,将变异基因图像数据与非变异基因图像数据分为两个数据集;然后,为了平衡正负样本数据集,使用GeneGAN对变异图像样本进行扩充;最后,通过CNN对平衡前后数据集进行检测,并对精确率、召回率与F1值进行对比。实验结果显示,与传统扩增方法、生成对抗网络扩增方法、特征提取方法相比,GeneGAN对基因结构变异检测的F1值提升了1.94~17.46个百分点,说明使用GeneGAN进行基因数据生成能够有效提高使用CNN进行基因图像分类的精确率。

摘要： 在商用数码相机中,由于CMOS传感器的限制,在采样得到的图像中的每个像素位置仅有一个色彩通道的信息,因此,需要采用彩色图像去马赛克(CDM)算法来恢复全彩图像。然而,现有的基于卷积神经网络(CNN)的CDM算法不能以较低的计算复杂度和网络参数量取得令人满意的性能。针对这个问题,提出一种应用通道间相关性和增强信息蒸馏(ICEID)的彩色图像去马赛克网络。首先,为了充分利用彩色图像的通道间相关性,提出了一种通道间的引导重建结构来生成初始CDM结果;其次,提出一种增强信息蒸馏模块(EIDM)来以相对较低的参数量有效地提取和精炼图像特征,从而高效地优化重建的全彩图像。实验结果表明,与主流CDM算法相比,所提算法不仅在客观质量与主观质量上均获得了明显提升,而且具有较低的计算复杂度和网络参数量。

摘要： 知识图谱嵌入(KGE)将实体和关系映射到低维连续向量空间中,以利用机器学习方法实现关系数据的应用,如知识分析、推理、补全等。以ConvE为代表将卷积神经网络(CNN)应用于知识图谱嵌入中,以捕捉实体和关系的交互信息,但其标准卷积捕捉特征交互信息能力不足,特征表达能力低下。针对特征交互能力不足问题,提出了一种改进的Inception结构,在此基础上构建一个知识图谱嵌入模型InceE。首先,该结构使用混合空洞卷积替代标准卷积,以提高特征交互信息捕捉能力;其次,使用残差网络结构,以减少特征信息丢失。实验使用基准数据集Kinship、FB15k、WN18验证InceE链接预测有效性。在Kinship、FB15k数据集上,相较于ArcE和QuatRE模型,InceE的Hit@1分别提升了1.6和1.5个百分点;在三个数据集上,与ConvE对比,InceE的Hit@1分别提升了6.3、20.8和1.0个百分点。实验结果表明InceE具有更强的特征交互信息捕捉能力。

摘要： 受采集装置的限制,采集的深度图像存在分辨率较低、易受噪声干扰等问题.本文构建了分级特征反馈融合网络(Hierarchical feature feedback network,HFFN),以实现深度图像的超分辨率重建.该网络利用金字塔结构挖掘深度-纹理特征在不同尺度下的分层特征,构建深度-纹理的分层特征表示.为了有效利用不同尺度下的结构信息,本文设计了一种分级特征的反馈式融合策略,综合深度-纹理的边缘特征,生成重建深度图像的边缘引导信息,完成深度图像的重建过程.与对比方法相比,实验结果表明HFNN网络提升了深度图像的主、客观重建质量.

摘要： 本发明提供一种残差处理电路及相应残差处理方法。残差处理电路包括单路径流水线和单路径控制器，单路径流水线包括逆扫描电路、逆量化电路和逆变换电路，被布置为以流水线方式处理当前非零残差数据块。当前非零残差数据块是变换单元的至少一部分。单路径控制器控制在该单路径流水线处的该当前非零残差数据块的流水线处理。该单路径控制器指示该逆扫描电路在该逆变换电路完成该当前非零残差数据块的逆变换处理的前半部分之前，启动下一个非零残差数据块的逆扫描处理。本发明的残差处理电路及相应残差处理方法可以提供高性能流水线架构。

摘要： 提供了对残差块进行编码和解码的方法和设备。对残差块进行编码的方法包括：产生当前块的预测块；基于预测块和当前块之间的差来产生残差块；通过将残差块变换到频域来产生变换残差块；将变换残差块分割为多个频带单元；对指示多个频带单元中存在非零有效变换系数的频带单元的有效系数标志进行编码。

摘要： 提供了对残差块进行编码和解码的方法和设备。对残差块进行编码的方法包括：产生当前块的预测块；基于预测块和当前块之间的差来产生残差块；通过将残差块变换到频域来产生变换残差块；将变换残差块分割为多个频带单元；对指示多个频带单元中存在非零有效变换系数的频带单元的有效系数标志进行编码。

摘要： 本发明涉及一种利用残差系数分布特征和贝叶斯定理优化残差编码的方法。本方法的操作步骤如下：（1）按照控制文件里设定的顺序读取视频序列的每一帧图像，（2）对每帧图像的亮度和色度值进行帧内预测和帧间预测，从而求得残差系数，（3）根据残差系数对残差块TU（最大为32×32）进行纹理判定或进行贝叶斯模型判定，从而决定是否提前中止分块编码，（4）对整块TU进行DCT变换和量化，从而求得量化参数，（5）对量化系数进行熵编码，最后以比特流的形式输出。本发明在保证编码质量的损失可以忽略不计的情况下，提高了视频编码速度，更有利于视频的实时采集。

摘要： 一种放大器，其包括：输入节点；输出节点；增益级，其具有增益级反相输入、增益级非反相输入和增益级输出；反馈电容器，其连接于所述增益级输出与所述增益级反相输入之间的信号路径中；采样电容器，其连接于所述输入节点与所述增益级非反相输入之间；和与所述反馈电容器并联的可控制阻抗，其中所述可控制阻抗可操作来在第一阻抗状态（其中其不影响流动通过所述反馈电容器的电流）与第二阻抗状态（其中其与所述反馈电容器协作以形成带宽限制电路）之间切换。

摘要： 提供了对残差块进行编码和解码的方法和设备。对残差块进行编码的方法包括：产生当前块的预测块；基于预测块和当前块之间的差来产生残差块；通过将残差块变换到频域来产生变换残差块；将变换残差块分割为多个频带单元；对指示多个频带单元中存在非零有效变换系数的频带单元的有效系数标志进行编码。

摘要： 本发明涉及一种基于残差网络的残差块结构，其特征在于包括特征初始输入模块，恒等映射模块，卷积层模块，门限函数模块和输出函数模块；特征初始输入模块输入特征后，该输入特征被复制成相同的两部分，一部分通过恒等映射模块直接进行恒等映射，另一部分进入到卷积层模块和门限函数模块进行处理后输出；所述通过门限函数模块输出的输入特征与通过恒等映射模块直接进行恒等映射的输入特征相加操作后再通过输出函数模块进行输出。本发明在原结构上增加了一个门限设计，不但可以提高模型训练阶段测试集的精确度，减少训练时期每一轮的损失值；而且极大地增加了设计的自由度，可以进行更加复杂的结构设计，这对以往学习到的知识形成筛选控制作用。

摘要： 本发明公开了一种融合距离残差和概率残差的激光SLAM前端匹配方法，具体包括如下步骤：S1、计算T时刻激光帧相对于(T‑1)时刻激光帧的距离残差；S2、对距离残与栅格概率地图在T时刻的概率残差进行非线性优化，得到T时刻的最优位姿；S3、基于T时刻最优位姿将T时刻激光帧投影至栅格概率地图，进行栅格概率地图的更新。本发明不依赖其它传感器和安装环境，降低了多传感器和改装环境的成本，提高了移动机器人定位的稳定性和精度。

摘要： 本发明公开了一种胶囊残差神经网络和基于胶囊残差神经网络的图像分类方法，属于图像处理技术领域，胶囊残差神经网络包括CNN前端和胶囊残差神经网络后端；CNN前端包括第一残差网络和第二残差网络，第一残差网络包括若干基本识别模块和快捷方式的标识块；第二残差网络包括若干基本识别模块；基本识别模块和快捷方式的标识块包括若干卷积层和批标准化层；胶囊残差神经网络后端包括第一胶囊层和第二胶囊层，第一胶囊层输出数据信息到第二胶囊层。本发明能够解决现有技术中卷积神经网络出现的梯度消失问题且不会引入大量参数增加计算难度，进一步提高图像分类精度。

摘要： 本发明提供一种残差处理电路及相应残差处理方法。残差处理电路包括单路径流水线和单路径控制器，单路径流水线包括逆扫描电路、逆量化电路和逆变换电路，被布置为以流水线方式处理当前非零残差数据块。当前非零残差数据块是变换单元的至少一部分。单路径控制器控制在该单路径流水线处的该当前非零残差数据块的流水线处。该单路径控制器指示该逆扫描电路在该逆变换电路完成该当前非零残差数据块的逆变换处理的前半部分之前，启动下一个非零残差数据块的逆扫描处理。本发明的残差处理电路及相应残差处理方法可以提供高性能流水线架构。