自然梯度

摘要： 随着风电大规模接入电网,风电功率概率预测的需求愈加迫切。为了实现短期风电功率概率分布预测,提出了一种基于改进梯度提升算法的短期风电功率概率预测方法。首先,分析了梯度提升算法应用于短期风电功率概率预测存在的问题。其次,利用负对数似然损失函数作为梯度提升算法中的损失函数,并利用费希尔信息矩阵修正损失函数在概率分布参数空间的梯度,将其转换为概率分布空间的自然梯度。然后,基于自然梯度提出适用于短期风电功率概率分布预测的改进梯度提升算法。最后,将所提算法与传统的梯度提升算法和其他算法进行对比,结果显示,所提算法训练过程收敛较快并且具有较好的预测性能,验证了其实用性和有效性。

摘要： 对于主组件分析模型,传统方法利用特征值分解的方法求解,其计算复杂度为O(ND2),其中N表示数据规模,D表示数据的维度.概率主组件分析是从概率的角度理解主组件分析模型,此时可以使用期望最大化算法迭代求解,其计算复杂度为O(NDM),其中M表示选取的维度,对于大规模高维数据可有效提高模型效率.但是,在参数更新过程中,概率主组件模型的期望最大化算法需要遍历整个数据集才能更新一次参数,参数更新较慢,同时该算法很难扩展到大规模数据集.本文提出基于自然梯度的概率主组件分析在线学习算法,通过结合概率主组件分析的自然梯度,实现在线增量学习模型.进一步将降维后的数据通过全连接神经网络进行分类,并通过实验证明,该方法在降维效果及算法运行效率上有明显提高.

摘要： 指出了许多无监督或半监督机器学习算法依赖于贝叶斯概率模型,这些模型中参数的后验分布通常难以计算.VI是一种通过优化算法近似后验密度的统计推断方法.VI与机器学习方法相结合,可为大数据分析提供新的思路和方法.在对VI的产生和发展进行回顾的基础上,介绍了VI中经典的平均场理论和相应的坐标上升算法,以及将VI拓展到大数据分析领域的SVI算法,并对VI的发展前景进行了分析,对VI中一些衡量指标以及独立性假设进行了改进,提出了VI与统计学方法的结合将成为未来的研究方向.

摘要： 利用信息几何中的统计流形理论和自然梯度流形学习定位方法,研究了基于接收信号强度(RSS)的无线传感器网络自定位问题.首先,通过概率密度函数构造了一个曲指数族定位模型;然后,针对给定初始状态值的未知目标节点定位问题,结合梯度下降法,提出了基于此模型的最优非线性估计方法及其改进算法.梯度下降法的良好性质和仿真结果表明,这些算法有很好的收敛效果和更高的定位精度.

摘要： 行动器评判器(Actor Critic,简称AC)算法是强化学习连续动作领域的一类重要算法,其采用独立的结构表示策略,但更新策略时需要大量样本导致样本效率不高.为了解决该问题,提出了基于模型学习和经验回放加速的正则化自然AC算法(Regularized Natural AC with Model Learning and Experience Replay,简称RNAC-ML-ER).RNAC-ML-ER将Agent与环境在线交互产生的样本用于学习系统动态性对应的线性模型和填充经验回放存储器.将线性模型产生的模拟样本和经验回放存储器中存储的样本作为在线样本的补充,实现值函数、优势函数和策略的更新.为了提高更新的效率,在每个时间步,仅当模型的预测误差未超过阈值时才利用该模型进行规划,同时根据TD-error从大到小的顺序对经验回放存储器中的样本进行回放.为了降低策略梯度估计的方差,引入优势函数参数向量对优势函数进行线性近似,在优势函数的目标函数中加入(l)2-范数进行正则化,并通过优势函数参数向量来对策略梯度更新,以促进优势函数和策略的收敛.在指定的两个假设成立的条件下,通过理论分析证明了所提算法RNAC-ML-ER的收敛性.在4个强化学习的经典问题即平衡杆、小车上山、倒立摆和体操机器人中对RNAC-ML-ER算法进行实验,结果表明所提算法能在大幅提高样本效率和学习速率的同时保持较高的稳定性.

摘要： 策略梯度作为一种能够有效解决连续空间决策问题的方法得到了广泛研究,但由于在策略估计过程中存在较大方差,因此,基于策略梯度的方法往往受到样本利用率低、收敛速度慢等限制.针对该问题,在行动者-评论家(actor-critic,简称AC)算法框架下,提出了真实在线增量式自然梯度AC(true online incremental natural actor-critic,简称TOINAC)算法.TOINAC算法采用优于传统梯度的自然梯度,在真实在线时间差分(true online time difference,简称TOTD)算法的基础上,提出了一种新型的前向观点,改进了自然梯度行动者-评论家算法.在评论家部分,利用TOTD算法高效性的特点来估计值函数;在行动者部分,引入一种新的前向观点来估计自然梯度,再利用资格迹将自然梯度估计变为在线估计,提高了自然梯度估计的准确性和算法的效率.将TOINAC算法与核方法以及正态策略分布相结合,解决了连续空间问题.最后,在平衡杆、Mountain Car以及Acrobot等连续问题上进行了仿真实验,验证了算法的有效性.%Policy gradient methods have been extensively studied as a solution to the continuous space control problem.However,due to the presence of high variance in the gradient estimation,policy gradient based methods are restricted by low sample data utilization and slow convergence.Aiming at solving this problem,utilizing the framework of actor-critic algorithm,a true online incremental natural actor-critic (TOINAC) algorithm,which takes advantage of the natural gradient that is superior to conventional gradient,and is based on true online time difference (TOTD),is proposed.In the critic part of TOINAC algorithm,the efficiency of TOTD is adopted to estimate the value function,and in the actor part of TOINAC algorithm,a novel forward view is introduced to compute and estimate natural gradient.Then,eligibility traces are utilized to turn natural gradient into online estimation,thereby improving the accuracy of natural gradient and efficiency of the method.The TOINAC algorithm is used to integrate with the kernel method and normal distribution policy to tackle the continuous space problem.The simulation tests on cart pole,Mountain Car and Acrobot,which are classical benchmark tests for continuous space problem,verify the effeteness of the algorithm.

摘要： A variable-step blind source separation algorithm based on the natural gradient with adaptive momentum factor was proposed,which could cope with the determined blind source separation in the environment of stationary and non-stationary.Function estimation mixed matrix was constructed by performance index.The estimated performance index was obtained by the estimated mixed matrix,and the constructor was updated by the estimated performance index.Then,the constructor was plugged with appropriate experienced parameter into the proposed algorithm and step and momentum factor was adaptively adjusted.Finally,the estimation source signals could be obtained.Simulations show that the proposed algorithm is effective to estimate the mixed matrix in the stationary and non-stationary environments,and the proposed algorithm has faster convergence speed and lower steady error as well as separates source signals effectively%基于自然梯度算法提出一种带自适应动量因子的变步长盲源分离方法,在平稳和非平稳环境下进行正定盲源分离处理.该方法利用性能指标构造函数来估计混合矩阵,依据估计混合矩阵得出估计性能指标再反馈更新构造函数;然后将选取合适经验参数的构造函数代入算法,同时自适应调整算法步长和动量因子;最终得到估计源信号.仿真表明该方法在平稳和非平稳环境下都可以估计出混合矩阵,能有效分离混合信号且收敛速度快稳态误差小.

摘要： 针对强化学习中已有连续动作空间算法未能充分考虑最优动作的选取方法和利用动作空间的知识,提出一种对自然梯度进行改进的行动者评论家算法.该算法采用最大化期望回报作为目标函数,对动作区间上界和下界进行加权来求最优动作,然后通过线性函数逼近器来近似动作区间上下界的权值,将最优动作求解转换为对双策略参数向量的求解.为了加快上下界的参数向量学习速率,设计了增量的Fisher信息矩阵和动作上下界权值的资格迹,并定义了双策略梯度的增量式自然行动者评论家算法.为了证明该算法的有效性,将该算法与其他连续动作空间的经典强化学习算法在3个强化学习的经典测试实验中进行比较.实验结果表明,所提算法具有收敛速度快和收敛稳定性好的优点.%The existed algorithms for continuous action space failed to consider the way of selecting optimal action and utilizing the knowledge of the action space,so an efficient actor-critic algorithm was proposed by improving the natural gradient.The objective of the proposed algorithm was to maximize the expected return.Upper and the lower bounds of the action range were weighted to obtain the optimal action.The two bounds were approximated by linear function.Afterward,the problem of obtaining the optimal action was transferred to the learning of double policy parameter vectors.To speed the learning,the incremental Fisher information matrix and the eligibilities of both bounds were designed.At three reinforcement learning problems,compared with other representative methods with continuous action space,the simulation results show that the proposed algorithm has the advantages of rapid convergence rate and high convergence stability.

摘要： 卷积混合盲源分离的时域算法在分离滤波器较短的情况下,分离效果良好,但当分离滤波器较长时(几百阶或上千阶)时,算法的收敛速度变慢,精度也会下降.频域分离算法将时域计算复杂的解卷积问题变换为频域简单的瞬时分离问题,所以当要求分离滤波器较长时,频域分离算法将是更好的选择.实现瞬时盲分离时,论文采用的迭代函数是基于自然梯度的[2],所以称此算法为基于自然梯度的卷积混合频域盲源分离算法.在频域用瞬时盲分离解决时域卷积盲分离问题时,遇到的两个难点就是频点间幅度不确定性和排列次序不确定性,为此我们分别采用归一化方法和分阶段分离方法[5]一解决上述两个问题,仿真实验证明了算法的有效性.

摘要： 由于多途效应,水下声源和水听器之间的通道可以建模为一个多途时延衰减信道.通过水下信道特性的合理假设,盲解卷积技术可以用于浅海水下信道的估计.不需要源信号和信道的先验知识,利用单水听器的接收数据,采用频率域的自然梯度方法、等变化方法、信息最大化方法来估计水下仿真信道,仿真证明了它们对水下信道估计的性能,其中等变化和自然梯度方法明显由于信息最大化方法.

摘要： 本文根据多个输出信号之间的相依性测度将信号分离过程分为两个阶段,在不同的阶段采用不同的变步长算法,有效地解决了在线盲源分离算法的稳态误差和收敛速度之间的矛盾,其仿真结果证实,该算法不仅在平稳环境中具有较决的收敛速度,良好的稳态性能和数值稳定性,而且在非平稳环境下也具有良好的跟踪性能.

摘要： 本文根据多个输出信号之间的相依性测度将信号分离过程分为两个阶段,在不同的阶段采用不同的变步长算法,有效地解决了在线盲源分离算法的稳态误差和收敛速度之间的矛盾,其仿真结果证实,该算法不仅在平稳环境中具有较决的收敛速度,良好的稳态性能和数值稳定性,而且在非平稳环境下也具有良好的跟踪性能.

摘要： 本文根据多个输出信号之间的相依性测度将信号分离过程分为两个阶段,在不同的阶段采用不同的变步长算法,有效地解决了在线盲源分离算法的稳态误差和收敛速度之间的矛盾,其仿真结果证实,该算法不仅在平稳环境中具有较决的收敛速度,良好的稳态性能和数值稳定性,而且在非平稳环境下也具有良好的跟踪性能.

摘要： 本文根据多个输出信号之间的相依性测度将信号分离过程分为两个阶段,在不同的阶段采用不同的变步长算法,有效地解决了在线盲源分离算法的稳态误差和收敛速度之间的矛盾,其仿真结果证实,该算法不仅在平稳环境中具有较决的收敛速度,良好的稳态性能和数值稳定性,而且在非平稳环境下也具有良好的跟踪性能.

摘要： 本文根据多个输出信号之间的相依性测度将信号分离过程分为两个阶段,在不同的阶段采用不同的变步长算法,有效地解决了在线盲源分离算法的稳态误差和收敛速度之间的矛盾,其仿真结果证实,该算法不仅在平稳环境中具有较决的收敛速度,良好的稳态性能和数值稳定性,而且在非平稳环境下也具有良好的跟踪性能.

摘要： 本发明提供一种基于横流压力梯度分布的自然层流机翼剖面外形设计方法，包括：确定横流压力梯度分布参照函数F(l)；以初始机翼wing(1)的剖面外形pro(1)为基准，采用优化方法进行优化设计；方法为：将反设计目标函数obj1和优化目标函数集合加权后，得到总目标函数objI，采用优化算法对机翼剖面外形进行优化设计，输出满足约束条件且使总目标函数最小时的设计变量。优点为：本发明能够量化的给出抑制机翼边界层横流不稳定性的设计目标，减少了对设计者经验的依赖。采用此方法设计的自然层流机翼在设计状态下具有更弱的横流不稳定性、更大的层流范围，并且鲁棒性更好，总阻力显著减小，自然层流机翼的气动性能得到有效提高。

摘要： 本发明属于电子材料技术领域，具体为一种自然沉降的梯度复合吸波材料及其制备方法。本发明根据Stokes公式为依据，利用不同吸收剂在乳液中沉降速率的不同，实现乳液中自然沉降分层的效果；选取水性聚氨酯(WPU)乳液作为基体，利用其收缩率稳定、体相粘度适中、温度稳定性好的特点，实现自然沉降成膜的效果；通过自然沉降而形成的过渡层，减少了界面跃变而导致的电磁波反射。与手动层叠相比，本发明在不影响高频吸收性能的同时，有效地改善了低频的吸收性能，拓宽吸收带宽，大大降低了多层吸波材料制备的复杂程度，对以后的梯度复合吸波结构设计有一定的参考意义。

摘要： 本发明提供一种基于横流压力梯度分布的自然层流机翼剖面外形设计方法，包括：确定横流压力梯度分布参照函数F(l)；以初始机翼wing(1)的剖面外形pro(1)为基准，采用优化方法进行优化设计；方法为：将反设计目标函数obj1和优化目标函数集合加权后，得到总目标函数objI，采用优化算法对机翼剖面外形进行优化设计，输出满足约束条件且使总目标函数最小时的设计变量。优点为：本发明能够量化的给出抑制机翼边界层横流不稳定性的设计目标，减少了对设计者经验的依赖。采用此方法设计的自然层流机翼在设计状态下具有更弱的横流不稳定性、更大的层流范围，并且鲁棒性更好，总阻力显著减小，自然层流机翼的气动性能得到有效提高。

摘要： 本发明公开一种基于图像灰度梯度一致性的自然环境下道路交通标志检测方法，利用了图像的灰度梯度方向一致性特点，从方形、三角形以及圆形目标的本身特性出发，通过设计多图像梯度滤波器模板进行全图遍历，在不依赖于图像边缘检测的情况下，只提取图像中具有稳定结构特征的边缘，进而通过对图像中候选圆弧段或直线段的判断，实现对图像中方形、三角形以及圆形交通标志区域的检测。在实际使用中可应对不同的光照条件，尽管是边缘较弱的目标区域也能有效的检测，且对目标区域的颜色损失及一定程度的形变都有较好的适应能力。

摘要： 本发明属于电子材料技术领域，具体为一种自然沉降的梯度复合吸波材料及其制备方法。本发明根据Stokes公式为依据，利用不同吸收剂在乳液中沉降速率的不同，实现乳液中自然沉降分层的效果；选取水性聚氨酯(WPU)乳液作为基体，利用其收缩率稳定、体相粘度适中、温度稳定性好的特点，实现自然沉降成膜的效果；通过自然沉降而形成的过渡层，减少了界面跃变而导致的电磁波反射。与手动层叠相比，本发明在不影响高频吸收性能的同时，有效地改善了低频的吸收性能，拓宽吸收带宽，大大降低了多层吸波材料制备的复杂程度，对以后的梯度复合吸波结构设计有一定的参考意义。

摘要： 本发明公开了一种提高自然梯度算法收敛速度的MIMO‑OFDM信号盲分离方法，首先，结合ICA理论，对Flexible ICA算法在ICA预处理约束下做出了改进，得出改进迭代算法；然后，结合BP神经网络反馈思想，利用分离误差，给出一种基于分离误差自适应反馈调节迭代步长的方法；最后从分离矩阵的收敛性、迭代次数和分离误差三个方面给出算法迭代的综合终止判据。与现有技术相比，本发明方法在结合MIMO‑OFDM系统特性的基础上，兼顾了收敛速度和分离精度的要求，取得了有效的分离效果。

摘要： 本发明提供的是一种基于变步长自然梯度算法的语音信号盲分离方法。(1)用语音信号采集装置采集多人声的混合语音信号，话筒数多于或等于说话人数目；(2)对采集的混合语音信号进行预处理，包括：采用LMS数字滤波器、去均值与去相关的白化处理，然后得到零均值各个信源不相关高信噪比的混合语音信号；(3)采用基于梯度因素调节步长的变步长自然梯度算法从混合的人声中恢复得到每个声源的声音的估计。本发明不仅可以分离真实的混合语音信号，而且分离速度快、分离效果准确且稳定。

摘要： 本发明属于合成孔径雷达图像相干斑去噪处理领域，具体涉及一种基于伪PID的自然梯度的极化SAR图像相干斑去噪方法。本发明包括：把同一时刻采集的一组n幅极化SAR图转换成一维矢量图像；对一维图像信号进行预处理；预处理之后的图像信号通过使用伪PID自然梯度算法进行迭代解算得到分离矩阵，与白化后的信号相乘得到各个图像一维信号输出；图像重构：找出等效视数最大的一维信号，等效视数最大的是降噪后的SAR图，将等效视数最大的一维信号转换成二维图像，按照二维转一维相逆的方法转换成一个N×M像素点的灰度图像。本发明应用了一种伪PID的方法来调节自然梯度算法的分离步长，能使得处理结果图像比传统方法清晰，更快速。

摘要： 本发明提出了基于结构化自然梯度优化的深度神经网络图像识别方法，属于基于机器学习和神经网络技术的图像识别领域。本方法提出了一种结构化自然梯度下降法SNGD，通过附加一种规范化层，以重新结构化图像识别的深度网络的方式，对全局Fisher矩阵的相关计算进行了分解，最终转换成使用传统GD进行优化而能达到NGD的效果。同时，提出了一种新的局部Fisher层及其实现方案。局部Fisher层通过引入的二阶信息，考虑了图像识别网络中的参数在不同位置的不同属性，对识别模型参数变换加入了约束，可使梯度更新能稳定快速地进行。采用本方法，图像识别网络训练有更快的收敛速度，所训模型也有更优的识别性能。

摘要： 基于特征值分解的主组件分析模型就是复杂度较高。概率主组件分析是从概率的角度理解主组件分析模型，采用期望最大化算法迭代求解，对于大规模高维数据可有效提高模型效率。但是该算法在参数更新过程中，需要遍历整个数据集才能更新一次参数，参数更新较慢，很难扩展到大规模数据集。本发明提出一种结合自然梯度的概率主组件在线学习方法，通过结合概率主组件分析与自然梯度，实现在线增量学习模型。本发明包括：模型建模单元、优化目标构建单元、及优化问题求解单元。模型建模单元是对传统的概率主组件分析模型引入自然梯度。优化目标构建单元通过似然函数构建优化目标。优化问题求解单元采用EM算法，引入自然梯度，使用单个样本进行参数更新。