共轭梁法是什么 共轭梯度算法的缺点
什么是共轭梯度法?如何直观地理解「共轭」这个概念?共轭梯度法是什么?
本文导航
共轭梯度算法的缺点
数学上,共轭梯度法实求解特定线性系统的数值解的方法,其中那些矩阵为对称和正定。共轭梯度法是一个迭代方法,所以它适用于稀疏矩阵系统,因为这些系统对于象乔莱斯基分解这样的直接方法太大了。这种系统在数值求解偏微分方程时相当常见。
共轭梯度法也可以用于求解无约束优化问题。
双共轭梯度法提供了一种处理非对称矩阵情况的推广。
共轭效应的方向怎么判断
如下:
共轭在数学、物理、化学、地理等学科中都有出现。 本意:两头牛背上的架子称为轭,轭使两头牛同步行走。共轭即为按一定的规律相配的一对。通俗点说就是孪生。在数学中有共轭复数、共轭根式、共轭双曲线、共轭矩阵等。
共轭方向法:
以一组共轭方向作为搜索方向来求解无约束非线性规划问题的一类下降算法。是在研究寻求具有对称正定矩阵Q的n元二次函数:
f(x)=1/2xQ x+bx+c。
最优解的基础上提出的一类梯度型算法,包含共轭梯度法和变尺度法。根据共轭方向的性质,依次沿着对Q共轭的一组方向作一维搜索,则可保证在至多n步内获得二次函数的极小点。
共轭方向法在处理非二次目标函数时也相当有效,具有超线性的收敛速度,在一定程度上克服了最速下降法的锯齿形现象,同时又避免了牛顿法所涉及的海色(Hesse) 矩阵的计算和求逆问题。
对于非二次函数,n步搜索并不能获得极小点,需采用重开始策略,即在每进行n次一维搜索之后,若还未获得极小点,则以负梯度方向作为初始方向重新构造共轭方向,继续搜索。
梯度法的特点和优点
共轭梯度法(Conjugate Gradient)是介于最速下降法与牛顿法之间的一个方法,它仅需利用一阶导数信息。
但克服了最速下降法收敛慢的缺点,又避免了牛顿法需要存储和计算Hesse矩阵并求逆的缺点,共轭梯度法不仅是解决大型线性方程组最有用的方法之一,也是解大型非线性最优化最有效的算法之一。
在各种优化算法中:
共轭梯度法是非常重要的一种。其优点是所需存储量小,具有步收敛性,稳定性高,而且不需要任何外来参数。
共轭梯度法是一个典型的共轭方向法,它的每一个搜索方向是互相共轭的,而这些搜索方向d仅仅是负梯度方向与上一次迭代的搜索方向的组合,因此,存储量少,计算方便。