hessian矩阵,海塞是什么?

1)由于无约束最优化问题的解法已有许多很有效的算法,如DFP,BFGS等,所以在求解复杂得多的约束优化问题是,工程技术人员一般会采用罚函数法——SUMT外点法和内点法 。


2)内点法适用于解含不等式约束问题,并且每次迭代的点都是可行点,这是设计人员所希望的 。但要求初始点为可行域的内点,需要相当的工作量,同时它不能处理等式约束;外点法适于解既含等式约束又含不等式约束的优化问题,初始点可以是可行域之外的点,却不能保证近似最优解是可行的 。


3)罚函数法对于增广的目标函数的Hessian矩阵的条件数随罚因子增大或减小而增大,造成在求解无约束最优化问题时的困难,如何选择罚因子往往进退维谷 。如外罚函数法,欲使得无约束问题接近于原约束问题,应该选择尽可能大的罚因子;但为了减轻求解无约束问题的困难,又应选取较小的罚因子,否则增广矩阵病态 。这也是罚函数法的固有弱点 。

hessian矩阵,海塞是什么?

文章插图
【hessian矩阵,海塞是什么?】海塞是什么?
黑塞矩阵(Hessian Matrix),又译作海森矩阵、海瑟矩阵、海塞矩阵等,是一个多元函数的二阶偏导数构成的方阵,描述了函数的局部曲率 。黑塞矩阵最早于19世纪由德国数学家Ludwig Otto Hesse提出,并以其名字命名 。
原理:黑塞矩阵常用于牛顿法解决优化问题,利用黑塞矩阵可判定多元函数的极值问题 。在工程实际问题的优化设计中,所列的目标函数往往很复杂,为了使问题简化,常常将目标函数在某点邻域展开成泰勒多项式来逼近原函数,此时函数在某点泰勒展开式的矩阵形式中会涉及到黑塞矩阵 。