数学建模-优化问题..ppt

约束优化constrained optimization的简单分类
数学规划mathematical programming
或连续优化continuous optmization
线性规划(LP) 目标和约束均为线性函数
Linear programming
非线性规划(NLP) 目标或约束中存在非线性函数
Nonlinear programming
二次规划(QP) 目标为二次函数、约束为线性
Quadratic programming
一般优化问题概述
整数规划(IP) 决策变量(全部或部分)为整数
Integer programming
整数线性规划(ILP),整数非线性规划(INLP)
纯整数规划(PIP), 混合整数规划(MIP)
Pure (mixed) Integer programming
一般整数规划,0-1(整数)规划
Zero-one programming
离散优化discrete optimization
binatorial optimization
一般优化问题概述
无约束最优化问题
求解无约束最优化问题的的基本思想
*无约束最优化问题的基本算法
返回
标准形式:
求解无约束最优化问题的基本思想
求解的基本思想( 以二元函数为例)
5
3
1
连续可微
多局部极小
唯一极小
(全局极小)
搜索过程
最优点(1 1)
初始点(-1 1)
-1
1

-


-


-



-















1E-4


1E-5


1E-8
返回
无约束优化问题的基本算法
最速下降法是一种最基本的算法,,存储变量较少,初始点要求不高;缺点是收敛慢,最速下降法适用于寻优过程的前期迭代或作为间插步骤,当接近极值点时,宜选用别种收敛快的算法.
(共轭梯度法)算法步骤:
:
如果f是对称正定矩阵A的二次函数,则用牛顿法经过一次迭代
就可达到最优点,如不是二次函数,则牛顿法不能一步达到极值点,
但由于这种函数在极值点附近和二次函数很近似,因此牛顿法的收
敛速度还是很快的.
牛顿法的收敛速度虽然较快,但要求Hessian矩阵要可逆,要计算二阶导数和逆矩阵,就加大了计算机计算量和存储量.
Matlab优化工具箱简介