简答题 简述无约束优化方法中梯度法、共轭梯度法、鲍威尔法的主要区别。

【参考答案】

梯度法是以负梯度方向作为搜索方向，使函数值下降最快，相邻两个迭代点上的函数相互垂直即是相邻两个搜索方向相互垂直。这就是说在梯度法中，迭代点向函数极小点靠近的过程，走的是曲折的路线。这一次的搜索方向与前一次的搜索过程互相垂直，形成“之”字形的锯齿现象。从直观上可以看到，在远离极......

(↓↓↓ 点击‘点击查看答案’看完整答案 ↓↓↓)