差商变尺度法的整体收敛性27.pdf

应 用 数 学 M^THEM^TICAAPPLiCATA 1994，7(1)： 4i～47 A 差商变尺度法的整体收敛性’ 22 ／一广一／ 赵 小 平 (华东化 I学院应用敷学研究所 ，上海 200237) 提要 对于求解无约束最优化 问题 ，变尺度法被套认为是最有效的方法之一．从 1971年 Powelll1的开创性I作以来 ，关于变尺度法收敛性的研究 已形成j系统的理 论．由于精确 导数难 以得到 ，常用差 商代 替，称 为差商变尺度 法 ，对其 收敛性理论 的研 究，尚相 当薄弱 ，本文证 明了差商变尺度法的整体 收敛性 ，同时给 出 了保证收敛 的差 商步长条件． 关键词： 变尺度法 ；整体收敛性；差商 ；Broyden凸族 0 ／， AMs主B—~ 一,49J一 一～ 砺 )主)f 1 引 言 对于求解无约束非线性最优化 问题 ：rainIf(x)l∈R )，变尺度法是公认的好方法 ，其迭 代形式如下 ： ^+】一 ^+ ， d^+l一 一 Bf ， 孟一 0，1，… (1．1) 其中 ∈R 为 ，的极小点 的第 次近似，d为第 次搜索方 向， 为精确线搜索确定的步 长因子， 为 ，在 处的梯度vf(x)，B 为 ，在 4 处的Hessian阵的近似矩阵，是利用某一 迭代公式递归产生．变尺度法中一类著名的Broyden[2族能保持迭代矩阵的正定性 ，其稳定性 好，很受人们重视 ，其迭代矩阵公式呈下形 ： ： Bk一 +糕+S·IB,S ， (1．2) V 一一丽告 一一—SIB—S,’， L(1。．03 , S^= 如+1一 j， = 1一 ． (1．4) 其 中 为参数，当 =0时是 BFGS公式 ，当 =1时是 DFP公式 【，当 ∈E0，1]时称为 Broyden凸族 一． 由于在许多实际问题 中难 以得到导数的表达式，从而用差商代替导数的差商变尺度法被 应用得十分广泛，它的一般形式就是由前述的变尺度法 ，通过用 代替 而得到． 表示 ， (z)在 点步长为 h 的向前差商，即 (^1I…，．．)， 一l-f(~+^ )一，( )J／h ( · 收稿 日期 ：1991一I一10 应 用 数 学 1，…，)，目(=1，…，)是 R 中的单位 向量 ． Dixon[在相当强的条件下考虑了收敛性 问题 ，但没有给出保证收敛的差商步长条件-本 文研究了差商变尺度法的收敛性条件 ，主要回答了以下一些问题：差商步长在什么条件下，能 使迭代矩 B 保持正定?能使搜索方向d保持下降性?能使算法具有整体收敛性? 2 准备工作 设 目标函数 f；R一R 二次连续可微 ，且存在 Om +。。，使 ≤ ，()jr≤ Mi ll (2 ． 1) 本文所考虑的迭代公式是指Broyden凸族 (12)，当B 为非奇异阵时，用 表示 鼠 的逆 ，即 = Bf，其它常用符号如下 ： ^ 一 f(x)， g = f(x)，