约束非线性最小二乘的极大熵方法

研究一种将变尺度方法与极大熵方法相结合的新方法，并将其用于约束非线性最小二乘问题，这是一种对有约束和无约束非线性最小二乘问题的统一算法，实现了对Ｈｅｓｓｅ矩阵的整体逼近．新方法具有显式搜索方向，因而在迭代中不需要求解二次规划子问题．数值结果表明该方法是有效的     

求解约束最小二乘半正定规划问题的L-BFGS方法

对带等式和不等式约束的最小二乘半正定规划问题的求解进行了研究。在Slater约束规范条件下,对偶问题的最优解与原问题最优解相等。因此,考虑将最小二乘半正定规划问题转化为相应的对偶问题,通过求解对偶问题达到求解原问题的目的。针对最小二乘半正定规划问题的对偶问题,首先构造相应的二次模型,沿负梯度方向最小化该二次模型得到柯西点,在此基础上,利用积极约束技巧,划分积极约束集与非积极约束集,然后应用L-BFGS技巧对自由变量进行加速,从而求得对偶问题的最优解。最后,从理论上证明了算法的全局收敛性,并进行了初步的数值实验,将该算法与光滑化牛顿法作对比,结果表明该算法在计算时间上有一定的优势。     

一类约束最小二乘估计的神经网络算法

提出一种求解最小二乘问题的新算法,该算法通过特定函数的饱和工作方式,保证最小二乘问题对约束条件的满足,同时实现方差最小化,克服罚函数法难以得到精确解的缺陷。给出了双边约束最小二乘问题存在最优解的充分必要条件,同时证明最优解的唯一性。该算法容易用连续型神经网络实现,网络中神经元状态轨迹收敛到最小二乘问题最优解相对应的平衡点。该算法具有指数收敛速率。     

一种求解二次规划的新算法及其程序的研制

提出了一种求解二次规划的新算法，该算法采用单调性分析技术建立作用约束集，将一般二次规划问题转化为等式约束二次规划问题，并用简约梯度法的思想求解之，通过解一系列的等式约束问题去逼近原问题的最优解，考核结果表明，该算法及相应的软件是成功的。     

带有二次约束的一般二次规划问题的松弛分枝定界方法

考虑带有二次约束的一般二次规划问题的求解，当约束条件为非凸二次函数时，对原问题中的某个二次约束进行凸二次松驰，或在原问题的约束条件中增加一个球约束，使得原问题的可行域包含在松驰二次规划问题的可行域内。采用椭球剖分策略剖分可行域为小 椭球，用投影次梯度算法解松驰二次规划问题的拉格朗日对偶问题，从而获得原问题的一个下界。原问题最优值的一个上界可从迭代过程中的可行点得到，并在迭代过程中得到调整。该算法或在原问题最优值的一个上下界相同时终止，得到原问题的整体最优解；或产生一无限序列，其任一聚点都是原问题的整体最优解。     

约束非线性最小二乘的极大熵方法

研究一种将变尺度方法与极大熵方法相结合的新方法，并将其用于约束非线性最小二乘问题，这是一种对有约束和无约束非线性最小二乘问题的统一算法，实现了对Ｈｅｓｓｅ矩阵的整体逼近。新方法具有显式搜索方向，因而在迭代中不需要求解二次规划子问题，数值结果表明该方法是有效的。     

一类最小二乘的机会约束问题的凸逼近

CVaR方法是目前对机会约束最紧的凸逼近.通过CVaR方法,在给出了部分矩信息与支持集的情况下,首先得到一类最坏情况下的最小二乘的单个机会约束问题可以近似的看成一个凸规划问题,从而得到该问题的逼近解.利用本方法的特殊性,将联合机会约束问题转化一个单个机会约束问题,从而得到了联合机会约束的逼近解.     

带子矩阵约束的二次逆特征值问题的最小二乘埃尔米特广义斜哈密顿矩阵迭代解

针对带子矩阵约束的二次逆特征值问题的最小二乘埃尔米特广义斜哈密顿结构矩阵解问题,给出了一种共枙梯度迭代算法。首先提出了带子矩阵约束的二次逆特征值问题的最小二乘问题及其最佳逼近问题;然后分别给出了基于共轭梯度的迭代算法,证明了算法的收敛性。对于任意初始约束矩阵,在不存在舍入误差的情况下,用该迭代算法可以在有限步迭代中得到迭代解。最后,给出了一个数值实例,数值实例证明了所提算法的有效性。     

二次规划的整标集法与可分解的二次规划

一般二次规划(QP)常用Fletcher算法或简约梯度法求解，只能得1个K-T点，未必是整体最优解．根据求解线性互补问题全部解的整标集法，文中提出求解二次规划的整标集法，即将(QP)转化为线性互补问题，求出全部互补可行解，得到(QP)的全部K-T点，通过比较得整体最优解．此法不需初始可行点，简便可行，适用于一般二次规划．结合算例将整标集法与Fletcher算法、简约梯度法进行比较．该例用此法求解得7个K-T点，且目标函数值相差甚远．另一例具有无穷多个K-T点．算例表明：对于小规模问题，此法优于Fletcher算法和简约梯度法．文中还提出二次规划可分解的条件，据此可将一类规模较大的问题分解成规模较小的问题，降低了难度．     

基于最优最小二乘的红外目标单站定位算法

为消除红外目标单站定位算法估计有偏性,解决现有估计算法中有可能出现多个解向量的问题,提出了一种基于最优最小二乘的目标估计算法.对总体最小二乘定位算法进行了研究,针对扩展测量矩阵出现最小奇异值多重的问题,构造了一个由多重奇异特征向量组成的测度函数,将该函数进行偏微分得到最优的最小二乘解;通过理论分析,证明了最优最小二乘解向量是渐进无偏的;最后,将该算法与总体最小二乘法和修正辅助变量法进行仿真对比.仿真实验结果表明,该方法在不同测量环境噪声下所得到的位置、速度误差曲线能快速地逼近克拉美罗下限,且具有更高的估计精度和稳定性,说明了算法的有效性.     

约束优化一个结合工作集技术的模松弛SQP算法

结合模松弛SOP方法、可行方向法和工作集技术,提出了一个求解非线性不等式约束优化的SOP算法。在每一次迭代,模松弛QP子问题的约束函数个数只决定于相应的工作集。在MFCQ条件下,得到算法的全局收敛性。最后,给出了初步的数值结果。     

基于偏最小二乘的BP网络模型及其应用

基于BP网络模型具有拟合非线性数据的特性,提出一种基于非线性迭代偏最小二乘算法(NIPALS)的BP网络的构造策略,构造了新的PLS-BP网络模型,使BP网络减少迭代步数,提高学习效率.采用非线性迭代偏最小二乘算法预处理数据,将得到主成分数、自变量和因变量的主成分数的权重以及主成分间的关系矩阵B,以此用来确定BP网络的隐节点数和输入层、输出层的初始权值以及隐节点的关联系数.最后,进行仿真实验,并将它与PLS模型、标准的BP网络模型进行了比较,仿真结果表明,拟合和预测效果较好.     

多面体约束非光滑复合函数的序列有效集方法

对带多面体约束的非光滑复合函数问题的求解进行了研究。针对非光滑复合函数问题,首先,构造光滑函数来逼近非光滑目标函数,通过求解光滑近似问题来达到求解原问题的目的。在此基础上,考虑多面体约束的特殊结构,运用序列二次规划算法的思想,利用有效集策略,通过逐次求解一系列仅含等式约束的二次规划问题来逼近搜索方向的最优解,再通过线搜索求得步长,进而得到下一步的迭代点。最后,从理论上证明了算法的全局收敛性,并进行了初步的数值实验。将该算法与光滑序列投影收缩算法作对比,结果表明,该算法在迭代次数和计算时间上都有一定的优势。     

不等式约束的凸二次规划问题的新算法

目的 研究求解不等式约束凸二次规划的新算法。方法 根据广义乘子法的思想,将具有不等式约束的凸二次规划问题转化为只有部分分量带非负约束的凸二次规划,通过解此简单凸二次规划问题建立凸二次规划的新算法。结果 新算法不用求逆矩阵,这样可充分保持矩阵的稀疏性,可用来解大规模稀疏问题。结论数值结果表明,在４８６／３３微机上就能解较大规模的凸二次规划。     

暂态稳定约束下的负荷经济分配

针对电力系统中存在的暂态稳定问题,提出了一种不受系统模型限制的电力系统动态安全调度的算法.该算法基于关键线路有功潮流对其临界切除时间的线性和二次函数拟合,把临界切除时间表示的暂态稳定性约束转化为关键线路有功潮流表示的暂态稳定性约束,并把此约束作为增广约束加入到传统的最优潮流模型中,采用传统求解方法直接进行求解.该方法能够同时处理多个故障,避免了在解除某些故障情况下的稳定裕度约束之后,又会出现其他故障情况下稳定裕度不足甚至失去稳定的循环调整情况,并满足一定的经济性.新英格兰测试系统的分析结果表明,在系统总发电成本增加最小的情况下,系统的稳定程度已提高到设定的目标,证明了该算法的有效性.     

基于动态投影系统的带约束的混行路网均衡模型求解算法

针对路网中考虑电动汽车出行能耗与燃油汽车环境排放情形下混合交通流的非线性边界约束路网均衡问题,设计了一种基于动态投影系统的算法;将复杂非线性边界约束的双车型路网均衡模型转换成变分不等式模型,利用拉格朗日乘子法得到模型的库恩塔克(KKT)条件以及模型的非线性互补问题,通过引入投影算子建立动态投影系统找到模型的最优解。分析模型可确定燃油汽车和电动汽车一般出行成本函数,电动汽车混行条件下交通网络的均衡条件,以及路网均衡条件下两种车型的拥堵外部性并获取混合交通流下路网的运行特征。最后构建数值仿真评估动态投影算法的有效性,结果表明模型收敛于系统的平衡点,且具有指数收敛性质。     

一种改进的求解含等式约束凸二次规划问题的Lemke算法

通过对经典的Lemke互补转轴算法求解含有等式约束的凸二次规划问题的分析,发现所得到的线性互补问题(LCP)可能是退化的.由Lemke算法求解(LCP)问题的迭代过程,通过六个命题说明了含有等式约束的凸二次规划问题对应的(LCP)问题退化的原因,并对经典的Lemke算法的迭代过程进行修正,提出了一种改进的Lemke算法,这种算法能有效地搜索到含等式约束凸二次规划问题的最优解.     

求解高维凸二次规划的向量锥方法

本文介绍一种求解高维凸二次规划的可行方向方法．该方法的可行下降方向是由ε有效广义约束向量所张成的锥构造的，它可通过求解一个低维的线性规划得到．最优步长可由简单的公式给出，不必进行精确的线性搜索。只要在最优点处的有效约束数少于４０个，采用本文方法求解高维凸二次规划就具有计算量少，机时节省的优点．对文中给定的算例，向量锥方法比Ｌｅｍｋｅ 互补旋转法，Ｗｏｌｆｅ既约梯度法和Ｗｏｌｆｅ方法节省机时约７０－８０％．