求解非线性最优化问题的序列线性方程组算法

序列二次规划（SQP）算法是目前公认的求解非线性约束优化问题的最有效的算洪之一。但是目前SQP算法存在两个重要问题：（1）每步需要求解一至两个二次规划子问题以得到达代方向，计算工作量大。难以应用于大规模问题；（2）迭代过程中产生的二次规划子问题可能无解，使运算过程中断。尽管可用其他措施重新定义迭代方向。但弛然增加算法的复杂性，增大计算工作量，理论证明也不完善。文中介绍的序列线性方程组方法就是针对SQP算法的缺点而提出的。理论分析和数值实验均表明，这种算法具有迭代时间少，收敛速度快等优点，可以用来求解大规模的非线性优化问题。     

基于离散力学追逃问题的半直接数值解法

该文结合了变分法和离散力学,提出一种新的半直接追逃问题的数值求解方法。首先利用变分法将微分对策问题转化为含约束的最优控制问题,再结合离散力学理论将最优控制问题转化为非线性规划问题,最后使用序列二次规划(SQP)方法进行数值求解。以小车追逃模型作为算例验证了该方法的正确性。     

解变分不等式问题的一类滤子SQP算法

针对一般形式的变分不等式问题,考虑将其转化为约束优化问题求解.对于这种特定的约束优化问题,提出了一类新的滤子序列二次规划(SQP)求解方法.基于变分不等式与约束优化问题的不同,在滤子条件中采用了一个二次价值函数作为目标函数,使得一般的变分不等式问题均可用滤子算法求解.采用SQP方法结合滤子方法获取试探步,只需要计算两个简单不等式判断试探步,算法易实现,计算量小.在较弱的条件下证明了算法的全局收敛性.最后,给出了算法的数值算例,与同类算法比较,结果良好.     

一种全局收敛的线搜索滤子SQP方法

对于求解不等式约束优化问题,将线搜索和滤子方法相结合提出了一种新的线搜索滤子序列二次规划( filterSQP)方法.该方法克服了传统的SQP方法二次子问题不相容的困难,并利用滤子避免了罚函数的使用.同时在合理条件下证明了此方法具有全局收敛性质.     

理性运动极限及其在优化算法中的应用

优化求解有时需要提供近似模型代替实际复杂的问题,而近似模型只是在一定程度上逼近原始问题．优化模型如果在不可靠的近似函数上进行,就会导致迭代的目标函数值振荡、迭代收敛缓慢甚至不收敛,从而使最终结果有时可能不满足约束条件．通过给设计变量施加运动极限可以提高近似模型在一定范围内的可靠性．通常给定运动极限的方法是准则法,这种方法较为粗糙,不是根据近似函数本身的性质得出的理性结果．本文用累积信息的约束二阶估计近似显式代替准确的约束条件函数作为评价函数来构造运动极限的理性估计式,从而求得理性运动极限,并将这一方法应用于序列二次规划（SQP）算法中,数值算例表明了这一方法的可行性和有效性．     

序列二次规划(SQP)算法在三维下限分析中的应用

采用有限元法和非线性规划的序列二次规划(SQP)算法，解决了三维可静应力场的构造问题．基于刚塑性假设，采用极限分析下限原理，求解了矩形表面基础的承载力问题．算例分析表明，SQP算法在三维下限法中的应用是可行的．     

基于SQP法的电压无功功率优化

文章阐述了一般电力系统电压无功优化的概念和非线性规划中的连续二次规划法(SQP)的基本算法,并给出了电压无功优化的连续二次规划法(SQP)模型,利用该方法对实际系统进行仿真,从理论和实践中证明了这种方法的可行性和有效性.     

一个可行模松弛SQP方法及其全局收敛性

提出一个处理不等式约束优化问题的可行模松弛SQP算法,每次迭代只需求解一个二次规划子问题.无需对迭代序列进行有界假设,采用线性搜索,在一些微弱假设条件下,证得了算法具有全局收敛性质.     

SQP 优化的最大似然波达方向角估计

为快速实现波达方向角( DOA: Direction Of Arrival) 的精确估计, 提出了应用序列二次规划( SQP:Sequence Quadratic Program)的最大似然DOA 估计算法。给出了用于DOA 估计的最大似然函数, 将参数估计问题转化为非线性函数优化问题; 并利用SQP 优化算法对似然函数的求解进行优化, 得到DOA 的估计值。仿真结果表明, 该算法可用较少的计算时间实现对似然函数的优化求解, 同时保留了最大似然估计的渐进无偏估计性能, 与遗传算法、粒子群算法相比, 不仅具有更快的寻优速度, 而且具有更高的收敛精度。     

空间映射与响应面法相结合的结构优化

应用空间映射与响应面方法实现了由低保真模型到高保真模型的响应面映射，在原有空间映射方法的基础上将一类结构优化问题构造为标准二次规划模型，有利于高保真模型的优化求解，且解决了空间映射方法中低保真模型设计变量更新困难的问题。此方法可大大减少应用序列RSM方法进行结构多学科优化时的重分析计算量。数值算例表明此方法可获得较好的求解效率和精度。     

二维线性大间距判别分析及其在步态识别中的应用

提出一种二维线性大间距判别分析(Two dimensional linear maximum margin discriminant analysis,2DLMMDA)的投影算法。该算法一方面采用了有效且稳定的大间距优化准则,引入了Laplacian矩阵,保持了特征矩阵的流形结构,且优化域为Laplacian类间散度与Laplacian类内散度之差,能克服Fisher准则带来的小样本问题;另一方面,采用了具有监督信息的判别分析,大大地提高了识别率。为了验证所提出的算法对特征提取的有效性,选择最近邻分类器进行特征分类,最后通过在CASIA(B)步态库上实验。实验结果表明,文中提出的算法具有更高的识别率和识别速度。     

基于多目标优化问题模型的鉴别分析方法

该文提出一种新的Fisher鉴别分析的多目标优化问题模型。模型将最大的Fisher函数值与鉴别矢量所抽取特征间最小的相关同时作为优化目标。通过构造评价函数，将这一问题转换为适当的单目标优化问题。利用问题模型的特殊性，用Lagrange乘子法分析得出了相应鉴别矢量解的表达式。将该方法与F—S鉴别分析方法在CENPARMI手写体阿拉伯数字库上进行了对比实验。实验显示，该文方法明显优于F—S鉴别分析方法。     

基于核Fisher判别的复杂储层岩性识别研究

复杂储层中多种岩性均可作为储层,不同岩性的物性特征差异较大,分岩性解释复杂储层物性是求准物性较为有效的一种方法,但是不同岩性的测井特征相近,常规线性分类方法识别效果不理想,因为复杂储层的岩石识别中非线性分类特征占较大比例。针对这一问题,本文将Fisher判别分析(FDA)做核推广,形成核Fisher判别分析(KFDA),进一步利用Fisher判别中未提取的非线性信息,通过升维获得更多的非线性分类特征,然后再通过降维来提取利于岩性分类的特征。文章通过实验对核Fisher在数据预处理、关键参数的选取等方面进行了详细介绍,并将核Fisher方法与其它分类方法进行比较,验证了核Fisher方法的岩性识别能力,而对于不同岩性间的差异相似关系,造成岩性识别精度低的情况,提出了分级核Fisher判别分析的思路,研究证明利用分级核Fisher判别分析的思路可进一步提高岩性的识别精度。     

基于CCA的增强线性鉴别分析

为了有效地融合Fisher线性鉴别分析与最大散度差鉴别分析所抽取的特征,得到更加全面反映原始样本的鉴别特征集,提出了基于典型相关分析的增强线性鉴别分析方法.利用Fisher线性鉴别分析和最大散度差鉴别分析方法提取两组鉴别特征,根据典型相关分析对这两组特征进行融合,获得更具鉴别力的典型鉴别特征.经过ORL标准人脸库实验,验证了所提算法的有效性.     

Analysis and Experiments on Two Linear Discriminant Analysis Methods

Foley-Sammon linear discriminant analysis （FSLDA） and uncorrelated linear discriminant analysis （ULDA） are two well-known kinds of linear discriminant analysis. Both ULDA and FSLDA search the kth discriminant vector in an n - k ＋ 1 dimensional subspace, while they are subject to their respective constraints. Evidenced by strict demonstration, it is clear that in essence ULDA vectors are the covarianceorthogonal vectors of the corresponding eigen-equation. So, the algorithms for the covariance-orthogonal vectors are equivalent to the original algorithm of ULDA, which is time-consuming. Also, it is first revealed that the Fisher criterion value of each FSLDA vector must be not less than that of the corresponding ULDA vector by theory analysis. For a discriminant vector, the larger its Fisher criterion value is, the more powerful in discriminability it is. So, for FSLDA vectors, corresponding to larger Fisher criterion values is an advantage. On the other hand, in general any two feature components extracted by FSLDA vectors are statistically correlated with each other, which may make the discriminant vectors set at a disadvantageous position. In contrast to FSLDA vectors, any two feature components extracted by ULDA vectors are statistically uncorrelated with each other. Two experiments on CENPARMI handwritten numeral database and ORL database are performed. The experimental results are consistent with the theory analysis on Fisher criterion values of ULDA vectors and FSLDA vectors. The experiments also show that the equivalent algorithm of ULDA, presented in this paper, is much more efficient than the original algorithm of ULDA, as the theory analysis expects. Moreover, it appears that if there is high statistical correlation between feature components extracted by FSLDA vectors, FSLDA will not perform well, in spite of larger Fisher criterion value owned by every FSLDA vector. However, when the average correlation coefficient of feature components extracted by FSLDA vectors is at a low level, the performance of FSLDA are comparable with ULDA.     

改进的Fisher判别方法

对Fisher判别方法进行了改进,其主要思想是改变Fisher判别中以临界值为准则的判别方法,而以各总体的投影值所确定的正态分布的密度函数作为样品归类准则,并形成多次判别.例子表明,该方法优于Fisher判别方法.     

一种高分辨率遥感影像道路提取方法

文章采用了基于核的Fisher线性判别特征分类和形状特征相结合的方法进行道路提取.首先,对标记的样本进行色彩信息的抽取;其次,利用基于核的FLD根据抽取的信息对遥感影像进行特征训练分类,将影像分为道路和非道路两类;接着利用道路的形状特征去除误提的信息;最后利用形态学对道路网进行优化处理.实验证明,本方法可以实现具有颜色信息的遥感影像道路的提取.     

基于遗传算法的静电反馈式微传感器多目标优化

讨论了一种新型梳齿式静电反馈微加速度计的多目标参数优化问题，从耦合静电场能量关系出发，建立了系统的动态模型．在此基础上，以灵敏度、分辨率和动态响应为优化目标，通过目标规划法，构建了系统的多目标优化模型．利用遗传算法进行优化求解，并与序列二次规划法的优化解进行了对比分析，研究结果表明，这2种算法均能成功地求解优化问题，但遗传算法可得到设计者更为满意的多目标有效解．研究工作为进一步利用遗传算法的随机性和潜在并行性进行系统的Pareto多目标优化提供了基础．     

基于核的快速特征抽取及识别方法

基于核技巧提出的新的非线性鉴别分析方法在最小二乘意义上与基于核的Fisher鉴别分析方法等效,相应鉴别方向通过一个线性方程组得出,计算代价较小,相应分类实现极其简便。该方法的最大优点是,对训练数据进行筛选,可使构造鉴别矢量的“显著”训练样本数大大低于总训练样本数,从而使得测试集的分类非常高效;同时,设计出专门的优化算法以加速“显著”训练样本的选取。实验表明,该方法不仅具有明显的效率上的优势,且具有不低于基于核的Fisher鉴别分析方法的性能。