商业数据的预测模型及其算法研究

以商务流通中的经济时间序列数据为对象，设计实现了经济时间序列预测系统。在预测系统中采用了多种预测模型，设计实现了包括指数平滑算法、AR(Auto Regression)算法、Holt-Winter算法、回归分析算法在内的各种统计学算法，并且把神经网络引入到时间序列预测系统的模型中，采用动态学习的BP(Back Propagation)神经网络进行训练预测，取得了很好的实用效果。神经网络的预测模型与传统的统计方法相比，在预测的精度上有了很大的提高。     

QPR-NN:一种结合二次多项式回归与神经网络的推荐算法

针对传统推荐算法不能很好地适应数据高规模及高稀疏性的问题,结合深度学习数据建模的方法,提出了一种结合二次多项式回归与神经网络(QPR-NN)的推荐算法。在对已有特征提取方法缺陷分析的基础上,利用二次多项式回归模型将用户对物品的评分数据进行特征提取及降维,充分挖掘了用户与物品之间的相关性。将特征提取后的数据作为深度学习训练模型的输入,增加输入数据与训练模型之间的匹配度,并将训练得到的模型用于推荐评分预测。在MovieLens与Epinions两组数据集上的实验结果表明:QPR特征提取方法与QPR-NN推荐算法在平分绝对误差与均方根误差评价指标上均优于现有的主流算法,QPR-NN推荐算法可以有效提升推荐准确率。     

基于回归神经网络的非线性动态数据校核及其应用

研究了简化型内回归神经网络基于自适应梯度下降法的训练算法，并提出了一种基于简化型内回归神经网络的非线性动态数据校核新方法，结果表明所提出的方法能够有效地对非线性动态过程进行数据校核，并具有良好性能，与传统的动态数据校核方法相比，所提出方法具有不需要掌握过程本身的精确模型，避免了过程模型误差可能带来的估计误差，不需事先知道测量噪声和过程噪声的统计特性等特点。     

基于自组织映射与概率神经网络的增量式学习算法

为解决传统学习算法不能有效利用新可用数据这一不足,提出一种基于自组织映射(SOM)和概率神经网络(PNN)的增量式学习算法——增量式模块化自组织映射概率神经网络(IMSOMPNN)。使用模块化SOM对每类训练数据进行学习,以训练后SOM的原型向量作为此类别的模式神经元来构建PNN。IMSOMPNN可以方便地实现对不同类型的新数据进行增量式学习,并且在进行增量学习时,不再需要利用到原始的训练数据,仅使用新的数据对已有模型进行局部调整;最后,IMSOMPNN还具有较强的抗噪能力。在UCI Landsat Satellite数据集上的实验验证了该文所述方法的有效性。     

基于随机森林优化的自组织神经网络算法

针对基于降维的神经网络分类器预测模型在分析过程中存在特征丢失,并导致精度下降的问题,提出一种基于随机森林算法优化的多层感知器(MLP)回归预测模型.该优化模型通过在MLP回归模型网络的全连接层和逻辑回归层之间增加一个优化机制,利用随机森林算法对隐藏层状态的优化实现改进,从而解决了降维过程中神经网络丢失数据特征的问题.在...     

基于弯曲高斯过程组合方法的光伏出力预测研究

针对光伏发电功率受多种天气因素影响造成预测难度大的现状,提出了一种基于弯曲高斯过程的混合模型,可以实现一天内任意时刻的光伏出力的概率预测,获得置信区间预测值和点预测值.该算法先由多元自适应回归样条模型实现对多维输入变量的约减,同时得到待预测值的先验数据,然后利用模糊C均值算法按天气类型对训练集数据和测试集的先验数据进行聚类,得到相似样本,再利用弯曲高斯过程模型对测试集数据进行估计,最后利用Bagging算法实现对子混合模型的集成学习,得到待预测值的区间估计和点估计.仿真及试验结果验证了该混合模型的有效性和可靠性.与高斯过程估计和BP神经网络分位数估计相比,该混合模型精度更高,实用性更强.     

基于支持向量机的非对称区间回归分析

针对区间回归中上、下2个端点的误差范围不相同的非对称问题,建立了Fitness、Possibility 和Necessity 3个回归模型,对区间样本的中心趋势和最大、最小可能边界进行综合分析,并引入支持向量机,区分线性和非线性两种情况,提出了非对称区间回归支持向量机AIR-SVM(asymmetrical interval regression SVM)算法,对非对称区间数据集回归估计进行了分析.通过3个数据仿真实验,检验了提出算法的良好性能,有效地解决了非对称情况下精确数输入-区间数输出的区间数据回归问题.     

大型BP神经网络学习算法

神经网络训练是一个ＮＰ完全问题，提出一种集成学习算法，理论分析与计算机模拟结果表明这种学习算法具有学习结果准确，学习速度快等特点，尤其适用于大型ＢＰ神经网络。     

面向不平衡数据的逻辑回归偏标记学习算法

偏标记学习是近几年提出的新机器学习框架,已有的逻辑回归偏标记算法尚不能解决数据不平衡问题.建立了一种可以解决数据不平衡的逻辑回归模型偏标记学习算法.基本思想是在多元逻辑回归模型中定义新的似然函数以达到处理不平衡数据的目的.算法先根据训练集中各个类别样本所占比例定义了一个新的似然函数,之后通过逼近和求导等数学手段推导得到了能够求解的光滑的逻辑回归偏标记学习模型.在UCI数据集和真实数据集上的仿真实验表明,所提算法在数据存在不平衡问题时提高了样本的平均分类精度.     

基于数据扩展的短时交通流量预测

多种机器学习和深度学习的模型和算法应用于短时交通流量预测,但是,大多数模型尤其是深度学习模型对训练样本的数量要求较高。为此,提出了一种基于数据扩展的短时交通流量预测方法,该方法基于自编码神经网络分别结合长短时记忆神经网络(LSTM)和支持向量机回归(SVR)构建预测模型,该模型利用自编码神经网络扩展的数据分别训练长短时记忆神经网络和支持向量回归进行交通流量的预测,结果表明,所提出的预测模型具有较高的精度和较好的泛化能力。     

基于LTS优化图像切边线性回归分类的人脸识别研究

针对现实人脸识别中由于伪装(如围巾、太阳镜和头发)或其它物体引起的面部遮挡而严重影响识别率的问题,提出了一种基于最小截平方和的图像切边线性回归分类算法。首先,使用一个鲁棒性强的估计量检测并裁剪查询样本、训练样本中受污染的像素点;然后,利用线性回归分类算法对图像进行切边;最后,利用LTS计算出规范化的重构误差。实验结果表明,相比其它几种回归分类算法,本文算法取得了更高的识别率,同时大大降低了训练总完成时间。     

支持向量回归在圆形检测中的应用

对圆形的识别是机器视觉中最基本和最重要的任务之一,为了准确确定复杂背景图像中圆的位置,提出了一种将支持向量回归模型与三点拟合圆联合起来的新算法,通过支持向量回归模型训练不同类型的圆形样本,得到超平面方程f(x),以f(x)为中心线,构建一个宽度为2ε的近似圆环型间隔带,在此间隔带上的点都被认为属于圆形边界上的点,然后运用三点拟合圆几何算法计算出圆心和半径,从而达到识别圆形的目的。实验结果表明,联合算法通过对训练样本的学习,能够在噪声比较大的背景图像中得到圆形的边界信息,从而确定圆的位置,较仅使用某一种圆形识别算法有一定的优势。在以圆形作为定位的机器视觉领域,具有重要的理论研究价值与实践意义。     

右删失数据下回归函数的局部组合分位数回归估计

本文研究右删失数据情形下的组合分位数回归模型,采用局部多项式逼近来估计回归函数,得到回归函数在某一点的估计量的渐近正态性和区间估计,并通过蒙特卡洛模拟验证了所提方法的有限样本性质。     

面向多输入输出系统的支持向量机回归

目前支持向量机回归算法只适用于单输入单输出系统,在处理复杂多变量系统时多采用构造一系列单变量支持向量机模型的方法,增加了模型与控制的复杂性。针对这一问题,提出了面向多输入多输出系统的支持向量机线性回归和非线性回归方法,两种方法的不同在于映射到高维空间后的运算方法不同。与单变量支持向量机回归建模相比,采用该方法建立的多变量系统模型结构较为简单,且在小样本数的情况下,模型训练速度较快。最后将该方法应用到甲基丙烯酸甲脂的间歇聚合反应过程中,仿真结果表明该方法的有效性。     

基于多尺度变换和支持向量回归机的数字图像水印算法

针对当前数字图像水印算法存在的信息隐藏性能差、保密性低、易受攻击等缺陷,提出一种基于多尺度变换和支持向量回归机的数字图像水印算法.首先,采用小波变换对原始数字图像进行多尺度分解,得到多个不同子带;然后,对不同的子带系数采用支持向量回归机进行训练,估计子带间的关系;最后,训练完成的支持向量回归机将水印嵌入到图像中,并通过具体数字图像水印仿真实验测试其性能.实验结果表明,该算法的水印信息隐蔽性好,具有良好的不可感知性,可以抵抗各种类型的攻击,提高了数字图像的安全性.     

Finding finer functions for partially characterized proteins by protein-protein interaction networks

Based on high-throughput data, numerous algorithms have been designed to find functions of novel proteins. However, the effectiveness of such algorithms is currently limited by some fundamental factors, including (1) the low a-priori probability of novel proteins participating in a detailed function; (2) the huge false data present in high-throughput datasets; (3) the incomplete data coverage of functional classes; (4) the abundant but heterogeneous negative samples for training the algorithms; and (5) the lack of detailed functional knowledge for training algorithms. Here, for partially characterized proteins, we suggest an approach to finding their finer functions based on protein interaction sub-networks or gene expression patterns, defined in function-specific subspaces. The proposed approach can lessen the above-mentioned problems by properly defining the prediction range and functionally filtering the noisy data, and thus can efficiently find proteins’ novel functions. For thousands of yeast and human proteins partially characterized, it is able to reliably find their finer functions (e.g., the translational functions) with more than 90% precision. The predicted finer functions are highly valuable both for guiding the follow-up wet-lab validation and for providing the necessary data for training algorithms to learn other proteins.     

用FCM聚类和非参数回归方法推断基因调控网络

采用FCM方法对基因表达的微阵列数据进行聚类分析,应用核回归和PP回归相结合的方法设计预报器,利用决定系数遴选父代基因集合.将这种新的组合设计方法的分析结果与相关文献的结果进行对比分析,得出了较好的推断结果;可以将这种组合方法运用于致病基因簇的搜寻.     

Parameter selection in time series prediction based on nu-support vector regression

The theory of nu-support vector regression (Nu-SVR) is employed in modeling time series variation for prediction. In order to avoid prediction performance degradation caused by improper parameters, the method of parallel multidimensional step search (PMSS) is proposed for users to select best parameters in training support vector machine to get a prediction model. A series of tests are performed to evaluate the modeling mechanism and prediction results indicate that Nu-SVR models can reflect the variation tendency of time series with low prediction error on both familiar and unfamiliar data. Statistical analysis is also employed to verify the optimization performance of PMSS algorithm and comparative results indicate that training error can take the minimum over the interval around planar data point corresponding to selected parameters. Moreover, the introduction of parallelization can remarkably speed up the optimizing procedure.     

基于支持向量回归机的结构非概率可靠性分析

将支持向量机回归技术引入隐式极限状态结构的非概率可靠性分析,基于未确知信息的分段均布描述模型,设计了训练样本抽取策略．为了统一样本尺度,根据分段均布模型与标准化区间均布模型的双射关系,将基本变量区域中的样本数据转化成标准区间变量域中的样本数据,保证了支持向量机训练的稳定性．给出了SVR预测模型算法,并实现了在标准化区间变量域中直接抽取训练、测试及预测样本,使得样本抽取和蒙特卡罗模拟计算更便于实现．通过算例对方法的精度和可行性进行了验证,结果表明：该方法可解决隐式极限状态结构的非概率可靠性分析问题,且应用简便．