当前位置:文档之家› 第3讲MATLAB数据建模方法(上)常用方法

第3讲MATLAB数据建模方法(上)常用方法

第3讲MATLAB数据建模方法(上):常用方法作者:卓金武, MathWorks 中国以数据为基础而建立数学模型的方法称为数据建模方法,包括回归、统计、机器学习、深度学习、灰色预测、主成分分析、神经网络、时间序列分析等方法,其中最常用的方法还是回归方法。

本讲主要介绍在数学建模中常用几种回归方法的MATLAB实现过程。

根据回归方法中因变量的个数和回归函数的类型(线性或非线性)可将回归方法分为:一元线性、一元非线性、多元回归。

另外还有两种特殊的回归方式,一种在回归过程中可以调整变量数的回归方法,称为逐步回归,另一种是以指数结构函数作为回归模型的回归方法,称为Logistic回归。

本讲将逐一介绍这几个回归方法。

3.1 一元回归3.1.1 一元线性回归【例3-1】近10年来,某市社会商品零售总额与职工工资总额(单位:亿元)的数据见表3-1,请建立社会商品零售总额与职工工资总额数据的回归模型。

表3-1 商品零售总额与职工工资总额回归方法建立他们之间的回归模型了,具体实现的MATLAB代码如下:(1)输入数据(2)采用最小二乘回归据的散点图,这样就可以从图形上判断这些数据是否近似成线性关系。

当发现它们的确近似在一条线上后,再用线性回归的方法进行回归,这样也更符合我们分析数据的一般思路。

图3-1 职工工资总额和商品零售总额关系趋势图(3)采用LinearModel.fit函数进行线性回归运行结果如下:(4)采用regress函数进行回归运行结果如下:只要根据自己的需要选用一种就可以了。

函数LinearModel.fit 输出的内容为典型的线性回归的参数。

关于regress ,其用法多样,MATLAB 帮助中关于regress 的用法,有以下几种:b = regress(y,X)[b,bint] = regress(y,X) [b,bint,r] = regress(y,X) [b,bint,r,rint] = regress(y,X)[b,bint,r,rint,stats] = regress(y,X) [...] = regress(y,X,alpha) 输入y (因变量,列向量),X (1与自变量组成的矩阵)和(alpha ,是显著性水平, 缺省时默认0.05)。

输出01ˆˆ(,)b ββ=,bint 是01ββ,的置信区间,r 是残差(列向量),rint 是残差的置信区间,s 包含4个统计量:决定系数2R (相关系数为R ),F 值,F(1,n-2)分布大于F 值的概率p ,剩余方差2s 的值。

2s 也可由程序sum(r.^2)/(n-2)计算。

其意义和用法如下:2R 的值越接近1,变量的线性相关性越强,说明模型有效;如果满足1(1,2)F n F α--<,则认为变量y 与x 显著地有线性关系,其中1(1,2)F n α--的值可查F 分布表,或直接用MATLAB 命令finv(1-α,1, n-2)计算得到;如果p α<表示线性模型可用。

这三个值可以相互印证。

2s 的值主要用来比较模型是否有改进,其值越小说明模型精度越高。

3.1.2 一元非线性回归在一些实际问题中,变量间的关系并不都是线性的,此时就应该用非线性回归。

用用非线性回归首先要解决的问题是回归方程中的参数如何估计。

下面通过一个实例来说明如何利用非线性回归技术解决实例的问题。

【例3-2】 为了解百货商店销售额x 与流通率(这是反映商业活动的一个质量指标,指每元商品流转额所分摊的流通费用)y 之间的关系,收集了九个商店的有关数据(见表3-2)。

请建立它们关系的数学模型。

表3-2 销售额与流通费率数据925.5 2.2为了得到x与y之间的关系,先绘制出它们之间的散点图,如图3-2所示的“雪花”点图。

由该图可以判断它们之间的关系近似为对数关系或指数关系,为此可以利用这两种函数形式进行非线性拟合,具体实现步骤及每个步骤的结果如下:(1)输入数据(2)对数形式非线性回归运行结果如下:运行结果如下:在该案例中,选择两种函数形式进行非线性回归,从回归结果来看,对数形式的决定系数为0.973,而指数形式的为0.993,优于前者,所以可以认为指数形式的函数形式更符合y 与x之间的关系,这样就可以确定他们之间的函数关系形式了。

3.2 多元回归【例3-3】某科学基金会希望估计从事某研究的学者的年薪Y与他们的研究成果(论文、著作等)的质量指标X1、从事研究工作的时间X2、能成功获得资助的指标X3之间的关系,为此按一定的实验设计方法调查了24位研究学者,得到如表3-3所示的数据(i为学者序号),试建立Y 与123,,X X X 之间关系的数学模型,并得出有关结论和作统计分析。

表3-3 从事某种研究的学者的相关指标数据他们之间的变化趋势,如何近似满足线性关系,则可以执行利用多元线性回归方法对该问题进行回归。

具体步骤如下:(1)作出因变量Y 与各自变量的样本散点图作散点图的目的主要是观察因变量Y 与各自变量间是否有比较好的线性关系,以便选择恰当的数学模型形式。

图7-3分别为年薪Y 与成果质量指标1X 、研究工作时间2X 、获得资助的指标3X 之间的散点图。

从图中可以看出这些点大致分布在一条直线旁边,因此,有比较好的线性关系,可以采用线性回归。

绘制图3-3的代码如下:Y 与x1的散点图 Y 与x2的散点图 Y 与x3的散点图图3-3 因变量Y 与各自变量的样本散点图(2)进行多元线性回归这里可以直接使用regress 函数执行多元线性回归,具体代码如下:运行后即得到结果如表3-4所示。

表3-4 对初步回归模型的计算结果计算结果包括回归系数b=(0123,,,ββββ)=(18.0157, 1.0817, 0.3212, 1.2835)、回归系数的303540455055303540455055303540455055置信区间,以及统计变量stats (它包含四个检验统计量:相关系数的平方2R ,假设检验统计量F,与F 对应的概率p ,2s 的值)。

因此我们得到初步的回归方程为:123ˆ18.0157 1.08170.3212 1.2835yx x x =+++由结果对模型的判断:回归系数置信区间不包含零点表示模型较好,残差在零点附近也表示模型较好,接着就是利用检验统计量R,F,p 的值判断该模型是否可用。

1)相关系数R的评价:本例R的绝对值为0.9542,表明线性相关性较强。

2)F 检验法:当1(,1)FF m n m α->--,即认为因变量y 与自变量12,,,m x x x 之间有显著的线性相关关系;否则认为因变量y 与自变量12,,,m x x x 之间线性相关关系不显著。

本例F=67.919>10.05(3,20)F -= 3.10。

3)p 值检验:若p α<(α为预定显著水平),则说明因变量y 与自变量12,,,m x x x 之间显著地有线性相关关系。

本例输出结果,p<0.0001,显然满足P<α=0.05。

以上三种统计推断方法推断的结果是一致的,说明因变量y 与自变量之间显著地有线性相关关系,所得线性回归模型可用。

2s 当然越小越好,这主要在模型改进时作为参考。

3.3 逐步归回【例3-4】 (Hald,1960)Hald 数据是关于水泥生产的数据。

某种水泥在凝固时放出的热量Y (单位:卡/克)与水泥中4种化学成品所占的百分比有关:3213:O Al CaO X ⋅223:SiO CaO X ⋅323234:O Fe O Al CaO X ⋅⋅242:SiO CaO X ⋅在生产中测得12组数据,见表3-5,试建立Y 关于这些因子的“最优”回归方程。

表3-5 水泥生产的数据对于例3-4中的问题,可以使用多元线性回归、多元多项式回归,但也可以考虑使用逐步回归。

从逐步回归的原理来看,逐步回归是以上两种回归方法的结合,可以自动使得方程的因子设置最合理。

对于该问题,逐步回归的代码如下:程序执行后得到下列逐步回归的窗口,如图3-4所示。

图3-4 逐步回归操作界面在图3-4中,用蓝色行显示变量X1、X2、X3、X4均保留在模型中,窗口的右侧按钮上方提示:将变量X3剔除回归方程(Move X3 out),单击Next Step按钮,即进行下一步运算,将第3列数据对应的变量X3剔除回归方程。

单击Next Step按钮后,剔除的变量X3所对应的行用红色表示,同时又得到提示:将变量X4剔除回归方程(Move X4 out),单击Next Step按钮,这样一直重复操作,直到“Next Step”按钮变灰,表明逐步回归结束,此时得到的模型即为逐步回归最终的结果。

3.4 Logistic回归【例3-5】企业到金融商业机构贷款,金融商业机构需要对企业进行评估。

评估结果为0,1两种形式,0表示企业两年后破产,将拒绝贷款,而1表示企业2年后具备还款能力,可以贷款。

在表3-6中,已知前20家企业的三项评价指标值和评估结果,试建立模型对其他5家企业(企业21-25)进行评估。

表3-6 企业还款能力评价表对于该问题,很明显可以用Logistic模型来回归,具体求解程序如下:得到的回归结果与原始数据的比较如图3-5所示。

图3-5 回归结果与原始数据的比较图3.5 小结本讲主要介绍数学建模中常用的几种回归方法。

在使用回归方法的时候,首先可以判断自变量的个数,如果超过2个,则需要用到多元回归的方法,否则考虑用一元回归。

然后判断是线性还是非线性,这对于一元回归是比较容易的,而对于多元,往往是将其他变量保持不变,将多元转化为一元再去判断是线性还是非线性。

如果变量很多,而且复杂,则可以首先考虑多元线性回归,检验回归效果,也可以用逐步回归。

总之,用回归方法比较灵活,根据具体情景还是比较容易找到合适的方法的。

关于作者卓金武,MathWorks中国高级工程师,教育业务经理,在数据分析、数据挖掘、机器学习、数学建模、量化投资和优化等科学计算方面有多年工作经验,现主要负责MATLAB校园版业务;曾2次获全国大学生数学建模竞赛一等奖,1次获全国研究生数学建模竞赛一等奖;专著3部:《MATLAB在数学建模中的应用》、《大数据挖掘:系统方法与实例分析》、《量化投资:MATLAB数据挖掘技术与实践》。

相关主题