y ˆ 0 ˆ 1 x 1 . . ˆ k x k .
布 ， 且 为 的 无 偏 估 计 ， 协 方 差 阵 为 2 C .
C = L - 1 = ( c i j ) , L = X ’ X
称 为 经 验 回 归 平 面 方 程 ˆ i .称 为 经 验 回 归 系 数 .
2020/10/18
n
n
记 QQ(0,1) i2 yi 01xi2
i1
i1
最 小 二 乘 法 就 是 选 择 0和 1 的 估 计 ˆ0ˆ， 1 使 得
Q(ˆ0,ˆ1)m 0,1Q in (0,1)
2020/10/18
6
2 2
n
记 Qe Q(ˆ0, ˆ1)
yi ˆ0 ˆ1xi
2
n
(yi yˆi )2
.
.
令 x i x i ， i = 1 ， 2 ， … ， k 多 项 式 回 归 模 型 变 为 多 元 线 性 回 归 模 型 .
返回
2020/10/18
19
三、多元线性回归中的检验与预测
1 假 设 H 0 : 0 1 . k 0 . .
（Ⅰ）F检验法
U /k
当 H 0 成 立 时 ， F Q e/n ( k 1 )~ F ( k ,n k 1 )
参 数 a和 b .采 用 的 方 法 是 通 过 变 量 代 换 把 非 线 性 回 归 化 成 线 性 回 归 ， 即 采 用
非 线 性 回 归 线 性 化 的 方 法 .
2020/10/18
15
通常选择的六类曲线如下：
（ 1 ） 双 曲 线 1 a b y x
（ 2 ） 幂 函 数 曲 线 y = a x b , 其 中 x > 0 , a > 0
1 2 2 Q ( n e 2 ) , 2 2 ( Q n e 2 （1）预测
用 y 0 的 回 归 值 y ˆ 0 ˆ 0 ˆ 1 x 0 作 为 y 0 的 预 测 值 .
y 0 的 置 信 水 平 为 1 的 预 测 区 间 为
记 为
y01x E 0,D 2 固 定 的 未 知 参 数 0、 1称 为 回 归 系 数 ， 自 变 量 x也 称 为 回 归 变 量 .
Y 0 1 x ， 称 为 y 对 x 的 回 归 直 线 方 程 .
一元线性回归分析的主要任务是：
1 、 用 试 验 值 （ 样 本 值 ） 对 0 、 1 和 作 点 估 计 ； 2 、 对 回 归 系 数 0 、 1作 假 设 检 验 ；
10
9.5
9
8.5
8
7.5
7
6.5
6
2
4
6
8
10
12
14
16
散 点 图
此即非线性回归或曲线回归 问题（需要配曲线） 配曲线的一般方法是：
先 对 两 个 变 量 x 和 y作 n 次 试 验 观 察 得 (x i,y i)i ,1 ,2 ,.n .画 .出 ,散 点 图 ，
根 据 散 点 图 确 定 须 配 曲 线 的 类 型 .然 后 由 n 对 试 验 数 据 确 定 每 一 类 曲 线 的 未 知
i1
i1
称 Qe 为残差平方和或剩余平方和.
2 的无偏估计为
ˆ
2 e
Qe
(n 2)
称ˆ
2 e
为剩余方差（残差的方差）， ˆ
2 e
分别与ˆ0 、ˆ1
独立 。
ˆe 称为剩余标准差.
2020/10/18
返回
7
三、检验、预测与控制
1、回归方程的显著性检验
对 回 归 方 程 Y 01 x的 显 著 性 检 验 ， 归 结 为 对 假 设 H 0:1 0 ;H 1:1 0
ˆ 0 t1 2 ( n 2 )ˆ e1 n L x x 2 ,x ˆ 0 t1 2 ( n 2 )ˆ e1 n L x x 2 x
和 ˆ 1 t1 2 ( n 2 )ˆ e /L x,x ˆ 1 t1 2 ( n 2 )ˆ e /L x x 2 的 置 信 水 平 为 1 - 的 置 信 区 间 为
i 1
i 1
当 | r | > r 1 - α 时 ， 拒 绝 H 0 ； 否 则 就 接 受 H 0 .
其 中 r 1 1 n 2 F 1 1 1 , n 2
2020/10/18
10
2、回归系数的置信区间
0 和 1 置 信 水 平 为 1 - α 的 置 信 区 间 分 别 为
数学建模与数学实验
回归分析
2020/10/18
1
实验目的
1、直观了解回归分析基本内容。 2、掌握用数学软件求解回归分析问题。
实验内容
1、回归分析的基本理论。 2、用数学软件求解回归分析问题。 3、实验作业。
回归分析
一元线性回归
多元线性回归
* *
* *
数 学 模 型 及 定 义
模 型 参 数 估 计
3 、 在 x x = 0处 对 y 作 预 测 ， 对 y 作 区 间 估 计 .
2020/10/18
返回 5
二、模型参数估计
1、回归系数的最小二乘估计
有 n组 独 立 观 测 值 ， （ x1， y1） ， （ x2， y2） ， … ， （ xn， yn）
设 E yi i 0 0, D xi12 i,i且 11,22,， ....n ..n,,相互独立
使用次数
2 3 4 5 6 7 8 9
增大容积
6.42 8.20 9.58 9.50 9.70 10.00 9.93 9.99
使用次数
10 11 12 13 14 15 16
增大容积
10.49 10.59 10.60 10.80 10.60 10.90 10.76
解答
2020/10/18
14
11
10.5
故 T t 1 ( n 2 ) ， 拒 绝 H 0 ， 否 则 就 接 受 H 0.
2
n
n
其Lx中 x (xix)2 xi2nx2
i 1
i 1
2020/10/18
9
（Ⅲ）r检验法
n
( x i x ) y i ( y )
记 r i 1
n
n
( x i x ) 2( y i y ) 2
根 据 线 性 化 方 法 ， 算 得 b ˆ 1 .11 ,A ˆ 0 2 .475
返回
由 此a ˆ e A ˆ 1.6 1789
2020/10/18
1 .1107
最 后 得 y 1.6 17 ex 89
16
一 般 称
一、数学模型及定义
YX E()0,CO(,V )2In
为 高 斯 — 马 尔 柯 夫 线 性 模 型 (k元 线 性 回 归 模 型 )， 并 简 记 为 (Y,X,2In)
进 行 检 验 .
假 设 H 0 : 1 0 被 拒 绝 ， 则 回 归 显 著 ， 认 为 y 与 x 存 在 线 性 关
系 ， 所 求 的 线 性 回 归 方 程 有 意 义 ； 否 则 回 归 不 显 著 ， y 与 x 的 关 系 不 能 用 一 元 线 性 回 归 模 型 来 描 述 ， 所 得 的 回 归 方 程 也 无 意 义 .
2020/10/18
检 验 、 预 测 与 控 制
性可 回线 归性 （化 曲的 线一 回元 归非 ）线
数 学 模 型 及 定 义
模 型 参 数 估 计
检 验 与 预 测
多 元 线 性 回
归
中
的
逐 步 回 归 分 析
3
一 般 地 ， 称 由 y01x确 定 的 模 型 为 一 元 线 性 回 归 模 型 ，
18
设 变 量 x 、 Y 的 回 归 模 型 为 Y 0 1 x 2 x 2 . . p x p .
其 中 p 是 已 知 的 ， i ( i 1 , 2 , , p ) 是 未 知 参 数 ， 服 从 正 态 分 布 N ( 0 ,2 ) .
Y 0 1 x 2 x 2 . k x k .
y ˆ ˆ e u 1 2 , y ˆ ˆ e u 1 2
2020/10/18
12
（2）控制
要 求 ： y 0 1 x 的 值 以 1 的 概 率 落 在 指 定 区 间 y , y
只 要 控 制 x 满 足 以 下 两 个 不 等 式
y ˆ(x ) y ,y ˆ(x ) y 要 求 y y 2(x ).若 y ˆ(x ) y ,y ˆ(x ) y 分 别 有 x 解
y ˆ 0 ( x 0 ) y ˆ 0 ( x 0 ) ,
其 中 ( x 0 ) ˆ e t 1 2 ( n 2 ) 1 1 n x 0 L x x 2 x
特 别 ， 当 n 很 大 且 x 0 x 在 附 近 取 值 时 ,
y 的 置 信 水 平 为 1 的 预 测 区 间 近 似 为
（ 3 ） 指 数 曲 线 y = a e b 其 中 参 数 a > 0 x .
（ 4） 倒 指 数 曲 线 y=aeb/x 其 中 a>0，
（ 5 ） 对 数 曲 线 y = a + b l o g x , x > 0 （ 6 ） S 型 曲 线 y a 1 b x 解 例 2 .由 散 点 e 图 我 们 选 配 倒 指 数 曲 线 y = e b a /x
2020/10/18
8
（Ⅰ）F检验法 当 H 0成 立 时 ，FQ e/U n (2)~F（ 1， n-2）
n
其 中 U y ˆiy2（ 回 归 平 方 和 ） i1
故 F>F 1(1,n2)， 拒 绝 H 0 ， 否 则 就 接 受 H 0 .