气象统计方法 第五章 多元线性回归分析

气象统计方法主讲：温 娜

南京信息工程大学 大气科学学院 2014年9月本课件主要参考南信大李丽平老师的课件

第五章 多元线性回归 (huang36)

本章主要内容概述 回归模型 回归系数的最小二乘估计 方差分析 回归方程显著性检验 预报因子显著性检验 复相关系数 预报步骤

一、概述1. 意义 在气象统计预报中，寻找与预报量线性 关系很好的单个因子是不够的，实际上某个 气象要素的变化可能和前期多个因子有关， 因此大部分气象统计预报中的回归分析都是 用多元回归技术进行。

2.基本概念 多元回归就是研究一个预报量和多个 预报因子之间的关系。主要讨论较为简 单的多元线性回归。其分析原理与一元 线性回归分析完全相同。

二、回归模型假定预报量y与p个预报因子关系是线 性，为研究它们之间的联系作n次抽样，则 可得到如下结构表达式：

y1 0 1 x11 2 x12 p x1 p e1 (1) y x x x e 2 0 1 21 2 22 p 2p 2 y n 0 1 xn1 2 xn 2 p xnp en

x i 是p个 其中， i 为p+1个待估计参数，

一般变量， e i 是随机误差(相互独立变

量),服从 N (0, 2 ) 正态分布。上述模型 还可以写为：y X e(2)

其中， y1 y y 2 yn 0 1 β p e1 e e 2 en

都是向量。X是因子矩阵，即 1 1 X 1 x11 x 21 x n1 x1 p x2p x np

我们得到的是一组实测p个变量的样本，利 用这组样本(n 次抽样)对上述回归模型进行 估计，得到的估计方程为多元线性回归估计方 程，记为：

b0 b1 x1 b 2 x2 b p x p (3) y其中， 它们。

bi 是 i 的估计值，下面讨论如何确定

三、回归系数最小二乘估计和一元线性回归类似，在样本容量为n的y 预报量和因子变量x的实测值中，满足线性回 归方程

i b0 b1xi1 b2 xi 2 bp xip i 1 ~ n y的要求的回归系数，应是使全部的预报量观测值与回 归估计值的差值平方和达到最小。即满足2 Q ( yi yi ) i 1 n

最小。

基本条件

对一组样本资料，预报值的估计可以看成 1 为一个向量，记为 y y 2 y n y

满足(3)的回归方程，也可以写为矩阵形式， Xb ,其中，X就是因子矩阵，b为回 即 y b0 归系数，即 b 1 回归估计方程组的矩阵形式b

b p

预报量的观测值与回归值之差的内积就 是它们的分量的差值平方和，即 ) ( y y ) ( y - Xb) ( y Xb) y y - b X y - y Xb b X Xb Q (y y Q b 0 0 Q b 0 1 Q b 0 p

根据微分学原理，有

可以写成向量的形式

Q ( y y ) (b X y ) ( y Xb) (b X Xb) 0 b b b b b=0

(b X y ) ( y Xb) X y b b

补充用矢量和 矩阵形式表示的函数的微分

(b X Xb) 2 X Xb b

补充 矩阵和向量形式表示的 函数的微分设x 为 n 1 列向量，a为 n 1 列向 量，

f x a a x

为

xi

的函数，则f 对x的偏微分记为

f f f f ( ) x x1 x 2 x n

1)如果x、a及f如上面定义，则有

第2/3项， x---b X’y----a 2)如果x如上面定义，令 f x x, 则 f 2x x

f a x

3)如果A为 n n 对称阵，则

f x Ax对x的偏微分为 ( x Ax ) 2 Ax x

第四项

特别注意当矩阵和向量的运算结果是一行一列的矩 阵时，可以表示一个多元函数； 多元函数的值域是一个数量，当它表达(x1, x2 …,xm) 有规则运算时，用向量和矩阵运算比 较方便。 当多元函数f(x1, x2 …,xm)表示(x1, x2 …,xm) 有规则运算时，它对( x1, x2 …,xm )的偏导也 是有规则的，可用多元函数f(X)对向量X的导数 一并表示。

前面的式子是采用向量和矩阵的运 算表示多元函数及多元函数对自变量的 导数，不能说成“矩阵和向量的求导”, 因为只有函数才能对它的自变量求导数。

通过分析其向量形式可得到求回归系数 的标准方程组矩阵形式，即 (4) X Xb X y 展开为 nb b x b x yn n n i 1 i 1 i 1 n n n n 2 b0 xi1 b1 xi1 b p xi1 xip xi1 yi i 1 i 1 i 1 i 1 n n n n b0 xi 2 b1 xi 2 xi1 b p xi 2 xip xi 2 yi i 1 i 1 i 1 i 1 n n n n 2 b xip b1 xip xi1 b p xip xip yi 0 i 1 i 1 i 1 i 1 0 1 i1 p ip i

本文来源：https://www.bwwdw.com/article/74ci.html