多元线性回归模型

第三章 多元线性回归模型

基本概念

(1)多元线性回归模型； (2)偏回归系数；

(3)正规方程组； (4)调整的多元可决系数； (5)多重共线性； (6)假设检验； 练习题

1. 多元线性回归模型的基本假设是什么?试说明在证明最小二乘估计量的无偏性和有效性

的过程中，哪些基本假设起了作用?

2．在多元线性回归分析中，t检验与F检验有何不同?在一元线性回归分析中二者是否有等价的作用?

3．为什么说对模型参数施加约束条件后，其回归的残差平方和一定不比未施加约束的残差平方和小?在什么样的条件下，受约束回归与无约束回归的结果相同?

X1X2X34．在一项调查大学生一学期平均成绩(Y)与每周在学习(与其他各种活动(

X4)、睡觉()、 娱乐()

)所用时间的关系的研究中，建立如下回归模型：

Y??0??1X1??2X2??3X3??4X4?u

如果这些活动所用时间的总和为一周的总小时数168。问：保持其他变量不变，而改变其中一个变量的说法是否有意义?该模型是否有违背基本假设的情况? 如何修改此模型以使其更加合理?

5.表3-1给出三变量模型的回归结果。

第三章 多元线性回归模型

基本概念

(1)多元线性回归模型； (2)偏回归系数；

(3)正规方程组； (4)调整的多元可决系数； (5)多重共线性； (6)假设检验； 练习题

1. 多元线性回归模型的基本假设是什么?试说明在证明最小二乘估计量的无偏性和有效性

的过程中，哪些基本假设起了作用?

2．在多元线性回归分析中，t检验与F检验有何不同?在一元线性回归分析中二者是否有等价的作用?

3．为什么说对模型参数施加约束条件后，其回归的残差平方和一定不比未施加约束的残差平方和小?在什么样的条件下，受约束回归与无约束回归的结果相同?

X1X2X34．在一项调查大学生一学期平均成绩(Y)与每周在学习(与其他各种活动(

X4)、睡觉()、 娱乐()

)所用时间的关系的研究中，建立如下回归模型：

Y??0??1X1??2X2??3X3??4X4?u

如果这些活动所用时间的总和为一周的总小时数168。问：保持其他变量不变，而改变其中一个变量的说法是否有意义?该模型是否有违背基本假设的情况? 如何修改此模型以使其更加合理?

5.表3-1给出三变量模型的回归结果。

研究在线性关系相关性条件下，两个或者两个以上自变量对一个因变量，为多元线性回归分析，表现这一数量关系的数学公式，称为多元线性回归模型。多元线性回归模型是一元线性回归模型的扩展，其基本原理与一元线性回归模型类似，只是在计算上为复杂需借助计算机来完成。

计算公式如下：

设随机y与一般变量x1,x2,?xk的线性回归模型为：

y??0??1x1??2x2??kxk??

其中?0,?1,??k是k?1个未知参数，?0称为回归常数，?1,??k称为回归系数；

y称为被解释变量；x1,x2,?xk是k个可以精确可控制的一般变量，称为解释变量。

当p?1时，上式即为一元线性回归模型，k?2时，上式就叫做多元形多元回归模型。?是随机误差，与一元线性回归一样，通常假设

?E(?)?0?2 var(?)???同样，多元线性总体回归方程为y??0??1x1??2x2????kxk

系数?1表示在其他自变量不变的情况下，自变量x1变动到一个单位时引起的因变量y的平均单位。其他回归系数的含义相似，从集合意义上来说，多元回归是多维空间上的一个平面。

????x???x?????x ???多元线性样本回归方程为：y01122kk

多元线性回归方程中回归系数的估计同样可以采

实验3 多元线性回归模型

一、实验名称：多元线性回归模型.

二、实验目的：掌握多元线性回归模型的建模方法，并会利用Matlab作统计分析与检验. 三、实验题目：设某公司生产的商品在市场的销售价格为x1（元/件）、用于商品的广告费用为x2（万元）、销售量为y（万件）的连续12个月的统计数据如表.

月份 1

2 3 4 5 6 7 8 9 10 11 12

销售价格x1

100 90 80 70 70 70 70 65 60 60 55 50

广告费用x2

5.50 6.30 7.20 7.00 6.30 7.35 5.60 7.15 7.50 6.90 7.15 6.50

销售量y 55 70 90 100 90 105 80 110 125 115 130 130

四、实验要求：

1、建立销售量y关于销售价格x1和广告费用x2的多元线性回归模型.

1、绘制散点图，可以直观地看出y与x1,x2分别呈线性关系，所以采用多元线性回归模型：y=β0+β1*x1+β2*x2+ε 源程序： clear

x1=[100;90;80;70;70;70;70;65;60;60;55;50];

x2=[5.50;6.30;7.20;7.00;6.30;7.35;5.60;7.15;7.50

§2.4 多元线性回归模型的 统计检验和区间估计 Statistical Test and Interval Estimation of Multiple Linear Regression Model拟合优度检验 AIC和SC准则 方程的显著性检验(F 检验) 变量的显著性检验(t 检验) 参数估计量的区间估计 预测值的区间估计 受约束回归 参数稳定性检验

说明

由计量经济模型的数理统计理论要求的以多元线性模型为例 包括拟合优度检验、总体显著性检验、变量显 著性检验、偏回归系数约束检验、模型对时间 的稳定性检验、参数估计量的区间估计、预测 值的区间估计、受约束回归。

一、拟合优度检验 (Testing of Simulation Level)1、概念 检验模型对样本观测值的拟合程度 通过构造一个可以表征拟合程度的统计量 来实现。问题：采用普通最小二乘估计方法，已经保证了 模型最好地拟合了样本观察值，为什么还要检验 拟合程度？

2、总体平方和、回归平方和、残差平方和定义

TSS (Yi Y )2 总体平方和(Total Sum of Squares) Y )2 ESS (

第三讲 多元线性回归模型 一、练习题

1、多元线性回归模型的基本假设是什么？试说明在证明最小二乘估计量的无偏性和有效性的过程中，哪些基本假设起了作用？

2、多元线性回归模型与一元线性回归模型有哪些区别？

3、某地区通过一个样本容量为722的调查数据得到劳动力受教育的一个回归方程为

edu?10.36?0.094sibs?0.131medu?0.210fedu

R2=0.214

式中，edu为劳动力受教育年数，sibs为该劳动力家庭中兄弟姐妹的个数，medu与fedu分别为母亲与父亲受到教育的年数。问

（1）若medu与fedu保持不变，为了使预测的受教育水平减少一年，需要sibs增加多少？

（2）请对medu的系数给予适当的解释。

（3）如果两个劳动力都没有兄弟姐妹，但其中一个的父母受教育的年数为12年，另一个的父母受教育的年数为16年，则两人受教育的年数预期相差多少？ 4、设货币需求方程式的总体模型为

ln(Mt)??0??1ln(rt)??2ln(RGDPt)??t Pt其中M为广义货币需求量，P为物价水平，r为利率，RGDP为实际国内生产总值。假定根据

容量为n＝19的样本，用最小二乘法估计出如

多元线性回归模型

实验题目：设某公司生产的商品在市场一的销售价格为x1（元/件）、用于商品的

广告费用为x2（万元）、销售量为y（万件）的连续12个月的统计数据如下表所示。 月份 1 2 3 4 5 6 7 8 9 10 11 12

实验要求：

1、建立销售量y关于销售价格x1和广告费用x2的多元线性回归模型。 2、设第13个月将该商品的销售价格定为80元/件，广告费用为7万元，预计该商品的销售量将是多少？并对其作统计上的误差分析。 3、利用MATLAB画出回归曲线的图形。

销售价格x1 100 90 80 70 70 70 70 65 60 60 55 50

广告费用x2 5.50 6.30 7.20 7.00 6.30 7.35 5.60 7.15 7.50 6.90 7.15 6.50

销售量y 55 70 90 100 90 105 80 110 125 115 130 130

一、数学建模

1、根据数据，画出散点图 plot(x1,y,'*',x2,y,'+')

130120110100908070605040300102030405060708090100

图1：数据散点图

y与x1、x2有较明显的线性关系，可做作几种尝试，用统计分

我国财政收入的多元线性回归模型

一、影响我国财政收入增长因素的实证分析

研究财政收入的影响因素离不开一些基本的经济变量。回归变量的选择是建立回归模型的一个极为重要的问题。通过经济理论对财政收入的解释以及对实践的观察，对财政收入影响的因素主要有税收、国内生产总值和固定资产投资和社会消费品零售总额和社会总人口，并且在总人口里面考虑了65岁以上的老年化人口数对税收的负面影响。为了考察这一问题，从国家统计局的国家数据里抽选出1995-2014年税收、国内生产总值、固定资产投资总额,社会消费品零售额,社会总人口（包括老年化人口）的数据，利用eviews7.2进行回归分析，建立财政收入影响因素模型，分析影响财政收入的主要因素及其影响程度。

二、模型的设定

1.将财政收入作为被解释变量，用Y表示。税收，GDP，固定资产投资总额、社会消费品零售额、社会总人口作为解释变量，分别用X1，X2，X3，X4，X5表示。

2.数据性质的选择是：时间序列数据

3.模型设定为：y?c??1x1??2x2??3x3??4x4??5x5?u

三、数据收集如表

财政收入（Y）(亿元) 各种税收国生产总（X1）值GDP（亿元） （X2)（亿元） 6038.04 61129

多元线性回归模型

一、多元线性回归模型的一般形式

设随机变量y与一般变量x1,x2,?,xp的线性回归模型为：

y??0??1x1??2x2????pxp?? 其中：

写成矩阵形式为：y?X???

?1?y1????1y2???y? X?????????y??n??1x11x21?xn1x12x22?xn2???x1p???0???1??????x2p?1?? ???? ???2?

?????????????xnp?????n???p??二、多元线性回归模型的基本假定

1、解释变量x1,x2,?,xp是确定性变量，不是随机变量，且要求

ran(kX)?p?1?n。这里的rank(X)?p?1?n表明设计矩阵X中自变量列之间

不相关，样本容量的个数应大于解释变量的个数，X是一满秩矩阵。

E(?i)?0,i?1,2,?,n????2,i?j2、随机误差项具有0均值和等方差，即：?

cov(?i,?j)??,(i,j?1,2,?,n)??0,i?j?E(?i)?0，即假设观测值没有系统误差，随机误差?i的平均值为0，随机误差?i的协方差为0表明随机误差项在不同的样本点之间是不相关的（在正态假定下即

为独立），不存在序列相关，并且具有相同的精

第三章 多元线性回归模型

一、名词解释

1、多元线性回归模型

2、调整的决定系数R2

3、偏回归系数

4、正规方程组

5、方程显著性检验

二、单项选择题

1、在模型Yt 0 1X1t 2X2t 3X3t t的回归分析结果中，有F 462.58，

则表明 （ ） F的p值 0.000000，

A、解释变量X2t对Yt的影响不显著 B、解释变量X1t对Yt的影响显著

C、模型所描述的变量之间的线性关系总体上显著 D、解释变量X2t和X1t对Yt的影响显著

2、设k为回归模型中的实解释变量的个数，n为样本容量。则对回归模型进行总体显著性 检验(F检验)时构造的F统计量为 （ ） A、F

ESSkRSS(n k 1)ESSRSS

B、F

ESS(k 1)RSS(n k)RSSTSS

C、F D、F 1

2

3、已知二元线性回归模型估计的残差平方和为 ei 800，估计用样本容量为n 23， 则随机误差项 t的方差的OLS估计值为