多元线性回归的显著性检验

matlab建立多元线性回归模型并进行显著性检验及预测问题

例子;

x=[143 145 146 147 149 150 153 154 155 156 157 158 159 160 162 164]'; X=[ones(16,1) x]; 增加一个常数项 Y=[88 85 88 91 92 93 93 95 96 98 97 96 98 99 100 102]'; [b,bint,r,rint,stats]=regress(Y,X) 得结果：b = bint = -16.0730 -33.7071 1.5612 0.7194 0.6047 0.8340 stats = 0.9282 180.9531 0.0000 即对应于b的置信区间分别为[-33.7017，1.5612]、[0.6047,0.834]; r2=0.9282, F=180.9531, p=0.0000 p<0.05, 可知回归模型 y=-16.073+0.7194x 成立. 这个是一元的，如果是多元就增加X的行数！

function [beta_hat,Y_hat,stats]=regress(X,Y,alpha) % 多元线性回归(Y=Xβ+ε)MATLAB代码 %

% 参数说明

% X：自变量矩阵，列为自变量，行为观测值 % Y：应变量矩阵，同X

% alpha：置信度，[0

一、独立大样本平均数差异显著性检验

设有两个服从正态分布的相互独立的总体X和Y，它们的均值分别

为

和，方差分别

为

和，，，，…

、

和

，

，，…

、，是分别来自X和Y的两组独立的随机样本，因而，我们要通过对两个样本带来的信息，检验出两总体均

值

和差异是否显著的结论。

（一）独立大样本的概念（识记）

两个样本容

量

和都大于30的独立样本称为独立大样本。

（二）检验统计量（均用样本标准

差表示的检验统计量）（简单运用）

Z=

（三）检验步骤及方法（用双侧检验）（综合运用）

1、提出零假设和备择假设：

双侧检验：Ho

：

=

；

：

≠

单侧检验：Ho

：

≥

或

≤；H1

：

﹥，

或

﹤

2、根据样本信息和资料的性质，选择合适的检验统计量，并计算其值；

3、确定双侧检验还是单侧检验（单侧检验确定左侧还是右侧检验）

4、统计推断：选定显著性水平p，查相应的分布表来确定临界值，从而确定出零假设的拒绝区间或接受区间。同时对零假设作出判断和解释：即把统计量与临界值相比较，若统计量值落在Ho拒绝区间中，则拒绝Ho；若统计量值落在Ho 接受区间中，则接受Ho。[举例七]

二、独立小样本平均数差异显著性检验

（一）独立小样本的概念（识记）

1、定义：两个样本容

量

和都小于30，或其中一个小于30的两独立样本为独立小样本。

2、独立小样

统计应用

§3.3 多元线性回归模型的统计检验 一、拟合优度检验 方程的显著性检验(F检验) (F检验 二、方程的显著性检验(F检验) 变量的显著性检验( 检验) 三、变量的显著性检验(t检验) 四、参数的置信区间

统计应用

一、拟合优度检验 1、可决系数与调整的可决系数 、总离差平方和的分解

则

TSS = Σ(Yi Y ) 2 = Σ((Yi Yi ) + (Yi Y )) 2 = Σ(Yi Yi ) 2 + 2Σ(Yi Yi )(Yi Y ) + Σ(Yi Y ) 2

统计应用

由于

∑ (Y Y )(Y Y ) = ∑ e (Y Y ) = β ∑e + β ∑e X +L+ β ∑e Xi i i i0 i 1 i 1i k i

ki

+ Y ∑ ei

=0

所以有： ) 2 + ∑ (Y Y ) 2 = RSS + ESS TSS = ∑ (Yi Yi i

注意： 注意：一个有趣的现象

(Y Y ) = (Y Y ) + (Y Y ) (Y Y ) ≠ (Y Y ) + (Y Y ) ∑ (Y Y ) = ∑ (Y

§2.4 多元线性回归模型的 统计检验和区间估计 Statistical Test and Interval Estimation of Multiple Linear Regression Model拟合优度检验 AIC和SC准则 方程的显著性检验(F 检验) 变量的显著性检验(t 检验) 参数估计量的区间估计 预测值的区间估计 受约束回归 参数稳定性检验

说明

由计量经济模型的数理统计理论要求的以多元线性模型为例 包括拟合优度检验、总体显著性检验、变量显 著性检验、偏回归系数约束检验、模型对时间 的稳定性检验、参数估计量的区间估计、预测 值的区间估计、受约束回归。

一、拟合优度检验 (Testing of Simulation Level)1、概念 检验模型对样本观测值的拟合程度 通过构造一个可以表征拟合程度的统计量 来实现。问题：采用普通最小二乘估计方法，已经保证了 模型最好地拟合了样本观察值，为什么还要检验 拟合程度？

2、总体平方和、回归平方和、残差平方和定义

TSS (Yi Y )2 总体平方和(Total Sum of Squares) Y )2 ESS (

相关系数显著性检验的几何意义

维普资讯

第3 0卷第4期20 0 7年 8月

南京气象学院学报Jun l f nigIstt ee r l y o ra o j ntue ofM to o og Na n i—

VO . 0 No. 13 4

Au 2 0 g. 0 7

—

相关系数显著性检验的几何意义姚菊香王盘兴鲍学俊卢楚翰，,,(. 1南京信息工程大学大气科学学院，江苏南京 2 0 4 2上海市气象信息传媒中心， 104;.上海 203 ) 00 0

摘要：几何学角度阐明了相关系数显著性检验的意义。对于来自正态分布的样本，用其距平序从利列对应的随机向量在高维空间中均匀分布的性质，母体无相关假定下，在用几何方法求得了显著性水平和样本容量 n下的临界相关系数的表达式，并验证了它等于由 t布求得的临界相关分系数 r,而给出了相关系数显著性检验的直观理解。 从 关键词：关系数；著性检验；相显几何意义中图分类号： 2 2 1 0 1 .文献标识码： 文章编号：0 02 2 ( 0 7 0 -5 60 A 10—0 2 2 0 ) 40 6 -5

G e m e rc M e n n ft e S g fc n e o t i a i g o h i

3 7 6

广东医学

2 0 1 4年 2月第 3 5卷第 3期 Gu a n g d o n gMe d i c a l J o u r n a l F e b .2 0 1 4, V o 1 .3 5, N o .3 系[ J] .中国动脉硬化杂志， 2 0 1 1,1 9( 9 ):7 6 1— 7 6 4 . [ 4] 张树琛，鲁炳怀，朱凤霞 .原发性高血压患者血浆同型半胱氨酸水平的研究[ J] .实用医技杂志， 2 0 0 8 ( 2 6 ): 3 3 5 3—3 3 5 4 . [ 5] 高峰杰，吴东阳.原发性高血压与血浆同型半胱氨酸关系的临床研究[ J] .当代医学， 2 0 1 0, 1 6 ( 1 4 ): 2 8— 2 9 .[ 6] 潘琦，郭立新，初明峰，等 .糖尿病患者同型半胱氨酸及其代

浆H e y水平显著高于 c T杂合子及 C C野生型，而 T位点突变患者血浆 H e y显著高于 c位点患者。这表明 T位点突变对对血浆 H e y水平的影响。已有研究发现， M T H F R C 6 7 7 T突变伴随较高的冠状动脉病变发生率及较高的颈动脉粥样斑块发生率，且 1 T r纯合子者颈动脉I MT厚度增加。 ,这些结

多元线性回归模型

一、多元线性回归模型的一般形式

设随机变量y与一般变量x1,x2,?,xp的线性回归模型为：

y??0??1x1??2x2????pxp?? 其中：

写成矩阵形式为：y?X???

?1?y1????1y2???y? X?????????y??n??1x11x21?xn1x12x22?xn2???x1p???0???1??????x2p?1?? ???? ???2?

?????????????xnp?????n???p??二、多元线性回归模型的基本假定

1、解释变量x1,x2,?,xp是确定性变量，不是随机变量，且要求

ran(kX)?p?1?n。这里的rank(X)?p?1?n表明设计矩阵X中自变量列之间

不相关，样本容量的个数应大于解释变量的个数，X是一满秩矩阵。

E(?i)?0,i?1,2,?,n????2,i?j2、随机误差项具有0均值和等方差，即：?

cov(?i,?j)??,(i,j?1,2,?,n)??0,i?j?E(?i)?0，即假设观测值没有系统误差，随机误差?i的平均值为0，随机误差?i的协方差为0表明随机误差项在不同的样本点之间是不相关的（在正态假定下即

为独立），不存在序列相关，并且具有相同的精

计量经济学实验报告,多元线性回归模型,估计和检验

实 验 报 告

课程名称： 计量经济学 实验项目： 实验三 多元线性回归模型的

实验类型：综合性□ 设计性□ 验证性 专业班别： 11本国贸5班 姓 名： 学 号： 实验课室： 厚德A207 指导教师： 实验日期： 2014-2-25

广东商学院华商学院教务处 制

计量经济学实验报告,多元线性回归模型,估计和检验

一、实验项目训练方案

计量经济学实验报告,多元线性回归模型,估计和检验

2.进行因果关系检验(GDPB同ZC,GDPB同RY)(结果控制在本页) (1)GDPB同ZC的因果分析 Pairwise Granger Causality Tests Date: 12/01/13 Time: 14:39

Sample: 1978 2005 Lags: 2 Null Hypothesis: ZC does not Granger Cause GDPB GDPB doe

第三章 多元线性回归模型

基本概念

(1)多元线性回归模型； (2)偏回归系数；

(3)正规方程组； (4)调整的多元可决系数； (5)多重共线性； (6)假设检验； 练习题

1. 多元线性回归模型的基本假设是什么?试说明在证明最小二乘估计量的无偏性和有效性

的过程中，哪些基本假设起了作用?

2．在多元线性回归分析中，t检验与F检验有何不同?在一元线性回归分析中二者是否有等价的作用?

3．为什么说对模型参数施加约束条件后，其回归的残差平方和一定不比未施加约束的残差平方和小?在什么样的条件下，受约束回归与无约束回归的结果相同?

X1X2X34．在一项调查大学生一学期平均成绩(Y)与每周在学习(与其他各种活动(

X4)、睡觉()、 娱乐()

)所用时间的关系的研究中，建立如下回归模型：

Y??0??1X1??2X2??3X3??4X4?u

如果这些活动所用时间的总和为一周的总小时数168。问：保持其他变量不变，而改变其中一个变量的说法是否有意义?该模型是否有违背基本假设的情况? 如何修改此模型以使其更加合理?

5.表3-1给出三变量模型的回归结果。

多元线性回归、逐步回归

关键词：非线性回归、多元线性回归、逐步回归、散点图程序、残差图程序、MATLAB 练习1

在M文件中建立函数y?a(1?be?cx)，其中a、b、c为待定的参数。 程序7

fun=inline('b(1)*(1-b(2)*exp(-b(3)*x))','b','x'); 练习2

选取指数函数y?aebt对例1进行非线性回归：

（1）在同一坐标系内作出原始数据与拟合结果的散点图。 （2）预测照射16次后的细菌数目

（3）给出模型参数的置信度为95%的置信区间，并给出模型交互图形。 程序8

[a,b]=solve('5.8636=log(a)+b','2.7081=log(a)+15*b')%求解初值 x=1:15;

y= [352 211 197 160 142 106 104 60 56 38 36 32 21 19 15]; fun=inline('b(1)*exp(b(2)*x)','b','x');%建立函数 b0=[440.9771,-0.2254];

[beta,r,J]=nlinfit(x,y,fun,b0);%非线性拟合命令；其中，beta表示最佳回归系数的估计值，r是残差，J是雅可比矩阵

beta%输