半参数回归模型及其应用

第七章 非参数回归模型与半参数回归模型

第一节 非参数回归与权函数法

一、非参数回归概念

前面介绍的回归模型，无论是线性回归还是非线性回归，其回归函数形式都是已知的，只是其中参数待定，所以可称为参数回归。参数回归的最大优点是回归结果可以外延，但其缺点也不可忽视，就是回归形式一旦固定，就比较呆板，往往拟合效果较差。另一类回归，非参数回归，则与参数回归正好相反。它的回归函数形式是不确定的，其结果外延困难，但拟合效果却比较好。

设Y是一维观测随机向量，X是m维随机自变量。在第四章我们曾引进过条件期望作回归函数，即称

g (X) = E (Y|X) （7.1.1）

为Y对X的回归函数。我们证明了这样的回归函数可使误差平方和最小，即

E[Y?E(Y|X)]2?minE[Y?L(X)]2

L （7.1.2）

这里L是关于X的一切函数类。当然，如果限定L是线性函数类，那么g (X)就是线性回归函数了。

细心的读者会在这里立即提出一个问题。既然对拟合函数类L(X)没有任何限制，那么可以使误差平方和等于0。实际上，你只要作一条折线(曲面)通过所有观测点(Yi，Xi)就可以了是的，对拟合函数类不作任何限制是完全没有意义的。

1

第七章 非参数回归模型与半参数回归模型

第一节 非参数回归与权函数法

一、非参数回归概念

前面介绍的回归模型，无论是线性回归还是非线性回归，其回归函数形式都是已知的，只是其中参数待定，所以可称为参数回归。参数回归的最大优点是回归结果可以外延，但其缺点也不可忽视，就是回归形式一旦固定，就比较呆板，往往拟合效果较差。另一类回归，非参数回归，则与参数回归正好相反。它的回归函数形式是不确定的，其结果外延困难，但拟合效果却比较好。

设Y 是一维观测随机向量，X 是m 维随机自变量。在第四章我们曾引进过条件期望作回归函数，即称

g (X ) = E (Y |X ) （7.1.1）

为Y 对X 的回归函数。我们证明了这样的回归函数可使误差平方和最小，即

22)]([min )]|([X L Y E X Y E Y E L -=- （7.1.2）

这里L 是关于X 的一切函数类。当然，如果限定L 是线性函数类，那么g (X )就是线性回归函数了。

细心的读者会在这里立即提出一个问题。既然对拟合函数类L (X )没有任何限制，那么可以使误差平方和等于0。实际上，你只要作一条折线(曲面)通过所有观测点(Y i ，X i )就可以了是的，对拟合函数

2008年中国数量经济学会年会论文

第一组 计量经济学理论与方法

分位数回归模型及其应用研究

王桂胜1

（首都经济贸易大学，北京，100026）

摘要：本文在对分位数回归方法的含义和基本原理进行全面分析说明的基础上，对分位数回归方法在PANEL DATA模型中的应用作了深入分析，并对不同回归估计方法在PANEL DATA模型中的估计效果进行了比较分析。在此基础上，通过分别采取一般最小平方法和分位数回归法对中国15省区的人均消费和人均收入的回归方程估计的统计结果比较，发现分位数回归方法在进行某些特殊的PANEL DATA模型估计时具有一定的优势。

关键词：分位数回归、面板数据模型、惩罚分位数回归估计

一、分位数回归研究介绍

1

王桂胜：男，1970年生，首都经济贸易大学劳动经济学院副教授，清华大学经管学院博士生。

1

2008年中国数量经济学会年会论文

自Koenker 和 Bassett (1978)提出线性分位数回归理论以来，分位数回归（QR）即成为近几十年来发展较快、应用广泛的回归模型方法，它不仅深化了对传统回归模型的理解，而且也推广了回归模型的类型和应用，使得回

由詹鹏整理，仅供交流和学习

根据南京财经大学统计系孙瑞博副教授的课件修改，在此感谢孙老师的辛勤付出！ 教材为：Luke Keele: Semiparametric Regression for the Social Sciences. John Wiley & Sons, Ltd. 2008.

------------------------------------------------------------------------- 第一章 introduction: Global versus Local Statistic 一、主要参考书目及说明

1、Hardle(1994). Applied Nonparametic Regresstion. 较早的经典书

2、Hardle etc (2004). Nonparametric and semiparametric models: an introduction. Springer. 结构清晰

3、Li and Racine(2007). Nonparametric econometrics: Theory and Practice. Princeton. 较全面和深入的介绍，

由詹鹏整理，仅供交流和学习

根据南京财经大学统计系孙瑞博副教授的课件修改，在此感谢孙老师的辛勤付出！ 教材为：Luke Keele: Semiparametric Regression for the Social Sciences. John Wiley & Sons, Ltd. 2008.

------------------------------------------------------------------------- 第一章 introduction: Global versus Local Statistic 一、主要参考书目及说明

1、Hardle(1994). Applied Nonparametic Regresstion. 较早的经典书

2、Hardle etc (2004). Nonparametric and semiparametric models: an introduction. Springer. 结构清晰

3、Li and Racine(2007). Nonparametric econometrics: Theory and Practice. Princeton. 较全面和深入的介绍，

分位数回归模型及其应

用研究

WEIHUA system office room 【WEIHUA 16H-WEIHUA WEIHUA8Q8-

第一组计量经济学理论与方法

分位数回归模型及其应用研究

王桂胜1

（首都经济贸易大学，北京，100026）

摘要：本文在对分位数回归方法的含义和基本原理进行全面分析说明的基础上，对分位数回归方法在PANEL DATA模型中的应用作了深入分析，并对不同回归估计方法在PANEL DATA模型中的估计效果进行了比较分析。在此基础上，通过分别采取一般最小平方法和分位数回归法对中国15省区的人均消费和人均收入的回归方程估计的统计结果比较，发现分位数回归方法在进行某些特殊的PANEL DATA模型估计时具有一定的优势。

关键词：分位数回归、面板数据模型、惩罚分位数回归估计

一、分位数回归研究介绍

自Koenker 和 Bassett (1978)提出线性分位数回归理论以来，分位数回归（QR）即成为近几十年来发展较快、应用广泛的回归模型方法，它不仅深化了对传统回归模型的理解，而且也推广了回归模型的类型和应用，使得回归模型拟合有关统计数据更加准确细致。分位数回归模型是在稳健估计模型基础上发展形成。稳健估计（Robust Estimatio

EVIEWS之变系数回归模型

1 变系数回归模型

前面讨论的是变截距模型，并假定不同个体的解释变量的系数是相同的，然而在现实中变化的经济结构或者不同的经济背景等不可观测的反映个体差异的因素会导致经济结构的参数随着横截面个体的变化而变化，即解释变量对被解释变量的影响要随着截面的变化而变化。这时要考虑系数随着横截面个体的变化而变化的变系数模型。

1.变系数回归模型原理

变系数模型一般形式如下：

yit??i?xit?i?uit,i?1,2,,N,t?1,2,,T（1）

其中：yit为因变量，xit为1?k维解释变量向量，N为截面成员个数，T为每个截面成员的观测时期总数。参数?i表示模型的常数项，?i为对应于解释变量的系数向量。随机误差项uit相互独立，且满足零均值、等方差的假设。

在式子（1）中所表示的变系数模型中，常数项和系数向量都是随着截面个体变化而变化，因此将该模型改写为：

yit?xit?i?uit （2）

其中：xit?(1,xit)1?(k?1)，?i?(?i,?i)'

模型的矩阵形式为：

Y?X??u （3）

其

中

：

?y1??Y??????yN??NT?1；

?yi1??y?yi??i2??????yiT?T?

第3 3卷第 3期2 0 1 3年 6月

上饶师范学院学报J OU RN A L L 0F S HANGI O N0R MAL UNI VE R S I I T Y

Vo 1 . 3 3. No 3

J u n. 2【 ) I 3

P A误差下半参数回归模型估计的均方相合性李佳，李永明2

( 1 .南昌大学理学院，江西南昌 3 3 0 0 3 1; 2 .上饶师范学院，江西上饶 3 3 4 0 0 1 )

摘要：对于半参数回归模型 Y i=

+g ( t )+e , 1≤i≤n,利用最小二乘法和一般加权方法，定义了卢， g ( f )

的估计量p ,台 (￡ ) .在误差为 P A P i -￣, I N -,证明了，台 (￡ )的均方相合性.关键词：半参数回归模型； P A序列；均方相合性中图分类号： 0 2 1 2 . 7 文献标识码： A 文章编号： 1 0 0 4—2 2 3 7 ( 2 0 1 3 ) 0 3—0 0 1 0—0 6

D OI: 1 0 . 3 9 6 9/ j . i s s n . 1 0 0 4—2 2 3 7 . 2 0 1 3 . 0 3 . 0 0 3

1 引言自E s a r y P ms c h

目录

摘要………………………………………………………………………………．．ＩＡＢＳＴＲＡＣＴ………………………………．………………………………………………………………．ＩＩ第１章绪论………………………………………………………………………．１１．１研究背景及意义…………………………………………………………１

１．２国内外研究现状…………………………………………………………２

１．３研究的内容………………………………………………………………４

１．４创新之处…………………………………………………………………５第２章分位数回归的背景………………………………………………………．６２．１分位数回归模型…………………………………………………………６

２．２复合分位数回归模型…………………………………………………．．１０第３章面板数据模型及估计方法………………………………………………１１３．１面板数据模型介绍……………………………………………………．．１２

３．２面板数据模型的估计…………………………………………………一１４第４章面板数据复合分位数回归模型的估计…………………………………ｌ８４．１引言……………………………………………………………………．．１８

４．２参

分位数回归

三部分：分位数回归简介 分位数回归的应用 R程序实践

一、分位数回归简介 为什么要分位数回归？

传统的线性回归描述条件均值受自变量的影响，若随机误差满足经典假设，参数估计将具有无偏性、有效性等优良性质。但实际生活假设往往不满足，如存在异方差，偏态分布等会使传统线性回归不具有以上性质。

分位数回归1、随机扰动项不做分布的假定，估计具有很强稳健型 2、对所有分位数进行回归，这样对异常点具有抗耐性 一体两面的，更加精确地描述自变量对因变量变化范围的影响 3、分位数回归具有较好的弹性性质 4、对于因变量具有单调变换性 5、估计参数在大样本下具有渐进优良性

为了方便解释清楚分位数回归,先利用一个图形来作简要说明：

上图的横坐标表示的是家庭收入，而纵坐标表示的是食物支出。这个例子稍后会用R实现。

分位数回归原理

回归分析的基本思想就是使样本值与拟合值之间的距离最短，对于Y的一组随机样本

，样本均值回归是使误差平方和最小，即

样本中位数回归是使误差绝对值之和最小，即

样本分位数回归是使加权误差绝对值之和最小，即

现假设