最小二乘法

基于最小二乘法的状态估计理论及实验仿真分析

北方民族大学

学士学位论文

析

论文题目: 基于最小二乘法的状态估计理论及实验仿真分

院(部)名 称: 信息与计算科学学院 学 生 姓 名: 专 业: 学 号: 指导教师姓名: 论文提交时间: 论文答辩时间: （不填） 学位授予时间: （不填）

基于最小二乘法的状态估计理论及实验仿真分析 摘 要

最小二乘法是一种数学优化技术，它通过最小化误差的平方和找到一组数据的最佳函数匹配。最小二乘法在科学上的应用广泛，特别是在用在科学实验上，用试验数据点来拟合曲线.本文探讨了最小二乘法原理以及与统计学的关系，用最小二乘法原理进行一元线性，多元线性和多项式的拟合讨论了各种线性拟合的方法，并运用实例来展示了最小二乘法在实践中的应用，在此基础上给出了几种最小二乘法程序的设计原理。

关键词 原理，实验，最小二乘法，线性拟合

I

基于最小二乘法的状态估计理论及实验仿真分析 Abstract

The least square method is a mathematical optimization techniques, Which minimize the square error and find the best matching function of a set of data.Application of least square method on science widely, especially in used in scientific experiments, using experimental data to fit curve. This paper discusses the principle of least square method and statistics, using the principle of least square method for a linear, multivariate linear and polynomial discusses various methods of linear fitting, and to show the application of least square method in practical application examples, based on the design principle of several least squares procedure.

Keywords principle, experiment, the least square method, linear fitting.

II

基于最小二乘法的状态估计理论及实验仿真分析 目录

摘 要...................................................................................................................... 1 Abstract ................................................................................................................. II 第一章前言...................................................... 1

1.1最小二乘法的产生与发展 .................................. 1

1.1.1最小二乘法的产生 .................................. 1 1.1.2最小二乘法的发展 .................................. 1 1.2 最小二乘法与数理统计................................... 1 第二章最小二乘法................................................ 3

2.1最小二乘法的原理 ........................................ 3 2.2最小二乘法的统计学原理 .................................. 4

第三章最小二乘法的应用......................... 错误！未定义书签。

3.1一元线性拟合 ............................................ 6 3.2多元线性回归 ............................................ 9 3.3多项式线性回归 ......................................... 13 3.4应用举例 ............................................... 15

3.4.1线性拟合 ......................... 错误！未定义书签。 3.4.2多项式拟合 ....................................... 16

第四章最小二乘法的MATLAB实现.................................. 19

4.1 一元线性拟合程序设计原理............................... 19 4.2多元线性拟合程序设计原理 ............................... 19 4.3 MATLAB实例 ............................................ 20 结束语......................................................... 22 参考文献....................................................... 23 谢 辞.......................................................... 24

III

基于最小二乘法的状态估计理论及实验仿真分析 第一章前言

1.1最小二乘法的产生与发展

1.1.1最小二乘法的产生

在处理数据时,常要把实验获得的一系列数据点描成曲线反映物理量间的关系.为了使曲线能代替数据点的分布规律,则要求所描曲线是平滑的,既要尽可能使各数据点对称且均匀分布在曲线两侧.由于目测有误差,所以,同一组数据点不同的实验者可能描成几条不同的曲线(或直线),而且似乎都满足上述平滑的条件.那么,究竟哪一条是最曲线呢？这一问题就是“曲线拟合”问题.而最小二乘法就由此应运而生.意大利天文学家发现了一颗小行星,经过一段时间的观察,小行星运行到太阳的背后,由此失去了小行星的位置.随后世界科学家都相继用以前的观察数据来计算小行星的位置,高斯也利用最小二乘法来计算,后人用高斯的计算方法找到了小行星.并把高斯运用的最小二乘法称为高斯-马尔可夫定理. 1.1.2最小二乘法的发展

从发现最小二乘法到现在二乘法已经被应用到多个领域.如金融学、化学、物理、计算机这些基本的学科，而这些学科的发展都离不开运用数学这个工具,最小二乘法的发现又使近代统计估计理论的概念、矩阵符号表示法和近代线性代数的概念得到进一步的发展.

1.2 最小二乘法与数理统计

美国统计学家施蒂格勒认为最小二乘法之于数理统计学,有如微分之于数学,这并非夸张之辞.他还认为,19世纪的数理统计学史,就是最小二乘法向各个领域拓展的历史.可以举出一两件事实来支持这个论点,席卷统计大部分的几个分支：方差分析、相关回归分析、线性模型理论等。所谓方差分析：就是检验同方差的若干正态母体均值是否相等的一种统计方法.最小二乘法在数据分析领域是一个很好的工具。就最小二乘法本身，虽然很实用，不过看上去更多的算是一个代数方法。虽然可以推导出最优解，对于解的误差有多大，无法给出有效的分析。而把正态分布和最小二乘法联系在一起，并使得正态分布在统计误差分析中确立了自己的定位.线性模型理论,众所周知线性模型的形式就是ax+b=y,最小二乘法就是通过实验测得的数据记在图上,根据图上的点画出直线或曲线如图一

1

基于最小二乘法的状态估计理论及实验仿真分析 图一

方差分析与线性模型在统计学中也占很大一部分.不少近代的统计学研究是也是在最小二乘法的基础上衍生出来的,作为其近一步发展或纠正其不足之处而采取的对策,这包括回归分析中一系列修正最小二乘法导致的估计方法.

2

基于最小二乘法的状态估计理论及实验仿真分析 第二章最小二乘法

2.1最小二乘法的原理

假设x和y是具有某种相关关系的物理量,它们之间的关系可用下式给出：

y?f(x,c1,c2,?,cN) （1）

?，cn是N个待定常数,即式（1)曲线形式已经确定,而曲线的具体式中c1,c2，形状是未定的.

为求得具体曲线,可同时测得x和y的数值,设共获得m对观测结果：

x y x1 y1 x2 y2 x3y3 ? xmym ? (2) 根据这些观测值来确定常数设x,y关系的最佳形式为：

c1,c2，?，cn

??f(x,c?1,c?2,?,c?N)y式中,

(3)

?1,c?2,?,c?Nc 是c1,c2,?,cN的最佳估计值.若不存在测量误差,则各观

测值都应落在曲线式（1）上,即：

yi?f(xi,c1,c2,?,cN) (i=1,2,?,m) (4)

但由于存在测量误差,因而是（4）与（3）不相重合,即有：

?iei?yi?y (i=1,2,?,m) (5)

称ei为残差,它是误差的实测值.

如果m对观测值中有比较多的y值落到曲线式（3）上,则所得曲线就能较为满意地反映被测物理量之间的关系.当y值落在曲线上的概率最大时,曲线式（3）就是曲线式（1）的最佳形式.如果误差服从率为：

3

N(?，yi)^正态分布1,则

P(e1,e2,?em)概

基于最小二乘法的状态估计理论及实验仿真分析 ?m(yi?y?i)2?1P(e1,e2,?,em)?exp????22??2?i?1??(6)

当

P(e1,e2,?em)m最大时,求得的曲线就应当是最佳形式.显然,此时下式应最小

2m?i)??ei2???(yi?yi?1i?1(7)

残差平方和最小,就应有：

???????0,?0,?,?0?c1?c2?cN (8)

????0??i?1???m??f???1,c?2,?,c?N)???(yi?f(xi,c???c???0??i?1?2??????????????????m???f??1,c?2,?,c?N)???(yi?f(xi,c???c???0??i?1N???

??(yi?m??f?1,c?2,?,c?N)??f(xi,c??c?1 (9) 该方程组称为正规方程（normal equation）,解该方程组可得未定常数,通常称之为最小二乘法解.

2.2最小二乘法的统计学原理

最小二乘法拟合原理就是就是残差平方和最小，然后通过这个方程式求解，但是求得的曲线是否符合接近试验数据点.这就得看曲线拟合程度了.这就得用到统计学里的相关系数来加以判断。

若(?,?)是一个二维随机变量，且

E(??E?)(??E?).???D?D?

则称

4

基于最小二乘法的状态估计理论及实验仿真分析 Cov(?*,?*)?E(?*?E?*)(?*?E?*)????E??E?????D???Cov(?，?）??E???????.??D?D???D?????

为随机变量?和? 的相关系数用R表示.

其中E?是一个离散随机变量?(x1,x2?xn) 的数学期望

E???|xi|.pi

i?1npi(i?1,2??n)为随机变量xi的概率.

D??E(??E?)

Cov(?,?)?E(??E?)(??E?)叫做协方差

?-E???

D?*E?*?0

5

基于最小二乘法的状态估计理论及实验仿真分析 第三章 最小二乘法的应用

3.1一元线性拟合

1.已知函数为线性关系,其形式为：

y=a+bx （1）

式中a, b为要用实验数据确定的常数.此类方程叫线性回归方程,方程中的待定常数a, b叫线性回归系数.

由实验测得的数据是

x?x1,x2??xn时,

对应的y值是y?y1,y2??yn

由于实验数据总是存在着误差,所以,把各组数据代入(1)式中,两边并不相等.相应的作图时,数据点也并不能准确地落在公式对应的直线上,如第一章节中的图(一）所示.最好地拟合于各数据点的最佳曲线应使各数据点与曲线偏差的平方和为最小.因而有：

vi ?2

2vi??yi??yi??a?bxi?? （2）

由最小二乘法确定a,b首先,求偏差平方和,将（2）式两边平方后相加,得：

??vi???yi?a?bxi?i?1i?1

2nn显然,?vi2是a, b的函数.按最小二乘法,当a, b选择适当,能使为最小时

y=a+bx才是最佳曲线.

根据二元函数求极值法,把(2)式对a和b分别求出偏导数.得：

n???vi2?i?1??2??yi?a?bxi????a（??4?(3) n?3） ??vi2?i?1??2??yi?a?bxi??xi??b?

6

基于最小二乘法的状态估计理论及实验仿真分析 ?yi?na?bxi?0????i?1i?1(4) (??5?nnn2yixi?axi?bxi????0??i?1i?1?令(3)等于零,得：i?1 解方程得：

nnb?sxysxxa?y?bx??vi2?2n2?a??vi2?2?xi22?b22（(5） （6） (

公式(5)(6)式中：

??vi2?2?xi?a?b

从(3)不难求出对a, b的二阶偏导数为：

2?a2?b2?4n?xi2???xi2??2?vi2??2?vi2?(?2?vi2?a?b)2??4?xi2???xi?2??n2?

所以(5)、(6)式求出的a, b可使为极小值.因而由a, b所确定的曲线y=a+bx就是用最小二乘法拟合的最佳曲线.

3.回归方程的精度和相关系数 用最小二乘法确定a, b存在误差.

总结经验公式时,我们初步分析判断所假定的函数关系是正确,为了解决这些问题,就需要讨论回归方程的精度和相关性.

为了估计回归方程的精度,进一步计算数据点剩余标准差

?4n??xi?x??0?xi,yi?偏离最佳直线y=a+bx的

大小,我们引入概念——剩余标准差,它反映着回归方程与各数据点的拟合程度.

?s?

22vi(1?R)syy??n?2n?2

7

基于最小二乘法的状态估计理论及实验仿真分析

公式中：

2(yi)syy??yi2??n

R?

sxysxxsyy

R称为相关系数.其值可正可负,一般有：

0?R?1

2via:当R=±1时,?s = ??0,即各数据点与最佳直线完全重合.

b：0

一种可能是各数据点与该线性方程偏差较小,一种可能是各数据点与该线偏差较大.

当

R?1时,?s减小,一般的数据点越靠近最佳值两旁.两变量间的关系线

性相关,可以认为是线性关系,最佳直线所反应的函数关系也越接近两变量间的客观关系.同时还说明了测量的精密度高.如图c、d，这两个图数据点与拟合实验比较接近。

当

R??1时,?s增大,根据数据点的分布,也许能得到一条“最佳”直线.然而,

数据点与“最佳”直线的偏差过大. 如图a,b,e，a、e这两个图数据点与拟合实验望去不符合而b图实验数据点与拟合直线偏差也很大。

8

基于最小二乘法的状态估计理论及实验仿真分析 以上的数据图只是为了说明问题从实验中简化提炼出来的.

这时“最佳”二字只能说明数据点距这直线的总偏差较小,但不能反映出数据点的分布规律.或者说,我们事先的初步判断是错误的.数据点的分布规律不是线形的,根本就不能用一条直线表示.

为了帮助我们理解这一点,我们再讨论极限情况. 当R=0时（?s最大）xx而得到y=

s?0，syy?0，sxy?0所以b=0,a=y, 从

y ，而实验数据点和实验数组不同会得出不同的y，所以这个结论

是错误的 .这说明数据点的分布不是一元线性,不能拟合为一元线性关系曲线.

R0的值与数据点的个数n有关.

如果有一组数据点初步观测为线性分布.那么, R为多大时,就可以用一条最佳直线来表示其分布呢？

只有相关系数 R≥R0时（其中R0称为起码相关系数）才能用线性回归方程y=a+bx来描述数据的的分布规律.否则毫无意义.

3.2多元线性回归

假定被解释变量Y与多个解释变量变量的多元线性函数,称为多元线性回归模型.即

(7)

其中为被解释变量,为

个未知参数,?为随机误差项.

对于含有个解释变量的多元线性回归模型

为个解释变量,

之间具有线性关系,是解释

y

设

分别作为参数

观测值

与回归值

的残差为：

由最小二乘法可知平方和最小,即使

9

应使全部观测值

与回归值

的残差的

的估计量,得样本回归方程为：

基于最小二乘法的状态估计理论及实验仿真分析 (8)

取得最小值.根据多元函数的极值原理,分别对令其等于零,即

求一阶偏导,并

(9)

即

化简得下列方程组

(10)

上述

个方程称为正规方程,其矩阵形式为

(11)

因为

10

基于最小二乘法的状态估计理论及实验仿真分析

设为估计值向量

两边同乘样本观测值矩阵

的转置矩阵

,则有

样本回归模型

得正规方程组：

(12) ,

因而

(13)

则为向量的OLS估计量.

以二元线性回归模型为例,导出二元线性回归模型的OLS估计量的表达式.由(7)式得二元线性回归模型为

为了计算的方便,先将模型中心化.

为

阶方阵,所以

满秩,

的逆矩阵

存在.

11

基于最小二乘法的状态估计理论及实验仿真分析

设

,则二元回归模型改写为中心化模型. (14)

记

(15)

将

代入得

(16)

因为

(17)

则

12

基于最小二乘法的状态估计理论及实验仿真分析 由(13)式得

(18)

其中

由(18)式可知

得

(19)

(20) (21)

3.3多项式线性回归

假设给定数据点

(xi,yi)(i=0,1,?,m),?为所有次数不超过n(n?m)的多项式

n构成的函数类,现求一

mpn(x)??akxk??k?0,使得

2I???pn(xi)?yi?i?02?n?????akxik?yi??mini?0?k?0? (22)

pn(x)m当拟合函数为多项式时,称为多项式拟合,满足式（22）的乘拟合多项式.特别地,当n=1时,称为线性拟合或直线拟合.

显然

称为最小二

I??(?akxik?yi)2i?0k?0mn

13

基于最小二乘法的状态估计理论及实验仿真分析 为

a0,a1,?an的多元函数,因此上述问题即为求

I?I(a0,a1,?an)的极值 问

题.由多元函数求极值的必要条件,得

mn?I?2?(?akxik?yi)xij?0,?aji?0k?0j?0,1,?,n (23)

即

k?0?(?xi?0nmj?ki)ak??xijyi,i?0mj?0,1,?,n (24)

（24）是关于

??m?1?m?xi??i?0???m??xin??i?0a0,a1,?anm的线性方程组,用矩阵表示为

ni?x?xi?0i?0mmi2i??xi?0mn?1i??m???x?y??i?ai?0??i?0?0?m?mn?1??a???xi?1???xiyi???i?0??i?0???????????a?m?mn2n??n???xiyi???xi????i?0? (25) i?0?可以证明,方程组（24）的系数矩阵是一个对称正定矩阵,故存在唯一解.从式（24）中解出

ak(k=0,1,?,n),从而可得多项式

pn(x)??akxkk?0n (26)

pn(x)可以证明,式（25）中的满足式（22）,即

pn(x)为所求的拟合多项式.

我们把i?0??pmn(xi)?yi?2称为最小二乘拟合多项式

pn(x)的平方误差

多项式拟合的一般方法可归纳为以下几步：

①由已知数据画出函数粗略的图形——散点图,确定拟合多项式的次数n；

mm ②列表计算i?0?xji(j?0,1,?,2n)a0,a1,?ann和i?0；

?xjiyi(j?0,1,?,2n)；

③写出正规方程组,求出

④写出拟合多项式

pn(x)??akxkk?0.

14

基于最小二乘法的状态估计理论及实验仿真分析 在实际应用中,n?m或n?m；当n?m时所得的拟合多项式就是拉格朗日或牛顿插值多项式.

3.4应用举例

3.4.1线性拟合

我国1988–1998年的城镇居民人均全年耐用消费品支出、人均全年可支配收入和耐用消费品价格指数的统计资料如下表所示。试建立城镇居民人均全年耐用消费品支出 关于可支配收入 行回归分析。

表1 我国1988–1998年间城镇居民人均全年耐用消费品支出、

人均全年可支配收入和耐用消费品价格指数的统计资料

耐用消费品价格指 和耐用消费品价格指数

的回归模型，并进

年 份 人均耐用消费品支出 (元) 137.16 124.56 107.91 102.96 125.24 162.45 217.43 253.42 251.07 285.85 327.26 人均全年可支配收入 (元) (1987年=100) 1988 1989 1990 1991 1992 1993 1994 1995 1996 1997 1998 1181.4 1375.7 1510.2 1700.6 2026.6 2577.4 3496.2 4283.0 4838.9 5160.3 5425.1 115.96 133.35 128.21 124.85 122.49 129.86 139.52 140.44 139.12 133.35 126.39 资料来源：《中国统计年鉴》

解 根据经济理论和对实际情况的分析可以知道，城镇居民人均全年耐用消费品支出 依赖于可支配收入 我们设定回归模型为

1. 估计模型未知参数 由原始数据，计算得

15

和耐用消费品价格指数

的变化，因此

基于最小二乘法的状态估计理论及实验仿真分析

， ，

， ，

，得 ，

，

， ，

将上述计算结果代入公式

即

，

，

。最后，得估计的回归方程

3.4.2多项式拟合

已知实验数据如下表：

i 0 1 10 16

1 3 5 2 4 4 3 5 2 4 6 1 5 7 1 6 8 2 7 9 0 3 4 8 1xi yi

基于最小二乘法的状态估计理论及实验仿真分析 试用最小二乘法求它的二次拟合多项式. 解 设拟合曲线方程为

y?a0?a1x?a2x2列表如下： I 0 1 2 3 4 5 6 7 8 1 3 4 5 6 7 8 9 10

xi 10 5 4 2 1 1 2 3 4 32 yi 1 9 16 25 36 49 64 81 100 381 xi2 xi3 xi4 xiyi 10 15 16 10 6 7 16 27 40 147 10 45 64 50 36 49 128 243 400 xi2yi 1 27 64 125 216 343 512 729 1000 3017 1 81 256 625 1296 2401 4096 6561 10000 25317 ?

53 1025 得正规方程组：

17

基于最小二乘法的状态估计理论及实验仿真分析 ??m?1?8?xi??i?0?82??xi??i?0?x?xi?08i?0i?08i8i2?xi3??8?xy?i???i?i?0i?0a??0??8?83???xy?xi??a?1ii?????? i?0i?08??a2???82?4???xiyi?xi?????i?0??i?0?2853381??a0??32??9?533813017??a1???147? ????????381301725317????a2????1025??a0?13.4597,a1??3.6053a2?0.2676

2y?13.4597?3.6053?0.267x6故拟合多项式为：

18

基于最小二乘法的状态估计理论及实验仿真分析 第四章最小二乘法的MATLAB实现

4.1 一元线性拟合程序设计原理

?n,求作拟合直线y?a?bx,使总误差对于给定的实验数据(xi,yi),i?1,2,Q??[yi?(a?bxi)]2为最小.

i?1n再由数学中极值求法得LS公式:

b??(xi?x)(yi?y)/?(xi?x)2,

i?1i?1nna?y?bx,

1n1n式中x??xi,y??yi.

ni?1ni?14.2多元线性拟合程序设计原理

对式y?a0??ajxj,设变量xj的第i次测量值为xij,对应的函数值

j?1nyi(i?1,2?,n偏差平方和)

s(a0,a1,…,an)??(yi?y)??(yi?a0??ajxij)2,

2i?1i?1j?1mmn求其极小值得正规方程组

ma0??(?xij)aj??yi,

j?1i?1ni?1nmm?xj?1nika0??(?xijxik)aj??(xijxik) (k?1,2,?,n),

j?1i?1i?1mm式中：m为实验点数,n为未知参数个数,x(m,n)为变量xj(j?1,2,?,n)在第

i(i?1,2,?,m)次测量中的取值xij；y(m)为函数第i次测量值yi,c(m,n?1)为正规

方程组的系数?xij和?xijxik,第n?1列存放?yi和?xikyi；a(n)为存放未知参

i?1i?1mmmmi?1i?1数a0,a1,?,an.

19

基于最小二乘法的状态估计理论及实验仿真分析 4.3 MATLAB实例

下面给定的是乌鲁木齐最近1个月早晨7:00左右(新疆时间)的天气预报所得到的温度数据表,按照数据找出任意次曲线拟合方程和它的图像.

(2008年10月26~11月26) 天数 1 温度 9 天数 11 温度 10 天数 21 温度 7

下面应用Matlab编程对上述数据进行最小二乘拟合

x=[1:1:30];

y=[9,10,11,12,13,14,13,12,11,9,10,11,12,13,14,12,11,10,9,8,7,8,9,11,9,7,6,5,3,1]; a1=polyfit(x,y,3) %三次多项式拟合% a2= polyfit(x,y,9) %九次多项式拟合% a3= polyfit(x,y,15) %十五次多项式拟合% b1= polyval(a1,x) b2= polyval(a2,x) b3= polyval(a3,x)

r1= sum((y-b1).^2) %三次多项式误差平方和% r2= sum((y-b2).^2) %九次次多项式误差平方和% r3= sum((y-b3).^2) %十五次多项式误差平方和% plot(x,y,'*') %用*画出x,y图像% hold on

plot(x,b1, 'r') %用红色线画出x,b1图像% hold on

plot(x,b2, 'g') %用绿色线画出x,b2图像% hold on

plot(x,b3, 'b:o') %用蓝色o线画出x,b3图像%

不同次数多项式拟和误差平方和为： r1 = 67.6659 r2 = 20.1060

20

2 10 12 11 22 8 3 11 13 12 23 9 4 12 14 13 24 11 5 13 15 14 25 9 6 14 16 12 26 7 7 13 17 11 27 6 8 12 18 10 28 5 9 11 19 9 29 3 10 9 20 8 30 1 基于最小二乘法的状态估计理论及实验仿真分析 r3 = 3.7952

r1、r2、r3分别表示三次、九次、十五次多项式误差平方和. 拟和曲线如下图：

14 12108ydata64真实数据三次多项式拟合九次多项式拟合十五次多项式拟合51015xdata20253020 0

上图中*代表原始数据,红色曲线代表三次多项式拟合曲线,绿色曲线代表九次多项式拟合曲线,蓝色o线代表十五次多项式拟合曲线.

21

基于最小二乘法的状态估计理论及实验仿真分析 结束语

本文介绍了最小二乘法产生的背景以及它的统计学原理。根据其原理后面详细的叙述了最小二乘法线性拟合的方法，后给出了通过这些方法求线性方程的实例和实现其运算的MATLAB程序。

不管是一元线性还是二元线性还是多项式的拟合，其实最小二乘法最核心的思想就是使残差的平方和最小，然后根据定理知道对未知参数求一阶导数使其等于零。解一个方程就可以求出未知参数。后根据所求结果检验其相关性，R的值越接近于1说明我们求出来的拟合和曲线越接近实验数据点。一元线性拟合通过定理证明了一阶偏导数等于零的的点是最小二乘法残差平方和最小的点。多元线性回归与一元线性回归的思想是一样的，由于多元线性的未知参数的不确定性，我们把写成矩阵形式对矩阵进行运算最后求得未知参数的值，然后把二元线性这种特殊形式通过一些方法求出来。多项式的求解与多元线性的相似。

最小二乘法的发明更深更广更全面的诠释了统计学，令统计学在统计方面应用有其他学科无法取代的作用。这是最小二乘法在数学里的影响，在其他学科最小二乘法也有用到。最小二乘法能将从实验中得出的一大堆看上去杂乱无章的数据中找出一定规律,拟合成一条曲线来反映所给数据点总趋势,以消除其局部波动.它为科研工作者提供了一种非常方便实效的数据处理方法.随着现代电子计算机的普及与发展,这个占老的方法更加显示出其强大的生命力。

22

基于最小二乘法的状态估计理论及实验仿真分析 参考文献

[1]魏宗舒.概率论与数理统计教程（第二版）.北京：高等教育出版社，2010. [2]王能超.数值分析简明教程[M].北京:高等教育出版社,1984[3]邓东皋，尹小玲.数学分析简明教程（第二版）.北京：高等教育出版社，2007.

[4]姜健飞,胡良剑,唐俭.数值分析及其MATLAB实验[M].北京：科学出版社,2004

[5]肖明耀，误差理论与应用[M].北京：计量出版社，1985.

[6]赵新那.数值分析在分析化学中的应用[M].武汉:中南工业大学出版社,1987.

[7]陈希孺.数理统计学简史[M].湖南：湖南大学教育出版社，2002. [8]陆健. 最小二乘法及其应用[ J].中国西部科技报,2007

[9]李庆扬,王能超,易大义.数值分析(第4版)[M].北京:清华大学出版社,2001. 1998

[10]王萼芳，石生明.高等代数（第三版）.北京：高等教育出版社，2009.

23

基于最小二乘法的状态估计理论及实验仿真分析 谢 辞

经过几个月的查资料、整理材料、写作论文。今天终于可以顺利的完成论文的最后的谢辞了。想了很久，要写下这一段谢词，自己想想求学期间的点点滴历历涌上心头，时光匆匆飞逝，四年多的努力与付出，随着论文的完成，终于让学生在大学的生活，得以划下了圆满的句点。

本次毕业论文能够顺利完成，得益于北方民族大学信息与计算科学院的所有老师的负责和帮助，使我完成论文所要求的知识积累和能够很好的掌握和运用专业知识，并在设计中得以体现。再次我要特别感谢丁老师我的毕业论文指导老师。丁老师正是这一学期在西安再次进行深造，所以可以想见他在百忙中抽出时间给我论文选题、收集资料、字句的斟酌的批改论文初稿和定稿。丁老师渊博的专业，严谨的治学态度，精益求精的工作作风，诲人不倦的高尚师德，严以律己、宽以待人的崇高风范，平易近人的人格魅力对我影响深远。丁老师指导我的论文的写作的方向和框架，并对本论文初稿进行逐字批阅，指出其中错误之处，使我有了思考的方向，他的循循善诱的指导和不拘一格的思路给我无限启迪。

在此我还要感谢我的同学和朋友，他们不仅是我生活上的好伙伴还是我学习上的好帮手。我总是能和他们一块儿分享论文的精辟之处，而他们也能在论文的结构框架和内容上提出宝贵的意见，这些意见给了我很多启迪和帮助。感谢我的父母，没有我爸妈的辛苦栽培，也没有今天的我，能在这么多老师悉心教导下学到这么多的渊博的知识。我对他们的最大愿望是愿他们健健康康，平平安安。

总之，此次论文的写作过程，我收获了很多，几位大学四年划上了一个完美的句号，也为将来的人生之路做好了一个很好的铺垫。

24

本文来源：https://www.bwwdw.com/article/ab57.html