王文平 朱春浩
(武汉船舶职业技术学院公共课部,湖北武汉 430050)
设有n个数a1,a2,…,an,要找一个数x反映这组数的总的情况,我们希望x和这n个数的偏差x-a1,x-a2,…,x-an在总体上说来尽可能地小。

对于二维情形,已知两点(x1,y1),(x2,y2)可确定一条直线y=a+bx,这只需将两点坐标代入直线方程,解出a,b即可。将两点推广到n个点(x1,y1),(x2,y2),…,(xn,yn),如何确定线性回归直线呢?

1805年,法国数学家勒让德在研究天文学和测地学处理数据时最先发明最小二乘法,但因不为世人所知而默默无闻。高斯使用的最小二乘法的方法发表于1809年他的著作《天体运动论》中,后来高斯等数学家对最小二乘法进行了大量的理论研究和应用,在统计学中发挥着重要的作用,是十九世纪统计学的“中心主题”。正如美国统计史学家斯蒂格勒(S.M.Stigler)所说:“最小二乘法之于数理统计学犹于微积分之于数学”[1]。
勒让德(A.M.Legendre,1752-1833)是法国军事学校的教授,曾任多届政府委员,后来成了多科工艺学校的总监,直至1833年逝世。他一直保持热情而有规律的数学研究工作,由于解决了许多类型的的问题,其名字常存于许多定理之中。数学史家克莱因(M.Kline,1908-1992)认为勒让德之所以名列拉格朗日(J.L.Lagrange,1736-1813)、拉普拉斯、蒙日(G.Monge,1746-1818)之后,是因为其工作不如这三人深刻。尽管勒让德的工作引起许多重要理论的产生,但这只是在他的研究成果被更强有力的思想接受后才实现的,最小二乘法就是一个典型实例。
最小二乘法最早出现在勒让德1805年发表的论著《计算彗星轨道的新方法》附录中。……