一、最小二乘法介绍
最小二乘法是一种在误差估计、不确定度、系统辨识及预测、预报等数据处理诸多学科领域得到广泛应用的数学工具。
这样说，可能比较抽象，难于理解，我们下面来详细解释一下。假设两个物理量x,y满足某个函数关系，即，但是我们并不知道这个函数的具体公式。我们已知的是一些数据，也就是在若干点处的取值为（i=1,2，……N）。我们根据这些数据来推算出的近似表达式的过程，我们称为拟合。
具体怎么拟合呢，就涉及到最小二乘法了。当然最小二乘法只是其中一种拟合方法，也可以采用其他方法来拟合。我们首先假设一个函数，其中~为函数中的参数，可以近似表示成。一般是一个n次多项式，因为根据泰勒公式，任何函数都可以近似展开为一个n次多项式。对于上边提到的N个已知数据，我们设定一个指标
这个指标就相当于是用来替代对于数据样本的误差的平方和，当这个指标取最小值时，认为为最优的函数，并以此计算出~，从而得到的表达式，这种方法就是最小二乘法。
二、最小二乘法拟合常量
在有些情况下，有些物理量是常量，不存在函数关系，比如某个时刻的气温。这种情况，可以表示为，对于这个物理量我们也可以获得N个测量值，我们可以采用最小二乘法的方法来拟合出这个常量的真实值。
根据最小二乘法的规则，需要使下面的指标最小
那这个问题就变成了我们要找一个的值，使这个指标最小。我们将这个指标对求导，可得
R取最下值的条件需要满足这个导数为0。由上面的等式可以计算得到
有上式可知，的最优取值就是N个测量值的平均值。
三、最小二乘法拟合线性函数
在有些情况，变量x，y，满足线性关系，即。我们通过测量可以得到N组测量值，根据最小二乘法的思想，则总的误差平方和指标为
不同的a、b的取值会导致不同的指标值，我们需要找到一组a、b的取值使上述指标最小。根据多元微积分的知识，分别对a、b求偏导，并且偏导为0。
整理上式，可得
联立解方程组可得
其中，和为N组测量值的y和x的平均值。由此可得到线性函数的表达式。
四、最小二乘法拟合多项式函数
最小二乘过程很容易推广到多项式拟合数据的情况。首先，我们先来拟合一个二次多项式。
根据最小二乘法的思想，则总的误差平方和指标为：
根据多元微积分的知识，分别对各系数求偏导，并且偏导为0。
对上式进行整理，可得
以上是三个线性方程，三个位置数，方程式可解的。因此可以计算出、和的值，进而得到二次多项式的表达式。
我们很容易将上述方法推广到m此多项式的你和问题，只是复杂度会更高一些。
