回帰分析【Ｙ＝ａ + b1・Ｘ1 + b2・Ｘ2 + …】において、従属変数Ｙの実績値と独立変数Ｘ1,Ｘ2…の実績値から求めたＹの理論値とは、必ずしも回帰式に当てはまる確定的な値で対応しているのではなく、回帰式の周りに多少のばらつきをもった値で対応している。
ＹとＸ1,Ｘ2…の実績値を基にパラメータ(a,b1,b2…),回帰係数(b1,b2)の値を推定するには、最尤法と最小二乗法（Method of least squares）がある。
最尤法は最も起きる確率が高いパラメータ値を推定する方法である。