統計 回帰直線と相関係数、そして、決定係数

統計　回帰直線と相関係数、そして、決定係数

かりに次のようなn個の２次元の点で表されるデータがあるとする。

　　

このとき、回帰直線の傾きaとy切片は

　　

である。

回帰直線の方程式は

　　

ここではそれぞれx、yの平均であり、はxの標準偏差、共分散で、

　　

相関係数rは

　　

である。

この回帰直線によってxの値から予測されるyの予測値はは①を使って

　　

と計算される。

以上を説明したところで、次の等式を証明することにする。

　　

【証明】

②の左辺−②の右辺
　　

上の式に

　　

を代入すると
　　

よって、

　　

（証明終了）

　　

この式を右辺第１項

　　

は実際の「データと予測値の差」、残差の２乗を足しあわせたもの、残差平方和。要するに、予測のハズレ具合をあらわしている。

そこで、回帰直線の予測の正確さを表す次の量を定義すると

　　

となる。

つまり、相関係数の２乗は回帰直線（回帰曲線）の予測の精度を表す一つの尺度と考えることができ、８種類ある決定係数R²の一つである。また、決定係数は寄与率とも呼ばる。

右の表は「ねこ騙し数学」の訪問者数とページビューのデータである。

この散布図と回帰直線、相関係数、決定係数R²は次の通り。

参考までに、横軸に訪問者数、ページビューの実際の値と回帰直線の方程式からの予測値との差、つまり、残差を縦軸にとった、残差プロットも示しておく。

タグ：統計