회귀분석은 변수 사이의 관계를 알아내는 통계 기법입니다. 독립변수를 통해 종속변수를 예측하는데, 독립변수와 종속변수가 각각 하나고 둘 사이 관계가 선형이라고 가정하는 회귀분석이 단순선형회귀입니다.
지난 시간에는 (현실을 모델로 만든 회귀모형의 기댓값인 회귀식의 표본추정식인) 추정회귀식을 구해 봤습니다. 최고제곱법으로 식을 찾았습니다. 과연 이 식이 적합한지 영희를 예로 들어 설명했습니다. 이제 두 번째 질문, 과연 x와 y가 통계적으로 유의미한 관계인지 답해 보려고 합니다.
유의성 검정
단순선형회귀 모형
단순선형회귀 회귀식
회귀식에 x값을 넣으면 y값이 나옵니다. 그런데 이 값은 y가 아닙니다. 정확히는 y의 기댓값이죠. 단순선형회귀 모형에는 오차항이 있는데, 오차항은 정규분포를 따릅니다. 따라서 y도 분포를 가지는 값입니다. 우리가 추세선으로 구하는 값은 y의 기댓값이었죠.
단순선형회귀모형에서 오차항에 대한 가정은 다음과 같습니다.
1) 오차항은 확률변수다.
2) 오차항은 모든 x마다 분산이 같다.
3) 오차항은 독립이다(어떤 x에 대한 오차항이 다른 x에 대한 오차항과 무관).
4) 오차항은 정규분포를 따른다.
이 가정들, 특히 4번 가정 때문에 오차항을 포함하는 y도 확률변수처럼 행동합니다. 단순선형회귀분석에서 선을 긋고 x를 식에 넣어 구한 y는 y값이 아니라 y의 기댓값, 평균임을 다시 강조합니다. 왜 x와 y에 관계가 있는지 검사하는 과정에 이게 필요한가 싶지만, 곧 필요해집니다.
이제 유의성 검정을 해 보죠. 유의성 검정은 두 변수가 과연 유의미한 관계인지 검사하는 과정입니다.
회귀식에서 x의 기울기가 0이면, x가 있는 항은 통째로 0이 됩니다. 즉 x값이 y에 아무런 영향을 주지 못합니다. 그런데 관계가 있다고 말할 수 있을까요? 따라서 우리는 저 β1이 0인지 아닌지 판단해야 합니다. 유의성을 검정하는 방법은 크게 두 가지, t검정과 F검정이 있습니다.
잠깐. 두 가지 검정을 시작하기 전에 알아야 할 식
평균제곱오차(MSE) - SSE를 자유도로 나눈 값. 오차항 분산의 불편추정량
평균제곱오차의 제곱근은 ‘추정값의 표준오차’라고 부름.
t검정
1. 귀무가설과 대립가설을 세우고 유의수준을 정한다.
2. 회귀식 기울기(β1)의 표준편차를 구한다. β는 모집단 모수이므로 추정회귀식으로 추정해 구한다.
3. 검정통계량 t를 구한다.
4. 자유도 n-2인 스튜던트 t분포에서 절댓값이 검정통계량 이상인 양측 날개 면적을 p값으로 한다.
5. p값이 유의수준 이하면 귀무가설을 기각한다.
F검정
1. 귀무가설과 대립가설을 세우고 유의수준을 정한다.
2. 평균제곱회귀(MSR)를 구한다. SSR을 회귀자유도로 나눈 값으로, 회귀자유도는 일단 ‘독립변수의 수’라고 생각한다. 단순선형회귀에서 독립변수는 하나이므로 회귀자유도는 1이다.
3. F비를 구한다. MSR/MSE다.
4. 자유도가 1, n-2인 F분포에서 F비 오른쪽의 날개 넓이를 p값으로 한다.
5. p값이 유의수준 이하면 귀무가설을 기각한다.
참고 : 독립변수가 하나라면 t검정과 F검정의 결과는 같습니다.
주의 : 통계적 유의성은 인과와 다릅니다.
신뢰구간과 예측구간
추정회귀식도 세웠고, 식이 (영희보다) 적합한지도 검정했고, 두 변수가 통계적으로 유의미한 관계에 있는지도 파악했습니다. 이제 하루 공부 시간에 따른 기말고사 점수를 예측할 수 있을 겁니다.
추정회귀식에 따르면 x=2.5일 때 y는 약 60.7입니다. 그럼 ‘하루에 2.5시간 공부하는 학생은 기말고사 점수가 60.7점’이라고 말할 수 있을까요? 바로 결정하기 전에 짚고 넘어갑시다. ‘하루에 2.5시간 공부하는 학생’은 누굽니까?
'하루에 2.5시간 공부하는 학생'의 뜻
뜻 1 : 하루에 2.5시간 공부하는 학생 전부. 따라서 ‘하루에 2.5시간 공부하는 학생의 기말고사 점수’는 이들 점수의 평균이다.
뜻 2 : 하루에 2.5시간 공부하는 특정 누군가. 예를 들어 2.5시간 공부하던 17살 김민수 학생의 기말고사 점수를 추정한다는 뜻이다.
뜻 1은 y값의 평균을 예측합니다. 뜻 2는 y 개별값을 예측합니다. 아시다시피 y는 값이 아니라 확률분포입니다. 따라서 뜻 1이든 2든 정해진 값이 아니라 범위, 구간을 구해야 합니다.
뜻 1은 표본회귀로 y값의 평균, 즉 모집단 회귀(E(y))를 추정합니다.
뜻 2는 표본회귀로 모집단 회귀를 넘어 실제 값을 추정합니다.
상식적으로 뜻 2가 더 맞추기 어렵겠죠. 따라서 신뢰수준이 같다면 뜻 2로 구한 구간이 뜻 1로 구한 구간보다 넓을 수밖에 없습니다.
뜻 1로 구한 구간은 신뢰구간(Confidence interval),
뜻 2로 구한 구간은 예측구간(Prediction interval)이라고 합니다.
신뢰구간
신뢰구간 공식은 다음과 같습니다.
신뢰구간 식에서 무얼 알 수 있을까요?
- x가 x평균과 같을 때 신뢰구간이 제일 좁습니다.
- 자료 크기 n이 클수록 신뢰구간이 좁습니다.
예측구간
예측구간 공식은 다음과 같습니다.
예측구간 식에서 무얼 알 수 있을까요?
- 자료크기와 신뢰수준이 같다면 예측구간은 신뢰구간보다 넓습니다.(y 평균이 아니라 y 개별값을 구하기는 더 어려우니 같은 정확도가 필요할 때 범위는 더 넓겠죠.)
- 예측구간 역시 신뢰구간처럼 x가 평균일 때 제일 좁습니다.
엑셀에서 단순선형회귀 하기
엑셀 회귀분석을 이용하면 추정회귀식, 결정계수, 추정값의 표준오차, t검정과 F검정 결과까지 전부 한 번에 볼 수 있습니다.
[데이터 분석] - [회귀분석]에 들어갑니다.
x,y축 입력 범위, 신뢰수준을 입력합니다.
'이름표'에 체크하면 맨 위 셀은 제목으로 취급합니다.
'이름표'에 체크했으면 입력범위는 제목도 포함시켜야 합니다.
'확인'을 누르면 회귀분석 결과가 나타납니다. 추정회귀식에 쓸 계수와 y절편, 결정계수, 표준 오차, t검정과 F검정 결과가 나타납니다. 보시다시피 t검정 p값과 F검정 p값이 똑같습니다.
'엑셀 > 엑셀로 통계하기' 카테고리의 다른 글
| 엑셀로 통계하기 24 - 다중회귀분석 (2) | 2018.06.25 |
|---|---|
| 엑셀로 통계하기 23 - 잔차분석 (0) | 2018.06.22 |
| 엑셀로 통계하기 21 - 단순선형회귀(1) (0) | 2018.06.20 |
| 엑셀로 통계하기 20 - 모비율 비교와 독립성 검정 (0) | 2018.06.15 |
| 엑셀로 통계하기 19 - 분산분석 이원배치법 (0) | 2018.06.14 |