통계적 이해 - 회귀분석,단순선형 회귀분석

회귀분석

 

① 회귀분석

• 하나나 그 이상의 독립변수들이 종속변수에 미치는 영향을 추론하는 통계 기법
• 단순선형회귀분석(독립변수가 하나)과 다중선형회귀분석(독립변수가 두 개 이상)

② 회귀분석의 변수

• 종속변수(반응변수, y) : 영향을 받는 변수
• 독립변수(설명변수, x, x1, x2) : 영향을 주는 변수

③ 단순선형회귀분석

• 하나의 독립변수가 종속변수에 미치는 영향을 추정할 수 있는 통계기법

[그림1] 

① 회귀계수의 추정(최소제곱법, 최소자승법) 

• 측정값을 기초로 하여 적당한 제곱합을 만들고 그것을 최소로 하는 값을 구하여 측정결과를 처리하는 방법으로 잔차제곱이 가장 작은 선을 구하는 것을 의미

② 회귀분석의 검정

• 회귀계수 β1이 0이면 입력변수 x와 y 사이에 아무런 인과관계가 없음
• 회귀계수 β1 이 0이면 적합된 추정식은 아무 의미가 없음(귀무가설 β1 =0, 대립가설 β1 ≠0)

③ 결정계수(R2)

• 결정계수가 1에 가까울수록 회귀모형이 자료를 잘 설명함
• 다변량 회귀분석에서는 독립변수의 수가 많아지면 결정계수가 높아지므로 단점을 보완하기 위해 수정된 결 정계수(adjusted R2)를 활용

[그림2] 회귀계수의 추정

 

단순선형회귀분석

 

[그림1] 단순선형회귀분석

 

출처 : 2020 전면 개정판 ADsP 데이터 분석 준전문가 DATAEDU