Linear regression

[부스트코스] 텐서플로우로 시작하는 딥러닝 기초

* 실습 소스 코드 : github.com/nsbg/AI

 

Regression (toward the mean)

어떤 데이터들이 굉장히 크거나 작더라도 전체적으로 보면 이 데이터들은 전체 평균으로 회귀하려는 특징을 갖는다.

∴ 어떤 데이터들이 선형적인 증가/감소 관계에 있을 때 이 관계를 분석하는 것

 

 

Linear Regression 선형 회귀

입력 데이터를 가장 잘 나타낼 수 있는 직선의 방정식을 찾는 것

 

출처 : 위키피디아

∴ 데이터(파란색 점)들을 가장 잘 나타내는 직선의 방정식(빨간색 선) 기울기와 y 절편을 구하는 것

 

 

Hypothesis & Loss(=Cost, Error)

Hypothesis : H(x) = Wx+b → 간단하게 나타낼 경우 Wx

Loss : H(x)-y (y는 실제 데이터 → 파란색 점)

 

출처 : 부스트코스 Lec 02 강의자료 - loss function

cf. 어떤 데이터는 실제 값과의 차이가 양수일 수도 있고 어떤 데이터는 음수일 수도 있기 때문에 의미없는 값이 나오는 것을 방지하기 위해 제곱을 취해서 사용

 

 

Multi-variable linear regression

출처 : 부스트코스 Lec 04 강의자료 - hypothesis using matrix

행렬을 사용하면 데이터의 개수에 상관없이 하나의 변수로 표현 가능 → H(X)=XW

 

cf. 텐서플로우에서 구현 시 H(X)=WX가 아니라 XW로 쓰는 이유는 행에 해당하는 X, 열에 해당하는 W를 가지고 행×렬 연산을 수행하기 때문