변수들이 선형적인 관계만을 갖는 Linear Regression 의 경우 모델링이 극히 단순하고 학습이 쉽다.
그러나 변수들이 비선형적인, 예를 들어 서로 곱샘이나 제곱 등의 관계를 갖는 경우 다소 어려운 모델링이 필요하다.
Ex) 집의 가격 = f(면적, 도로와의 거리, 층 수)
Ex) 배란다의 면적 = f(집의 가로, 세로 길이,층 수)
Ex) 키 = f(유전적 요소(부모의 키), 환경적 요소(영양공급상태))
이러한 비선형적 문제는 Neural Network 중 가장 간단한 Multi-Layer Perceptron 만 사용하여도 충분히 쉽게 풀린다.
왜냐하면 Neural Network 는 충분한 Hidden Node를 가질 때, 그 어떤 함수도 근사시킬 수 있는 Universial Function Approximator이기 때문이다.
'Research > Machine Learning' 카테고리의 다른 글
Kernel Density Estimation, Gaussian Mixture Model (0) | 2014.10.30 |
---|---|
Bayes Error (0) | 2014.10.27 |
Information Theory, Distance Metric on PDF (2) | 2014.09.29 |
Generative Model, Discriminant Model (0) | 2014.08.12 |
테일러 급수, 푸리에 급수 (2) | 2014.08.10 |
댓글