Generative Model : Bootstrapping이 가능한 모델이라고 생각하면 됨. 즉 학습한 input 데이터의 분포를 따르는 데이터를 생성해낼 수 있다. 즉 input과 속성이 동일한, 새로운 input2 데이터를 만들 수 있다.
- PGM(MRF, BN 이 해당됨)
Discriminant Model : 재생성이 불가능하고 오직 분류만 가능하다.
-SVM, DNN
------
탐미첼 책에서 든 예시(Naive-Bayes 와 Logistic Regression의 분류에서의 비교. 둘다 거의 비슷한 방식인데 하나는 Generative, 하나는 Discriminant 임)
Generative Model은 데이터가 작을 때 유리하고,(간단히 생각해보면 Resampling을 통해 데이터를 더 많이 취하는 것과 유사한 이유로 생각됨)
Discriminant Model은 데이터가 클 때 유리하다고 함.
그러나 결국 Generative Model은 데이터를 재생성해내고 싶을 때가 가장 장점이 될 듯.
ex) 어떤 가수의 음악을 학습한 Model에서 다시 그 가수와 같은 스타일의 음악을 생성시킨다.
'Research > Machine Learning' 카테고리의 다른 글
Polynomial Regression, Non-Linear Features (0) | 2014.10.03 |
---|---|
Information Theory, Distance Metric on PDF (2) | 2014.09.29 |
테일러 급수, 푸리에 급수 (2) | 2014.08.10 |
Weight Decay, Regularization, Overfitting, Validation set, Drop out, ReLU (0) | 2014.08.04 |
Deep Belief Network (0) | 2014.08.01 |
댓글