본문 바로가기
Research/Machine Learning

Advanced Supervised Learning

by 곽동현 IMCOMKING 2020. 1. 28.

Advanced Supervised Learning 

Active Learning

Unlabeled data에 대해 MC dropout을 inference를해서 confidence를 측정해서 낮은것부터 labeling한다.

똑같은 방법으로 loss prediction을 해서 loss가 큰 것부터 labeling할 수도 있다.


Online Service Data + Active Learning

감독학습 모델의 실서비스를 하면서 계속해서 들어오는 input x에 대해, 모든 데이터를 전부 labeling할 수는 없다. 따라서 이 중에서 어떤 데이터를 labeling할 지 우선순위를 정해야하는데 이 때 active learning이 필요하다.



Multi-task Learning에서 난이도에 따른 Overfitting 문제에 대한 아주 쉬운 해결

1번 task의 학습이 끝나면, 모델을 freeze시키고, 마지막 layer에서의 feature에 softmax를 쌓아서 2번 째 task를 학습한다.


'Research > Machine Learning' 카테고리의 다른 글

Probability Calibration  (0) 2020.04.17
Bayesian Inference  (0) 2020.01.29
Advanced Supervised Learning  (0) 2020.01.28
The Bitter Lesson 번역  (0) 2020.01.17
음성인식 기초 이해하기  (0) 2019.12.29
소리 합성  (0) 2019.12.09

댓글0