Deep Learning이란?

1. Deep Learning의 정의

 

Machine Learning의 한 종류로, based on Artificial neural networks with Representation learning

 

 

 1) Machine Learning : 경험을 통해 improve automatically한 알고리즘

 2) Artificial neural network : 간단히 Neural Networks(NNs)라고 불리며, 실제 동물의 신경망과 유사함 

 3) Representation learning : raw data로부터 feature detection이나 classification에 필요한 representations를 자동적                                          으로 발견해주는 테크닉

 

 

 

 

 

 

---

2. Machine Learning 이해

 

 

 

 

 

 

 

---

 

2. Deep Learning 이해

 

 

 

 

신경망이 Deep Learning인지 Shallow Learning인지 정해진 규격은 존재하지 않는다. 하지만 연구자들 사이에선 일반적으로 depth가 2 이상이면 Deep Learning이라고 한다

 

 

 

---

 

3. Deep Learning이 과거에 부흥하지 못했던 이유

 1) Training하기에 너무 오랜 시간이 소모되었다

 2) NN을 다루기 위한 Training skill의 부재 (ex. batch nomalization, ReLU 등)

 3) Public data의 부재

 

 

 

4. 지금 부흥하고 있는 이유

 1) GPU-based computing이 가능해지면서 training 속도 증가

 2) NN을 다루기 위한 Training skill이 연구됨 (ex. batch nomalization, ReLU 등)

 3) NN을 다루기 위한 Tool의 탄생 (ex. Tensorflow, PyTorch 등)

 4) Community의 활성화 (ex. Github, arXiv 등)

 5) 매우 많은 데이터가 축적 됨