Deep Learning 1-4-1

 

- 이제까지는 logistic regression, 1, 2 hidden layers만 살펴보았다. 이제부터는 더 deep한 hiden layers를 살펴보자

- deep neural network를 표현하는 notation을 살펴본다

- n[l] : l layer의 unit의 수
- a[l] : l layer에서 activation = g[l](z[l])

- deep neural network에서 forward propagation을 살펴보자. 

- 여기서 for loop는 layer수 만큼 발생한다.

- 연산과정에서 matrix의 크기들이 맞는지 살펴보자.

- w[l], dw[l] : (n[l], n[l-1])

- b[l], db[l] : (n[l], 1)

- face regonition을 예로 들어 보자.

- input으로 들어가는 여러개의 features를 먼저 추출한다고 하자.

- 이 features를 가지고 edge등을 찾고

- 전 단계의 데이터를 가지고 얼굴의 부분들을 찾는다.

- 이 얼굴 부분들을 하나로 모아서 얼굴을 만든다.

- 위의 단계들에 해당하는 더 deep 한 layer들을 거치면서 완성된 결과를 얻게 될 것이다.

 

- audio를 인식하는 것도 마찬가지 이다. 

- 소리의 특징들을 잡고 하나의 음절로 합치고 음절들을 합치면서 단어를 완성하여 컴퓨터가 소리를 인지하게 하는 것이다.