Boostcamp AI - week3

Deep learning 기초를 다루는 한 주였다.

놀라운 기록들을 갱신했던 모델들의 역사와 구조를 살펴보면서 새로운 아이디어의 출현이 어떤 것인지 관찰할 수 있었다.

이전 모델의 단점을 어떻게 개선해서 한 걸음씩 나아갔는지를 공부하면서 감탄을 금치 못했다.

 

Image classification 문제 말고도 semantic segmentation, object detection, generative model이 어떻게 발전해 왔는지도 살펴봤다. task가 바뀜으로써 문제를 바라보는 관점이 달라지고 그 문제를 해결하기 위해 했던 고민과 노력을 엿볼 수 있었다.

 

현재에 와서 우리가 사용하는 도구들과 아이디어가 (AI 발전 과정에서) 언제 어떤 문제를 해결하기 위해 등장했던 것인지 깨닫는 과정은 굉장히 인상 깊고 신기했다.

어떤 인물의 일대기를 다루는 영화를 보고 온 기분이다.

 

꼼꼼히 논문 리뷰도 했다. 논문을 읽는게 생각보다 재미있다. 지금은 이미 많은 해석 자료가 있는 오래되고 유명한 논문들을 읽고 있지만 언젠가는 갓 발표된 뜨끈뜨끈한 논문들도 술술 읽을 수 있게 될거라 믿는다.

Transformer, positional embedding, ViT, AAE 구현 연습도 하고

그 밖에도 개인적으로 약점이라고 생각했던 데이터 시각화 방법에 대해서도 학습했다. 

깊게, 넓게 공부한 정말 정말 힘든 한 주였다. 

---

Master Class

어쩌다보니 지금 이 자리에?

인생은 어떻게 될지 모른다. 우연히, 심심해서, 시간이 남아서, 혹은 누군가에 의해 강제로 시작한 일이 내 삶을 완전히 바꿀 수도 있다. 

두 가지 생각이 들었다.

1. 인생이 내가 계획한대로 잘 굴러가지 않는 것 같다고 좌절하지 말자. 지금 내 인생을 완전히 바꿀 준비를 하는지도 모른다.

2. 계속해서 새로운 곳, 더 높은 곳, 안 가본 곳으로 가보자. 어떤 인연과 사건이 내 인생을 바꿀지 모른다.

---

Optimization : https://jsdysw.tistory.com/465

Regularization : https://jsdysw.tistory.com/466

AlexNet, VGGNet, GoogleLeNet, ResNet, DenseNet : https://jsdysw.tistory.com/467

Short History of Semantic Segmentation : https://jsdysw.tistory.com/468

Short History of Detection : https://jsdysw.tistory.com/469

Short History of Sequential Model : https://jsdysw.tistory.com/471

Transformer : https://jsdysw.tistory.com/472

Short History of Generative Model : https://jsdysw.tistory.com/473

 

[Paper Review] Neural Machine Translation by Jointly Learning to Align and Translate : https://jsdysw.tistory.com/470