Lec 08-2: 딥러닝의 기본 개념2: Back-propagation 과 2006/2007 '딥'의 출현
<CIFAR>
당장 활용도가 있지 않아도 연구를 장려한 단체. 이를 통해 Hinton은 캐나다로 이주하여 연구할 수 있게 되었다.
"Everyone else was doing something different"
당시에는 최악의 시간이었지만, 이 단체 덕분에 딥러닝이 발전하게 되었다.
2006년-2007년에 Hinton과 Bengio 교수들이 Breakthrough가 되는 논문을 발표하게 된다.
weight의 초기 값을 잘 설정하게 되면 많은 layer에 대해서도 깊게 신경망을 구축하여 복잡한 문제를 해결할 수 있다는 내용이었다.
사람들의 시선을 받기 위해 과거 neural network의 이름을 deep nets, deep learning으로 바꾸게 되었다.
Image Net에서 Image Classification Challenge로 컴퓨터에게 사진을 주고 무엇인지 맞히는 챌린지가 생겼다.
이는 2010년도에 30%의 에러율이 발생했고, 매년 발전하고는 있지만 90% 이상이 되어야 실용성이 있는 기술이기 때문에 최소 10년이 걸릴 것으로 예상했다.
이때 2012년에 연구생이 26.2%에서 15.3%로 에러율을 낮추는 사건이 발생한다.
이를 기반으로 계속 발전해서 2015년에 비로소 3%의 에러율로 줄어들게 되었다.
이것이 많은 주목을 받게 되었다.
더 나아가서 그림을 맞히는 것뿐만 아니라 상황 설명을 할 수 있게 되었다.
<Deep API Learning>
자연어로 시스템에 입력을 하면, 어떤 API를 써야 하는지, API에 어떤 순서로 명령을 해야 하는지를 컴퓨터가 스스로 구현하는 기술이 발전하고 있다.
+ speech (시끄러운 상황에서 말 인식하기), game 등에서도 deep learning은 활발히 쓰이고 있다.
* 왜 deep learning을 주목해야 할까?
이미 우리 주변에서 사용되고 있기 때문!
- 유튜브 자막: 자동으로 소리를 듣고 정확한 자막 생성
- 페이스북: 학습을 통해 관심이 가는 피드 보여줌
- 구글 검색 엔진: 단순히 검색어 관련 문서만 보여주는 것이 아닌, 그 외 관심이 갈만한 문서도 표시
- 넷플릭스: 컨텐츠 추천 시스템
- 아마존: 인공지능 기반 검색 추천 시스템
- 홍콩: 손님 취향 파악 후 가게 옷 진열
* 왜 지금 주목해야 하는가?
- 학생: 지금 시작해도 세계적 전문가가 되기엔 늦지 않았다!
수학적으로 그다지 복잡하지 않다!
- 실용적으로 쓰고 싶은 사람: 이미 높은 정확도를 가진다!
바로 쓸 수 있는 툴이 많이 마련되어있다! (ex. Tensorflow)
파이썬과 같은 쉬운 프로그래밍 언어가 많다!
재밌다!