본문 바로가기

Programming Project/CS294-158

(5)
[한글-2-c] CS294-158 Deep Unsupervised Learning Spring 2019 ㅠ 다시한번 말씀드리지만 제 글만 가지고는 이해가 힘드실 수 있으니 강의를 켜놓고 같이 겸사겸사 보시는걸 추천드립니다... 저도 이해가 다 안가요..................................... 잘 아시는분은 댓글로 설명좀 부탁드릴게요....... 이번 부터는 continuous data에 대해서 동작할 flow-based models에 대해 배워 볼 것이다. 여태까지 배운것을 포함해서, 이 강의가 끝나면 어떤 것을 얻어가야 할까? 우리가 likelihood based model을 배울것이라고 하면, 그 중에 어떤 것을 얻어가는 것이 중요할까? 일단 train이 빠르게 잘 되며, sample이 빠르게 잘 되는 것을 원할 것이다. 이걸 compression문제에 가져오면, 우리는 comp..
[한글-2-b] CS294-158 Deep Unsupervised Learning Spring 2019 Unsupervised Learning에 대한 또다른 핫한 분야인 Compression에 대해서 알아보도록 하자. 만약 더 공부를 하고 싶다면 위의 링크에 있는 자료를 더 읽어보도록 하자. 자 그러면 Compression은 무엇이고 우리는 왜 Compression에 대해 집중할 필요가 있을까? 예를 들어 메시지, 이미지, 음악 등을 전송할 때 필요한 bit의 수를 줄일 수 있다. 그리고 그 종류는 크게 Lossy 와 lossless compression으로 나뉜다. lossy는 어느정도의 정보 손실을 허용하는 전송이고 (예를 들자면 이미지의 화질구지라던지..) lossless는 에러를 허용하지 않는 전송을 말한다. 우선 우리는 lossless compression에 집중해보고자 한다. 위의 목록과 같은 ..
[한글-2-a] CS294-158 Deep Unsupervised Learning Spring 2019 * 티스토리 에디터가 바뀌었는데, 훨씬 깔끔하고 보기 좋네요! * 다만, 이전 글들과 비교해서 포멧이 조금씩 다를 것 같아요! 이번 강의는 위와 같은 3 파트로 이루어져 있다. 우선 지난 시간에 했던 강의내용에 이어서 Autoregressive models에 대해 다루어 보겠다. 지난 시간에 공부했던 PixelCNN에 대해서 기억하는가? 이 모델은 이미지에서 잘 동작하도록 설계된 모델이다. autoregressive model은 우선 variables의 순서를 질의(query)로 선택하고, (위의 경우에는 image안의 pixel들이 될 것이다) 그 이전 variables를 통해서 새로운 한개의 variable을 예측한다. 즉 P( x | 이전 x들 ) 과 같은 형태를 예측한다고 보면 우리에게 익숙한 모..
[한글-1] CS294-158 Deep Unsupervised Learning Spring 2019 * 이 글을 쓰는데 3주가량 걸렸다;; 생각보다 강의가 너무 길고 내용이 많고 이해하기라 힘들고 조금 지루하다. 동영상 강의도 온전하지 않지만 그렇기에 이 글도 뭔가 부분 부분 비어있는 느낌이 듦으로, 동영상 강의와 같이 보는 것을 추천한다. Lecture1a - Logistics(실행 계획)2019/03/27 - [Programming Project/CS294-158] - [한글-0] CS294-158 Deep Unsupervised Learning Spring 2019 이전 글에 적어 놓았으니 참고하기 바란다. Lecture1b - Motivation왜 unsupervised learning을 공부해야 하는가? 이번 글은 전반적인 motivation 등에 관련된 내용으로 대략적인 내용만 짚고 넘어가면..
[한글-0] CS294-158 Deep Unsupervised Learning Spring 2019 버클리에 unsupervised learning에 대한 강의가 생겼길래 공부도 할겸 영강이라 국강으로 번역하여 포스팅 하려고 한다 (의지) 본 강의의 실라버스는 이러한데, 자세한 내용은 https://sites.google.com/view/berkeley-cs294-158-sp19/home?fbclid=IwAR3EYrnDoHv05sL6Exk77urKYJ3VOs85y1UggUvKbnCBDMygcUHXL0qD-28 에 나와있으며, 이 후 모든 포스팅은 기존의 강의 내용 뿐만 아니라 개인적인 이해를 위한 supplement를 덧붙일 수 있다. (이 부분이 ㅜㅜ 최대한 거슬리지 않도록 노력하도록 하겠다. ) 여튼, 실라버스를 보면 좋은 내용이 많으니 한번 가보즈아ㅏㅏㅏ!!!