- Видео 31
- Просмотров 10 847
잡식공돌이 (도란룡)
Добавлен 24 мар 2013
Видео
2022 겨울전수 (ft.부일외고 졸업생 4인방) @강원도용평
Просмотров 1382 года назад
DJ 비트 더빙 BGM: Peggy Gou - Starry Night ruclips.net/video/r_wwmmo6UGY/видео.html
나를 위해 공부하기 | Transformer 이해하기 (1)
Просмотров 362 года назад
연구실 세미나에서 정리한 자료. - Transformer 가 대충 어떻게 동작하는지 느낌적인 느낌으로 알 뿐이다. - 명확히 수학적으로 어떤 매커니즘으로 동작하는지 이해하기 위해 정리한다. 00:00 Intro 06:53 What is attention? 10:35 Seq2Seq 14:11 The limitations of RNNs 17:03 Attention! 23:28 Simple example: translating from English to French 26:37 Attention mechanism (ft. Attention scores) 30:54 Attention mechanism (ft. Values) 32:43 Attention mechanism (ft. Keys and Queries)...
![[문제풀이] Sigmoid function and Binary CrossEntropy(BCE)](http://i.ytimg.com/vi/yr4J-WIDcNM/mqdefault.jpg)
[문제풀이] Sigmoid function and Binary CrossEntropy(BCE)
Просмотров 502 года назад
source: github.com/ShinKS00/The-Principles-of-Deep-Learning1-Artificial-Neurons 00:00 Sigmoid function 미분 04:41 BCE 미분 & BCE 가 sigmoid function 과 함께 binary classification 에서 작동하는 이유 13:07 Weight & Signal 15:23 Bias & Signal 18:24 Weight & Bias
![[Paper review with code] CNN architecture - SqueezeNet](http://i.ytimg.com/vi/sTQIzQGdiOk/mqdefault.jpg)
[Paper review with code] CNN architecture - SqueezeNet
Просмотров 1932 года назад
[The idea of SqueezeNet and code review] - colab: colab.research.google.com/github/DoranLyong/Awesome-Tensor-Architecture/blob/main/Architecture/Image_modeling/SqueezeNet-codereview.ipynb [Fire Module] - Squeeze the number of channels of a feature map - Expand the number of channels again (in multiple paths) - Concatenate them [Micro architecture] - 1x1 conv, 3x3 conv, skip connection [Macro ar...
두 직선의 Cross-product = 두 직선의 교점(intersection)
Просмотров 332 года назад
참고: Multiple View Geometry in Computer Vision, Zisserman 내용: 왜 두 직선을 나타내는 homogeneous vectors 를 외적(cross-product)하면 두 적선의 교점(intersection point)를 나타내는 걸까?
두 점의 Cross-product = 두 점을 잇는 직선(line)
Просмотров 352 года назад
참고: Multiple View Geometry in Computer Vision, Zisserman 내용: 왜 두 점을 나타내는 homogeneous points 를 외적(cross-product)하면 두 점을 잇는 직선(line)을 나타내는 homogeneous vector 가 되는 걸까?
(Q) What are Decorators in Python?
Просмотров 72 года назад
질문 참고: ruclips.net/user/redirect?event=video_description&redir_token=QUFFLUhqbGxidFhuOHVNM3BDaGJfZk0zX0JBT2FzRUpoQXxBQ3Jtc0tuaGlXWUhLWlNLaTN6R3EtLS0wTnNlVHpTZV9JQ1J6cmNoXzBhSU1BWmdZTU83RW95M21fejRxcTB2SmFkLVh4U3RtSUZVaEFpcExuTWV4WXowc2hUS05GeG5oVmtoSTB2elcxeDR1aVFWZ0FGNjFlNA&q=https://boostdevs.gitbook.io/ai-tech-interview/interview/4-python#69 ※ reference - wikidocs.net/23106 ; 제대로 파이썬
(Q) 정규화(Normalization)를 왜 해야할까요? 정규화의 방법은 무엇이 있나요?
Просмотров 392 года назад
질문 참고: boostdevs.gitbook.io/ai-tech-interview/interview/2-machine-learning#2 ※ reference - hleecaster.com/ml-normalization-concept/
Learnable module | torch.nn.RNNCell 설명
Просмотров 712 года назад
학습이 가능한 모듈 Sequence 데이터를 다루는 torch.nn.RNNCell 모듈의 작동 원리 설명. 전체 컨텐츠: ai-studynote.blogspot.com/2022/02/pytorch-pytorch-lightning.html
(Q) 고유값(eigen value)와 고유벡터(eigen vector)이 무엇이고 왜 중요한지 설명하시오.
Просмотров 392 года назад
질문 참고: boostdevs.gitbook.io/ai-tech-interview/interview/1-statistics-math#eigen-value-eigen-vector-. ※ source - ruclips.net/video/FxYvAntb68s/видео.html - twlab.tistory.com/46 - www.samsungsds.com/kr/insights/mathematics_for_ML.html - losskatsu.github.io/linear-algebra/eigen/# - angeloyeo.github.io/2019/07/17/eigen_vector.html - ruclips.net/video/PFDu9oVAE-g/видео.html ; 3Blue1Brown
Sequence trick | 비디오 데이터를 위한 2D_Conv + Global Temporal Pooling
Просмотров 322 года назад
Sequence trick | 비디오 데이터를 위한 2D_Conv Global Temporal Pooling
Learnable module | torch.nn.Conv2d 설명
Просмотров 5352 года назад
Learnable module | torch.nn.Conv2d 설명
Regularization module | torch.nn.Dropout 설명
Просмотров 1042 года назад
Regularization module | torch.nn.Dropout 설명
Regularization module | torch.nn.BatchNorm1d 설명
Просмотров 1452 года назад
Regularization module | torch.nn.BatchNorm1d 설명
Learnable module | torch.nn.Linear 설명
Просмотров 9122 года назад
Learnable module | torch.nn.Linear 설명
Learnable module | torch.nn.Linear 설명2
Просмотров 1862 года назад
Learnable module | torch.nn.Linear 설명2
NST 논문에서 gram matrix와 관련된 내용이 나와서 찾던 중 영상 보게되었습니다. 깔끔하게 정리해주셔서 한번에 이해하고 갑니다. 정말 감사합니다.
잘하시네요….
W,b를 안 넣어줬는데 어떻게 출력 Y가 나와요?
결혼 축하하는자리에 사물도 간단하게 좋으네요 치배들께 만원씩이라도 다른분들도 찔러주징 한분만 꼽아주네유 그분은 행복 하실거예유
소리부터 좀 올리시는게.
쓰레기 동영상이네요 ;; 이런건 공식문서만 봐도 다 나오는거고 언제 nn.linear가 필요한지 설명이 하나도 없네요 이런 영상은 만들지 마세요 내용도 쓸모도 없으니깐
github.com/wei-tim/YOWO
squeeze layer에서 채널 길이를 축소한 덕분에 expand layer의 3x3 커널의 파라미터 개수를 줄일 수 있게 만듬 (전략2).
aigong.tistory.com/360
이미지 데이터에 대하여 2D Convolution 연산을 하면 spatial invariant 성질이 있다고 알려져있다. 반면, 이미지 데이터를 flatten하여 fully-connected 연산을 하면 공간정보(spatial information)을 잃어버린다. (Q) 컴퓨터는 matrix-multiplication 연산에 최적화 되어 있기 때문에 2D convolution 연산은 실제적으로 sparse matrix C 를 이용한 matrix-vector multiplication 으로 구현된다. 그럼에도 spatial invariant 특성을 가진다. 그렇다면, 이러한 특성은 어디서 기인하는가? (A) sparse matrix 임에도 반복되는 parameter sharing 특성이 있다. 즉, spatial invariant 특성은 커널 파라미터 값이 공유된다는 특징에서 기인 한다고 볼 수 있다?