데이터 공부기록

- 어텐션을 가장 잘 설명하는 느낌이랄까? (attention을 공부하면서 듣기 좋다!)  들어가기에 앞서  - 이글은 Context(문맥으로 순화)를 다루기 위한 방법 중, 하나로 모든 기억을 동등하게 기억하지 안고 연관성 있는 기억에 집중해서, 기억하도록 구조화 하는 방법인 어텐션에 대해서 다룬다.- 어텐션 초기 모델은 순환 구조에 어텐션을 결합한 형태였지만,  but! 최근 모델에서는 순환 구조를 배제하고 어텐션 계층과 완전 연결 계층만을 사용하여 만들어짐!(질문 -  이게 Transformer인가요?)     어텐션(attention)- attention 이란 뇌가 가장 중요하고 연관성 있는 정보에 집중하는 것을 말한다.(ex 중요한 단어에 동그라미 치고 밑줄쳐서 집중하는 느낌), 중요하다고 판단..

In [ ]:In [ ]:from IPython.core.display import display, HTMLdisplay(HTML("<style>.container {width:90% !important;}</style>"))In [ ]:# GPU는 무조건 T4라도 연결하고 사용하셔야 합니다!!!!!!!In [ ]:import tensorflow as tfIn [ ]:# 3차원 이미지를 대상으로 CNN구조를 만들 때!!!!# --> 집중의 대상은 2차원 사이즈 중심!!!# ( 뒤에 있는 채널에 대한 것들은 생략!!!!!--> 니가 알아서 연결)# ==> 필터의 수와 연동이 되니까...코드가 알아서 해주라!!!In [ ]:# 1) Conv2D 레이어에 대한 세팅!..

제안 : 전통적인 이미지 특징 + 인공 신경망 => Filter 시용해서 Feature Map 사용 풀링은 사이즈 이미지 사이즈만 바꾸는것 C3 : 6개 로 들어가고 / 이 3x3x6 짜리가  16개 있어야한다  피처맵 이후는 분류 네트워크 DNN Flatten 전까지는 필터를 통해서 이미지의 특정을 추출하자! 인공 신경망이 알아서 해주는거 아니야? No no 수치들을 뽑아내는거지 실제로는이미지의 특징을 추출해야한다.  콘벨루션이라는 연산을 활용해서 이미지의 특징을 추출  ConV / sampling 차원을 잘 봐야함    CNN- Convolution이란? -• Convolution• 두 함수를 곱해서 적분하는 연산• 함수 f에 다른 함수 g를 적용해서 새로운 f_new를 만들 때 사용.   CNN- ..