AI 부트캠프의 4번째 섹션 : 딥러닝을 배우다

이번 섹션에는 AI 부트캠프 과정의 핵심인 딥러닝을 배웠다.

딥러닝의 기초인 퍼셉트론, 경사 하강법, 역전파부터 자연어 처리, 최신 언어처리 모델들, 

컴퓨터 비전, 이미지처리 등의 과거를 배우고 현재를 엿볼 수 있었다.

번역 일을 하다보니, 번역기를 만드는 데 관심이 많아

Attention+GRU(2014), Transformer(2018), mT5(2020) 세 개의 딥러닝 모델을 이용해서 여러 데이터셋을 학습시키고, 

어떤 모델을 써야 가장 자연스러운지 알 수 있었다.

Attention을 사용한 인공 신경망 기계 번역 만들기(한->영)
Transformer를 사용한 인공 신경망 한영 번역기 코드 예제 실습 (Colab 버전)

딥러닝 프로젝트 4 : mT5 모델로 번역기 만들기

아쉬운 점은 코랩 프로를 써도 램이 종종 터지고, 학습시간이 오래 걸려 모두 같은 데이터셋으로 일치시키지 못했다는 점이다.

---

이번 섹션은 굉장히 어려웠고! 섹션 3 들어서 오 나 좀 잘하는듯... 싶었던 나를 정신 차리게 해 준 섹션이었다.

한참 부족하고 앞으로 열심히 배워야 하겠구나..^^... 싶어서 프로젝트가 끝나고 주말부터

카이스트 Idea Factory 채널의 딥러닝 홀로서기 강의를 정주행 중이다. 

회고 기간에 처음부터 다시 강의를 듣는 건 비효율적이라지만, 나는 개념을 다시 확실히 잡아야겠다 싶다.

이 회고 기간 뿐만이 아니라, 섹션 5 이후부터도 틈틈이 모든 것을 복습해야 앞으로의 면접에서 제대로 대답할 수 있을 것 같다. 지금은 당장 저번 주에 배운 걸 물어도 제대로 대답하기 힘든 상태니까. (사실... 그날 배운 것도....읍읍....)

하여, 섹션 마무리에 백지 노트로 개념 정리하는 것은 당장은 하지 못했다. 수업 들으면서 틈틈이 할까 싶긴 했지만... 일단 강의를 쭉 정주행 하고 싶었기 때문. 여러 번 보면 조금이라도 더 머리에 새겨지겠지..^.^

---

알고리즘, 자료구조 기초를 쌓기 위해서 CS50 강의를 수강하는 스터디를 3주째 이어가고 있다.

C언어 기반의 수업인데, 아직은 파이썬을 집중해서 배우고 있지만

내가 뜯어고치고 싶은 프로그램 하나(Subtitle Edit....)도 C 기반이기 때문에 배워두면 톡톡히 쓸 일이 있겠거니.. 하면서 코테 준비를 하면서 강의를 틈틈이 들었다. 

그리고 C언어 입문 파트를 아침에 끝냈다! 야호.. 앞으로 한동안은 배열, 알고리즘, 자료 구조라 C언어는 안녕일 듯하다.

---

당장 이번 주말에 코테가 2개인데, 하고 싶은 프로젝트가 생겨서 시간 분배를 잘해야 할 듯싶다. 

하고 싶은 프로젝트가 생기니 며칠 만에 설레서 아침부터 자료도 찾아보고, 논문도 찾아봤다.

그리고 열심히 신청서를 작성한 결과, 지원 프로젝트에서 뽑혔다!

앞으로 최대 600만원까지 지원이 나와서, AutoML, GCP 서비스를 맘껏 써보고 싶다.

모델은 CCTV 영상을 인식해서 이상행동을 탐지하고, 이상행동이 조건(3번 이상 등등..)을 만족할 시 경찰에 신고해주는 프로그램을 만들려 한다. 웹 백엔드/프론트엔드 팀원도 구했지만, 직접 Fastapi 기반으로 백엔드를 해보고 싶기도 하다. 같이 백엔드 해봐야지...!!!