자연어 처리의 end-to-end를 확인하고 싶어 Pstage2는 KLUE를 선택했다.
해보고 적성에 맞으면 기계독해, 아니면 이미지 검출을 할 생각인데,,,,1일차의 느낌으로는 이미지 검출로 갈 거 같다..ㅎ
Overview를 보고 대충 계획을 잡으려고 습관을 들이려는 중인데, NLP는 처음이니까 앞서나가기보다 교수님이 시키시는 거 꼬박꼬박하기로 마음먹었다.
5일차 TASK부터 시작하는 걸로 설계하셨다고 해서, 5일차 이전까지 다른 일 + 강의 마스터 이렇게 계획했다.
강의 요약
대부분의 자연어 처리는 '분류'의 문제다. (의미분석 , 구문 분석 ,감정 분석, 형태소 분석, 개체명 인식)
분류를 위해! N차원 위의 한 점으로 표현하기 위해! 자연어를 벡터화해야한다.
word embedding => 동형어, 다의어 성능이 좋지 못하다.
주변 단어를 통해 학습이 이뤄지기 때문에 문맥을 파악할 수 없다
주변 문맥을 이해할 수 있는 언어모델의 등장!
'Naver Ai Boostcamp' 카테고리의 다른 글
| [4/15] BERT 언어 모델 (2) + 나만의 BERT 만들기 (0) | 2021.04.16 |
|---|---|
| [04/14] BERT 언어 모델 (1) (0) | 2021.04.14 |
| [04/02] More... (0) | 2021.04.03 |
| [03/31] Model (0) | 2021.03.31 |
| [03/30] Data Feeding (0) | 2021.03.31 |