잡담연구소

오늘은 Sematic Segmentation 분야의 RefineNet 차례입니다. 이번엔 제가 발표를 맡게 되어서 ppt로 설명을 대체합니다. semantic segmentation은 저번 주에 설명했기 때문에 이번 주에는 설명하지 않습니다! semantic segmentation 각 픽셀에 대해서 classfication을 해줘야 하므로 논문에서는 pixel level dense prediction이라고 설명하고 있습니다. 논문을 수월하게 읽기위해 필요할 거 같아서 high-resolution , high-level등에 대해 간단하게 소개합니다. feature map의 size가 클 수록 해상도가 높다 즉 high resolution을 가지고 있다고 표현합니다. 반대로 size가 작을 수록 해상도가 낮..

이활석 마스터님과 박은정 마스터님 두 분과 각각 1시간씩 특강 & 마스터 세션을 가졌다. 와,,, 파파고 임원을 내가 살면서 만나볼 경험이 있을까? 라는 생각에 너무 감격스러웠다. 내가 잘 할 수 있는 것이 무엇일까? 내가 남들보다 어필할 수 있는 게 뭐가 있을까? 잘 모르겠다. 객관적으로 코딩을 나보다 잘하는 사람은 차고 넘친다. 수학통계학부 출신이라 주변 친구들보다 많이 알긴 하지만,,, 학교에 집중을 안했어서 지식이 얕다. 논문? 영어 독해를 썩 잘하지도 않고,,, 스터디를 했다고는 하지만 이정도 하는 사람은 차고 넘칠 거 같다. 수상? 없다. 최신 논문 구현? 지금은 어림도 없다. 되게 잘해가고 있다고 생각했는데, 오늘 마스터강의를 듣고 내 자신이 너무 한심해졌다. 그냥 막연하게 AI로 뚝-딱!하..

📌 정점 표현 학습 DAY24에서 봤던 변환식 정점 표현 학습의 문제점은 다음과 같았다. 학습이 진행된 이후 추가된 정점에 대해서는 임베딩을 얻을 수 없다.모든 정점에 대한 임베딩을 미리 계산하여 저장해두어야 한다.정점이 속성 정보를 가진 경우에 이를 활용할 수 없다. 변환식 정점 표현 학습이 만약 곰에게 생선을 주는 거라면 , 귀납식 정점 표현 학습은 곰에게 생선 잡는 방법을 알려주는 거다.귀납식 임베딩 방법은 입력으로 정점들을 넣어주었을 때, 출력으로 함수 역할을 하는 인코더를 얻는 방식이다. 그래프 구조와 정점의 부가정보를 활용하는 복잡한 함수인 Encoder를 만들어 변환식 정점 표현이 가지는 문제점을 해결하게 된다. 📌 그래프 신경망 구조 (Graph Neural Network) 그래프 신경망은..

교수님 추천 : arxiv.org/pdf/1901.00596.pdf👉 정리해놓은 거 : tootouch.github.io/research/gnn_summary/?fbclid=IwAR3Nvsfa6dfK__BGpGp4xoC4PlWM73geNm8GYTe2WR1ohxpLuazEpr10kz0Graph Neural Network 찍어먹기긴 글에 앞서 survey paper를 보고 정리하는 데 도움을 주신 DSBA 윤훈상 선배님께 무한한 감사의 말을 전합니다.tootouch.github.io 적용과 트렌드 : arxiv.org/pdf/2012.08752.pdf

DAY24 신기정 교수님 수업과 CS224W 내용 , Elior Cohen 의 글을 참고한 학습정리내용입니다. 정점 표현 학습 정점 표현 학습은 그래프의 정점들을 n차원의 벡터들로 표현하는 것으로 정점임베딩이라고도 한다. 우리가 아는 word embedding과 같다. word를 컴퓨터가 이해하기 편한 벡터로 만들어주는 것과 같이 정점을 벡터로 만들어주는 작업을 정점임베딩이라 하는 거다. 정점이 표현되는 벡터 공간을 임베딩 공간이라고 부른다. 정점 임베딩을 왜 할까? 그래프로 표현되어있으면 그래프에 맞는 특화된 알고리즘을 사용해야한다. MLP , K-MEANS 등은 벡터 형태로 된 instance들을 입력으로 받기 때문에 그래프는 사용할 수 없다. 하지만 정점임베딩을 통해 벡터로 만들어주면 기계학습 도구..

DAY23 ~ DAY24에 학습한 추천시스템을 기초부터 심화까지 학습정리한 내용입니다. - 신기정 교수님 강의 자료 - Mining Massive Datasets : www.youtube.com/channel/UC_Oao2FYkLAUlUVkBfze4jg/videos - MMDS PDF : www.mmds.org/mmds/v2.1/ch09-recsys1.pdf , www.mmds.org/mmds/v2.1/ch09-recsys2.pdf 📌 우리 주변의 추천 시스템 아마존의 상품추천, 넷플릭스의 영화추천, 유튜브의 영상 추천,페이스북의 친구 추천 등 많은 기업이 사용자 각각이 구매 혹은 선호할만한 상품을 추천해준다. 추천 시스템의 핵심은 사용자별 구매를 예측 혹은 선호를 추정하는 것이다. 이것을 그래프 관점에..