Pstage3 Day ? ] Develop your model!

📌 학습 내용 정리

 

오늘 강의는 내가 좋아하는 이론 수업이 아닌 실전 위주의 수업...💖

 

10일이란 시간 내에 새로운 모델 구조를 만드는 것은 어렵다!

Augmentation이나 Ensemble & TTA를 공략하자.

 

1. Augmentaton

• CutMix

Object Detection에 cutmix를 적용하는 게 가능하다고..? 놀랍다. 

근데 box가 없거나 box가 너무 작다거나 등의 문제점이 존재한다. 

예시 실습 코드를 보여주셨는데,,,, 이걸 mmdetection에 어떻게 적용하지....?

웬만한 건 이슈에 가면 다 있다.  -> https://github.com/open-mmlab/mmdetection/issues/1113 

근데 별로 구미는 안댕긴다;

이거 좀 진화 버전이 copy & paste라고 최근에 나온 논문 같은데 적용은 못하더라도 한 번 읽어보는 건 도움이 될 거 같다.

Can I do something like mixing up data · Issue #1113 · open-mmlab/mmdetection

 

• Mosaic 

이거 재밌어보인다! 

호야님 블로그를 보면 아래처럼 써있는데 batch size 4배가 되는 것과 비슷한 효과라는 거에 오오 150% 공감

기존 Batch Normalization에서는 작은 batch size를 사용하면 학습 안정성이 떨어져서 이를 개선하기 위해 Group Normalization, Switchable Normalization 등이 제안되었는데, Mosaic Augmentation을 이용하면 batch size가 4배 커지는 것과 비슷한 효과를 볼 수 있어서 작은 batch size를 사용해도 학습이 잘된다는 설명을 하고 있습니다.

mmdet에서 코드를 짜고 싶었지만,,, 방대한 라이브러리에 맞추는 것도 일이고, 그 정도의 코드실력도 안되기 때문에 찾아봤더니 누군가 PR을 날렸다,,,! 그 코드를 참고해서 좀 끄적거려보다가 prob이 추가되면 좋을 거 같아서 남의 PR에 코멘트를,,, 달아보았다 하하,,,, 이게 예의가 아니면 어쩌지

 

2. Ensemble & TTA 

• NMS, soft NMS는 아니까 PASS-
• Weighted Box Fusion

여기 엄청 설명이 잘되어있다. 

그냥 삭제하는 NMS 와는 다르게 BOX 들의 IOU가 threshold를 넘으면 가중치 곱을 한 후 합쳐준다. 

mmdetection에 어떻게 적용해주지,,,,? 맨 마지막 inference해줄 때만 넣어주면 되는건가???

 

---

📌 DetectroRS : HTC + ResNext101 

화난다.

---

📌 주말동안 할 거 정리하기 

1. 마스터님이 말씀 해주신 최근 열렸던 kaggle 대회 : 

https://www.kaggle.com/c/vinbigdata-chest-xray-abnormalities-detection/discussion/229724

주말동안 시간 내서 뭐 썼는지 확인하고, 적용해봐야지!

 

2. Yolo v4 논문인데 ablation study보고 참고할만한 거 얻어가기

https://hoya012.github.io/blog/yolov4/

 

3. CV 쓰기 

-> 핳 문영기 멘토님이랑 오랜만에 디엠 했는데 요새 좀 해이해졌는데, 다잡을 수 있는 기회가 된 듯하다.

 

4. detectoRS 파기 

 

---

학습정리를 안하니까 학습 목표를 안세우게 되고 확실히 공부를 게을리 하게 된다.

학습정리 울면서 8시간 하던 과거의 혜린이 어디갔는지,,,,,

부스트캠프에서 맨날 학습정리해라 회고해라 하는 게 드디어 5개월만에 이해가 됐다.