A SURVEY ON CONTRASTIVE SELF-SUPERVISED LEARNINGを読む

Inroduction

  • Self-supervised trainingつまり自己教師あり学習についてのサーベイ論文
  • self-supervised learning methods have integrated both generative and contrastive approaches
    • つまり自己教師あり学習は生成的か対照的かと言う手法によって分けられている
  • 表現学習という手法をかんがえるのだが、表現学習の場合、ラフなイメージがあれば十分であるということが脳科学の観点から示されている。

Methodology

  • 表現学習をするための手法はいくつかある
  • color transformation, geometric transformation, context-based tasks, and cross-modal based tasks.の4つ
  • 上の手法を用いえAugumented されたデータを