対照学習（Contrastive Learning） とは？

同じものや似たもの（正例ペア）と、違うもの（負例ペア）を対照させるんだよ。例えば猫の画像を回転させたり色を変えたりした2枚は「同じ猫だから近くに」、猫と車の画像は「違うものだから遠くに」という具合に、特徴空間上での配置を学ぶんだ。

画像の場合は、同じ画像にランダムな切り抜き・回転・色変換などのデータ拡張を2回適用して、2つのビューを作るんだよ。この2つは「同じ画像の別の見方」だから正例ペアになる。他のすべての画像とのペアが負例になるんだ。SimCLRという手法がこのアプローチで有名だよ。

CLIPは画像とテキストのペアで対照学習をしているんだよ。「猫の写真」と「猫」という説明文は正例ペア、「猫の写真」と「車」という説明文は負例ペアとして学習する。これで画像とテキストの意味を同じ空間に配置できるようになって、テキストで画像を検索したりゼロショット分類ができるようになるんだ。

代表的なのはInfoNCE損失（NT-Xent損失とも呼ばれる）だよ。正例ペアの類似度を最大化しつつ、バッチ内の他のすべてのサンプルとの類似度を最小化する。直感的には「正解を1つ選ぶ多クラス分類」に似た形になるんだ。バッチサイズが大きいほど負例が増えて学習が安定するよ。

負例を使わない手法が注目されているよ。BYOLやSimSiamは正例ペアだけで学習できて、「全部同じ表現に潰れる」問題を巧みに回避しているんだ。また、DINOやDINOv2はViTと組み合わせて非常に高品質な視覚表現を獲得している。マルチモーダルAIの基盤技術として、対照学習の重要性はますます高まっているよ。