自监督学习 (Self-Supervised Learning, SSL)
├── 生成式 (Generative) # 像素级重建:AutoEncoder, GAN, BigBiGAN
└── 判别式 (Discriminative)
├── 代理任务 (Pretext Tasks) # 旋转预测、拼图、相对位置
└── 对比学习 (Contrastive Learning)
├── 外部结构法
│ ├── Memory Bank # InstDisc, MoCo, PIRL(存储历史负样本)
│ └── 专用架构 # CPC (PixelCNN 上下文聚合), AMDIM (受限感受野)
└── 极简框架法
└── SimCLR # 仅用 Batch 内负样本 + 标准 ResNet
├── 强数据增强 (Crop + Color + Blur)
├── 非线性投影头 (Nonlinear Projection Head)
├── 大批次训练 (Large Batch, LARS)
└── NT-Xent 损失