机器之心专栏
机器之心编辑部
在一篇 CVPR 2023 论文中，来自 MIT 和谷歌的研究人员提出了一种全新的框架MAGE，同时在图像识别和生成两大任务上实现了 SOTA。
识别和生成是人工智慧领域中的两大核心任务，如果能将二者合并到一个统一的系统中，这两个任务应该能实现互补。事实上，在自然语言处理中，像 BERT [1] 这样的模型不仅能够生成高质量的文本，还能够提取文本中的特徵。
然而，在计算机视觉领域，目前的图像生成模型和识别模型大多是分开进行训练，没有充分利用这两个任务的协同作用。这主要是由於图像生成和图像识别的模型通常具有本质上的结构差异：图像生成的输入是低维度的特徵或杂讯，而输出是高维度的原始图像；与之相反，图像识别的输入是高维度的原始图像，而输出是低维度的特徵。
最近，来自 MIT 和 Google Research 的研究人员提出了一种基於图像语义符掩码的表徵学习方法，首次在一个统一的框架中实现了图像生成和表徵学习，并在多个数据集上取得了 SOTA 表现。研究论文已被 CVPR 2023 接收，相关代码与预训练模型已开源。
论文地址：https://arxiv.org/abs/2211.09117
代码地址：https://github.com/LTH14/mage
在 CVPR 2022 上，MAE [2] 提出了一种基於图像掩码（MIM）的表徵学习方法，并在多个子任务上取得了非常好的效果。在高达 75% 的掩码率下，MAE 可以重构出与原图语义十分贴合的图像，并藉此让网路能够自监督地学习图像中的特徵。然而，如图 1 所示， MAE 重建的图像虽然具有与原始图像相似的语义信息，但会出现严重的模糊与失真问题。类似的问题也出现在所有基於 MIM 的表徵学习方法中。同时，目前的生成模型，不管是扩散模型还是 GAN，都缺乏提取高质量图像特徵的能力。
图 1：MAE 与 MAGE 重构对比
方法概述
针对上述问题，本文作者提出了 MAGE（Masked Generative Encoder），首次实现了统一的图像生成和特徵提取模型。与MIM直接作用於图像的掩码方法不同，MAGE 提出了基於图像语义符的 masked image token modeling 方法。如图所示，MAGE 首先使用 VQGAN [3] 编码器将原始图像转换为离散的语义符。之後，MAGE 对其进行随机掩码，并使用基於 transformer 的 encoder-decoder 结构对掩码进行重构，重构後的语义符可以通过 VQGAN 解码器生成原始图像。通过在训练中使用不同的掩码率，MAGE 可以同时进行生成模型（接近 100% 掩码率）和表徵学习（50%-80% 掩码率）的训练。如图 1 所示，MAGE 重建出的图像不仅具有与原始图像一致的语义信息，还能够同时保证生成图像的多样性与真实性。
图 2：MAGE 结构图
实验结果
MAGE 在多个图像生成与图像识别任务上都达到或超过了 SOTA。
在 ImageNet 的无监督图像生成任务中，MAGE 的 FID 从之前的 > 20 降至 7.04，甚至达到了有监督图像生成的水准（有监督 Latent Diffusion 在 ImageNet 上的 FID 为 3.60）：
图3：MAGE 无监督图像生成样例
MAGE 还能够进行各类图像编辑工作，包括 image inpainting、outpainting、uncropping：
图 4：MAGE 图像编辑样例
在表徵学习方面，MAGE 在 ImageNet linear probing、少样本学习、迁移学习等任务中，相较於目前的 MIM 方法有了大幅提升，并且可以达到或超过目前最优的自监督学习方法的水平。
结语
本文旨在将图像生成与表徵学习统一起来。为此，本文作者提出了 MAGE，一种基於图像语义符掩码的自监督学习框架。该框架简洁、高效，并首次在图像生成和表徵学习上都达到或超越了 SOTA 的表现。感兴趣的读者可以查看论文原文，以了解更多研究细节。
参考文献：
[1] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. Bert: Pre-training of deep bidirectional transformers for language understanding. arXiv preprint arXiv:1810.04805, 2018.
[2] Kaiming He, Xinlei Chen, Saining Xie, Yanghao Li, Piotr Dollar, and Ross Girshick. Masked autoencoders are scalable ′ vision learners. In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition, pages 16000– 16009, 2022.
[3] Patrick Esser, Robin Rombach, and Bjorn Ommer. Taming transformers for high-resolution image synthesis. In Proceedings of the IEEE/CVF conference on computer vision and pattern recognition, pages 12873–12883, 2021.
喜欢这篇文章吗？立刻分享出去让更多人知道吧！
本站内容充实丰富，博大精深，小编精选每日热门资讯，随时更新，点击「抢先收到最新资讯」浏览吧！
请您继续阅读更多来自 机器之心Pro 的精彩文章:
※2023 AI 应届生，来种草小红书
※Nature给学术界立规矩：ChatGPT等大模型不可以成为作者