对同一图像的不同剪裁提取全局语义 ， 实际上学到的是原始图像中主体对象的特征 ， 正因如此 ， 同一图像的不同剪裁之间才可能相似 。 在监督预训练中 ， 受到图像分类标签的约束 ， 网络学习到的也是图像主体区域的特征 ， 这和对比学习学到的知识有很大的相似之处 ， 因此在下游任务表现类似 。
3.5MIM和对比学习的区别
【自监督学习新范式CAE：为什么 MIM 比对比学习更适合下游任务？】MIM方法(例如CAE)基于可见patch的表征 ， 对掩码patch区域做预测 。 在做随机掩码时 ， 图像的每个patch(例如背景区域的对象/stuff)都有可能被考虑到 ， 而不仅仅是图像的主体区域 。 为了做好掩码patch的预测 ， CAE会学好每个patch的表征 。

• 天猫更名转自营？无可能，更无必要
• 无人驾驶|“华为的自动驾驶比特斯拉好很多。”绝不可能！网易论坛炸锅了
• 本文转自：新民网图说：基于北斗的精准时空雪上运动智慧服务系统 来源/采访对象提供2022...|地上运动“参北斗”高精度“导航”冬奥会
• 本文转自：安阳新闻网资料图安阳融媒记者 牛思明记者2月17日从市工信部门获悉|猎鹰PDFRE消防无人机系统获省首台（套）重大技术装备认定
• 本文转自：不止于声上线宣传首日领券数量破3000|“974缤纷玩具节”——IP共创打造领券狂欢！
• vivo|自研技术加持，vivo系列手机全面升级，创新技术带来更好表现
• 自媒体|新手如何通过自媒体进行创业
• 百度(BIDU.US)跌超3%，此前宣布“萝卜快跑”自动驾驶出行服务正式落地深圳|美股异动 | 美股
• 本文转自：鲁南网广东广州。|女子网购外套，买到员工穿过的衣服却不给换，一摸口袋赚了！
• 本文转自：北京晚报自2022年1月开业后|新疆首家人工智能体验餐厅！普渡机器人鼎力加持