，
其中 ， 和分别表示query encoder和key momentum encoder的参数 ， ， 表示动量参数以调节更新速率 。 这样的方法一方面可以避免key encoder在训练时因需要计算梯度使字典大小被限制 ， 也可以避免memory bank方法中的键值低一致性问题 ， 保障了训练的稳定性 。
值得一提的是 ， 在实验过程中发现传统的batch normalization方法可能造成样本信息的泄露 ， 让数据样本意外地“看到了”其他样本 。 会使模型在自监督任务中更倾向于选择一个合适的batch normalization参数 ， 而不是学习一个比较好的特征表示 。
二. SimCLR
SimCLR 是一个非常简洁的自监督学习框架 。 没有建立类似MoCo的键值字典的方式 ， 而是直接在每个batch中的样本之间进行比较学习 。 对于个输入数据 ， 先使用两种不同的数据增强方法产生

• 集度汽车机器人概念车曝光，售价20万元以上，北京车展将亮相！
• 关机|人工智能拓展机器人的能力和功能，推动了机器对人的脑力劳动的替代
• 企业创新评测实验室|含着“金汤匙”出身的海康机器人 启动分拆上市后 能否再造一个海康？| 物流
• 机器人|人工智能越来越先进，未来这些职业或被取代
• 本文转自：视界网1月20日下午|地面整平机器人亮相！为重庆江北机场T3B航站楼建设提速
• 机器人|四轴和六轴机器人的区别是什么，看了就知道！
• 智能生产力|从“酷”到“实用”，猎户星空服务机器人上岗10000+家客户变身智能生产力
• spring|宾得的色彩很好，一机一镜配置真的很值得，性价比很高
• 家长|80后奶爸做榜样陪娃学习、一次性通过法考：孩子成绩稳居班级后半段
• 本文转自：大众网目前|神兽归笼家庭辅导又发愁？碳氧智能硬件解放家长双手让学习更有效率