清华SIGS多篇论文入选NeurIPS2021 近日

近日，我院信息科学与技术学部夏树涛/江勇教授团队、王好谦教授团队和袁春副研究员团队的4篇论文被机器学习领域国际顶级会议神经信息处理系统大会（NeuralInformationProcessingSystems,NeurlPS)2021接收。
《对抗鲁棒模型的聚类现象》（ClusteringEffectofAdversarialRobustModels）
作者：2017级计算机科学与技术专业博士生白杨（指导老师：江勇）、2019级计算机技术专业硕士生严欣（指导老师：夏树涛）

文章图片
白杨（左）、严欣（右）
该论文通过系统地分析基于对抗训练的对抗鲁棒模型和通过标准训练的非鲁棒模型在其线性子网络上的统计规律，在对抗鲁棒模型中发现了一个有趣的层次聚类现象。基于此，研究团队提出了一种对对抗鲁棒性的新颖理解，并将其应用于更多任务，包括鲁棒性提升和域适应。

文章图片
基于CIFAR-10数据集训练的VGG-16模型的关联矩阵图：图（a）'STD'代表非鲁棒模型，图（b）'AT'代表对抗鲁棒模型，图（c）'AT+C'代表运用层级聚类的对抗鲁棒模型,图（d）展示CIFAR-10数据集的分层标签
随着对对抗样本的进一步研究，对抗鲁棒性越来越受到关注。对抗鲁棒模型和非鲁棒模型相比，对抗鲁棒模型通过将对抗样本加入到神经网络模型训练中以增强模型的鲁棒性。现有的工作表明，对抗鲁棒模型不仅在对抗性攻击评估下表现出色，并有助于提高一些下游任务的性能，但对于对抗鲁棒模型底层机制的理解仍不明晰。为了探究对抗鲁棒模型和非鲁棒模型的差异，研究团队提取神经网络的线性子网络（指的是在原网络的基础上去除掉批处理（BN）、激活层(RELU) ，使用平均池化层代替最大值池化层）来探究整个网络的数据特性。研究发现，对于对抗鲁棒模型和非鲁棒模型，对抗鲁棒模型表现出明显的权重层级聚类现象。基于这些观察，团队提出了一种插入式层次聚类训练策略，进一步增强对抗鲁棒模型的鲁棒性。同时，他们也探究了一些有趣的对抗性攻击现象：除了与对抗性相关的研究外，团队还通过对层次聚类的理解进一步探索了一些下游任务，如域适应。实验结果表明，在多个公开数据集中对抗鲁棒模型学习的聚类效果和层次分类有利于域适应任务。
《基于像素级噪声感知的对抗训练学习生成逼真的噪声图像》（LearningtoGenerateRealisticNoisyImagesviaPixel-levelNoise-awareAdversarialTraining）
作者：2020级人工智能项目硕士生蔡元昊（指导老师：王好谦）

文章图片
蔡元昊
该论文基于真实噪声场景定义一个像素级的噪声模型提出图像去噪方法，并提出了一个噪声可感知的对抗生成网络。

文章图片
方法框架
图像去噪任务主要是将单张带噪点的给定图像的噪声去除。相机或智能手机在捕获图像的过程中不可避免地会引入噪声，这些噪声的存在严重降低图像质量，使其视觉效果变差，同时严重影响下游识别、检测、分割算法的性能。因此，图像去噪任务便显得尤为重要。传统去噪方法大多基于手工设计的图像先验或者数学假设，这类算法的表征能力和泛化性能较差。随着卷积神经网络的发展，图像去噪任务的主流方法逐渐被深度学习占领。然而，深度学习需要大量的噪声-干净图像对，通过摄像设备获取干净图像的过程费时费力，通常是对同一场景连续拍摄上百张图像之后取均值来获得干净图像。在拍摄过程中如果存在抖动、场景变化、光照条件改变等，还会导致捕获的干净图像质量受损，因此基于深度学习的图像去噪算法面临着十分严峻的数据短缺问题。为解决这一个数据短缺问题，团队提出了PNGAN方法，该方法大致分为三个阶段：第一阶段是噪声的合成，分两种设置，一种设置就是高斯噪声，另一种设置是泊松-高斯噪声；第二阶段是对抗生成网络的训练，利用一个预训练好的去噪网络作为正则化器来辅助生成网络与像素级判别器的对抗训练；第三阶段是微调阶段，在把第二阶段的生成器训练好之后，用其在高清数据上生成噪点，创造出更多的噪声-干净数据对，将这些数据对加入去噪网络训练的数据池当中，以提升去噪模型的性能与泛化性。