智东西内参|人工智能顶会真相!深度学习热度高,论文录取率创新低 | ai( 二 )


除了以上共同的研究热点,ICLR 与 ICML 都较多研究了深度学习中的对抗样本(Adversarial Examples)问题。ICLR 与 NeurIPS 会议论文都较多研究了深度学习中的卷积神经网络(Convolutional Neural Networks,CNN)算法。而 ICML和 NeurIPS 两个会议的论文都较多研究了贝叶斯优化 (Bayesian Optimization)、变分推断(Variational Inference)、高斯过程(Gaussian Process, GP)、主动学习(Active Learning)、在线学习(Online Learning)等技术点。
就单个会议而言,ICLR 会议论文还较多研究了学习表征(Learning Representations)、迁移学习(Transfer Learning)、无监督学习(UnsupervisedLearning)等方法。ICML 会议论文还涉及了少量的差分隐私(Differential Privacy)、非凸优化(Nonconvex Optimization)方法,以及结构化预测(Structured Prediction)问题;NeurIPS 会议论文还较多研究了样本复杂度(Sample Complexity)等问题。
机器学习三大顶会会议论文近年研究热点词云图
2、计算机视觉综合分析 CVPR、ECCV 两个计算机视觉领域顶级国际会议的研究点发现,目标检测(Object Detection)与语义分割(Semantic Segmentation)是计算机视觉领域近五年(2015-2020)的最热门研究点,相关论文量占比 8%。此外较热门的研究点还有行为识别(Action Recognition)、行人重识别(Person Re-Identification)、人体姿态估计(Human Pose Estimation)、图像分类(Image Classification)等问题,所采用的手段较多是深度学习(Deep Learning)及其代表算法之一卷积神经网络(Convolutional Neural Networks)等。
相对而言,CVPR 会议论文还较多研究了视觉问答(Visual Question Answering)、人脸识别(Face Recognition)等问题,以及生成式对抗网络(Generative Adversarial Networks)的模型算法;ECCV 会议论文还较多研究了人脸对齐(Face Alignment)、视频分类(Video Classification)、图像描述(ImageCaptioning)、无监督领域自适应(Unsupervised Domain Adaptation)等技术问题,以及无监督学习(Unsupervised Learning)方式。
计算机视觉顶会 CVPR 与 ECCV 会议论文近年研究热点词云图
3、自然语言处理综合分析自然语言处理领域两个国际顶会 ACL 和 EMNLP 的论文研究热点可知,神经机器翻译(Neural Machine Translation)在自然语言处理领域 2015-2020年的研究热度遥遥领先,其他较热的研究问题还有词嵌入(Word Embeddings)、智能问答(QuestionAnswering)、语义解析(Semantic Parsing)、实体识别(EntityRecognition)、文本分类(Text Classification)、关系抽取(Relation Extraction)、自然语言推理(Natural Language Inference)等技术点,较热门的研究对象是社会媒体(Social Media)。
除此之外,就单个会议而言,ACL 会议论文还较多研究了统计机器翻译(Statistical Machine Translation)、领域自适应(Domain Adaptation)、依存分析(Dependency Parsing)等问题,较热门的研究方法是深度学习(Deep Learning)以及深度学习之中的循环神经网络(Recurrent Neural Network)算法等。EMNLP会议论文还较多研究了包括语言模型(Language Modeling)、语义角色(Semantic Role)、语义分析(Semantic Analysis)等问题,方法较多是关于深度强化学习(DeepReinforcement Learning)的。
智东西内参|人工智能顶会真相!深度学习热度高,论文录取率创新低 | ai
文章插图
自然语言处理顶会 ACL 与 EMNLP 论文近年研究热点词云图
4、经典 AI 领域通过分析国际顶会 IJCAI 论文发现,经典 AI 领域 2015-2020 年会议论文之中最热门的研究技术点主要为强化学习(Reinforcement Learning)、深度学习(Deep Learning)及其中的卷积神经网络(Convolutional Neural Networks)与循环神经网络(Recurrent Neural Network)算法,以及迁移学习(Transfer Learning)等,较多涉及了问答集编程(Answer Set Programming)、词嵌入(Word Embeddings)、矩阵分解(Matrix factorization)等研究问题,而社交网络(Social Networks)是这些论文较热门的研究对象。