论文|《自然》：解放编辑双手，AI审查图像造假、学术不端

文章插图
智东西（公众号：zhidxcom）
编译 | 程茜
编辑 | 李水青
智东西12月23日消息，本周二，国际权威期刊《自然》刊登了一项AI（人工智能）新成果，是一款用于论文审核的AI图像检测软件，它能帮助编辑人员审核生物学等论文中的造假图象、错放误放图片等。
在科技论文中，实验结果的准确性往往需要实验数据来证明。一些研究人员为了快速完成论文或验证自己的实验结果，可能会利用电脑生成虚假图片、捏造数据，或者使用旧数据来重复配图。如何更快更准确地发现论文中被修改和复制的图像一直是学术期刊编辑们的头等大事。
此前，在美国癌症研究协会（AACR）出版的十种期刊中，论文在发表之前都要经过一次不寻常的额外检查——审查文章中出现的图像。
自2021年1月起，AACR开始使用人工智能软件来重新审查其他同行评审后的手稿，除重复图片外，该软件还可以发现那些已被旋转、拉伸或利用电脑生成、修改的虚假图像。

文章插图
Proofig中对病毒粒子图片进行数字彩色透射电子显微镜（TEM）操作的示例，蓝线表示人工智能用以比较的数百个相同特征
一、成本低、效果好，仍需人工把关人工智能审查软件将是未来的发展趋势，AACR就是这项技术的早期采用者。无论是因为故意还是无意，为了避免在论文中发表被篡改过的图像，许多期刊聘请了人员手动扫描手稿中是否存在问题，然后使用审查软件来帮助检查他们发现的内容。
但《自然》杂志了解到，在过去的一年里，多家出版商开始自动化审查过程，依靠人工智能软件在稿件发表之前发现经复制和修改的图像。

文章插图
论文中的流式细胞图，存在完全一致的细胞最终落点。（图片来源为中国青年网）
宾夕法尼亚州费城协会期刊运营主管丹尼尔·埃万科（Daniel Evanko）称，AACR尝试了多种软件产品，然后才最终选择了以色列雷霍沃特（Rehovot）公司的人工智能检测软件Proofig的服务。“我们对此非常满意。”他补充道，他希望人工智能能够帮助研究人员审查，以减少发表后出现的问题。
值得注意的是，当人工智能软件标记图像时，仍然需要专业的编辑来决定要做什么。例如，如果同一个数据集在文中出现两次，但表示了不同的意义，那么重复的图像都需要保留。其次，由于手稿组装过程中的简单复制和粘贴错误，也会出现图像重复问题，但这是无意识发生的，并不是故意欺诈读者。在这之前，这些问题都只能通过编辑和作者之间的讨论来解决。
另外，现在人工智能变得足够有效且成本低廉，专家表示，自动图像检查助手可能会在未来几年席卷科学出版行业，就像使用软件检查抄袭在十年内成为常规一样。出版业团体还表示，他们正在探索比较不同期刊手稿中图像的方法。
其他检测图像完整性专家也认可这一发展趋势，不过他们认为，目前尚未对各种软件产品进行公开比较，并且自动检查可能会产生过多误报或遗漏某些图片的问题。
从长远来看，对软件筛选的依赖也可能会促使欺诈者使用人工智能来欺骗软件，就像一些人通过调整文本来逃避抄袭筛选一样。德国海德堡EMBO Reports期刊的主编伯纳德·普尔韦尔（Bernd Pulverer）说：“我担心我们正在与基于人工智能的技术进行军备竞赛，这可能导致深度伪造图像出现。”
二、不光用于重复检测，还能改善图片质量研究人员多年来一直在开发用于图像检查的人工智能软件，因为他们担心论文中的学术不端行为可能对科学文献造成破坏，而这将远远超过文章中出现问题后，撤回文章或更正声明所造成的破坏程度。