文察-综合察验重磅升级丨以AI治理AI：AI生成图像检测功能正式上线

在AI技术重塑科研范式的今天，国内外学术出版行业都面临前所未有的挑战与机遇。AI工具不仅能生成文本，亦能根据文字描述或样例图片生成论文中的各类插图。如2024年2月，西安市红会医院一篇发表于《细胞与发育生物学前沿》的论文因使用Midjourney生成插图发表3天后被紧急撤稿——实验大鼠长出四个睾丸、细胞信号传导图形似电路板等荒诞画面，彻底暴露了AI生成图像在科学性上的致命缺陷[1]。

对此，2025年各大出版社纷纷调整政策，在鼓励技术创新的同时严格防范学术不端风险：ICMJE（国际医学期刊编辑委员会）禁止在患者数据分析中使用AI推断工具，SPIE（国际光学工程学会）禁止使用生成式AI增项显微图像信噪比[2]，Springer Nature期刊表示无法将人工智能生成的图像和视频用于出版[3]，《学术出版中的AIGC使用边界指南2.0》中针对图表和图像生成也给出了详细的使用指导，其中提到“针对实验生成类图像必须由真实开展的实验研究获得，不可通过AIGC直接生成”[4]。

针对如何发现隐匿在学术论文中的AI生成图像这类需求，文察-综合察验正式推出AI生成图片检测功能，产品搭载学术图像生成式伪造检测算法，为学术界构建起抵御AIGC图像伪造的智能防线。

算法特点：

对学术论文中AIGC伪造图像问题提出融合扩散图像重建与伪迹对比的全新检测方法。该算法利用扩散模型对图像进行高保真重建，有效提取生成图像中的微弱伪造痕迹。检测过程高效精准，具备良好的泛化能力与鲁棒性，可支持当前多种主流AI大模型生成的学术图像的检测。

检测报告与置信度设置：

文察-综合察验的图像问题检测模块，在已有的篇内复用检测和库内复用检测后，增加“疑似AI生成图（BETA）”模块，用于展示送检论文中是否有小图被判断为使用AI大模型生成的图像，并给出置信度。

结果中：

1、85%<疑似AI生成可能性≤100%，算法认为极有可能是AI生成的

2、70%<疑似AI生成可能性≤85%，算法认为有一定风险是AI生成的

3、疑似AI生成可能性≤70%，算法认为不是AI生成的，不予输出

4、AI生成可能性仅表示具有该图有AI生成图的特征，并不断定一定是AI生成，结果主要用于辅助专家进行判断，请客观看待检测结果

目前万方文察-综合察验的一站式多要素综合检测可支持作者投稿前自查、辅助期刊编辑部的审稿、协助管理机构更好的管理机构成果，防范系统性学术不端风险。相信AI生成图像检测功能上线后，能够进一步服务好个人用户与机构客户开启学术图像的“数字验真”时代。

该文来源于公众号：科研与诚信