【江苏教育报6月24日】当AI生成虚假新闻、伪造明星海报、造假证件图片越来越逼真，肉眼几乎难以分辨，虚假信息传播、内容伪造、数据安全风险日益凸显，该靠什么来判断真假？近日，江南大学人工智能与计算机学院2022级人工智能专业本科生王心畅团队给出了自己的答案。
“我们不再问‘这张图哪里不对’，而是问‘扰动它一下，它会怎么反应’。”王心畅这样概括团队检测的核心思路。传统方法检测AI生成图像，大多依赖寻找像素瑕疵、频域异常等“外观破绽”。但随着生成技术不断升级，这些痕迹越来越隐蔽，检测效果大打折扣。王心畅所在团队跳出这一思路，转而关注图像的“行为反应”。
王心畅介绍，团队发现了一个有趣现象：真实图像在被施加微小扰动后，特征依然高度稳定，而AI生成图像哪怕只受到轻微扰动，特征就会明显漂移。“就像泰山崩于前而色不变，和稍微一碰就站不稳的区别。”王心畅说。这种差异被称为“鲁棒性非对称”。
基于这一关键发现，团队构建了鲁棒性非对称检测框架，让机器通过图像的“行为表现”而非“外貌特征”来区分真假。该框架的核心逻辑清晰而巧妙，首先通过差分鲁棒性探测，对图像施加人眼几乎无法察觉的结构化微小扰动，主动放大真实图像与生成图像之间的稳定性差异。然后，再利用多分支特征融合，从语义特征、特征漂移程度、像素级细微伪影三个维度同时捕捉线索，最后通过对比损失训练，进一步拉大二者在扰动下的表现差距。
实验结果显示，该检测框架在与14种主流AI生成模型、10多种现有检测方法的对比中，检测准确率最高提升5.61%，整体性能平均提升7.81%。即便图像被压缩或模糊处理，依然表现稳健。
“我们希望这项研究能真正服务于社会，帮助人们在AI时代重新建立对图像的信任。”王心畅说。目前，该论文与代码已全部开源，供全球科研人员使用。
本文来源：江苏教育报
原文链接：http://epaper.jsenews.com/Article/index/aid/9885111.html
