近一年以来，AIGC（生成式人工智能）技术火爆全球，越来越多的“黑科技”进入人们的生活之中，带来无数新奇的科技体验。与此同时，人们也忧心于愈加频发的高科技诈骗事件，万物皆可P、AI换脸、人声生成等拟真技术也导致了许多犯罪行为的发生。
面对AI引发的信任焦虑，中国信息通信研究院于近日主办了“聚焦·大模型时代AIGC新浪潮”论坛，围绕“多模态基础大模型的可信AI”这一热门议题开设专场分享。论坛分享中，深耕人工智能领域多年的合合信息展示了为AI可信化落地赋能的多项图像内容安全保护技术。
各类网络诈骗案件中，人们最难以区分真假的还属包含转账记录、隐私聊天记录、商业机密等重要信息的经过PS处理的截图。除了肉眼根本无法鉴别之外，在技术检测上，背景没有纹路和底色、没有光照差异的截图检测也比证照篡改检测难度更大。
合合信息AI图像篡改检测技术应用效果展示
早在2022年的世界人工智能大会上，合合信息就展示了其对证件图片篡改痕迹达到的“像素级”识别的“PS篡改检测”技术；今年，合合信息更是将该技术升级为“AI图像篡改检测”技术，能够识别截图中多种篡改方式留下的痕迹。
合合信息AI图像篡改检测技术基于深度学习的图像篡改检测技术及相关系统，通过学习图像被篡改后统计特征的变化，无论是“抠下”关键要素后移动“粘贴”至另一处的“复制移动”图片篡改手段，还是“擦除”“重打印”等方式，篡改过程中留下的细微痕迹都能被捕捉到，并以热力图的形式展示图像区域篡改地点。
此外，针对现有的视觉模型通常难以充分发掘原始图像和篡改图像的细粒度差异特征的难点，合合信息提出了一种基于HRNet的编码器－解码器结构的图像真实性鉴别模型，能够捕捉到细粒度的视觉差异，达到高精度鉴别效果。
除了图像篡改外，合合信息还在本次论坛中发布了针对以“AI换脸”等生成式图像诈骗手段开发的生成式图像鉴别技术。该技术基于空域与频域关系建模，避开了常规的穷举检测思路，利用多维度特征来分辨真实图片和生成式图片的细微差异，在反诈骗、版权保护等领域的应用空间十分广泛。
在这场隐形的AI技术安全保卫战中，合合信息利用自身技术优势为行业提供有效指引，以实际行动助力人工智能伦理规范和法律规范完善工作的推进。合合信息也期待更多研究机构、企业主体参与进来，共同推动AI服务规范性的整体提升和行业发展秩序的建立，助力科技向上而行，向善发展。
