2023-08-01 17:18:49 搜狐
ChatGPT带火了一系列GPT产品，AIGC(AI generated content，生成式AI)技术逐步走向实用。ChatGPT的面世推动发展史走到了奇点，但不得不承认的是，同时也带来了风险和挑战。近期上海警方公布的一则诈骗案例，正是利用“AI P图”实施的诈骗，为各行各业都敲响了安全警钟。
“我们迫切需要重构信任，在技术上、制度上有效对抗AI虚假，建立防范AI操纵的防火墙，维护图像内容的安全与可信性”有专家呼吁道。
标准出台，助力新时代AI安全体系建设
为贯彻落实《中华人民共和国网络安全法》《生成式人工智能服务管理》等文件中对于AI服务的规范性要求，系统性建立图像内容安全行业发展秩序，中国信息通信研究院(以下简称“中国信通院”)启动了《文档图像篡改检测标准》制定工作。该项标准由中国信通院牵头，上海合合信息科技股份有限公司、中国图象图形学学会、中国科学技术大学等科技创新企业及知名学术机构联合编制。
《文档图像篡改检测标准》将为文档图像内容安全提供可靠保障，助力新时代AI安全体系建设。作为牵头方，中国信通院表示，《文档图像篡改检测标准》将基于产业现状，围绕“细粒度”视觉差异伪造图像鉴别、生成式图像判别、文档图像完整性保护等行业焦点议题，凝聚行业共识，以期为行业提供有效指引。
合合信息图像篡改检测技术解决行业难题
随着技术的发展和电子设备普及率的提升，人们修改图像的门槛变得越来越低，以往图像内容加工需要使用专业的软件，现在通过某些平台或者软件，动动手指即可产出一张虚假图片，数字图像的原始性和真实性面临严峻挑战。
据悉，合合信息研发了基于深度学习的图像篡改检测技术及相关系统，可检测出多种篡改形式，智能捕捉图像在篡改过程中留下的细微痕迹，并以热力图的形式展示图像区域篡改地点，相关技术已被应用于银行、保险等行业中。
合合信息图像篡改检测技术对户口本图片篡改痕迹进行定位
公开资料显示，合合信息专注于智能文档处理底层技术及应用产品的研究工作，相关技术在国际顶会ICPR、ICFHR 等十余项竞赛中获得冠军，并于CVPR、AAAI、ACL、ACM MM等国际顶会上发表。目前，公司已获得超百项自主知识产权发明专利，为全球超过200个国家和地区的上亿用户提供智能文字识别产品及AI服务。
