2024-08-22 15:38:43 中华网科技
科技日新月异,人工智能(AI)的广泛应用极大地便利了人们的日常生活。然而,正如硬币的另一面,AI同样孕育了新的安全威胁,其中AI诈骗尤为突出。多份国内外的调研报告均指出,近年来与AI相关的黑产活动有所增加。根据身份验证提供商Sumsub的年度报告,2022年至2023年间,全球多国与深度伪造相关的身份欺诈案件数量激增,菲律宾的诈骗企图同比增长高达4500%。
AI诈骗中的一种常见手法是声音合成技术,骗子通过录制电话等方式捕捉某人的声音,然后进行声音合成,以此伪造声音来欺骗他人。
拍拍贷作为金融科技领域的先锋企业,已掌握语音合成、语音识别和声纹识别等技术,并将其应用于金融业务中,为风险管理和辅助分析提供强有力的支持。为应对虚假语音的挑战,拍拍贷还启动了全球人工智能算法大赛,吸引全球人工智能领域的专家和爱好者共同探索解决方案,旨在共同攻克语音深度鉴伪的技术难题。
传统的声音识别方法在面对由大模型生成的虚假语音时显得力不从心,因为这些方法在处理大量数据时可能会忽略细节。而大模型则能够更精细地捕捉虚假语音的特征。拍拍贷认识到这一点,并持续构建真假语音数据集,积累黑产数据库,通过迭代大模型来提升反黑产和反欺诈的能力。
在金融科技领域,语音鉴伪技术的发展更是不能脱离实际应用场景。拍拍贷与上海、福建等地的公安系统展开合作,共享黑产数据库,以辅助识别和打击黑产活动。此外,拍拍贷已经在海外部署了假脸、假证件识别技术,以及声纹识别算法,将这些技术嵌入到APP中,结合人脸识别等AI技术,有效识别非法冒用者,辅助风险管理团队进行决策。
拍拍贷算法科学家吕强曾表示,“大模型时代并不只有矛而没有盾。‘’我们希望利用虚假语音的识别模型提高‘盾’的能力,从而提高数据安全,保护用户隐私。”