2024-05-17 20:03:04 西盟科技资讯
5月17日，腾讯云在北京举办的生成式AI产业应用峰会上公布大模型研发、应用产品的系列进展。腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生表示，腾讯始终以“产业实用”作为发展大模型的核心战略，通过打造高性能的模型、高效率的工具平台、高敏捷的场景应用、高可用的算力基础设施，以及强安全的模型环境，构建离产业最近的AI。
围绕AI带来的全新安全挑战，腾讯云在会上发布了AI安全保护框架，以及全链路的内容安全解决方案和数据安全解决方案，护航企业拥抱生成式AI从模型训练、内容生成到事后运营全过程的安全建设，护航产业发展。
(腾讯安全总经理周斌在大会现场发表主题演讲)
攻防相长，AI重塑安全保护框架
生成式AI为许多行业的创新和发展提供了新的工具和视角，但其带来的安全威胁也让众多企业倍感担忧。相关研究数据显示，ChatGPT发布后，钓鱼邮件环比增长260%且平均语言复杂度提升17%，攻击者利用生成式AI增加的社会工程攻击量达135%，这些新风险均导致企业安全需求激增。根据普华永道调研显示，77%的CEO担心AI增加网络安全风险。
腾讯安全总经理周斌认为，AI和安全一直以来都在互相影响，尤其是在生成式 AI爆火以来，攻击方和防守方都在利用AI提升智能化水平。这个过程中，也会产生专属于大模型的新风险，尤其是AI本体安全，以及生成式AI“智能涌现”对数字内容、版权等方面的衍生安全冲击。
因此，防守方应重新建立AI本体安全、AI应用安全、AI内容安全的AI应用保护框架，覆盖AI从第一条数据训练到最终上线运营全过程安全。同时，企业还应提升安全体系的AI含量，让安全专家和机器协同作战，智能化应对安全威胁。
周斌表示，无论哪种技术的伴生安全，其实都需要多方协同。在企业拥抱生成式AI的过程中，以腾讯为代表的大模型建设方，需要保障AI本体安全;企业基于腾讯的大模型构建原生AI应用时，需要关注模型从开发、测试、部署到运行等完整生命周期内的应用安全，“同时，双方还需要携手共建AI内容安全防线”。
天御AIGC内容安全解决方案，已服务主流生成式AI应用
周斌认为，相比于其他技术和业态，生成式AI的特征是始终围绕“数据”和“内容”展开，每一条训练数据和生成内容，都在检验全套安全体系是否有效。其中内容安全不仅考验底线类的涉黄涉暴等违规内容，还要应对虚假信息泛滥、个人内容版权侵权、文化偏见歧视、伦理道德背离等全新挑战。
腾讯云对此打造了天御AIGC全链路的内容安全解决方案，提供包含审校服务、安全专家服务、机器审核服务、版权保护服务、客户体验管理五大服务体系，包含风险场景定义、风险语料库服务、语料版权检测、输出价值观检测、业务传播风险监测等能力，覆盖生成式AI应用从模型训练到内容生成到事后运营全过程的内容安全建设。
腾讯安全依托过去20多年的安全运营经验，积累了丰富的违规样本以及十几种定制识别服务，可以结合行业场景为企业的内容安全建设“量体裁衣”。腾讯云天御风控还和对象存储、云直播、云点播、实时音视频等云上工具打通，让企业在云上一次接入即可完成整套审核，效率大幅提升。
目前，腾讯云天御AIGC内容安全解决方案已在AI问答、数字人、创作助手、代码生成、娱乐社交、AI客服等各种场景中落地，覆盖主流生成式AI应用生态，护航各行各业内容安全。
全链路数据安全解决方案，实现99.99%敏感数据识别准确度
在内容合规要求外，生成式AI还面临数据安全风险，模型和数据都会成为潜在的攻击目标，数据类型多样及规模大也导致数据安全治理难度加大。相比于传统过滤掉有害数据的保护措施，生成式AI的“从无到有”的特性显著加剧了数据安全挑战。
因此，为防范数据安全问题造成的隐私侵犯、经济损失、法律责任、声誉损失等系列问题，需要对数据工程师、算法工程师等人员做好身份认证、数据访问控制以及操作管控，对数据做好防篡改、敏感数据去标识化、以及数据行为审计和异常监测。
腾讯云针对AIGC场景和数据特点开发，打造数据安全治理解决方案，通过对大模型的用户、实体、模型文件实施分级别的访问控制，实现权限分离。同时，腾讯云通过数据安全治理中心、数据安全防护网关、机密计算平台等产品能力，实现大模型业务全流程从数据采集、数据处理、训练、精调、发布、推理到应用的过程中，海量数据和大模型的完整性和保密性。
目前，该方案已实现99.99%敏感数据识别准确度，积累了超200种的数据分类以及300多个风险检测模型，能支持企业海量数据的敏感度识别和安全防护、审计溯源。
除此之外，周斌在发布会上还公布了腾讯云在安全运营、风控建模、漏洞修复等基于大模型赋能安全场景的探索，致力于帮助企业提升安全攻防效率。周斌表示，未来，腾讯云将基于领先技术让千行百业无惧安全威胁，安心拥抱AI，激发应用价值。
