首页 > 技术

新华三孙松儿:安全×AI,打造场景化安全新范式

2024-04-23 10:24:07      西盟科技资讯   


  AIGC的深入发展和快速普及,打开了智能世界广袤的想象空间,但在技术成果涌现之际,随之而来的模型安全、数据安全、内容安全问题也日益凸显,如何应对AIGC引发攻防范式转化的新趋势,如何规避数据和隐私泄露风险,有效保障内容生成的安全合规,正成为摆在行业面前的切实难题。

  近日,在紫光股份旗下新华三集团2024媒体与分析师沟通会上,新华三集团高级副总裁、新华三信息安全技术有限公司总裁孙松儿接受多家媒体专访,深入分享了新华三主动安全3.0在全面智能化升级、创新场景新范式以及全面国产化三大维度的能力进化,为强化AIGC数据安全治理,落实AIGC应用规范,推动业务安全防护带来了全新的解题思路。

新华三集团高级副总裁新华三信息安全技术有限公司总裁孙松儿

  安全×AI 提升安全能力正向循环

  对于AIGC为代表的大模型技术及其应用而言,发展和安全是一体两翼的统一整体,必须统筹规划、同步推进。孙松儿表示,新华三集团安全视角下的AIGC是基于“主动安全”理念,首先满足大模型应用的安全新需求,同时将AIGC作为新工具、新能力,赋能安全能力的提升,即“安全是保障AIGC实战的核心基石,AIGC是提升安全能力的最佳手段”。为实现AIGC发展与安全能力提升的正向循环,基于灵犀大模型的AI能力,新华三重磅打造灵犀助手,为安全体系建设、运营效率提升、业务持续发展注入更深层次的智能,并提出大模型安全合规与防护新思路——以灵犀卫士实现大模型安全防护,以灵犀助手实现大模型赋能安全。

  大模型自身的安全防护,贯穿从训练阶段到运行阶段的全过程,需要解决垂直领域大模型训练难点、大模型环境网络攻击风险以及大模型生成内容合规风险等诸多难题。其中,内容安全合规是大模型发展的第一要务,国家网信办发布的《生成式人工智能服务管理办法(征求意见稿)》中,着重强调了安全合规的重要性。面对AIGC内容安全要求,孙松儿认为应从输入侧、模型侧、输出侧三个层面着手,对违规信息进行过滤和规避。为此,新华三集团构建了完整的AIGC内容安全防护体系,通过Prompt审核与改写、生成内容过滤、红线知识库等方式,灵犀卫士可监测用户输入和生成内容,识别各类违规风险,全面保障内容合规,整体内容风险可下降近80%。

  在大模型赋能安全方面,孙松儿指出,安全大模型正在引发“效率革命”,为安全运营带来跨越式提升。以大模型技术打造的灵犀助手,现已全面内嵌到安全产品、管理平台及各类运营运维工具中,通过安全使能平台打通大模型和业务场景,在攻击研判、资产梳理、合规检查、智能预测等方面实现全方位的运营效率提升。比如在失陷事件研判中,通过AIGC辅助分析,研判效率可提升50%,在风险响应处置中,AIGC可根据训练经验直接给出准确的处置建议,快速生成处置报告,实现风险处置的事半功倍,让人力从繁杂的基础工作中解放出来。

  打造场景化新范式 赋能网络安全场景化落地

  从技术研发到实际应用,网络安全如何跨越实验室与产业链的鸿沟,在具体行业和场景中实现价值的实质性提升,是当前行业关注的焦点。对此,孙松儿表示,当下垂直行业的安全需求差异较大,需要建立场景化思维捕捉不同行业的实际安全需求,构建基于客户业务本身的场景化新范式。

  在场景化探索方面,新华三集团深耕车联网、数字政府、运营商等重点行业场景,为多场景业务打造按需交付的算网安融合解决方案,通过构建分布式安全资源池,借助SRv6弹性可编程、性能可度量、隔离有保障的优势,实现网络与安全服务的端到端业务链打通与安全编排,保障数据和业务的安全稳定运行。在车联网安全领域,新华三面向车路协同、车联网运营以及车联网人才培养场景,打造车联网安全解决方案,全面保障车联网端侧、路侧及云端安全。而围绕数据流转的全生命周期,新华三打造了基于AI的数据安全治理与运营平台,以大模型技术赋能数据分类分级、数据动态图谱及数据安全管理,实现数据流通的可感、可知、可管、可控。

  全面国产化 树立国产化安全新标杆

  此外,新华三集团全面深化安全产品体系及国产化布局,推出业内首个内嵌AIGC的旗舰防火墙产品,打造全面支持国产化的安全运营中心、数据安全治理中心以及云安全平台,树立国产化安全能力新标杆,40+安全原子能力全面适配国产化,包括主流的国产化操作系统及软硬件,全面保障终端、边界、应用以及数据安全。

  作为新质生产力的代表,AIGC是新一轮产业变革的核心引擎,网络安全则是护航AIGC行稳致远的基石底座。作为网络安全领域的领军企业,新华三集团将秉持“精耕务实,为时代赋智慧”的理念,持续推进“安全×AI”的技术创新和场景化应用,以网络安全和AIGC的双向赋能,助力百行百业在数字化转型之路上铿锵前行。

相关阅读