首页 > 技术

从智能体终端管控新规看:第一线DYXnet AI 安全方案,为私有化大模型划定可控边界

2026-11-18 12:15:17      西盟科技资讯   


  近期,工信部网站发布《工业和信息化部办公厅关于加强智能体终端设备进网管理的通知》(工信厅信管〔2026〕42 号)。文件监管对象为预置智能体的手机、平板、可穿戴设备,文中重点围绕权限调用、通信能力、网络与数据安全、用户权益和任务执行等维度提出管理方向。简单来说,就是给具备自主执行能力的 AI,建立清晰可落地的管控边界。

  智能体和一问一答式聊天机器人存在本质区别。通知里明确定义:智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统。它不只是被动回答问题,还可以自主调用工具、向外发起请求。能力延伸的同时,安全管控的范围也随之扩大。文件提到的风险评估、进网检测、智能体调用声明,核心都围绕几个核心问题:是否获得授权、可访问哪些资源、允许连接哪些外部地址、操作行为是否可追溯。

  AI 安全管控的核心,往往不在于模型参数本身,而在于完整的访问链路。身份核验、网关检测、访问白名单、调用日志审计,本身就是云网接入侧成熟的管控手段。沿着 AI 提问、交互、外联的全流程重新梳理这套管控能力,正是云网安服务商的价值所在。第一线 DYXnet AI 安全方案,同样从这条链路切入:无需改造模型本身,在接入、提问、外联三段分别构建防护能力。

  新规面向终端,管控思路可延伸至企业私有化大模型场景

  首先需要明确:这份通知的监管范围是智能体终端设备,并不直接约束企业内网部署的私有化大模型,二者不能混为一谈。但文件将权限调用、通信能力、网络与数据安全并列提出,恰好点出企业 AI 落地容易忽视的关键点 ——AI 安全不只是模型输出内容合规校验,还包含访问主体管控、数据读取范围、对外数据传输等环节。这已经不只是单纯的内容审核,而是访问控制、外联管理、日志审计协同的体系化工作。

  不少企业选择将大模型私有化部署在内网,供内部员工通过自然语言查询资料、梳理流程、调取业务数据,避免核心数据流向公有大模型。也正因如此,很多团队会默认内网就是安全保险箱。但只要 AI 需要对接业务系统、支持自主调用外部工具,安全边界就无法依靠单一防火墙守住。私有化部署解决的是数据归属问题,不等于自动配套完善的访问规则与内容检查机制。内网部署只回答了 “模型放在哪里”,却没有解决 “谁有权提问、提问内容是什么、数据会发送到何处” 的问题。对于企业 IT 团队而言,在访问链路上叠加管控规则,相较于在模型内部反复增加约束,多数场景下落地路径更可控。

  私有化大模型内网交互,三类风险需要重点审视

  私有化大模型在内网运行时,风险往往藏在日常交互的细节之中,主要集中在提问、应答、工具外联三个环节。

  提问入口:提示词注入、越狱类请求容易绕过传统防护

  攻击不一定依靠底层漏洞,部分风险会通过话术构造实现:调整对话角色、前置诱导条件,夹带违规请求;或是在普通文档中嵌入模型指令。这类提示词注入、越狱提问,针对的是 AI 意图,而非网络端口。传统防火墙聚焦网络连通管控,对 AI 对话内的提示注入、意图类风险识别能力有限,AI 入口侧容易形成管控缺口。

  应答输出:跨权限的内部敏感信息存在泄露隐患

  内部大模型通常对接多部门资料,包含未公开的定价口径、在研项目文档、客户联系方式等敏感数据。一次普通的汇总查询,就有可能带出超出当前使用者权限范围的信息。不少数据泄露事件并非源于网络攻破,而是在正常问答交互中发生。风险不在于使用者是否存在恶意,而在于敏感数据是否完成分级、是否建立独立于模型逻辑之外的权限隔离机制。

  工具外联:Function Call 自主调用,容易出现不受控外发

  这是最容易被忽略的一环:当模型遇到无法独立处理的任务时,会通过 Function Call 工具调用,主动请求第三方外部服务。如果缺少管控,请求会流向企业未审批的外部服务,内部业务数据也可能随之外传。这也是通知中将通信能力、网络与数据安全一并强调的原因:连接管控,不只是判断网络通断,更要管控访问目标、识别传输内容。

  三个环节环环相扣,需要统一管控:谁能够访问模型、提交了哪些提问、AI 自主向外发起了哪些调用。只防护其中一段,其余环节仍会存在管控缺口。

  三段式链路防护:身份、提问、外联分层管控

  沿着访问全链路,第一线 DYXnet AI 安全方案将三个环节匹配对应的防护能力,做到各司其职。

  接入环节:ZTNA 零信任,核验访问主体

  员工访问内部大模型前,先经过零信任客户端校验。系统基于人员、设备标签进行身份核验,仅允许授权人员、合规设备接入。这契合最小权限、身份先行的管控思路:先确认访问主体,后续的授权、审计、追溯才有可靠基础,跳出 “接入内网即可默认可信” 的传统信任逻辑。

  提问入向环节:SASE 网关,拦截异常请求并留存日志

  依托 SASE 网关实现入向安全防护:拦截接口批量爬虫、高频异常调用、恶意攻击请求;支持检测提示词注入、诱导越狱类风险话术,并可按预设安全策略执行拦截;设置接口访问频次上限,避免算力资源被无效消耗。每一条用户提问、工具调用请求都会留存日志,为后续事件复盘提供依据。

  出向外联环节:统一网关管控 Function Call 调用行为

  模型对外发起的工具调用,统一经由网关管控。设置外部服务白名单,不在清单内的访问目标直接阻断;识别请求载荷内的手机号、客户信息等敏感内容,触发拦截;基于历史访问基线识别调用频次、访问对象的异常变动,可按策略告警或执行处置。依靠白名单、出向内容检测、基线告警组合管控外联出口,无需修改模型本身的判断逻辑。

  整套防护部署在访问链路,无需改造大模型本身,尽可能降低对员工原有使用习惯的影响。这套管控逻辑,和本次新规所体现的权限管控、通信安全、可追溯的治理方向一致,帮助企业落地 “说得清、查得到” 的内部 AI 安全治理要求。

  搭建可运行的安全边界,支撑 AI 业务可控落地

  企业将大模型部署在内网,核心诉求是打通 AI 和业务流程,实现常态化使用。但 “可用” 和 “放心放开使用” 之间,需要一套清晰、可落地的运行边界。 通过身份、对话内容、外联调用的分层管控,安全风险可以依靠标准化规则识别和处置,帮助 IT 团队建立标准化运维流程,减少突发安全事件处置压力。

  从智能体终端进网新规,到行业持续讨论的可信 AI、最小权限原则,落到企业机房,核心始终是四件事:使用者身份、提问内容、外联访问目标、全链路行为留痕。落地可执行的管控规则,远比反复讨论 “内网是否绝对安全” 更有实际价值。 第一线 DYXnet AI 安全方案,将私有化大模型的访问、对话、对外工具调用纳入统一管控框架,让内部 AI 的使用有章可循。边界梳理清晰之后,有助于企业在可控框架下推进 AI 业务落地。

相关阅读

    无相关信息