2023-10-18 11:25:11 中华网
2023年10月14日上午，2023第六届双态IT乌镇用户大会两大主题峰会之一的“云原生和大模型革新IT生产力主题会议”成功举办。本次会议由ITSS分会、证券基金行业信息技术应用创新联盟指导，ITSS数据中心运营管理组(DCMG)、双态IT论坛、智能运维国标工作组主办，ITSS媒体组、AI范儿协办，共有来自金融、央国企等行业的500余人到场出席。
大模型时代已然来临!DCMG、双态IT论坛自2017年开始致力于推动IT生产力提升，历经七年，从最初的DevOps、微服务、容器到现在云原生技术的百花齐放。此轮技术范式已经实现了从概念认知到广泛的应用落地。以ChatGPT为代表的大模型，即将开启新一轮技术范式的跃迁!
在云原生时代，大模型和云原生如何协同革新IT生产力成为行业关注新焦点。为进一步促进IT生产力发展，加深行业交流，本次大会召开“云原生和大模型革新IT生产力主题会议”，重磅提出IT新质生产力公式，即：
IT新质生产力=(开发+测试+运维+安全)*(云原生+大模型)*信创
会议伊始，ITSS数据中心运营管理组组长肖建一代表主办方致欢迎词。肖建一表示，未来，以ChatGPT为代表大模型即将开展新一轮技术范式的跃进。正如刚刚开场视频中提到的：过去5年，云原生推动IT生产力发展，而未来5年，大模型将和云原生共同推动IT生产力发展。同时，对大会的召开表示祝贺，对出席大会的嘉宾表示衷心的感谢。
中国电子工业标准化技术协会执行秘书长朵晶表示，下一步希望ITSS数据中心运营管理组能够进一步推动更多的数据中心用户参与ITSS标准研制，应用标准，为产业转型升级和经济社会发展做出更大的贡献。同时，以ITSS标准为核心创建政产学研用五大主体联动机制，合理推动ITSS研制验证、转化、应用、改进、全生命周期标准化工作。实现在行业实践、人才培养、产品研发、业务赋能、能力建设等方面的价值。
行业&产业侧探讨云原生和大模型如何共同革新IT生产力
南方电网数字电网集团信息通信科技有限公司副总经理陈清明从数字化建设框架、技术路线、运维挑战、思考、探索、实践等方面介绍了南方电网在数字化运维领域的探索与实践。
陈清明指出，从技术方向来说，南方电网主要从“云化、微服务化”“应用架构中台化”“基础设施国产化”三个技术路线方向推进整体数字化转型建设工作。基于上述路线，主要面临资产、可观测性、稳定运行三方面的运维挑战，对此，南方电网公司从上到下采用一套安全运维管理体系;建立统一安全运维平台，实现全网一套平台、安全和运行一套平台。展望未来，陈清明表示，数字化运维的建设应当统筹运维业务的整体布局，整体运维体系建设对齐“四化”建设指引，做到运维流程标准化、运维操作自动化、运维决策智能化、运维业务数智化。
翰纬科技联合创始人陆培炜、复旦大学计算机科学技术学院副院长彭鑫、清华大学计算机系长聘副教授裴丹、公安部一所关保技术事业部副研究员李海威分别从开发、测试、运维、安全四方面分享IT大模型的认知框架。
翰纬科技联合创始人陆培炜指出，2022年10月，ChatGPT的出现引起业界广泛关注，相比包括内容生成、市场营销等在内的商业侧的热衷，包括代码生成、测试运力、运维日志、漏洞检测等在内的IT侧对AI大模型的应用还非常“冷静”。实际上，这种冷静背后孕育着一种IT生产力领域的变革。
复旦大学计算机科学技术学院副院长彭鑫从开发、测试两方面介绍IT大模型。
在大模型开发方面，彭鑫指出，未来大模型主要的发展方向是构建在大模型基础上的复杂软件开发支持能力。一种可行思路是在现有开发模式基础上加强数字化和知识化积累，利用大模型的记忆、理解和关联能力实现知识增强的代码数字孪生。关键问题包括如何使大模型理解复杂系统业务和技术上下文以及软件设计决策等;在大模型测试方面，大模型在大量代码、测试代码、自然语言语料进行训练，从而更高效地生成更接近开发者风格、正确性高的、重要的测试用例。与此同时，基于大模型的软件测试方法大量涌现。目前已有的基于大模型的测试方法主要集中于单元测试/接口测试阶段，所关注的软件类型有限，大模型的能力表现还有较大提升空间。未来，大模型将面向更多测试阶段和对象，大模型应用将进入更高层和复杂的测试应用领域。
清华大学计算机系长聘副教授裴丹从运维面临的问题与技术挑战、大语言模型的模型栈、运维大模型总体架构等方面介绍大模型的最新认知。
裴丹表示，运维数据本身既是多模态的，又是实时的，数据关系非常复杂，开发小模型的边际成本非常高。总结下来，面临的技术挑战有以下几方面：对错误容忍度比较低，判断对错、标注门槛高，结果必须可解释性强，支持知开销的私有部署，同时运维语料不足，私有语料质量数量更不足，大语言模型无法直接处理结构化、多模态数据等方面。尽管运维大模型面临非常多的挑战，但是有办法解决的。首先，通过模型分层方式，基于通识大语言模型建立懂运维大语言模型，在私有部署方面尽量做一些简化，减少对语料要求和推理的开销。其次，区分非结构化大模型。然后，通过检索融合本地的知识库，通过基础模型框架把这些都粘合在一起。整体而言，运维的大模型是大势所趋，前景可期，同时又是机遇和挑战并存。考虑到算法、算力、数据、场景等等各种问题，需要产学研用协同创新。
公安部一所关保技术事业部副研究员李海威解读大模型在信息安全方面的应用。
李海威指出，安全大模型发展依托1个数据统一管理运营平台，围绕5大赋能方向(检测，运营，开发，数据，攻击)发展安全大模型，构建“隐蔽线索发现能力”、“智能化安全运营能力”、“共同防御能力”，从而助力关基防护走向“高阶自智”。
陆培炜总结到，我们从理论和应用的层面对大模型在IT领域应用做了一些认知的解读，并做了大模型的IT领域赋能综述，为业界提供下一阶段规划和应用抓手。结合云原生，云原生在IT生产力方面提供了更多的灵活性和创新空间。云原生和大模型结合正在重新勾勒IT生产力的新的边界，云原生加大模型与IT四大领域结合，最终将形成IT新质生产力。
作为我国核心信息基础设施领军企业，中科曙光一直专注于高端计算、先进计算技术的研发与创新，积极布局存储、数据中心、云、人工智能等新兴基础设施建设领域，并在产业发展关键问题上取得了突破性成果。中科曙光智能计算产品事业部总工程师孟庆春带来《国产加速卡实现金融大模型创新》主题分享。
孟庆春指出，人工智能技术的飞速发展推动算力经济的发展。随着AI模型越来越复杂，参数量越来越大，训练算力需求的增长速度远超摩尔定律，同时不断攀升的巨额算力成本也给社会AI创新造成巨大负担。智能算力成为核心生产要素。金融领域因其特殊性，非常注重安全问题，同时对性能，对支持各类异构计算，包括对他本身隐私计算都有一定的要求。中科曙光本身立足于高性能计算，安全领域，做了很多关于异构计算，包括隐私计算方面的工作。大模型的国内算力呈现构建通用算力/模型支撑、非孤立存在、快速迭代演变、生态和市场壁垒的生态现状。在生态建设方面，中科曙光与与很多公司合作提供算力服务，主要用于人工智能能训练和推理、科学计算、通用CPU计算方面。
AI在不断发展，不断进化。从专注于某一具体任务的“小模型”进化成为可以同时处理多种任务的“大模型”，它对我们的思维、生活、工作和文化产生了深远的影响，同时，这个过程即是机遇也是挑战。中信银行软件开发中心副总经理冷炜带来《中信银行测试大模型探索与实践》主题分享。
冷炜介绍到，基于AI大模型技术和高质量的资产数据，中信银行在软件测试领域打造了私域测试大模型—“第二大脑”，探索软件测试生命周期多个环节辅助测试人员提升测试质量和效率。建设和优化“第二大脑”的过程分为三个阶段：第一阶段是数据的清洗和过滤。通过整理测试领域内所有结构化数据(例如测试过程数据、结果数据、历史数据等)和非结构化数据(例如文档、图片、视频等)形成知识语料库。经过数据初筛，再由数据专家进行进一步的数据精筛，得到可供大模型使用的高质量数据;第二阶段是数据编织。采用数据编织技术分层管理数据，由数据专家和测试业务专家共同标注标准形成规范，最后由测试专家针对不同语料归纳提示词。第三阶段是模型的监督微调训练。即让模型学习提示词的意图，按照不同的语料，生成不同私域场景模型，最后在测试知识语料库和大模型算法的基础上生成测试知识的向量库，经过不断调整和优化形成较为稳定、可靠的私域场景模型。此外，冷炜还介绍了大模型的三大重要支撑要素，即工具、资产和人才，他也强调人才是推动测试大模型未来进化的核心和关键。
中国工商银行软件开发中心云计算实验室研究员范威从痛点问题、企业级能力建设、建设规划等方面介绍了中国工商银行基于大模型的智能研发实践。
范威指出，近些年，随着大模型技术的不断发展，智能研发也迎来了新一轮技术革命，在代码补全、代码生成、单元测试生成等领域也涌现出一些成熟的应用。结合开发人员在实际编码过程中遇到的痛点和问题，工行积极推动智能研发能力建设，以大模型、AIGC等人工智能技术为基石，持续实现人工智能研发助手在智能代码生成、代码识别与检测、代码转自然语言和交互式研发等领域的全方位能力突破，构建基于大模型的智能研发体系，覆盖我行从需求、设计、编码、测试、发布的研发全生命周期，全面提升我行数智化研发水平，立足金融领域助力国内智能研发技术逐步走向成熟。目前，人工智能研发助手已经建设代码补全、代码生成、代码检索三大能力，并已面向中心开展试点推广工作。
范威表示，展望未来，工行会持续优化迭代人工智能研发助手能力体系，研究业界模型调优实践，通过定制化训练、Prompt工程，积累代码模型调优经验，持续迭代大模型版本，提升大模型的能力，从业界开源模型逐渐迭代为与行内研发体系贴合的定制化模型。
国金证券科技研发部总经理熊友根从监管政策、发展历程、探索路径、开发现状、选型思路、实践效果、推广等方面介绍了国金证券在开发大模型应用的探索与实践。
熊友根指出，大模型的特征有两个：大和模型。大模型的大主要体现在数据量大、参数规模大、算力大三个方面。特别是随着新技术的应用，所形成的算力集、算力池、算力湖、算力港等等算力中心，使得计算能力呈现几何级提升。在开发大模型选型上，国金证券的主要思路是对国内外主流开发大模型各项指标进行全面对比和分析，选择最适合现阶国金证券要求的产品，标的产品要能提供商用、满足私有化部署、支持企业级定制、支持个性化训练、支持主流开发工具、支持主流开发语言、安全合规等要求。在大模型的开发应用上，国金证券在工程师教育、模型能力、安全合规三方面都有不少经验。展望未来，熊友根表示，国金证券大模型的未来规划主要有三方面：一是围绕新的五年科技战略规划“融合业务、平台赋能，打造一流券商科技组织”的定位，以业务需求和客户需求为导向，用Ai赋能公司业务发展;二是拓展两方面大模型的应用，一方面是以AIGC、大语言模型为核心的交互式问答场景挖掘，另一方面是以证券行业专业领域为基础的AIGC算法探索;三是构建通过Open Api调用公有云服务的通用大模型、本地化部署的开源大模型和本地化部署的商业大模型。最后，熊友根以“未来已来，持续在不确定性中寻找确定性机会”作为整个演讲的结尾。
北京灵云数科信息技术有限公司CEO白应东带来《大模型赋能网络安全运营创新与实践》主题分享。ChatGTP的出现标志“强人工智能”时代的来临，大模型是继5G、大数据、互联网后的数智能时代的又一“新基建”，在加速产业的“数智化”转型升级中扮演着重要角色。大语言模型在复制和增强人类工作流方面具有显著的前倾，在网络安全产业升级中亦扮演着重要角色。
白应东表示，大模型给网络安全带来的底层逻辑改变，主要体现在三方面：一是大模型推理能力带来检测能力提升，即利用大模型的上下文理解能力，将人能够辨别的威胁、传统特征方式不好辨认的威胁识别出来;二是大模型推理能力带来安全运营成本的下降，其本质就是替换了需要高级安全专家才能执行的任务，大模型可以执行复杂任务;三是自然语言交互带来产品使用便利度的极度提升，即通过将大模型总结归纳、总结能力链接到传统安全设备，显著降低安全设备的运营难度。总结来说，整体的思路是场景为先，数据为王，解决大模型的瓶颈不是从0到1训练大模型。
在10月14日上午举办的“云原生和大模型革新IT生产力主题会议”上，除行业侧、产业侧等专家的主旨分享，还进行了信息技术服标准(ITSS)会议周方案介绍暨邀请仪式、ITSS分会专家委员会数据中心领域专家聘书颁发仪式、第一批ITSS智能运维团标评估证书颁发仪式、《云原生服务稳定性保障能力评价技术规范》标准发布以及数据中心业务连续性国标发布仪式。
信息技术服务标准(ITSS)会议周方案介绍暨邀请仪式
ITSS分会一直致力于加速推进我国信息技术服务标准化战略的实施，提升产业标准化水平,支撑数字中国落地，加速产业数字化转型，构建信息技术服务产业生态，定期举办ITSS会议周。2023年度ITSS会议周拟定于2023年11月14日-17日在扬州市举办。
本次会议上，我们邀请中国电子工业标准化技术协会执行秘书长朵晶，中国电机工程学会电力信息化专委会秘书长欧阳述嘉，上海市经信委副处长何炜，中国建设银行运营数据中心副主任杨晓勤，华安证券党委委员、首席信息官徐峰，海通期货CIO何铁军，中债金科上海数据中心总经理何积泰、南方电网数字电网集团信息通信科技有限公司副总经理陈清明上台共同启动信息技术服务标准(ITSS)会议周邀请仪式。
云原生成果集中发布
ITSS分会专家委员会(数据中心领域)专家聘书颁发仪式
随着云计算、大数据、物联网、人工智能等新技术的快速发展，数据中心作为金融行业数字化转型的底座，体现出越来越大的价值。为精细化信息技术服务领域，进一步做好数据中心领域相关工作，中国电子工业标准化技术协会信息技术服务(ITSS)分会设立ITSS分会专家委员会(数据中心领域)，邀请金融、电信、能源等行业数据中心运营管理专家，围绕数据中心标准研制、标准体系应用和推广等方面开展相关工作。
会议现场我们邀请中国电子工业标准化技术协会执行秘书长朵晶、ITSS数据中心运营管理组组长肖建一上台为上海上证数据服务有限责任公司杜建新、上海浦东发展银行铁锦程、中债金科信息技术有限公司何积泰、四川新网银行股份有限公司李秀生、海通证券股份有限公司罗秋清、国家电网有限公司信息通信分公司欧阳述嘉、中国民航信息集团有限公司夏华胜、申万宏源证券有限公司陈滨、南方电网数字电网集团有限公司吕华辉、国信证券股份有限公司杨阳、安信证券股份有限公司梁德汉颁发ITSS分会专家委员会(数据中心领域)专家聘书。
第一批ITSS智能运维团标评估证书颁发仪式
为发挥标准的支撑引领作用，推动银行、保险、证券、能源、运营商等各个行业运用标准化、规范化、科学化的方式构建智能运维体系，持续提升智能运维服务能力。中国电子工业标准化技术协会信息技术服务分会组织编写智能运维系列国家标准，其中通用要求团体标准(T/CESA 1172-2021)于2022年7月正式开启了智能运维通用要求标准的应用试点工作，中国建设银行、平安科技、光大银行、浦东发展银行、国泰君安证券五家单位率先开展了应用试点评估工作。
会议上，我们邀请中国电子工业标准化技术协会执行秘书长朵晶、ITSS数据中心运营管理组组长肖建一、上海市经信委副处长何炜、中国电子技术标准化研究院郭鑫伟为中国建设银行股份有限公司、平安科技(深圳)有限公司、中国光大银行股份有限公司、上海浦东发展银行股份有限公司、国泰君安证券股份有限公司颁发第一批ITSS智能运维团标评估证书。
《云原生服务稳定性保障能力评价技术规范》标准发布
随着云原生的普及，越来越多的行业用户开始将业务进行云原生化，基于云原生的技术可以提供更好的可观测性，跨平台管理和持续交付能力，作为数字化转型的服务基座，云原生不仅承担着稳定的重任，而且将以技术标准化，技术服务化的方式赋能行业用户。为此，中国计量科学研究院、中国质量认证中心、双态IT论坛和海通证券携手组织了《云原生服务稳定性保障能力评价技术规范》的编写。
会议现场，中国计量科学研究院沈庆飞、中国质量认证中心陈凯、海通证券股份有限公司罗秋清、中信银行股份有限公司闫鑫、中国邮政储蓄银行股份有限公司黄莺、中泰证券股份有限公司董红涛、太保科技有限公司丰隽玮、东方证券股份有限公司周浩波、南京云信达科技有限公司张兵、上海翰纬信息科技有限公司孙翊威共同发布《云原生服务稳定性保障能力评价技术规范》。
数据中心业务连续性国标发布仪式
随着各行各业数字化转型逐步深入，数据中心对提升全社会生产效率和全要素生产率作用越来越大，数据中心服务的中断不再是数据中心自己的事，而是将会成为一个系统性的社会风险, 数据中心安全生产成为总体国家安全观的重要组成部分。国标GB/T 42581-2023《信息技术服务 数据中心业务连续性等级评价准则》应运而生并将于2023年12月1日正式实施。基于上述标准，中国质量认证中心转化标准为认证实施方案，推出国内首个“数据中心业务连续性等级认证”项目，英文名称缩写DCBC;国标编写组组织相关核心成员编写《数据中心业务连续性评价规范白皮书》。
会议现场，中国电子工业标准化技术协会执行秘书长朵晶、中国计量科学研究院先进测量工程中心主任武彤、中国质量认证中心认证一部部长陈凯、ITSS数据中心运营管理组组长肖建一、太保金科云事业部总经理蔡健、同创永益副总裁郑星上台共同发布国标GB/T 42581-2023《信息技术服务 数据中心业务连续性等级评价准则》《数据中心业务连续性评价规范白皮书》，推出国内首个数据中心业务连续性等级认证。
圆满落幕
随着数字产业化基础不断坚实，产业数字化步伐持续加快，信息技术创新开始日新月异。中国电子工业标准化技术协会在提高电子信息产业标准化科学技术水平，促进电子信息产业标准化工作健康发展中，发挥着积极的作用。
ITSS数据中心运营管理工作组(DCMG)基于ITSS总结、制定和推广数据中心运营管理标准和实践，推动我国数据中心运营管理水平的提升。
在DCMG的指导下，双态IT论坛持续推动双态IT发展创新，致力于打造最完整的双态技术产业链。
此次大会，诸多优秀行业用户、权威专家与技术领袖，以主旨演讲、圆桌讨论等形式，向业界贡献了运维、大模型等领域发展过程中的宝贵经验。未来，ITSS分会、DCMG和双态IT论坛将持续推动双态IT发展创新，为更多的行业用户提供最具价值的实践参考。
