云天天书大模型：引领智慧政务新篇章

　　2023年11月16日,国家发展改革委等部门发布《关于再次推广借鉴深圳综合改革试点创新举措和典型经验的通知》,对深圳综合改革试点新一批22条经验进行全国推广。在改善民生、提高治理效能方面,“@深圳—民意速办”被列入推广经验之一。

　　目前,深圳围绕“建好一个平台、完善一张清单、建立一套标准、形成一系列机制”,深入推进民生诉求综合服务改革,取得了明显的成效。同时,深圳市有关部门也在持续加大力气抓智能化提升,探索人工智能技术在智能客服机器人、智能知识库等场景的应用,持续优化诉求办理环节、提升用户体验。

　　在此背景下,深圳市相关部门启动民生速办人工智能应用试点,鼓励优秀企业共同探索大模型在民生速办领域的应用。作为人工智能领军企业,云天励飞凭借自研大模型“云天天书”参与试点,并在试点中取得良好效果。

　　一条民生诉求是如何流转的?市民通过12345反馈诉求后,工作人员会将诉求整理成工单,分配到具体的责任部门,最后由相应工作人员回复或跟进,处理市民诉求。而有了大模型后,过去许多由人工处理的工作,都能够用机器替代,大幅提升民生诉求处理的效率。

　　基于“云天天书”大模型,云天励飞参与了“民意速办”智能打标、智能分拨、智能客服机器人、知识库服务四大场景的训练,在内部测试中,大幅提升业务处置效率,取得良好效果。

　　系统接到市民反馈的咨询、投诉、建议和求助后,大模型可根据内容自动为工单贴上相应标签,包括主体标签、对象标签、话题标签、地址标签、潜在情绪标签等;然后可自动对工单进行分类、聚档,根据责权清单,将工单分配给相应责任部门,减少贴标签和分拨工作对人工的依赖,提升工单流转效率。

　　对于市民的咨询,“云天天书”大模型可为智能客服机器人提供底层技术支撑,让智能客服机器人能够结合不同市民的关注点、表达方式等,给出千人千面的精准回复,优化市民的政务咨询体验。同时,云天励飞还能够提供知识库服务,利用大模型智能提取新政策、新文件内容,自动生成问答。智能机器人可基于不断更新的知识库,为市民提供专业、精准的回答。

　　“云天天书”大模型由云天励飞自主研发,包含通用大模型、行业大模型、场景大模型三个层级。云天励飞基于算法开发平台和算法芯片化平台,并通过海量高质量数据预训练生产通用大模型;在通用大模型基础上,引入高质量行业数据,生产行业大模型;再在行业大模型基础上,通过细分场景数据微调研发场景大模型。通过三级架构,实现大模型赋能千行百业。去年12月,“云天天书”已通过中央网信办备案。目前,围绕智慧政务领域,“云天天书”围绕民意速办、商事即办、公文智写、智能看数等多类数字政府场景展开探索及落地,为全面提升政务服务效率赋能。

　　除了自主研发大模型外,针对大模型在千行百业的落地,云天励飞还在去年推出了国内首创的国产14nm Chiplet大模型推理芯片DeepEdge10。该芯片内置自研新一代神经网络处理器NNP400T,通过D2D高速互联Chiplet技术、C2CMesh互联架构实现算力扩展,能够支持千亿级参数大模型,可广泛应用于AIoT边缘视频、移动机器人等场景。

　　人工智能已经全面进入大模型时代,大模型将成为重要的新质生产力。未来,云天励飞将持续加大大模型及芯片的研发力度,在更多行业和场景探索大模型的应用,用AI为各行业赋能。