云栖大会观察｜斑马智能AutoOmni 2.0，推理加速5-6倍、支持8路并发

　　9月22日云栖大会期间，斑马智能全模态端侧大模型AutoOmni 2.0-23B-A3B亮相。该模型采用MoE混合专家模型架构，在智能座舱场景，普通任务能力堪比10倍参数量云模型，复杂任务处理能力相当于10倍参数量云模型的90%。

　　“理解与生成一体化的多模态模型，是我们的重要研究方向。”阿里巴巴集团CEO吴泳铭在云栖大会主论坛上表示，一个足够聪明的大脑还不够，AI 还需要掌握感知和交互能力。未来，人们可以像跟人一样和 AI 交流，不必面对一个复杂的交互界面。

　　这一研究方向，在云栖大会现场已经落地为解决方案。云栖大会现场展示了采用该模型和端云一体Agent架构的实车方案，基于模糊意图、多任务的复杂导航、车控、多媒体，以及跨域任务，AutoOmni2.0都能够低时延、保隐私、稳定流畅的执行。

　　“23B端模型已经完成主流车载大算力芯片适配，支持8路以上多任务稳定并发，大模型推理加速5-6倍。”斑马智能首席技术官司罗表示，端AI开启交互新范式，从汽车到多端，迈向原生智能阶段。

　　据了解，端模型上车超过六成车企选择了斑马智能的AI方案。现场，全球首款基于高通8397平台搭载AutoOmni的实车Freelander神行者8亮相。