2023-12-20 16:15:44 同花顺财经
自从一年前ChatGPT掀起了大语言模型的热潮,以通用人工智能(AGI)为目标,已经吸引了巨大的资金投入、人才投入,并涌现出了大批的先进大模型。语言类聊天应用只是一个开端,真正的驱动力,是对几乎所有行业带来的颠覆性机会。视觉、多模态成为刚需。
以微软、Google等等巨头为投资代表,在海量资金和算力加持下打造出的OpenAI 和 Gemini,在激烈地竞争未来的垄断地位。同时,各个行业都希望拥有适合自身的大模型解决方案,能够在企业内网,省钱省电的用上最新的AI大模型。针对垂直应用和产品的需求群体,他们最大的一个疑问就是:有没有合适的芯片和系统解决方案?
安霸的单芯片SoC已经可以顺畅运行多模态大模型的推理,比如LLaMA130亿参数的开源大语言模型,以及视觉-语言模型,比如LLaVA1.5。这将可以赋能很多垂直行业和应用,例如,使用自然语言进行互动的智能监控设备,本地(不上云)的通用智能服务,提升程序员生产力的Copilot(不必担心泄漏企业机密),人形机器人本机快速反馈机制,单车本地实现智能驾驶场景的端到端多模态大模型推理等等。
视觉处理,低功耗都是安霸的专长,非常契合大模型在多模态的接入和端到端低功耗运行的需求。大模型在安霸芯片上的应用可以推动更多产品和应用的快速发展,留给人工智能无限的想象空间。