自从一年前ChatGPT掀起了大语言模型的热潮,以通用人工智能(AGI)为目标,已经吸引了巨大的资金投入、人才投入,并涌现出了大批的先进大模型。语言类聊天应用只是一个开端,真正的驱动力,是对几乎所有行业带来的颠覆性机会。视觉、多模态成为刚需。
以微软、Google等等巨头为投资代表,在海量资金和算力加持下打造出的OpenAI 和 Gemini,在激烈地竞争未来的垄断地位。同时,各个行业都希望拥有适合自身的大模型解决方案,能够在企业内网,省钱省电的用上最新的AI大模型。针对垂直应用和产品的需求群体,他们最大的一个疑问就是:有没有合适的芯片和系统解决方案?
安霸的单芯片SoC已经可以顺畅运行多模态大模型的推理,比如LLaMA130亿参数的开源大语言模型,以及视觉-语言模型,比如LLaVA1.5。这将可以赋能很多垂直行业和应用,例如,使用自然语言进行互动的智能监控设备,本地(不上云)的通用智能服务,提升程序员生产力的Copilot(不必担心泄漏企业机密),人形机器人本机快速反馈机制,单车本地实现智能驾驶场景的端到端多模态大模型推理等等。
视觉处理,低功耗都是安霸的专长,非常契合大模型在多模态的接入和端到端低功耗运行的需求。大模型在安霸芯片上的应用可以推动更多产品和应用的快速发展,留给人工智能无限的想象空间。
(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )