WAIC 2024|对话爱芯元智仇肖莘:智能芯片和多模态大模型已成AI时代的“黄金组合”

图灵汇官网

AI芯片与大模型的黄金组合

在7月5日的世界人工智能大会上,AI感知与边缘计算芯片领域的领军企业——爱芯元智发布了一款名为“爱芯通元AI处理器”的新品。这款处理器以算子指令集和数据流微架构为核心,具备高中低三档算力,已在智慧城市建设与辅助驾驶领域实现了规模化应用,并广泛应用于以文搜图、通用检测、以图生文、AI智能体等通用大模型产品之中。

在爱芯元智的展区,搭载了爱芯通元系列端侧芯片AX630C的设备,借助阿里云通义千问Qwen2.0大模型的支持,实现了流畅的人机对话体验;而AX650N芯片则与面壁智能的MiniCPM V2.0大模型结合,为端侧设备带来了AI模型驱动的图生文等生成式AI体验。

爱芯元智的创始人仇肖莘指出,智能芯片与多模态大模型构成了AI时代的“黄金组合”,随着大模型应用范围的不断扩展,对智能芯片提出了更高的要求,包括经济性、效率和环保性。芯片是否配备高效推理AI处理器,成为了决定大模型能否成功落地的关键因素。

爱芯元智自成立以来,已自主研发并量产了多种AI芯片,涵盖智能应用芯片、同轴高清发送与接收芯片、数模混合芯片及微控制单元芯片等领域。其业务聚焦于边缘侧与端侧市场,认为大模型大规模落地需要云边端三级的紧密协作,而边缘侧和端侧的关键在于AI计算与感知能力的融合,这也是爱芯元智的核心竞争力所在。

在对话中,仇肖莘提到,爱芯元智的芯片目前能够支持高达70亿个可训练参数的大模型部署,这一参数量级与苹果在手机上成功落地的30亿参数模型相呼应。他认为,未来的边缘侧和端侧设备芯片将主要支持30亿到70亿参数量级的大模型,70亿参数量级的性能更为优越。

爱芯元智的芯片架构特别适合AI推理任务,但并未涉足智算中心的建设。仇肖莘表示,尽管智算中心有训练和推理两大功能,爱芯元智当前的策略是专注于做好边缘侧和端侧市场,以满足海量的需求。车载芯片是爱芯元智的第二增长曲线,而边缘计算则是正在拓展的第三曲线,通过提供即插即用的AI加速卡、AI算力盒子和AI一体机等产品,为行业注入智能化动力。

具身智能领域一直是爱芯元智关注的重点,仇肖莘表示,公司正与客户合作,探索如何利用爱芯元智的AI芯片来推动具身智能产品的实现。尽管具身智能仍处于早期发展阶段,但芯片公司在这一领域需提前布局,积累技术经验,以便在产品成熟时推出专门的芯片解决方案。

端侧大模型的落地情况尚处于探索初期,预期最早落地的场景包括车辆、智能手机以及AI PC等。车辆作为需要实时响应的应用场景,如智能驾驶舱、人机交互等,成为AI Agent的典型应用领域。

面对激烈的自动驾驶市场竞争,仇肖莘强调了市场传导效应的存在,以及爱芯元智通过降本增效策略应对竞争。通过优化研发流程,利用平台技术共享资源,如人工智能图像信号处理器和神经网络处理器,爱芯元智能够提升功能安全等车载专用功能,从而在成本控制和技术创新之间找到平衡。

爱芯元智致力于打造具有平台化逻辑的芯片系列,力求一颗芯片覆盖多种产品形态,以适应碎片化市场的需求。通过抽象市场共性,实现芯片的通用性,从而覆盖更多应用场景,为公司创造盈利空间。感知视觉和AI技术成为诸多产品形态的必备要素,低功耗、高能效比也日益受到市场的重视。爱芯元智的目标是提炼共性,使一颗芯片能够服务于广泛的场景,以此实现商业价值的最大化。

本文来源: 互联网 文章作者: 普洛帝油液监测专家
    下一篇

导读:封面新闻记者 欧阳宏宇 AI的加入能让协同办公平台,从一个简单的沟通协作工具变为了一个智能化的平台。近日,钉钉CTO 程操红在上海表示,随着大模型成本的持续降低和AI技术的不断进步,协同办公平台