随着大模型行业的开源化和成本降低的趋势愈发明显,人工智能(AI)在终端设备上的应用再次成为市场热议的话题。在最近举办的人工智能终端产业发展研讨会上,中国工程院院士邬贺铨提到,云边端协同的大模型落地正在推动AI终端应用向前发展。作为用户端承载大模型部署的关键设备,AI终端不仅会加速智能化升级,还能自我进化,从而带动万亿级别的产业发展。
回顾过去四十年通信设备的发展历程,从3G开始,手机就从传统功能机迈向了智能机时代。到了5G、6G时代,通信技术已经进入了一个以AI为核心的全新阶段,各种带有AI功能的设备如AI手机、AI电脑等正逐渐普及。邬贺铨院士表示,这一切离不开大模型的实际应用。
具体来说,云端大模型主要处理复杂的全局任务,例如模型训练以及跨边缘节点的数据整合与优化工作;边缘大模型专注于实时推理和局部决策,并将重要数据反馈给云端;而终端侧的大模型则凭借其小巧灵活的特点,快速响应用户的即时需求,并筛选部分数据上传至边缘或云端。
“当通信设备向AI设备转型时,其内部结构也随之发生变化。虽然底层硬件没有太多改变,但计算单元已经从单一的CPU发展成了包含CPU+GPU/NPU等多种类型的混合单元。”邬贺铨提到,“此外,存储性能也显著提升,高端手机现在可以配备高达24GB的显存和1TB的存储容量。”
大模型的应用也让操作系统发生了巨大变化。它不仅要支持不同的计算框架,还需要合理分配计算资源并共享多个模型。这样的操作系统不仅能运行单一模型,还能管理多种智能体。未来,用户只需对着AI手机说一声“帮我买杯咖啡”,它便会根据你的习惯自动完成一系列操作,比如打开美团选择瑞幸咖啡下单,并通过微信或支付宝付款。而在工业场景中,工人只需发出指令,工业智能体便能依据学习到的习惯动作自动启动机器。
与传统智能设备相比,AI终端具有主动感知、多模态交互、智能化服务以及自主学习进化等四大核心能力,能够实现从感知到服务的全过程智能化升级。AI终端的形式也更加多样,无论是手机、电脑还是智能眼镜,甚至是机器人、自动驾驶汽车等都可以成为AI终端的一部分。
人机交互方式也在发生变化,从早期的图形界面转向语音界面,并最终进化为智能体界面,允许用户通过语音、触摸、手势等多种方式进行互动。应用程序的角色也将转变为后台支持工具,而非独立存在的实体。
内容呈现形式趋向多样化,用户提出问题时使用自然语言,而得到的答案可能是文字、图表甚至视频等形式。此外,内容生产方式也从单纯的搜索转变为用户自主创作,使得内容更具个性化。
通信连接方式变得更加灵活,支持多点连接和多种通信协议,还能够在离线状态下正常工作。最后,AI终端的服务范围覆盖了个人和企业两端,朝着更加无缝集成的方向迈进。
尽管前景光明,但AI终端的研发依然充满挑战。首先,行业内缺乏统一的技术标准,亟需建立涵盖模型接口、格式、通信协议等方面的标准体系。其次,终端设备的计算能力有限,芯片制造商需要与操作系统开发者紧密合作,实现软硬件的最佳配合。再者,操作系统需要更好地适应不同硬件平台,这可能涉及到对现有架构的重大调整。
数据的安全性和隐私保护也是一个重要议题,必须在利用数据的同时遵守相关法律法规。此外,终端侧的大模型还需在能耗与性能之间找到最佳平衡点。最后,由于AI终端高度依赖网络环境,因此对通信质量的要求也相应提高。
尽管面临诸多困难,邬贺铨院士相信,随着大模型的广泛应用,AI终端将极大丰富人们的日常生活,并催生出庞大的产业链条。数据显示,全球范围内AI手机和AI电脑的市场份额预计将持续快速增长,特别是在消费电子以外的其他领域,如工业、医疗等行业,AI终端的应用潜力同样巨大。