图灵汇报道,天风国际分析师郭明于2月5日发布文章指出,随着DeepSeek的爆红,端侧AI技术的发展步伐显著加快。DeepSeek的流行不仅增加了英伟达H100的训练需求,还证明了优化训练方法能有效降低成本,从而刺激市场需求。这进一步彰显了CUDA生态系统的竞争优势。
根据郭明的分析,台积电和英伟达预计,到2026年,端侧AI将迎来迅猛增长。台积电在财报电话会议中表示,2026年将是端侧AI发展的关键时期,而英伟达则计划在2025年第四季度至2026年上半年推出其AI PC芯片N1X/N1。
DeepSeek的流行加速了端侧AI的发展。它不仅提高了英伟达H100的训练需求,还促进了本地大模型(LLM)的部署热潮。DeepSeek R1通过优化训练方法,显著提升了本地设备上中小型LLM的性能。用户对云端数据安全的担忧也进一步推动了这一趋势。预计未来将有更多类似DeepSeek的开源模型出现,从而促进本地LLM生态的发展。
当前,常见的本地DeepSeek部署方式包括使用LM Studio进行便捷部署,Ollama运行模型,以及通过4-bit/8-bit量化来降低显存需求,同时保持性能。模型规模涵盖了从15亿到700亿参数,硬件范围则从低端笔记本电脑到配备英伟达独立GPU的高端PC不等。
目前,本地DeepSeek部署仍处于起步阶段,对英伟达云端AI芯片的需求影响有限。但从长远来看,虽然终端计算可能会部分取代云计算,但它也可能带来新的云端需求,类似于H100。端侧AI和云端计算预计会同步增长,并最终形成一个融合的AI生态系统。
尽管长期来看云计算仍有增长潜力,但端侧AI的发展速度超出预期,可能会导致云计算增长短期内低于市场预期,进而影响投资情绪。未来,可能减少云计算增长不确定性的因素包括GB200 NVL72的成功量产,以及AI在机器人、自动驾驶和多模态领域中的商业化进展逐步明朗。
对于台积电和英伟达而言,台积电将继续受益于端侧AI的发展(主要得益于芯片升级),而英伟达在端侧AI市场的竞争压力将超过云计算市场,可能会影响短期投资信心。