人工智能正在深刻地改变世界。从多维度出发,它不仅在基础设施层面、业务应用层面、交互模式层面、数据价值层面以及生态系统层面引发变革,而且推动了全球科技产业的革新。
2023年6月,英伟达市值首次突破万亿美元,标志着基础设施重构的全球化进程正式开启。随着数据中心转向智算中心,硬件基础设施从通用算力转向AI算力,软件基础设施也随之演进,转变为以AI操作系统(AIOS)平台为核心的新一代AI基础设施。
AIOS平台是专为AI应用设计的操作系统平台,旨在高效管理硬件算力资源,内置AI引擎以解耦不同模型、调度不同算力,执行各种AI任务,并通过自服务运营模式降低AI应用门槛,提高应用效率。平台需在安全可控、持续迭代的基础上,实现算力层、模型层、运营层的全面重构:
为了应对企业AI的复杂性与挑战,云轴科技ZStack推出了首个AIOS平台“智塔”,旨在通过解耦算力竖井和模型竖井,优化AI应用性能与成本,从而解锁千亿级企业AI市场潜力。
针对AI算力资源的稀缺与成本问题,智塔平台通过裸金属、虚拟机与容器多引擎能力,实现GPU切割精分量化,降低算力成本。同时,通过分布式协同调度,实现异构算力的统一管理和动态调度,提升算力资源的复用效率。
在模型层,智塔平台集成模型框架,支持多个模型协同工作,实现模型选型、优化与调度,显著提升AI任务的执行效率。这不仅加速了AI模型的训练与推理过程,还优化了整体AI应用的性能。
在运营层,智塔平台提供可视化统一视图,实现精细化管理,同时具备跨平台的自动扩缩功能与快速故障自愈能力,确保系统的稳定运行。此外,平台融合敏感数据检测能力,保障数据安全。
新一代AI基础设施AIOS平台的崛起,不仅改变了传统IT架构,也为AI应用提供了更为高效、低成本的解决方案。通过“智塔”平台,企业能够更好地应对AI应用的复杂性与挑战,加速AI技术的普及与商业化进程,从而在全球化的AI浪潮中占据有利地位。