景嘉微发布全国产 AI 加固服务器:预置 DeepSeek,开箱即用

图灵汇官网

图灵汇 2 月 16 日报道,国产 GPU 制造商景嘉微日前发布了预装 DeepSeek-R1 模型的全国产加固 AI 服务器。这款服务器号称拥有自主算力且开箱即用。

图灵汇还提供了设备的一些参数详情:

  • CPU:64至128核
  • 最高频率:2.6GHz
  • 算力:50至2000 TOPS
  • 内存容量:256GB
  • 显存容量:32至512GB
  • 存储容量:100TB
  • 结构尺寸:标准19英寸服务器,7U高度,深度400毫米
  • 支持模型:单机支持DeepSeek-R1 1.5B至70B蒸馏模型,最多支持200名用户同时在线
  • 操作系统:支持麒麟和openEuler操作系统
  • 集群支持:支持集群
  • 国产化率:100%国产

景嘉微官方表示,这款服务器完全采用国产化组件和元件自主研发,预装了国产DeepSeek-R1开源大模型,实现了从芯片级硬件到系统级软件的全程自主控制。

服务器内置DeepSeek-R1 1.5B至70B蒸馏模型,支持零配置启动大模型交互演示。开发者能够快速调用预装模型接口。

服务器单机最高可配备2000 TOPS算力和256GB高速显存。单机即可驱动最高70B蒸馏模型的推理,支持同时部署多个不同参数的DeepSeek-R1蒸馏模型,最高可支持200多名用户并发访问,适合千人团队使用场景。通过RoCE无损网络构建弹性算力集群,预留了千亿级参数模型的部署能力(兼容DeepSeek-R1 671B全参数版本)。

此外,这款服务器通过加固设计,内置冗余电源,具有抗震、电磁屏蔽、防潮、防尘和防腐蚀等特性,确保在特殊行业复杂环境下的稳定运行。

本文来源: 图灵汇 文章作者: 无颜说智能
    下一篇

仅通过强化学习,就能超越 DeepSeek!上海 AI Lab 提出了基于结果奖励的强化学习新范式 ——从 Qwen2.5-32B-Base 模型出发,仅通过微调和基于结果反馈的强化学习,在不蒸馏超大