英伟达推出面向研究人员和学生的 Project Digits 个人 AI 超级计算机

1.8 借助GraceBlackwell架构,企业和研究人员可以在运行基于Linux的NvidiaDGX操作系统的本地ProjectDigits系统上对模型进行原型设计微调和测试,然后将其无缝部署在NvidiaDGXCloud加速云实例或数据中心基础设施上

NV00

Nvidia 的 Project Digits,基于 GB110


Nvidia 今天推出了 Nvidia Project Digits,这是一款个人 AI 超级计算机,可为全球的 AI 研究人员、数据科学家和学生提供 Nvidia Grace Blackwell 平台的强大功能。


Project Digits 采用新的 Nvidia GB10 Grace Blackwell 超级芯片,为原型设计、微调和运行大型 AI 模型提供 petaflop 的 AI 计算性能。该公司在本周于拉斯维加斯举行的大型科技贸易展 CES 2025 上发表首席执行官 Jensen Huang 的开幕主题演讲时宣布了这一消息。


借助 Project Digits,用户可以使用自己的桌面系统在模型上开发和运行推理,然后将模型无缝部署到加速的云或数据中心基础设施上。黄仁勋说,它基于“一种叫做 GB110 的超级秘密芯片,这是我们能制造的最小的 Blackwell”。


NV01
Nvidia 项目数字


“AI 将成为每个行业每个应用程序的主流。随着 Project Digits 的推出,Grace Blackwell 超级芯片走到了数百万开发人员的面前,“黄仁勋说。“将 AI 超级计算机放在每个数据科学家、AI 研究人员和学生的办公桌上,使他们能够参与并塑造 AI 时代。”


GB10 超级芯片提供 petaflop 的高能效 AI 性能


GB10 超级芯片是基于 Nvidia Grace Blackwell 架构的系统级芯片 (SoC)。它以 FP4 精度提供高达 1 petaflop 的 AI 性能。


GB10 采用 Nvidia Blackwell GPU,具有最新一代 CUDA 核心和第五代 Tensor 核心,通过 NVLink-C2C 芯片到芯片互连连接到高性能 Nvidia Grace CPU,其中包括 20 个采用 Arm 架构构建的节能核心。MediaTek 是基于 Arm 的 SoC 设计的市场领导者,合作设计了 GB10,为其提供一流的能效、性能和连接性做出了贡献。


GB10 超级芯片使 Project Digits 仅使用标准电源插座即可提供强大的性能。每个 Project Digits 都具有 128GB 的统一、一致的内存和高达 4TB 的 NVMe 存储。借助超级计算机,开发人员可以运行多达 2000 亿个参数的大型语言模型。此外,使用 Nvidia ConnectX 网络,两台 Project Digits AI 超级计算机可以链接运行多达 4050 亿个参数的模型。


Grace Blackwell AI 超级计算触手可及


NV02

这个晶圆上有 72 个 Blackwell 芯片


借助 Grace Blackwell 架构,企业和研究人员可以在运行基于 Linux 的 Nvidia DGX 操作系统的本地 Project Digits 系统上对模型进行原型设计、微调和测试,然后将其无缝部署在 Nvidia DGX Cloud、加速云实例或数据中心基础设施上。


这允许开发人员在 Project Digits 上对 AI 进行原型设计,然后使用相同的 Grace Blackwell 架构和 Nvidia AI Enterprise 软件平台在云或数据中心基础设施上进行扩展。


Project Digits 用户可以访问广泛的 Nvidia AI 软件库以进行实验和原型设计,包括 Nvidia NGC 目录和 Nvidia 开发者门户中提供的软件开发工具包、编排工具、框架和模型。开发人员可以使用Nvidia NeMo 框架微调模型,使用 Nvidia Rapids 库加速数据科学,并运行 PyTorch、Python 和 Jupyter 笔记本等常见框架。


要构建代理 AI 应用程序,用户还可以利用 Nvidia 蓝图和 Nvidia NIM 微服务,这些微服务可通过 Nvidia 开发人员计划进行研究、开发和测试。当 AI 应用程序准备好从实验环境迁移到生产环境时,Nvidia AI Enterprise 许可证可提供 Nvidia AI 软件的企业级安全性、支持和产品版本。


可用性


NV03

Project Digits 即将到来


Project Digits 将于 5 月从 Nvidia 和顶级合作伙伴处提供,起价为 3,000 美元。


“通过使 Llama 模型开源,我们致力于实现对尖端 AI 技术的普及。借助 Project Digits,开发人员可以在本地利用 Llama 的力量,为创新和协作解锁新的可能性,“Meta GenAI 负责人 Ahmad Al-Dahle 在一份声明中说。


“推进 AI 需要工具,使研究人员能够大规模、快速、精确地进行实验。Nvidia 的 Project Digits 代表了一次重大飞跃。我很高兴看到如此小巧的 128GB 如何推动企业 AI 的未来,“Salesforce 首席科学家 Silvio Savarese 在一份声明中说。


“在 Hugging Face,我们希望让开发人员轻松构建自己的 AI,”Hugging Face 产品主管 Je Boudier 在一份声明中说。“Nvidia 的 Project Digits 将使 AI 构建者能够在边缘构建和运行自己的 Gen AI 模型和系统。借助 128GB 的统一内存,AI 构建者可以在本地运行 200B 参数模型,并连接多个 Project Digits 系统以从那里进行扩展。我迫不及待地想看看 Hugging Face 社区将使用 Nvidia Project Digits 构建什么。


“Nvidia 的 Project Digits 是一款可以握在手心的强大工具。借助两个 Project Digits 单元,开发人员可以轻松处理最大 405B 参数的 AI 模型。我们迫不及待地想看到人们将用它构建的应用程序,“Ollama 的联合创始人 Michael Chiang 在一份声明中说。