新闻详情

AI的“iPhone 时刻”之后,英伟达新“核弹”为ChatGPT提速10倍

3月21日晚11点,英伟达首席执行官黄仁勋将OpenAI的ChatGPT称为人工智能的“iPhone时间”,并在该公司的春季GTC大会上宣告了专为其规划的推理GPU(图形处理器)。

除此之外,英伟达还发布了AI超级核算服务DGX Cloud、突破性的光刻核算库cuLitho、加快企业创立大模型和生成式AI的云服务NVIDIA AI Foundations等,以及与Quantum Machines协作推出了全球首个GPU加快量子核算体系。

其间最主要的是H100 NVL,它将英伟达的两个H100 GPU拼接在一起,以布置像 ChatGPT这样的大型言语模型(LLM)。“当时仅有能够实践处理ChatGPT的GPU是英伟达HGX A100。与前者比较,现在一台搭载四对H100和双NVLINK的规范服务器速度能快10倍,能够将大言语模型的处理本钱下降一个数量级。”黄仁勋说。

来历:

汹涌新闻

← 返回新闻列表