NVIDIA AI 工厂如何最大化投资回报:高产出、长寿命、通用性
NVIDIA 提出 AI 工厂回报取决于三个因素:每兆瓦产出、硬件使用寿命和需求广度。SemiAnalysis AgentX 数据显示,Vera Rubin NVL72 每兆瓦吞吐量比 GB300 NVL72 高 30 倍以上,在 DeepSeek V4 Pro 上每百万 token 成本最多低 45 倍。
NVIDIA 提出 AI 工厂回报取决于三个因素:每兆瓦产出、硬件使用寿命和需求广度。SemiAnalysis AgentX 数据显示,Vera Rubin NVL72 每兆瓦吞吐量比 GB300 NVL72 高 30 倍以上,在 DeepSeek V4 Pro 上每百万 token 成本最多低 45 倍。
HPE 提出,当 AI 从试验走向客服、IT、研究等常驻生产工作负载后,按 token 逐次消费的模式会让支出难以预测,企业需按工作负载测算"自持容量的盈亏平衡点"。Deloitte 2026 企业 AI 现状报告显示,2025 年员工 AI 访问率上升 5%,至少 40% 的 AI 项目进入生产的公司占比预计六个月内翻倍。做出资本决策后,还需靠采用、治理与持续扩展用例让容量保持产出。
GitHub Copilot 团队提出,chat 只是 LLM 的通用兜底界面,对明确任务应改用 canvas——一种运行在 GitHub Copilot 应用内、无浏览器外壳的全栈小应用,可与 agent 双向通信并在本地执行代码。
伯克利 EPIC Data Lab 提出,推理成本正快速趋近于零,GPT-4 级能力已从 2023 年初的约 $30/百万 token 降至不足 $1,部分厂商低于 $0.10。作者由此提出三类新挑战:为智能体重设计的数据系统、支撑成千上万智能体长期任务与共识的数据系统,以及由智能体直接合成、需可验证可信的数据系统。