NVIDIA AI 工厂如何实现高产出、长寿命与通用性以最大化投资回报
NVIDIA 提出 AI 工厂投资回报由三要素决定:每兆瓦产出能力、硬件使用寿命和 token 需求。SemiAnalysis AgentX 数据显示,Vera Rubin NVL72 每兆瓦吞吐量超 GB300 NVL72 的 30 倍,在 DeepSeek V4 Pro 上每百万 token 成本低至 45 倍。
NVIDIA 提出 AI 工厂投资回报由三要素决定:每兆瓦产出能力、硬件使用寿命和 token 需求。SemiAnalysis AgentX 数据显示,Vera Rubin NVL72 每兆瓦吞吐量超 GB300 NVL72 的 30 倍,在 DeepSeek V4 Pro 上每百万 token 成本低至 45 倍。
HPE 提出,当 AI 从试验走向客服、IT、研究等常驻生产负载,按 token 消费的模式会让支出变成难以预测的月度变动项,企业需评估自有算力的盈亏平衡点。Deloitte 2026 企业 AI 报告显示,2025 年员工 AI 使用率上升 5%,至少 40% 的 AI 项目进入生产的公司比例预计在六个月内翻倍。
GitHub Copilot 提出 canvas 概念,即在 GitHub Copilot app 内运行的无浏览器外壳全栈应用,可与 agent 双向通信,也能调用第三方 API 并在本地执行代码。
GitHub Podcast 最新一期拆解了五个 AI 热门观点:AI 生成的代码仍需阅读和负责,但审查力度应随风险而定;Skills 与 MCP 解决不同问题,MCP 提供工具与数据的标准连接,Skills 打包团队流程与最佳实践;RAG 并未消亡,它与 Agent、Skills、MCP 可共存于同一工作流。
伯克利 AI 研究团队指出,GPT-4 级能力从 2023 年初约 $30/百万 token 降至如今不到 $1,部分厂商已低于 $0.10,推理价格年降幅在 9x 到 900x 之间、中位数约 50x。作者提出近零推理成本下的三大挑战:为智能体设计的数据系统、运行智能体集群的数据系统、以及由智能体合成的数据系统。
伯克利 AI 研究团队梳理了并行推理领域进展,指出当前方法多由外部预设并行结构,模型无法自行决定何时分解任务、开多少线程。文章重点讨论自适应并行推理,即让模型根据问题自主决定并行化时机与协调方式,并提及 ThreadWeaver、ParaThinker、GroupThink、Hogwild! Inference 等方法。