跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

31 条精选近 30 天 31 条共收录 243 条

更新

部署工程的精选

今天11月10日周二第 1–20 条
  1. 36氪新58

    高端 GPU 服务器报价从 400 万元涨至超 2000 万元,多层中介推高价格

    据 36 氪《智能涌现》报道,某型号高端 GPU 的 8 卡服务器在国内报价从去年年末约 400 万元涨到今年 9 月的约 1500 万元,近一个月又突破 2000 万元。涨价直接原因是全球 AI 厂商持续扩大算力需求,例如 Meta 今年 2 月宣布与该芯片厂商多年合作、计划部署数百万颗高端 GPU。报道同时指出,货源信息要经过多层中介转手,每转一手加一次价,买家即便出高价也未必知道谁真正有货、何时能交货。

    对A股利好服务器与整机、算力租赁与云,高端GPU服务器涨价反映AI算力需求旺盛

    事件时间线 ›

    推荐理由:通过几笔真实交易还原高端 GPU 服务器从 400 万元涨到 2000 万元的链条,以及多层中介如何推高报价。

  2. LangChain 官方博客73

    LangChain 解析 AI Agent 上下文工程的检索起点与技巧

    LangChain 官方博客提出 agent 上下文工程应从检索做起,以 Deep Agents 构建的竞品分析 agent 为例,分析低效搜索、上下文过载和不相关过期内容三类问题。

    事件时间线 ›

    推荐理由:文章结合 Deep Agents 竞品分析案例给出检索优化技巧与代码示例,读者可按需迁移到自己的 agent harness 设计中。

11月9日周一
  1. IEEE Spectrum · 机器人68

    UC Berkeley 与 NVIDIA 在 CoRL 2026 提出 agentic robotics,用编码智能体替代数据规模路线

    UC Berkeley 和 NVIDIA 在 2026 Conference on Robot Learning 上提出 agentic robotics 方法,用 LLM 驱动的编码智能体把复杂任务拆解为子任务、生成人类可读代码并在仿真中迭代,无需收集人类演示数据。

    事件时间线 ›

    推荐理由:文章解释了 agentic robotics 如何把机器人编程从数据问题转为编码问题,并给出 99% 成功率、缩短换产时间等具体结果。

  2. TestingCatalog55

    Google 扩充第八代 TPU 产品线,新增 TPU 8tx 与 TPU 8i Max

    Google 在第八代 TPU 中新增 TPU 8tx 和 TPU 8i Max 两款系统配置,分别面向机密 AI 负载和内存密集型智能体,使该代产品达到四款。TPU 8tx 基于 TPU 8t 芯片搭配定制 AMD CPU 主机,加入硬件级机密计算,Google 称性能最高可达 TPU 8t 的两倍;TPU 8i Max 将两颗 TPU 8i 芯片封装在一起,SRAM 与内存带宽翻倍。

    对A股利好服务器与整机、光模块与光器件(推断)

    事件时间线 ›

    推荐理由:Google 第八代 TPU 扩到四款系统,并给出配套软件栈与集群编排能力,可据此判断其面向机密计算与长上下文智能体的分工。

  3. 36氪59

    谷歌推出两款新版 TPU 芯片,加快追赶英伟达

    谷歌推出两款全新版本的张量处理单元(TPU),用于训练和运行 AI 软件,新款芯片可满足机密计算需求,让模型在处理提问时调取更广范围信息。谷歌以往每两年推出一款全新 AI 处理器,今年一次性发布两款,周一还将官宣 8tx、8i Max 细分版本;芯片负责人阿明·瓦德特表示,四款 TPU 分别适配不同需求,未来将走向专用化。

    对A股(据新浪财经) 对A股:谷歌TPU加速迭代利好国产算力芯片,或提振英伟达链配套(推断)

    事件时间线 ›

    推荐理由:报道归纳了谷歌 TPU 产品线迭代提速与四款芯片的分工思路,可帮读者了解其对专用化芯片路线的判断。

11月8日周日
  1. Tom's Hardware65

    Diamond Foundry 宣布制造全球首块 200mm 单晶金刚石晶圆

    Diamond Foundry 宣布制造出全球首块 200mm 单晶金刚石(SCD)晶圆,旨在解决 AI 芯片日益严重的散热问题。该材料热导率约为铜的五倍,且保持电绝缘性,有助于消除热点。目前样品尚未抛光,公司预计 2030 年前可推出 300mm 晶圆。

    事件时间线 ›

    推荐理由:Diamond Foundry 宣布量产 200mm 单晶金刚石晶圆,为高功耗 AI 芯片散热提供新方案。

  2. Tom's Hardware78

    微软高管发布开源GPU任务管理工具gputaskman

    微软VP Scott Hanselman发布了开源GPU任务管理工具gputaskman(v0.3.0),支持Windows、Linux和macOS。该工具可显示进程级GPU使用情况和VRAM消耗,并专门拆解AI/LLM任务的权重、KV缓存等细节。代码以MIT许可证在GitHub开源。

    事件时间线 ›

    推荐理由:该工具提供细粒度VRAM监控,帮助开发者排查AI工作负载的资源占用。

  3. Tom's Hardware72

    调查指两家获准购买英伟达H200芯片的中国公司实为空壳且涉制裁实体

    《纽约时报》调查发现,两家获准购买英伟达H200芯片的中国公司New Matrix和Maginfra实际为无员工空壳办公室,其高管或关联方与美国制裁的军事供应商有关联。尽管百度、比亚迪等知名大厂也获批,但这两家疑似用于组装AI服务器的中间商暴露了美国商务部在GPU出口许可审批中可能缺乏尽职调查的风险。

    事件时间线 ›

    推荐理由:调查揭示获准购买英伟达芯片的中国企业存在空壳办公与制裁关联,引发对出口许可审查有效性的质疑。

  4. SemiAnalysis68

    SemiAnalysis实地探访内蒙古Galaxy AI数据中心:深度垂直整合与超低成本建设

    SemiAnalysis团队实地探访了位于内蒙古乌兰察布的Galaxy AI数据中心,该园区规划IT容量达800MW,首期120MW在一年内交付,成本仅为美国的五分之一。项目由远景集团主导,通过自建风电、储能及专用线路实现源网荷储一体化,并试点800V直流供电系统以去除传统低压变压器和UPS环节。此外,园区采用液冷与空冷共用单一水回路的设计,取消了中央冷水机组,展现了中国在AI基础设施建设中极致的成本控制与工程整合能力。

    对A股利好数据中心与电力、液冷与散热环节,超低成本与源网荷储一体化建设方案落地

    事件时间线 ›

    推荐理由:实地探访揭示了中国AI数据中心在垂直整合、800V直流供电及无冷水机组冷却方面的低成本高效率实践。

11月6日周五
  1. Tom's Hardware60

    Nvidia收紧东南亚AI GPU追踪,云厂商须加入监控计划

    据Bloomberg报道,Nvidia要求东南亚云计算提供商注册其Fleet Intelligence追踪系统,才能成为官方Nvidia Cloud Partners (NCPs)。此举旨在更严密监控AI加速器的部署位置,防止受限硬件经区域走私网络流入中国。该追踪系统此前主要作为数据中心管理工具,收集硬件位置和基础设施信息。目前参与仍属自愿,但NCP资格已将其变为强制条件。

    对A股英伟达加强东南亚GPU流向监控,对算力租赁与云中性、对英伟达链中性,暂无明确利好利空方向

    事件时间线 ›

    推荐理由:Nvidia收紧东南亚云服务商监管以应对芯片走私,要求加入追踪系统方可获取官方合作伙伴资格。

  2. 36氪19

    中信建投发布2027年度电子策略:算力硬件分化,半导体国产化迈入加速期

    中信建投发布电子2027年度投资策略研报称,算力投资爆发式增长驱动硬件产业链繁荣后,市场开始担忧依赖融资维系的高资本支出,认为高阶AI PCB、800V等新技术迭代机会值得重视。半导体国产化方面,研报指出AI将全球存储、逻辑、先进封装需求抬升到更高量级,在下游制造环节市占率与上游国产化率双重提振下,半导体设备、材料、零部件未来三年的爆发力和持续性拥有更高能见度,强烈看好国产化机会。

    对A股利好半导体设备与材料及英伟达链(高阶AI PCB),半导体国产化与算力硬件新技术迭代方向明确

    事件时间线 ›

  3. DigiTimes42

    Samsung SDS 开建 60MW AI 数据中心以支持工厂机器人

    Samsung SDS 已在韩国龟尾开建一座 60MW 的 AI 数据中心,用于支持工业机器人及其他 AI 应用。该项目是三星集团对岭南地区 60 万亿韩元(约 447 亿美元)投资计划中首个落地的具体步骤。

    对A股利好数据中心与电力,也利好算力租赁与云

    事件时间线 ›

    推荐理由:报道把该数据中心定位为三星集团 60 万亿韩元投资计划的首个落地项目,有助于读者跟踪其区域投资进展。

  4. SemiAnalysis68

    Google TPUv7在AgentX基准测试中挑战NVIDIA GPU性价比

    SemiAnalysis发布TPUv7在InferenceX AgentX基准上的多模型实测结果,显示其在GLM-5.2、Qwen3.5等模型的FP8推理中每美元Token产出显著优于B200/B300及MI355X;尽管GB300 NVL72 FP4在部分场景仍领先,但TPU凭借Megakernel等技术缩小差距,同时文章指出NVIDIA面临开源生态响应迟缓与官僚主义阻碍技术迭代的挑战。

    对A股谷歌TPU性价比领先,利空英伟达链;利好国产算力芯片(推断)

    事件时间线 ›

    推荐理由:TPUv7在AgentX基准上展现FP8推理性价比优势,揭示NVIDIA FP4精度与生态壁垒的潜在风险。

  5. Microsoft Research67

    Microsoft Research 推出 PDD Kit,用形式化验证智能体编写的全栈 Web 应用

    Microsoft Research 发布研究原型 PDD Kit,提出 Proof-Driven Development(PDD)方法:把开发者意图转成 Verus 形式化规范,对智能体编写的代码在所有输入上给出证明,证明覆盖不到的部分回退到测试并显式标注可信边界。

    事件时间线 ›

    推荐理由:微软介绍了 PDD Kit 如何把意图转成 Verus 形式化规范来验证智能体代码,并展示了在 Pet Store 登录逻辑上的实际流程。

11月5日周四
  1. 财联社电报64

    微软对“新云”数据中心押注渐生悔意,加强审查 Nebius、IREN、Nscale 项目

    财联社援引知情人士报道称,微软正加强对 Nebius、IREN 和 Nscale 部分数据中心项目的监督,退出风险较高的项目,并讨论是否签署新的“新云”交易。CFO Amy Hood 已第三次在财报电话会上提到第三方算力交付延迟扰乱支出计划;IREN 德州项目 4 月发生发电机起火,8 月披露硬件延迟,双方上周协商的新时间表可能使完工推迟数周甚至数月。

    对A股利好算力租赁与云环节(推断),微软收紧新云数据中心合作或使海外算力外溢需求转向国内平台;对数据中心与电力环节中性

    事件时间线 ›

    推荐理由:报道援引知情人士说明了微软收紧对 Nebius、IREN、Nscale 等新云项目审查的原因和进展,可帮助读者理解第三方算力合同背后的交付风险。

  2. 36氪60

    微软放弃扩大与Nscale的得州数据中心租赁协议,数百亿美元潜在合同落空

    据知情人士,微软决定不行使将得克萨斯州数据中心租赁协议扩大一倍以上的选择权,涉及潜在合同价值数百亿美元。Nscale 正筹备以约350亿美元估值 IPO,目前需为相关数据中心寻找其他客户,否则可能损失数十亿美元未来收入(消息来源:新浪财经)。

    对A股传闻显示微软缩减数据中心租赁,对数据中心与电力环节中性偏利空(推断)

    事件时间线 ›

    推荐理由:消息若属实,将影响 Nscale 的 IPO 估值前景,也反映超大规模云厂商自建算力对第三方数据中心租赁的挤压。

11月4日周三
  1. 财联社电报61

    Alphabet 计划投资150亿美元扩建马来西亚AI数据中心

    据财联社报道,Alphabet 表示计划投资150亿美元,扩大位于马来西亚的AI数据中心和传统云计算相关业务,以应对 AI 算力资源和数字化基础设施需求的加速增长。马来西亚已成为东南亚主要数据中心枢纽,此前已吸引甲骨文、亚马逊、阿里巴巴集团和字节跳动等公司布局。

    对A股利好算力租赁与云环节,海外云厂商资本开支持续加码AI基础设施

    事件时间线 ›

    推荐理由:材料交代了投资规模、用途和马来西亚作为东南亚数据中心枢纽的竞争格局,读者可以借此了解算力基建的区域动向。

  2. SemiAnalysis69

    SemiAnalysis:SpaceX数据中心建设提速,或成全球最大AI云

    SemiAnalysis分析指出SpaceX正在加速建设数据中心,已有多处站点在建,2027年规划容量上调至约13GW,有望成为全球最大的AI云服务提供商。报道详细列举了Colossus 2和Starbase等站点的快速施工进度、模块化设备应用以及混合供电策略,认为其建设速度远超行业平均水平。

    对A股利好数据中心与电力、算力租赁与云(推断),SpaceX数据中心提速带动机房建设与配套电力需求

    事件时间线 ›

    推荐理由:文章通过实地数据拆解了SpaceX超常规的数据中心建设速度与供电方案,为判断其AI算力规模提供了关键事实依据。

  3. Ars Technica · AI66

    乌克兰无人机袭击促使俄罗斯考虑将数据中心建在地下

    受乌克兰无人机袭击影响,俄罗斯科技公司正加速加固并隐藏其数据中心。国有电信公司Rostelcom正与诺里尔斯克镍业探讨将部分数据中心移至地下的可能性,另有提议利用露天煤矿建设并以上方公园作为伪装。此前Yandex、Sberbank等设施的受损已导致数百万用户云服务中断。

    对A股地下化加固数据中心需求提升,利好数据中心与电力(推断)

    推荐理由:报道揭示了地缘冲突对AI基础设施选址与安全的直接冲击,提供了行业风险管理的现实案例。

11月3日周二
  1. Tom's Hardware82

    走私者利用出口管制漏洞将韩国禁售HBM芯片运入中国

    据The Information报道,一名走私者通过设计低性能处理器搭配三星和SK海力士的高价HBM芯片,利用仅审查服务器处理器性能的出口管制规则漏洞,将受控内存芯片带入中国。深圳中间商称单颗HBM3E价格已涨至约4000美元,每块AI GPU可获利2.4万至3.2万美元。随着华为等厂商因无法采购HBM而加剧需求,该灰色产业链日益繁荣,但面临美韩加强监管的风险。

    事件时间线 ›

    推荐理由:文章揭示了利用出口管制漏洞走私HBM的具体操作与利益链条,反映了中国AI算力获取面临的现实瓶颈。

浙ICP备2026096764号