跳到正文
ServeTheHome· Vic A·· 3 小时前精选AI 评分54

Google 推出 TPU 8tx 与 TPU 8i Max,前者搭配 AMD EPYC Turin 主机

Google TPU 8tx Pairs AMD EPYC Turin Hosts with Confidential Computing while TPU 8i Max Doubles Memory Bandwidth

摘要/原文摘录

Google 扩充第八代 TPU 产品线,新增面向机密计算的 TPU 8tx 和面向大上下文推理的 TPU 8i Max。TPU 8tx 沿用 TPU 8t 芯片,搭配第五代 AMD EPYC Turin 主机 CPU,采用 Boardfly 网络拓扑,Google 称延迟比 TPU 8t 低最多 2 倍且性能损失接近零。

推荐理由

Google 在同一代 TPU 中按机密计算与大上下文推理拆分系统配置,可据此理解其硬件分工思路。

来源:ServeTheHome · servethehome.com

浙ICP备2026096764号