ServeTheHome· Vic A·· 3 小时前精选AI 评分54
Google 推出 TPU 8tx 与 TPU 8i Max,前者搭配 AMD EPYC Turin 主机
Google TPU 8tx Pairs AMD EPYC Turin Hosts with Confidential Computing while TPU 8i Max Doubles Memory Bandwidth
摘要/原文摘录
Google 扩充第八代 TPU 产品线,新增面向机密计算的 TPU 8tx 和面向大上下文推理的 TPU 8i Max。TPU 8tx 沿用 TPU 8t 芯片,搭配第五代 AMD EPYC Turin 主机 CPU,采用 Boardfly 网络拓扑,Google 称延迟比 TPU 8t 低最多 2 倍且性能损失接近零。
推荐理由
Google 在同一代 TPU 中按机密计算与大上下文推理拆分系统配置,可据此理解其硬件分工思路。
来源:ServeTheHome · servethehome.com