Google 推出 TPU 8tx 与 TPU 8i Max,前者搭配 AMD EPYC Turin 主机
Google 扩充第八代 TPU 产品线,新增面向机密计算的 TPU 8tx 和面向大上下文推理的 TPU 8i Max。TPU 8tx 沿用 TPU 8t 芯片,搭配第五代 AMD EPYC Turin 主机 CPU,采用 Boardfly 网络拓扑,Google 称延迟比 TPU 8t 低最多 2 倍且性能损失接近零。
推荐理由:Google 在同一代 TPU 中按机密计算与大上下文推理拆分系统配置,可据此理解其硬件分工思路。