1 min read 10 words Updated May 07, 2026 Created Jun 17, 2026

Switch Transformers.pdf

和一般的 MoE 框架不同,其采用 Top-1 而不是 Top-k 设计

然后是一系列工程上的设计。待补。