Tags: #parallelism

学习笔记：Tensor Parallelism（TP）

本文是读完Megatrion-LM及其他相关博文之后，对Tensor Parallelism（TP）的理解和总结，用于未来查阅

9 min read 中文