1.1 分布式机器学习

本节将概述分布式机器学习的基本概念和架构，介绍常用的并行模式、通信范式以及通信优化技术。在1.2节中，我们将集群范围继续扩大到多数据中心场景，介绍跨数据中心分布式机器学习及其面临的关键挑战。