生产环境中的机器学习系统#
预计整个模块学习时长: 70 分钟
学习目标:
认识生产机器学习系统中各个组件的广度。
挑选理想的训练范式(静态训练还是动态训练)。
挑选理想的推理范式(静态推理还是动态推理)。
测试你的机器学习部署。
针对你的生产机器学习系统提出正确的问题。
判断真实世界机器学习模型的缺陷。
监控生产机器学习系统中的各个组件。
先修要求:
本模块假设你已经熟悉以下模块中介绍的概念:
模型只是这套系统里的一小块#
到目前为止,这门课程的重心一直放在“怎么构建机器学习(ML)模型”上。但正如图 1 所暗示的那样,真实世界里的生产机器学习系统是一整套庞大的生态,模型只是其中一个相对很小的组成部分。

在这套真实世界的生产机器学习系统里,真正居于核心位置的确实是机器学习模型代码,可它在系统总代码量中往往只占 5%,甚至更少。这不是印刷错误——它比你直觉中那个比例要小得多。再留意一下就会发现,一个机器学习生产系统在输入数据上投入的资源相当可观:收集数据、验证数据,以及从数据中提取特征。
换句话说,一个模型能不能真正跑起来、跑得稳不稳,考验的从来不只是模型本身,而是这一整套生态。接下来几节我们会把这套生态逐块拆开:静态训练与动态训练怎么选、静态推理与动态推理怎么选、数据该在什么时候做转换、部署之前该怎么测试、上线之后又该怎么盯住整条流水线。