一条记录了谁批准了模型的发布路径
MLOps，是把机器学习模型从某个人笔记本电脑上的实验，变成您的团队可以反复运行的路径：版本化训练、受控发布、监控，以及关于跑了什么、谁批准的记录。SEYA Group 为您指定的模型和平台构建这条路径，让生产环境中的模型像任何其他软件一样得到维护。
适用对象
模型在 notebook 里能跑、业务现在却已依赖它们的 CTO 和数据负责人。被要求把模型“投入生产”、却没有一套商定方法的 IT 经理。团队靠手工重新训练、说不清哪个版本正在线上的数据科学负责人。正在设计模型运行平台、希望同时把发布路径设计好的解决方案架构师。
如果模型所需的数据尚未汇集到一处，请从 数据平台与分析开始。 本页面假定数据已经存在，问题出在模型上。
我们解决的问题
- 训练在一台机器上运行，依赖项没有其他人能复现。
- 没有商定的方式把模型从实验晋级到生产，于是靠复制文件完成。
- 没有记录说明哪个模型版本正在提供服务、它用什么数据训练、谁可以改动它。
- 模型在悄无声息中退化，因为没有任何东西在监视它们的输入或输出。
- 数据科学家把时间花在基础设施上，而不是模型上。
您将获得
- 评估。审视模型目前如何训练、评审和发布，并针对阻碍可重复发布的缺口给出建议的第一阶段。
- 平台建议。您的团队将运营哪些托管服务或开源工具来做实验跟踪、模型注册、流水线和服务部署，以及哪些内容留在第一阶段之外。
- 流水线构建。商定的训练、验证和部署步骤以代码实现，环境相互隔离，晋级由您定义的检查把关。
- 监控。按您的团队选定的度量跟踪模型输入、输出和性能，告警路由到模型的负责人。
- 交接说明。您的工程师和数据科学家在没有我们的情况下运行、扩展和审计流水线所需的文档。
项目如何开展
- 范围确认会。您描述模型、它们运行的平台，以及最想解决的发布问题。
- 评估。我们与您的数据科学家和工程师一起梳理当前工作流，写出缺口和第一阶段方案。
- 构建第一条路径。一个模型端到端走通新流水线，您的团队结对参与。
- 扩展。更多模型沿用同一模式，检查和监控与您的团队一起调优。
- 交接。您的团队运行流水线。只有简报明确要求时，才继续提供持续支持。
技术范围
流水线可以运行在 AWS、Microsoft Azure 或 Google Cloud 上，使用该平台的托管机器学习服务，也可以运行在开源工具上，取决于您的团队已在运营什么以及简报的选择。基础设施以代码定义，在服务部署需要时模型打包为容器。SEYA 在您选定的云和工具上工作，并在合适的地方推荐开源方案。
您需要具备的条件
至少一个对业务重要的模型、放在可访问位置的训练数据，以及之后将拥有流水线的数据科学家和工程师。一个由您拥有、可供运行的云账户或集群。如果数据平台尚不存在，那是 数据平台与分析 下的另一份简报；流水线的安全扫描在 安全与 DevSecOps 下设计。
本页不在范围内的内容：构建模型本身，除非简报包含；合规认证；以及交接后替您运营平台，除非另有约定。如果工作是构建模型，则由我们的姊妹公司 Mars Innovation Technology 承接。SEYA 在本页面的范围是这些模型如何发布、监控和治理。
相关案例
常见问题
我们的数据科学家需要更换工具吗？
通常不需要。流水线包裹的是他们已经在写的训练代码；改变的是它如何版本化、运行和晋级。如果建议更换某个工具，评估会说明原因。
流水线和模型归谁所有？
归您。代码放在您的代码仓库，模型放在您的注册表，流水线运行在您的云账户中。
你们如何与我们的数据科学团队协作？
作为加入他们工作流的工程师。第一个模型与他们一起走通流水线，因此约定是他们自己选的。
评估需要多长时间？
取决于范围内有多少模型和团队，以及当前工作流的文档有多完整。我们在第一次沟通中商定范围，如果需要扩大，会尽早提出。
你们也能帮我们做数据平台吗？
可以，作为单独的简报。很多 MLOps 的讨论其实始于数据问题，如果您的情况也是如此，我们会在流水线工作开始前告诉您。
如果业务所依赖的模型仍靠手工上线，请 预约 MLOps 评估沟通会， 并描述它目前是如何到达生产环境的。
联系我们
发送有关云、平台、数据或可靠性项目的咨询。营销邮件在表单中为单独选项。