Coursera 笔记

Module 03 · Packages, APIs, Data Sets, and Models

The Model Asset eXchange模型资产交换平台

Coursera ↗

欢迎观看“模型资产交换平台”视频。看完本视频后,您将能够:

  • 导航 IBM 的 Model Asset eXchange
  • 解释 深度学习模型服务 (model-serving) 如何检测图像

MAX 平台与预训练模型

Model Asset eXchange (MAX) 是 IBM Developer 平台上的一个免费开源资源,用于提供深度学习模型。

⚠️ 挑战: 从零开始训练模型所需的任务需要大量数据、人力、时间和资源,因此实现价值所需的时间 (Time to Value) 可能会相当长。

  • 解决方案: 为了缩短实现价值所需的时间,可以考虑利用针对某些类型问题的预训练模型 (pre-trained models)。
  • 优势: 这些预训练模型可以立即投入使用,或者可能只需要较少的训练时间。

模型创建过程

模型是通过使用计算资源和领域专业知识,将数据运行通过模型来创建的。

  1. 研究 (Research)
  2. 评估 (Evaluation)
  3. 测试 (Test)
  4. 训练 (Train)
  5. 验证 (Validate)

完成以上步骤后,您将拥有一个经过验证的模型 (validated model)。


MAX 的核心功能 (Core Functionality of MAX)

Model Asset eXchange 是一个免费的开源存储库,用于提供即用型 (ready-to-use) 和可定制的深度学习微服务 (customizable deep-learning microservices)。

微服务构成与优势

  • 配置: 这些微服务被配置为使用预训练或可定制训练 (custom-trainable) 的深度学习模型来解决常见的业务问题。
  • 质量保证: 这些模型已经过全面测试,可以快速部署到本地和云环境中。
  • 许可: MAX 中的所有模型均在宽松的开源许可 (permissive open-source licenses) 下提供,这使得它们更易于用于个人和商业目的,从而降低了法律责任的风险。

MAX 模型涵盖的领域

在 MAX 上,您可以找到适用于各种领域的模型,包括:

  • 对象检测 (Object Detection)
  • 图像、音频、视频和文本分类 (Classification)
  • 命名实体识别 (Named Entity Recognition)
  • 图像到文本翻译 (Image-to-text Translation)
  • 人体姿态检测 (Human Pose Detection)
  • 以及更多...

模型服务微服务 (Model-Serving Microservices)

让我们看看一个典型模型服务微服务的组成部分:

组件 (Component) 描述 (Description)
深度学习模型 一个预训练的深度学习模型。
预处理代码 在模型分析输入之前,对其进行预处理的代码。
后处理代码 对模型输出进行后处理的代码。
标准化公共 API 使服务功能可供应用程序使用的标准化公共 API。

微服务的创建与部署

模型服务微服务是通过将输入运行通过经过验证的模型,然后将输出应用于 REST API 来创建的。

  1. 实施 (Implement)
  2. 打包 (Package)
  3. 文档化 (Document)
  4. 测试 (Test)

完成以上步骤后,您将拥有一个模型服务微服务,可以发送到本地机器或私有、混合或公共云。

Docker 与 Kubernetes 部署

  • 构建与分发: MAX 模型服务微服务是作为开源 Docker 镜像构建和分发的。
    • Docker 是一个容器平台,可以轻松构建和部署应用程序。
    • Docker 镜像的源代码发布在 GitHub 上,可以下载和定制,用于个人和商业环境。
  • 部署管理: 使用 Kubernetes 开源系统来自动化这些 Docker 镜像的部署、扩展和管理。
  • 企业级平台: Red Hat OpenShift 是一个流行的企业级 Kubernetes 平台。它可在 IBM Cloud、Google Cloud Platform、Amazon Web Services 和 Microsoft Azure 上使用。

总结回顾

在本视频中,您了解到:

  • Model Asset eXchange 是一个免费的开源存储库,用于提供即用型和可定制的深度学习微服务。
  • 为了缩短实现价值所需的时间,可以考虑利用针对某些类型问题的预训练模型。
  • MAX 模型服务微服务是作为开源 Docker 镜像在 GitHub 上构建和分发的。
  • Red Hat OpenShift 是一个 Kubernetes 平台,用于自动化微服务的部署、扩展和管理。