Coursera 笔记

Module 01 · Recurrent Neural Networks

Why Sequence Models?序列模型介绍

Coursera ↗

欢迎来到深度学习的第五门课程!在本课程中,您将学习序列模型(Sequence Models),这是深度学习领域最令人兴奋的一个方向。像递归神经网络(Recurrent Neural Networks, RNNs)这样的模型已经彻底改变了语音识别、自然语言处理等领域。在本课程中,您将学习如何构建这些模型。

让我们从一些序列模型的应用实例开始,了解它们如何在实际问题中发挥作用。🚀

1. 语音识别

在语音识别任务中,输入是一个音频片段 X,目标是将其映射为文本转录 Y。此时,输入和输出都是序列数据,因为:

  • 输入 X 是一个音频片段,随着时间的推移而变化。
  • 输出 Y 是一个单词序列。

因此,序列模型(如递归神经网络 RNN)及其变种在语音识别中非常有用。

2. 音乐生成

音乐生成也是一个典型的序列数据问题。在这个问题中,只有输出 Y 是序列,而输入 X 可以为空集,或者是一个单一整数,例如:

  • 可能指示要生成的音乐类型,或者
  • 可能是指示您希望生成的音乐片段的前几个音符。

此时,输入 X 可以为空或仅为一个整数,输出 Y 则是音乐的序列。

3. 情感分类

在情感分类中,输入 X 是一个序列。例如,给定一段文字:“这个电影一点也不好看”,您需要判断这篇评论的星级评分。这也是一个典型的序列问题。

4. DNA 序列分析

DNA 序列分析是另一个典型的序列数据应用。您的DNA通过四个字母(A、C、G、T)来表示,给定一个DNA序列,您需要判断其中的某部分是否对应某个蛋白质。

5. 机器翻译

在机器翻译中,输入是一个句子,例如:

  • "Voulez-vous chanter avec moi?"
    您需要将其翻译成另一种语言。

6. 视频活动识别

在视频活动识别任务中,输入是一个视频帧的序列,目标是识别其中的活动。

7. 命名实体识别

在命名实体识别任务中,您将得到一句话,并需要识别出其中的人名或其他实体。


序列问题的多样性

如您所见,这些问题都可以通过监督学习(Supervised Learning)来解决,输入数据 X 和标签数据 Y 构成训练集。

然而,这些序列问题有很多不同的类型:

  • 在某些问题中,输入 X 和输出 Y 都是序列,而且有时它们的长度不同。
  • 在其他问题中,只有输入 X 是序列,或者只有输出 Y 是序列。

在本课程中,您将学习如何应对这些不同类型的序列问题,并深入探讨序列模型的应用。


课程目标

通过本课程,您将了解到:

  • 序列模型在各种任务中的广泛应用。
  • 如何构建和训练这些模型,以解决实际问题。

希望这些内容能帮助您对序列模型的应用场景有一个初步的了解。在接下来的课程中,我们将开始定义解决这些序列问题所用的符号与标记法,敬请期待!