Coursera 笔记

Module 01 · Defining Data Science and What Data Scientists Do

Data Science Topics and Algorithms数据科学家的青睐:算法、数据类型与回归解析

Coursera ↗

受访者分享了他们特别偏爱的概念和算法,并对数据类型进行了区分,同时用一个日常例子通俗地解释了回归分析。


数据科学家偏爱的概念与算法

概念/算法 偏爱原因
回归(Regression) 这是帮助他们理解数据的首批概念之一,因此非常喜欢。
数据可视化(Data Visualization) 认为这是关键要素,能帮助不熟悉数据科学的人理解所传达的信息。
人工神经网络(Artificial Neural Networks) 充满热情。认为可以通过模仿大脑的生物行为,在算法中实现许多应用,因为“我们有很多东西需要向大自然学习”。
R 语言数据可视化 热爱使用 R 语言进行数据可视化。
最近邻算法(Nearest Neighbor) 尽管是最简单的算法之一,但它比许多“被过度膨胀、过度使用”的复杂算法更有可能给出最佳结果,因为后者很容易过度拟合。


结构化数据 vs. 非结构化数据

数据科学家需要处理不同形式的数据,通常将其分为结构化和非结构化两大类。

1. 结构化数据(Structured Data)

  • 形式: 更像是表格数据(tabular data),例如您在 Microsoft Excel 格式中熟悉的内容。
  • 特征: 具有行和列的组织形式。
  • 处理: 如果数据能够很好地放入表格、列和行中,就属于此类。

2. 非结构化数据(Unstructured Data)

  • 主要来源: 大多数来自网络(Web),不是表格形式,没有行和列。
  • 数据类型: 文本、有时是视频和音频。
  • 处理: 需要部署更复杂的算法来提取数据。
  • 常见做法: 通常需要花费大量时间和精力从非结构化数据中提取一些结构,然后再进行分析。
  • 例子: Web 日志,或尝试从海量网页中提取信息。

回归分析(Regression)的通俗解释

回归分析旨在确定变量之间的关系。受访者认为,如果乘坐过出租车,就能理解回归。

出租车费用的构成(即回归模型)

想象您乘坐出租车,车费由以下几部分构成:

变量 概念解释 回归中的对应项
固定金额($2.50) 您坐进出租车时必须支付的基准费用,与是否移动无关。 常数(Constant / 截距 Intercept)
行驶距离 每行驶一段距离(例如每米或每百米),车费会增加特定金额。 距离与费用的关系(系数 β1​)
等待时间 当您堵在路上不动时,每增加一分钟,您需要支付额外的费用。 时间与费用的关系(系数 β2​)

回归的作用

在不了解这些关系(常数和系数)的情况下,仅知道乘客的行驶距离、等待时间以及他们支付的总费用:

  1. 确定常数: 回归分析允许您计算出您不知道的那个常数(即 $2.50 的基础车费)。
  2. 量化关系: 它会计算出费用与距离之间的关系,以及费用与时间之间的关系。

回归分析就是告诉您基础费用是多少,以及时间、距离与您支付的费用之间的具体关系。