Module 01 · Defining Data Science and What Data Scientists Do
Data Science Topics and Algorithms数据科学家的青睐:算法、数据类型与回归解析
受访者分享了他们特别偏爱的概念和算法,并对数据类型进行了区分,同时用一个日常例子通俗地解释了回归分析。
数据科学家偏爱的概念与算法
| 概念/算法 | 偏爱原因 |
|---|---|
| 回归(Regression) | 这是帮助他们理解数据的首批概念之一,因此非常喜欢。 |
| 数据可视化(Data Visualization) | 认为这是关键要素,能帮助不熟悉数据科学的人理解所传达的信息。 |
| 人工神经网络(Artificial Neural Networks) | 充满热情。认为可以通过模仿大脑的生物行为,在算法中实现许多应用,因为“我们有很多东西需要向大自然学习”。 |
| R 语言数据可视化 | 热爱使用 R 语言进行数据可视化。 |
| 最近邻算法(Nearest Neighbor) | 尽管是最简单的算法之一,但它比许多“被过度膨胀、过度使用”的复杂算法更有可能给出最佳结果,因为后者很容易过度拟合。 |

结构化数据 vs. 非结构化数据
数据科学家需要处理不同形式的数据,通常将其分为结构化和非结构化两大类。
1. 结构化数据(Structured Data)
- 形式: 更像是表格数据(tabular data),例如您在 Microsoft Excel 格式中熟悉的内容。
- 特征: 具有行和列的组织形式。
- 处理: 如果数据能够很好地放入表格、列和行中,就属于此类。
2. 非结构化数据(Unstructured Data)
- 主要来源: 大多数来自网络(Web),不是表格形式,没有行和列。
- 数据类型: 文本、有时是视频和音频。
- 处理: 需要部署更复杂的算法来提取数据。
- 常见做法: 通常需要花费大量时间和精力从非结构化数据中提取一些结构,然后再进行分析。
- 例子: Web 日志,或尝试从海量网页中提取信息。
回归分析(Regression)的通俗解释
回归分析旨在确定变量之间的关系。受访者认为,如果乘坐过出租车,就能理解回归。
出租车费用的构成(即回归模型)
想象您乘坐出租车,车费由以下几部分构成:
| 变量 | 概念解释 | 回归中的对应项 |
|---|---|---|
| 固定金额($2.50) | 您坐进出租车时必须支付的基准费用,与是否移动无关。 | 常数(Constant / 截距 Intercept) |
| 行驶距离 | 每行驶一段距离(例如每米或每百米),车费会增加特定金额。 | 距离与费用的关系(系数 β1) |
| 等待时间 | 当您堵在路上不动时,每增加一分钟,您需要支付额外的费用。 | 时间与费用的关系(系数 β2) |
回归的作用
在不了解这些关系(常数和系数)的情况下,仅知道乘客的行驶距离、等待时间以及他们支付的总费用:
- 确定常数: 回归分析允许您计算出您不知道的那个常数(即 $2.50 的基础车费)。
- 量化关系: 它会计算出费用与距离之间的关系,以及费用与时间之间的关系。
回归分析就是告诉您基础费用是多少,以及时间、距离与您支付的费用之间的具体关系。