Coursera 笔记

Module 04 · Data literacy for Data Science (Optional)

Data Collection and Organization数据存储库概述

Coursera ↗

数据存储库是一个通用术语,指经过收集、组织和隔离的数据,用于业务操作或报告和分析。它可以是包含一个或多个数据库的底层基础设施。


1. 数据库 (Databases)

数据库是旨在进行数据输入、存储、搜索、检索和修改的数据或信息的集合。

  • 数据库管理系统 (DBMS): 是一套程序,用于创建和维护数据库,允许用户通过查询 (querying) 功能存储、修改和提取信息。
  • 选择因素: 数据库的选择受数据类型、结构、查询机制、延迟要求、事务速度和预期用途等多种因素影响。

关系数据库 (Relational Databases, RDBMS)

  • 特点: 建立在平面文件的组织原则之上,数据组织成具有行和列的表格格式,遵循明确定义的结构和模式(schema)。
  • 优势: 针对涉及多表查询和大容量数据的操作进行了优化。
  • 查询语言: 结构化查询语言 (SQL) 是标准查询语言。

非关系数据库 (Non-Relational Databases, NoSQL)

  • 特点: 也称为 “不仅仅是 SQL”。
  • 出现原因: 应对当前数据生成所达到的容量、多样性和速度,主要受云计算、物联网和社交媒体的影响。
  • 优势: 为速度、灵活性和规模而构建,允许以无模式(schema-less)或自由形式存储数据。
  • 用途: 广泛用于处理大数据。

2. 数据仓库 (Data Warehouses)

数据仓库作为一个中央存储库,用于整合来自不同来源的信息,并将其统一到一个全面的数据库中,用于分析和商业智能(Business Intelligence)。

  • 核心过程: 提取、转换和加载 (ETL) 过程。
    • 提取 (Extract): 从不同数据源中获取数据。
    • 转换 (Transform): 将数据清洗并转换为可用状态。
    • 加载 (Load): 将数据加载到企业的数据存储库中。
  • 趋势: 历史上多为关系型,但随着 NoSQL 技术和新数据源的出现,非关系型存储库也开始用于数据仓库。
  • 相关概念: 数据集市 (Data Marts) 和数据湖 (Data Lakes)。

3. 大数据存储 (Big Data Stores)

大数据存储是另一种存储库类别,它包括分布式计算和存储基础设施,旨在存储、扩展和处理非常大的数据集。


总结

数据存储库的作用是隔离数据,使报告和分析更加高效和可信,同时还充当数据档案。