Module 04 · Data literacy for Data Science (Optional)
Data Collection and Organization数据存储库概述
数据存储库是一个通用术语,指经过收集、组织和隔离的数据,用于业务操作或报告和分析。它可以是包含一个或多个数据库的底层基础设施。
1. 数据库 (Databases)
数据库是旨在进行数据输入、存储、搜索、检索和修改的数据或信息的集合。
- 数据库管理系统 (DBMS): 是一套程序,用于创建和维护数据库,允许用户通过查询 (querying) 功能存储、修改和提取信息。
- 选择因素: 数据库的选择受数据类型、结构、查询机制、延迟要求、事务速度和预期用途等多种因素影响。
关系数据库 (Relational Databases, RDBMS)
- 特点: 建立在平面文件的组织原则之上,数据组织成具有行和列的表格格式,遵循明确定义的结构和模式(schema)。
- 优势: 针对涉及多表查询和大容量数据的操作进行了优化。
- 查询语言: 结构化查询语言 (SQL) 是标准查询语言。
非关系数据库 (Non-Relational Databases, NoSQL)
- 特点: 也称为 “不仅仅是 SQL”。
- 出现原因: 应对当前数据生成所达到的容量、多样性和速度,主要受云计算、物联网和社交媒体的影响。
- 优势: 为速度、灵活性和规模而构建,允许以无模式(schema-less)或自由形式存储数据。
- 用途: 广泛用于处理大数据。
2. 数据仓库 (Data Warehouses)
数据仓库作为一个中央存储库,用于整合来自不同来源的信息,并将其统一到一个全面的数据库中,用于分析和商业智能(Business Intelligence)。
- 核心过程: 提取、转换和加载 (ETL) 过程。
- 提取 (Extract): 从不同数据源中获取数据。
- 转换 (Transform): 将数据清洗并转换为可用状态。
- 加载 (Load): 将数据加载到企业的数据存储库中。
- 趋势: 历史上多为关系型,但随着 NoSQL 技术和新数据源的出现,非关系型存储库也开始用于数据仓库。
- 相关概念: 数据集市 (Data Marts) 和数据湖 (Data Lakes)。
3. 大数据存储 (Big Data Stores)
大数据存储是另一种存储库类别,它包括分布式计算和存储基础设施,旨在存储、扩展和处理非常大的数据集。
总结
数据存储库的作用是隔离数据,使报告和分析更加高效和可信,同时还充当数据档案。