Coursera 笔记

Module 01 · What Is Big Data?

Big Data Tools and Ecosystem大数据工具与生态系统

Coursera ↗

欢迎观看本视频!通过本视频的学习,您将能够:

  • 识别大数据生态系统中的主要工具类别。
  • 描述每个工具类别在大数据生命周期中的作用。
  • 列出每个大数据工具类别中的主要工具和供应商。

大数据工具的六大类别

大数据工具分为六个主要类别:

  1. 数据技术(Data Technologies)
  2. 分析与可视化(Analytics and Visualization)
  3. 商业智能(Business Intelligence)
  4. 云服务提供商(Cloud Service Providers)
  5. NoSQL 数据库(NoSQL Databases)
  6. 编程工具(Programming Tools)

接下来,我们将详细了解每个类别。


1.数据技术(Data Technologies) 

  • 数据技术专为分析、处理和从大数据中提取有意义的信息而设计。这些功能超出了传统数据处理工具的能力。
  • 这些技术用于捕获、处理和共享大数据,能够处理结构化和非结构化数据,提供高性能并行处理。
  • 主要的开源项目包括 Apache Hadoop、Apache HDFS 和 Apache Spark,商业厂商如 Cloudera 和 Databricks 也为这些项目提供支持和贡献。

2.分析与可视化(Analytics and Visualization) 

  • 数据分析工具 用于检查大量数据,发现隐藏的模式、相关性和趋势。
  • 数据可视化工具 提供这些趋势的可视化表现,如图表、图形和地图,帮助人们更容易理解数据中的趋势、异常值和模式。
  • 例如:Tableau、Palantir、SAS、Pentaho 和 Teradata 都是领先的分析与可视化工具。

3.商业智能(Business Intelligence) 

  • 商业智能(BI) 工具将原始数据转化为有意义、可操作的信息,适合用于业务分析。
  • BI 技术还涉及基本的数学概念,如概率、统计和流程图。
  • 从商业智能中获得的洞察有助于推动商业决策。
  • 常见的 BI 工具包括 Cognos、Oracle、PowerBI、Business Objects 和 Hyperion。

4.云服务提供商(Cloud Service Providers) 

  • 大数据面临存储、传输、处理、挖掘和服务庞大数据的挑战。云服务提供商 提供基础设施和支持,利用共享计算资源(如计算、存储、网络和分析软件)来解决这些问题。
  • 云服务商还提供“软件即服务”(SaaS)模型,通过提供定制化的解决方案,帮助企业轻松聚合、处理和可视化数据。
  • 主要的云服务提供商包括 AWS、IBM、GCP 和 Oracle。

5.NoSQL 数据库(NoSQL Databases) 

  • NoSQL 数据库 是专为大数据处理而设计的,它们从根本上构建,能够在大规模数据处理和存储方面提供高效的支持,适用于现代企业。
  • NoSQL 数据库将数据存储在文档中,而不是关系表中。它们支持海量数据的存储和处理。
  • NoSQL 数据库包括纯文档数据库、键值存储、宽列数据库和图数据库等类型,如 MongoDB、CouchDB、Cassandra 和 Redis。

6.编程工具(Programming Tools) 

  • 编程工具 是大数据商业工具中的最后一个组成部分,它们执行大规模分析任务并实现大数据的应用。
  • 这些工具提供了所有必要的功能,帮助进行数据收集、清洗、探索、建模和可视化。
  • 常用的编程工具包括 R、Python、SQL、Scala 和 Julia。

结语

通过本视频,您学到了以下内容:

  • 大数据工具的六个主要组成部分:数据技术、分析与可视化、商业智能、云服务提供商、NoSQL 数据库和 编程工具。
  • 每个工具类别在大数据生命周期中扮演着特定且至关重要的角色。
  • 许多主要的商业和开源供应商为大数据处理提供工具和支持。