Coursera 笔记

Module 01 · What Is Big Data?

Beyond the Hype超越炒作:大数据的真相

Coursera ↗

欢迎观看本视频!通过本视频的学习,您将能够:

  • 了解大数据的事实。
  • 描述大数据的主要来源。
  • 解释不同类型的大数据。
  • 描述云计算对大数据的贡献。

为什么大家都在谈论大数据?

过去两年里,产生的数据量比人类历史上所有的数据加起来还要多。📊 全球每年生成的数据预计增长 40%。到 2026 年,生成的数字数据量将超过自数字存储出现以来的两倍。右侧的图表展示了全球数据按 zettabytes(泽字节)计算的增长趋势。


大数据的三大主要来源

  1. 社交数据(Social Data)
    社交数据来自全球最受欢迎的社交媒体平台,包括点赞、推文、转发、评论、视频上传以及一般媒体的分享。
  2. 机器生成数据(Machine-generated Data)
    机器生成的数据由物联网(IoT)传感器、工业设备、机器以及追踪用户行为的网页日志生成。
  3. 业务生成数据(Business-generated Data)
    这种数据是企业在其日常运营中生成的,包括所有在线和离线的交易数据,如发票、支付订单、存储记录和送货单。

大数据的三种类型

1.结构化数据(Structured Data) 

  • 结构化数据是有组织的、标注的,并且具有预定义的数据模型,通常以表格格式呈现。
  • 例子:姓名、日期、地址、信用卡号码。

2.非结构化数据(Unstructured Data) 

  • 非结构化数据约占世界数据的 80%,它不符合任何预定义的格式。
  • 包括:图片、音频、视频文件、IoT 设备的传感器数据、短信和社交媒体帖子。

3.半结构化数据(Semi-structured Data) 

  • 半结构化数据既包含结构化数据的部分特征,也包含非结构化数据的特点。
  • 例如:电子邮件,尽管邮件内容通常是非结构化的,但其中的邮件地址、主题行、LOGO 图片和 URL 等可以被提取为结构化信息。

大数据来源

1.结构化数据的来源

  • 结构化大数据的来源包括:关系型数据库 和 电子表格。
  • 这种结构让我们清楚地了解数据之间的关系,数据含义明确,并且可以使用像 SQL 这样的编程语言进行查询。

2.半结构化数据的来源

  • 半结构化大数据的来源包括 XML 和 JSON 文件。
  • 这些文件通过标签或其他标记来执行数据记录和字段的层级结构。

数据爆炸与互联网活动

当前,来自 互联网活动 的数据正在迅速增长,尤其是 视频制作和消费 以及 社交媒体活动。随着 互联网速度的提升 和 全球更多人接入互联网,这些数据增长的趋势将持续加剧。


云计算对大数据的贡献

云计算的出现对大数据时代的到来起到了至关重要的作用:

  • 云计算 使用户能够通过互联网访问高度可扩展的计算和存储资源。
  • 使用云计算,企业可以按需使用服务器容量,并快速扩展到处理大数据集和运行复杂数学模型所需的规模。
  • 云计算通过让资源在多个用户之间共享,从而降低了大数据分析的成本,用户仅需支付实际使用的容量。

结语

通过本视频,您学到了以下内容:

  • 大数据的产生以 指数级 增长,未来几年将继续扩展。
  • 大数据的来源包括:社交数据、机器生成数据和业务生成数据。
  • 大数据分为 结构化、非结构化和半结构化数据 三种类型。
  • 云计算 的进步大大提升了大数据的潜力和可处理能力。