Coursera 笔记

Module 04 · Career Opportunities and Data Engineering in Action职业机会与数据工程实践

Viewpoints: Advice to Aspiring Data Engineers数据工程入门建议:构建基础与实践分享

Coursera ↗

本视频将听取几位数据专业人士分享关于进入数据工程领域的不同路径和建议。

Ⅰ. 建立扎实基础 (Build a Strong Foundation)

数据工程是一个相对较新的领域,每年都有新技术涌现。

1. 基础技术核心

虽然学习新技术很重要,但作为起点,应致力于建立一个强大的技术基础:

  • SQL (结构化查询语言)
  • Python (编程语言)
  • 数据建模 (Data Modeling)
  • ETL 方法论 (ETL Methodologies)

2. 数据库内部机制

  • 了解数据库内部结构:学习数据库内部原理 (Database Internals)。如果您理解驱动这些数据源的数据结构,“那就成功了一半”。

3. 编程语言能力

  • 全面掌握:学习 SQL 和编程语言。
    • 过程式语言:理想情况下,掌握一种过程式语言,例如 Shell Scripting、PL/SQL 或 Perl。
    • 面向对象语言:掌握一种面向对象编程语言,例如 Java 或 Python。
    • 函数式语言:掌握一种函数式编程语言,例如 Scala。

⏳ 优势:拥有计算机科学和数学的学术背景,将能大大缩短您成为一名优秀数据工程师的时间。


Ⅱ. 实践经验与项目积累 (Hands-on Experience)

在数据工程领域,实践经验的价值高于一切。

1. 练习与项目实践

  • 自我练习:寻找可以提供领域内实践机会的事情。
    • 示例:一位初级 DBA 的同事会带着装有虚拟机的笔记本电脑,让人尝试“破坏”他的数据库,然后他来解决问题。这使他成为了一名出色的故障排除专家。
  • 个人项目:可以创建自己的项目,或为您的生活中的某些事物构建一个数据库。
  • 工具利用:数据工程领域有大量的开源工具和框架,并有海量的在线学习材料支持。可以利用这些工具进行个人项目和练习。

2. 逐步建立技能宽度

数据工程的概念涉及大量的技能和广度,如果一次性掌握所有技能,可能会感到不知所措。建议采取渐进式学习方法:

步骤 目标 建议工具/技术
第一步 掌握至少一种关系型数据库 (RDBMS)。 选择任何您熟悉且易于使用的 RDBMS,并精通它。
第二步 掌握至少一种 NoSQL 数据库。 例如 MongoDB、Cassandra、Neo4J、Riak 或 Redis。
持续学习 理解并开始学习网络爬虫 (Web Scraping)。 -
未来预期 理解API,因为未来工作将涉及使用 API 与其他系统无缝交互。 -

Ⅲ. 分享知识与社区回馈 (Share and Network)

分享知识和回馈社区是成长的重要途径。

1. 知识分享

  • 分享平台:一旦获得了专业知识,尝试与社区中的同行分享您的知识。
    • 示例:在 GitHub 公共存储库中分享代码;开始在 LinkedIn 上撰写文章或创建自己的博客。
  • 不必是专家:即使您从事某项工作的时间只有短短六个月,您可能比其他人更了解其某个方面。
  • 学习的良方:学习以便能够教导他人是学习某事的绝佳方法之一。

2. 展示专长

  • 演示专业知识:获得正确的证书和认证后,需要展示您在热门技术或产品方面的专业知识。
    • 形式:撰写博客文章、撰写文章、制作 YouTube 视频或截屏演示。

3. 职业网络

  • 加入组织:加入当地的网络团体或聚会 (Meetup),不仅是为了学习,也是为了结识该领域的其他人,并分享您的见解和经验。

总结与展望

  • 保持努力与好奇:在相对年轻的时候努力工作并保持好奇心。
  • 持续学习:像其他技术领域一样,数据工程是不断发展的,因此请将持续学习作为您终身过程的一部分。跟上新技术和处理数据的新方法。

🎉 需求巨大:数据工程师目前需求量非常大。如果您能做到以上这些,您在被聘为数据工程师方面就不会有任何问题。

祝您在成为数据工程师的旅程中一切顺利!