Module 01 · Defining Data Science and What Data Scientists Do
A Day in the Life of a Data Scientist数据科学家的实践案例分享
受访者分享了他们在不同领域利用数据科学解决实际问题的经历,涵盖了从商业优化到环境预测以及公共交通运营分析。
1. 推荐引擎的构建:追求简洁与效率
一位数据科学家分享了在一个大型组织中构建推荐引擎的经验,并认为这是他最满意的项目之一。
- 项目挑战: 涉及与各种类型的工程师合作,并解决问题的各个方面。
- 成功关键: 最终得出了一个非常简单的解决方案。
- 价值体现: 该方案易于从高管到工程师和开发人员的各个层面理解。
- 结果: 它的效率与那些极其复杂、可能需要花费更多时间开发的高成本方案一样高。
2. 环境预测:利用人工智能解决水质问题
在大学期间,一位受访者参与了一个关于水质预测的项目。
- 待解决问题: 预测藻华(algae blooms)的发生。
- 影响: 藻华可能导致水中毒性增加,给水处理公司带来难题。
- 传统限制: 仅凭化学工程背景无法准确预测藻华。
- 数据科学应用: 使用人工神经网络(Artificial Neural Networks, ANN)来预测藻华何时再次出现。
- 结果: 水处理公司能够更好地处理这个问题。
3. 公共交通投诉分析:发现“隐藏”的驱动因素
一位数据科学家分享了他与多伦多交通委员会(Toronto Transit Commission, TTC)合作分析乘客投诉数据的案例。
数据挑战
- 问题: TTC 希望分析其投诉数据(约五十万条)。
- 数据结构:
- 结构化数据(Tabular format):投诉到达时间、接收人、投诉类型、是否解决、责任方等。
- 非结构化数据:邮件和传真的往来交流。
- 初期分析困境: 经过大约一个月的分析,无法找到某些日子投诉量更高或更低的原因和规律。
关键洞察:意料之外的突破
- 灵感来源: 一天,受访者下公共汽车时,不经意间踏入了一个意料之外的水坑,被雨水淋湿,感到极度烦躁。
- 假设形成: 这让他突然想到,极端天气与 TTC 收到的投诉类型之间是否可能存在关联?
- 数据整合: 他从加拿大环境部(Environment Canada)网站获取了降雨、降水、风力等天气数据,并与投诉数据进行比对。
- 发现: 投诉量最高的 10 天(极端投诉日)都是天气恶劣的日子,例如:
- 意外的降雨
- 气温急剧下降
- 降雪过多
- 大风天气
总结与建议
- 结论: 数据科学家向 TTC 高管报告——“好消息”是找到了人们在某些日子过度投诉的原因;“坏消息”是他们对此无能为力(因为他们无法控制天气)。
