职位描述
```职责```
作为一名数据工程师,您将负责以下职责:
• 设计、开发和维护数据管道和ETL流程
• 与跨职能团队合作,收集需求并了解数据需求
• 构建和优化数据模型和数据库,以实现高效的存储和检索
• 编写复杂的SQL查询,从各种来源提取、转换和加载数据
• 开发脚本和自动化工具,支持数据集成和处理
• 实施数据质量检查,确保数据的完整性和准确性
• 进行数据分析,识别趋势、模式和洞察力
• 及时解决与数据相关的问题
```技能```
要在这个角色中表现出色,您应该具备以下技能:
• 熟练使用SQL进行数据操作和分析
• 掌握编程语言,如Java或Python,用于脚本编写和自动化
• 了解数据集成和转换工具,如Informatica
• 熟悉数据仓库概念和方法论
• 理解大数据技术,如Hadoop或Spark,用于大规模数据处理
• 具有使用AWS等云平台部署和管理数据基础设施的实际经验
• 熟练掌握Shell脚本编写,用于自动化任务和工作流程
• 能够分析复杂数据集并得出有意义的洞察
• 具有注重细节的强大问题解决能力
• 必须具备资本市场经验