数据工程经理
部门:数据与解决方案
雇佣类型:全职
地点:多伦多,安大略省
薪酬:$90,000 - $135,000 / 年
描述
数据工程经理负责开发和优化支持企业分析和应用的数据平台。向业务和数据架构副总裁汇报,该角色结合了领导力和技术专长——领导一个数据工程师团队,同时直接参与可扩展、高质量数据解决方案的设计和交付。经理与业务利益相关者、架构师和跨职能团队密切合作,确保数据可访问、可靠并与组织战略保持一致。
主要职责
• 领导、指导和发展数据工程师团队,包括招聘、入职、绩效管理和持续技能发展。
• 监督数据管道、架构和数据集的设计、开发和优化,以支持批处理和流处理用例。
• 与业务部门和分析师合作,收集需求并将其转化为可扩展的数据解决方案。
• 推动数据建模(概念、逻辑和物理)的最佳实践,以支持分析和报告。
• 建立和维护元数据标准、数据目录和血缘关系,以改善数据发现和治理。
• 通过在敏捷框架中管理优先级、范围和资源,确保项目的及时交付。
• 根据需要与供应商和托管服务提供商合作,以支持交付和运营。
• 定义、跟踪和报告团队的关键绩效指标,如数据管道正常运行时间、数据新鲜度和采用指标。
• 参与容量规划、云成本优化和供应商绩效评估。
• 促进数据模型、管道和集成方法的标准化和可重用性。
• 作为主题专家,向技术和非技术受众传达技术解决方案。
• 保持对组织安全、架构和开发实践标准的合规性。
• 鼓励自动化、AI/ML集成和现代数据工程实践的实验。
• 为企业架构提供输入并对齐数据计划。
技能、知识与专长
• 计算机科学、工程或相关技术学科的学士学位。
• 5年以上数据工程经验,其中2-3年担任领导或管理角色。
• 精通Python、SQL和Spark(批处理和流处理)。
• 具有开发和维护数据湖和基于云平台(最好是Azure/Databricks)的经验。
• 在数据架构方面有扎实的背景,包括数据建模(概念、逻辑、维度)和关系数据库。
• 熟悉数据网格或分布式数据所有权的联合架构。
• 展示了量化数据计划的业务影响的能力(例如,成本节约、减少停机时间、增加采用率)。
• 了解数据治理、数据质量和主数据管理实践。
• 证明了指导和发展技术人才的能力。
• 拥有敏捷/ Scrum方法的实践经验。
• 具有优秀的沟通、解决问题和协作能力,并具有强烈的交付导向思维。
• 了解编排工具(SSIS、ADF、DBT或同等工具)。
• 熟悉DevOps/DataOps实践——CI/CD、版本控制、数据管道的自动化测试。
• 接触过像Kafka/Event Hubs这样的流技术,超越Spark Streaming。
• 了解安全和合规框架(PII、GDPR、SOC2、HIPAA,取决于行业)。