首席数据工程师(规划与预测 | Kafka | Snowflake | AWS | GitLab CI/CD)
地点:温哥华,不列颠哥伦比亚省(混合办公)
类型:全职 / 直接聘用
薪资:面议
工作许可:必须有权在加拿大工作,无需赞助
不可协商的技术:Airflow
关于该职位
我们正在寻找一位首席数据工程师,设计和构建可扩展的数据平台和服务,以支持规划、预测和情景建模的举措。此职位将与产品、用户体验和规划团队密切合作,提供高影响力的工具,使规划人员和业务利益相关者能够与预测互动、调整计划并模拟业务结果。
您将是一位实践型技术领导者,推动架构、性能、CI/CD和可观测性方面的工程卓越,同时指导和引导其他工程师。
主要职责
- 设计、构建和维护可扩展的数据架构和内部系统集成,以支持规划、预测和情景建模
- 使用Kafka和相关事件流模式开发和支持流数据管道
- 使用强大的ETL/ELT、SQL和数据建模原则构建可靠且可维护的管道
- 使用云数据平台如Snowflake、编排工具如Airflow和数据库如Postgres
- 将用于以下方面的机器学习模型投入运营:
- 需求预测
- 库存优化
- 供应链分析
- 开发直观的数据产品和工具,使规划人员/业务用户能够:
- 查看预测和洞察
- 调整假设和计划
- 运行情景模拟并比较结果
- 建立和维护GitLab CI/CD管道,用于自动化测试、部署、监控和发布管理
- 确保系统具备生产就绪性,具有强大的日志记录、监控、警报和性能优化
- 与跨职能团队(产品、用户体验、规划、工程)推动敏捷交付
- 指导工程师并在架构、测试和DevOps中推广最佳实践
我们重视的工程实践
- 测试驱动开发(TDD)和自动化优先思维
- 强大的代码审查文化和协作工程(必要时进行结对编程)
- 具有模块化和可重用设计模式的可扩展架构
- 以可观测性为先的系统(日志记录、监控、仪表板、性能调优)
要求的资格
- 12年以上软件工程经验,其中2年以上技术领导角色经验
- 作为数据工程师/数据平台工程师的丰富实践经验
- 具有使用Kafka等流框架的经验
- 精通SQL、ETL/ELT、数据仓库和数据建模
- 具有以下一种或多种工具的实践经验:
- Snowflake
- Airflow
- Postgres
- (或类似的云原生数据工具)
- 在实施和管理CI/CD管道和自动化测试框架方面有丰富经验(优先使用GitLab)
- 对云基础设施(AWS、GCP或Azure)有深入理解
- 出色的沟通能力,能够有效地跨团队和利益相关者工作
加分项
- Anaplan模型构建/模型开发经验
- 在规划、预测、供应链或零售/消费品领域构建数据解决方案的经验
- 接触过MLOps工具或生产ML部署实践
- 有协调离岸/在岸团队的经验
教育背景
计算机科学、信息技术或相关领域的学士学位(或同等的实际经验)
核心技能/关键词
Kafka | Airflow | Snowflake | SQL | Postgres | ETL/ELT | 数据仓库 | 数据建模 | AWS | GitLab CI/CD | 可观测性 | 预测 | 情景建模 | 供应链分析 | 领导力