(美国)高级数据工程师,大数据

15个月前全职
117K - 234K USD Walmart

Walmart

location 旧金山
unsaved
职位摘要... 你的工作内容 工作摘要 在沃尔玛,我们帮助人们节省金钱,让他们过得更好。这个使命成为我们做出每个决策的基础,推动我们创造零售业的未来。如果没有最优秀的人才,我们就无法做到这一点——这些人才是创新、好奇和积极进取的,为我们的客户创造卓越的体验。 你是否对利用工程数据解决动态问题并塑造零售业未来充满无限的能量和激情?沃尔玛的环境规模之大带来了最庞大的大数据集。作为沃尔玛市场部的数据工程师,您将深入挖掘我们庞大的数据规模,帮助释放零售数据科学的力量,通过构想、开发和维护数据管道,供我们的数据科学家和分析师依赖。您将负责贡献复杂数据转换的编排层,将原始数据从源头精炼为有针对性、有价值的数据资产,以便以受控的方式进行消费。您将与数据科学家、分析师、其他工程师和业务利益相关者合作,解决复杂而令人兴奋的挑战,从而我们可以构建能够改变零售业务模式并对客户和卖家生活产生积极影响的能力。 关于数据和客户分析(DCA)组织: 我们的组织专注于管理和交付世界一流的数据资产,包括创建和维护数据标准、推动政策合规、建立合作伙伴关系和开发管道和自助工具。我们赋予业务利用数据推动增长的能力,推动核心业务增收并建立新的商业模式机会。 你的工作内容: • 你将使用尖端的数据工程技术创建关键数据集,并深入挖掘我们庞大的数据规模,帮助释放数据科学的力量,通过构想、开发和维护数据管道,供我们的数据科学家和分析师依赖。 • 你将负责贡献复杂数据转换的编排层,将原始数据从源头精炼为有针对性、有价值的数据资产,以受控的方式进行消费。 • 你将与数据科学家、分析师、其他工程师和业务利益相关者合作,解决复杂而令人兴奋的挑战,从而我们可以构建能够改变市场业务模式并对客户和卖家生活产生积极影响的能力。 • 你将通过审查项目要求、收集所需信息、编写和开发代码、进行单元测试、向团队成员和利益相关者沟通状态和问题、与项目团队和跨职能团队合作、解决未解决的问题和错误修复,确保按时交付和交接,领导和参与小到大型项目。 • 你将为初级数据工程师提供指导和辅导。 • 你将设计、开发和维护高度可扩展和容错的实时、准实时和批处理数据系统/管道,以最佳性能处理、存储和提供大量数据。 • 你将通过实施数据质量检查、数据验证和数据清洗流程,确保摄入和处理的数据准确无误、高质量。 • 你将通过分析、大数据分析和自动化,确定解决业务问题的可能选项。 • 你将建立业务领域专业知识,为产品团队、分析师、数据科学家和其他数据消费者提供数据需求的支持。 你将带来什么: • 计算机科学或相关领域的学士/硕士学位 • 5年以上大数据技术/数据管道开发经验 • 管理和操作大规模数据集(TB级别)的能力至关重要。 • 精通大数据技术,如Hadoop、Apache Spark(首选Scala)、Apache Hive或类似的云端框架(首选GCP,AWS、Azure等),构建具有强调优化、SLA遵守和容错能力的批处理数据管道。 • 精通使用Automic、Airflow、Luigi等编排器构建幂等工作流程。 • 精通使用SQL分析、优化和数据剖析,优先使用BigQuery或SPARK SQL。 • 强大的数据建模技能对于设计能够适应数据源演变并促进各种数据集之间无缝数据连接的模式至关重要。 • 能够直接与利益相关者合作,理解数据需求并将其转化为管道开发/数据解决方案工作。 • 强大的分析和解决问题的能力对于在数据整合和模式演变过程中可能出现的问题进行识别和解决至关重要。 • 在这个项目中,快速高质量地行动并在最短的上手时间内开始交付将是成功的关键。 • 有效的沟通和协作能力对于在团队环境中工作和协调项目中涉及的不同利益相关者之间的努力是必要的。 你的额外优势: • 使用Apache Kafka、Spark Streaming、Kafka Connect等构建复杂的准实时(NRT)流数据管道的经验,重点关注稳定性、可扩展性和SLA遵守。 • 对REST API有良好的理解——在Apache Druid、Redis、Elasticsearch、GraphQL或类似技术上的工作知识。理解API合同、构建遥测、压力测试等。 • 开发使用Looker/Tableau的报告/仪表盘的经验 • 在电子商务领域的经验。 关于沃尔玛全球技术 想象一下,在一个代码行可以让数亿人生活更轻松的环境中工作。这就是我们在沃尔玛全球技术所做的。我们是一支由软件工程师、数据科学家、网络安全专家和服务专业人员组成的团队,是全球领先的零售商,我们产生了巨大的影响,并处于下一个零售颠覆的前沿。人们是我们创新的原因,也是我们创新的动力。我们培训团队成员掌握未来的技能,并邀请像您这样的专家帮助我们成长。我们有适合那些追求第一次机会的角色,也有适合那些希望定义自己职业生涯的机会。在这里,您可以在技术领域开启一段伟大的职业生涯,为几乎所有行业获得新的技能和经验,或者利用您的专业知识进行大规模创新,影响数百万人,并重新定义零售的未来。 灵活的混合工作方式: 我们采用主要在办公室工作并配合虚拟工作的混合工作方式。我们的校园作为增强协作、为我们的目标聚集和满足业务需求的中心。这种方法帮助我们做出更快的决策,消除全球团队之间的地理障碍,并在个人生活中更加灵活。 福利: 福利:除了丰厚的薪酬套餐外,您还可以根据绩效获得激励奖励。其他优厚的福利还包括401(k)匹配、股票购买计划、带薪产假和育儿假、带薪休假、多种健康计划等等。 平等机会雇主: 沃尔玛公司是一个平等机会雇主——自愿选择。我们认为,只有真正了解我们的员工、客户和服务社区,我们才能帮助他们过得更好。这意味着要理解、尊重和重视多样性——独特的风格、经验、身份、思想和观点——同时包容所有人。 上述信息旨在表明在这个职位上所从事的工作的一般性质和水平。它不是旨在包含或解释员工在这个职位上所需的所有职责和资格的全面清单。完整的工作描述可以作为招聘过程的一部分提供。 在沃尔玛,我们提供有竞争力的薪酬,以及基于绩效的激励奖励和其他优厚的福利,让您的心灵、身体和钱包更快乐。健康福利包括医疗、视觉和牙科保险。财务福利包括401(k)、股票购买和公司支付的人寿保险。带薪休假福利包括带薪休假(包括病假)、产假、家庭护理休假、丧假、陪审团服务和投票。其他福利包括短期和长期残疾、公司折扣、军事休假工资、领养和代孕费用报销等等。 您还将获得可用于度假、病假、假日或其他目的的带薪休假或带薪病假。您获得的休假时间取决于您的工作分类和就业时间的长度。它将满足或超过适用的带薪病假法律要求。有关带薪休假的信息,请参阅https://one.walmart.com/notices。 Live Better U是沃尔玛为全职和兼职员工提供的付费教育福利计划,适用于沃尔玛和山姆会员店设施。课程范围从高中毕业到学士学位,包括英语学习和短期证书。学费、书籍和费用由沃尔玛全额支付。 某些福利的资格要求可能适用,并可能取决于您的工作分类和就业时间的长度。福利可能会有变化,并可能受到特定计划或计划条款的约束。有关福利和资格的信息,请参阅One.Walmart上的https://bit.ly/3iOOb1J。 此职位的年薪范围为117,000.00美元至234,000.00美元。 额外的报酬还包括年度或季度绩效激励。 某些职位的额外报酬还可能包括: - 区域薪资区域(根据地点而定) - 股权激励 最低资格要求... 以下是此职位所需的最低资格要求。如果没有列出任何要求,则没有最低资格要求。 选项1:计算机科学学士学位和3年软件工程或相关领域经验。选项2:5年软件工程或相关领域经验。选项3:计算机科学硕士学位和1年软件工程或相关领域经验。 2年数据工程、数据库工程、商业智能或商业分析经验。 首选资格... 以下是此职位的可选首选资格。如果没有列出任何要求,则没有首选资格要求。 数据工程、数据库工程、商业智能或商业分析、ETL工具和在云端中处理大数据集的经验、计算机科学或相关领域硕士学位和3年软件工程经验 主要位置... 美国加利福尼亚州圣尼维尔市加利福尼亚大道640号,邮编94086-4828