具有 Azure 和 Databricks 技能的数据工程师

纽约 8天前全职 网络
面议
Dice是技术专家在其职业生涯各个阶段的首选职业目的地。我们的客户,Nutech信息系统公司,正在寻找以下职位。今天通过Dice申请! 我们在纽约市的一位知名客户正在寻找一名AZURE数据工程师 职位:Databricks工程师 纽约市混合办公 职责: - 开发、优化和维护用于ETL和数据转换的Databricks笔记本。 - 设计并实施使用Databricks和Azure数据工厂的可扩展数据管道。 - 将对分布式计算概念的深刻理解应用于大规模数据处理。 - 使用数据湖架构和Delta Lake进行可靠且高性能的数据存储。 - 自动化数据质量检查、监控和日志记录。 - 整合来自多个云源的数据,如Azure Blob、数据湖存储和SQL/NoSQL数据库。 - 执行分析工作负载的数据建模和模式设计。 - 为Databricks笔记本和作业实施CI/CD管道。 - 管理Databricks中的工作区管理、集群管理和作业编排。 资格: - 在使用Databricks进行大规模数据处理和分析方面有丰富经验。 - 熟悉云数据平台,最好是Azure。 - 理解数据工程最佳实践和分布式系统。 - 具有数据管道编排和自动化的经验。