标题:Azure 数据工程师
工作地点:新泽西州威霍肯 07086
合同期限:12个月以上合同
客户:Infosys/银行业
详细职位描述:
作为 Azure 数据工程师,您将负责在 Microsoft Azure 上构建和管理数据管道,使用 Azure Data Factory、Databricks 和 Synapse 等服务集成、转换和加载数据以进行分析。这需要强大的 SQL、Python 和云技能,以为分析师和科学家创建可靠、可扩展的数据解决方案。该领域正转向 Microsoft Fabric,一个统一的数据平台,并要求在大数据、数据建模和云架构方面的专业知识。
核心职责:
- 构建数据管道:设计、开发和维护 ETL/ELT 过程以移动和转换数据。
- 数据转换:清理、映射和优化数据以进行分析。
- 管理数据存储:处理数据湖、数据仓库(如 Synapse)和数据库。
- 自动化任务:部署生产代码并自动化数据工作流。
- 协作:支持数据科学家、分析师和开发人员。
关键技能和技术:
- 语言:SQL(查询必需),Python(用于脚本编写,PySpark)。
- Azure 服务:Azure Data Factory (ADF)、Azure Databricks、Azure Synapse Analytics、Azure Cosmos DB、Azure DevOps。
- 大数据:Apache Spark、DataBricks、Hadoop(基础知识)。
- 概念:数据仓库、数据建模、ETL、CI/CD。