高级大数据工程师

3天前全职
86.1万 - 114.9万 / 年 Zortech Solutions

Zortech Solutions

location 纽约
unsaved
职位: 高级大数据工程师 地点: 新泽西州(混合办公) 时长: 6 个月以上 职位描述: 请提交可以参加面对面面试的候选人,差旅费用由客户承担。 我们正在寻找一位高技能且经验丰富的高级数据工程师,加入我们充满活力的团队。作为高级数据工程师,您将在设计、实施和维护大数据项目的数据管道和基础设施方面发挥关键作用。您在 Java、Python、Spark 集群管理、数据科学、大数据、REST API 开发以及对 Databricks 和 Delta Lake 的知识将对推动我们数据计划的成功至关重要。 职责: - 使用 Java、Python 和 Spark 设计、开发和实施可扩展的数据管道和 ETL 流程。 - 与数据科学家、分析师及其他相关方合作,理解数据需求并设计高效解决方案。 - 管理和优化 Spark 集群,以确保高性能和可靠性。 - 执行数据探索、数据清理和数据转换任务,为分析和建模准备数据。 - 开发和维护数据模型和架构,以支持数据集成和分析。 - 实施数据质量和验证检查,以确保数据的准确性和一致性。 - 利用 REST API 开发技能创建和集成数据服务及端点,以实现无缝的数据访问和使用。 - 监控和排除数据管道性能问题,识别和解决瓶颈和问题。 - 关注大数据、数据工程、数据科学和 REST API 开发的最新技术和趋势,并提供流程改进建议。 - 指导和辅导初级团队成员,提供技术领导并分享最佳实践。 资格: - 计算机科学、数据科学或相关领域的硕士学位。 - 至少 3 年的数据工程专业经验,熟悉 Java、Python、Spark 和大数据技术。 - 精通 Java 和 Python 编程,具备构建可扩展和可维护代码的专业技能。 - 具备 Spark 集群管理、优化和性能调优的丰富经验。 - 对数据科学概念有扎实的理解,并有与数据科学家和分析师合作的经验。 - 精通 SQL,并有使用关系数据库(例如 Snowflake、Delta Tables)的经验。 - 有使用 Flask 或 Spring 等框架设计和开发 REST API 的经验。 - 熟悉基于云的数据平台(例如 Azure)。 - 有数据仓库概念和工具(例如 Snowflake、BigQuery)的经验者优先。 - 具备强大的问题解决和分析能力,能够应对复杂的数据工程挑战。 - 优秀的沟通和协作能力,能够在团队导向的环境中有效工作。 如果您是一位积极进取、技能高超的高级数据工程师,对大数据、数据工程和 REST API 开发充满热情,我们期待您的加入。加入我们的团队,为我们数据驱动的计划的成功做出贡献,努力在行业中产生重要影响。