大数据负责人

15个月前全职
55 - 60 USD ApTask

ApTask

location 芝加哥
unsaved
关于客户: 该客户提供信息技术(IT)服务,包括业务外包、基础设施技术和应用服务。 该公司提供的应用服务包括应用开发、维护和支持。该公司服务的市场包括金融服务和保险、医疗保健、制造业、政府、交通运输、通信以及消费品和零售行业。 费率范围:每小时55美元至60美元(可商议) 职位描述:技术技能: 技术技能: 大数据负责人(Spark结构化流 + Spark SQL + Kafka) 资格要求: • 5年以上经验(内部/外部)- Spark与Scala、Kafka、Sql、Azure/AWS databricks • 有Spark与Scala、Spark流、带Kafka的结构化流、Spark性能优化、Sql、Azure databricks、Azure Data Factory的经验 • 具有Databricks、Azure Data Factory、Azure Datalake服务的经验是额外的优势, • 有使用Spark结构化流从Kafka(或任何消息代理)构建实时数据流水线的经验 • 熟练掌握Scala、Python或Java 8等函数式编程,优先考虑大数据项目。 • 至少执行过一个端到端的Hadoop数据湖项目(流式实时数据)并带领开发团队。 • 熟练掌握Linux/Unix脚本编写。 • 必须具备敏捷方法论经验。 • 熟悉HDF大数据环境中的标准方法、概念、最佳实践和流程 • 自我激励,能够独立实施解决方案。 • 具备良好的问题解决技巧和沟通能力。 要求: • 手把手指导大数据负责人(Spark结构化流) • 积极参与Scrum会议、故事点、估算并负责开发工作。 • 为团队提供技术支持,并参与高效设计。 • 分析用户故事,理解需求,并根据设计开发代码。 • 开发测试用例,进行单元测试和集成测试。 • 支持QA测试、用户验收测试和生产部署。 • 从各种数据源中开发批处理和实时数据加载作业到Hadoop。设计ETL作业从Hadoop读取数据并传递给各种消费者/目标。 • 分析庞大的数据存储并发现洞察。 • 通过使用查询优化技术和Spark代码优化对长时间运行的查询和作业进行性能调优。 流程技能: 具备使用项目管理软件(如MS Project)的实际经验 行为技能: • 出色的口头和书面沟通能力 • 出色的组织和时间管理能力 资格要求: 计算机科学学士学位 关于ApTask: ApTask是一家致力于帮助专业人士在职业生涯中取得成功的动态劳动力管理解决方案公司。ApTask专注于IT、项目管理和战略咨询角色,为您提供与您的愿望相一致的定制机会。 加入我们蓬勃发展的技术专业人士社区,发挥潜力,产生有意义的影响。立即在www.aptask.com上与ApTask共享令人兴奋的职业前景。 申请人可能需要亲自或通过视频会议参加面试。此外,候选人可能需要在每次面试期间出示其当前的州或政府签发的身份证件。 ApTask是一家平等机会雇主。所有合格的申请人将获得平等的就业机会,不论性别认同、性取向、种族、肤色、宗教、国籍、残疾、受保护的退伍军人身份、年龄或其他受法律保护的特征。