大数据开发者-Pyspark

15个月前全职
100K USD Cognizant

Cognizant

location 悉尼
unsaved
职位描述 什么让Cognizant成为一个独特的工作场所?快速增长和国际创新环境的结合!这为像您这样具有企业家精神并想要在这个世界上产生影响的人们创造了许多机会。在Cognizant,与来自世界各地的同事一起,您将合作创建世界领先公司的解决方案,帮助它们变得更加灵活、创新和成功。此外,这是您成为成功故事的一部分的机会。 职位概述: 我们正在寻找一名大数据开发人员,负责收集、加载、处理和分析大量数据。主要关注的是选择用于这些目的的最佳解决方案,然后进行维护、实施和监控。您还将负责将它们与公司使用的架构集成。 • 了解或理解各种本地、混合和云数据平台,包括Azure/AWS。 • 在Microsoft Azure/AWS跨多云场景中设计和构建创新的基于云的解决方案。 • 在批处理框架和hive/impala方面具有7年以上的编码经验。 (使用Scala/Java/Python/PL-SQL、Unix等语言) • 在本地云中设计、构建和实施Lambda架构的经验。 • 熟练创建数据工厂管道,以摄取不同格式的平面文件的数据。 • 在使用SQL分析存储在数据仓库中的数据方面具有丰富的经验。 • 熟练编写存储过程、函数以处理或转换SQL数据库中的大数据集。 • Inhouse专有工具-在JOF Job、Merlin和JOF Ingestion和Replication框架方面具有3年以上的工作经验,以开发数据摄取管道并部署代码工件。 • 使用Azure Data Lake、Azure Data factory、Azure Databricks实施端到端数据管道。 • 熟练使用Azure Synapse、Azure SQL、Azure Blob Storage和Azure Data Lake Storage Gen2等数据库服务和数据湖。 • 在使用Azure DevOps、GITHUB集成、Jenkins、Bamboo等设置高级部署技术方面具有扎实的经验。 • 参与端到端项目执行,需求收集,将传统设计转换为大数据生态系统。开发、测试、UAT支持和上线支持。 • 了解并创建Tableau/PowerBI报告将是额外的优势。 • 应具备使用Control M创建、监控和调度作业的知识。 必备技能: • 大数据PaaS服务生态系统:Hadoop、Flume、Kafka、Spark Streaming、Spark SQL、Impala、SQL DW、Kudu表。 • 语言:- SQL、PL-SQL、Java、UNIX、Scala、Python和Ruby。 • Azure Stack:- Azure Function、Azure EventHub、Azure HDInsight、Azure Data Bricks、Azure VM、Azure Data Factory、Azure存储、Azure Data Lake、Azure Cosmos DB、Azure KeyVault、Azure SQLDW(Synapse) • AWS Stack:- Kinesis、Lambda、S3、EC2、DynamoDB、API Gateway、KMS、VPC、CloudWatch、IAM角色和策略。 • Dev-ops工具:- Azure DevOps、JIRA、GIT、Bitbucket、Bamboo、Jenkins、Confluence。 • 特定客户:- JOF Job、Merlin、JOF Ingestion框架、Control M。 职责和责任: • 负责设计、编码、测试、文档化和维护高质量和可扩展的本地或云上大数据解决方案。 • 研究、评估和部署新的工具框架和设计模式,构建可持续的大数据平台。 • 积极与利益相关者、产品专家和数据架构师沟通和协作,捕捉功能和非功能需求。 • 提供准确的开发工作量估计,以帮助管理层进行项目规划。 • 负责将本地工作负载迁移到云上并调试云堆栈。 • 负责设计和构建CI/CD和/或DevOps流水线,并通过部署自动化改进现有工作流程。 • 以专业和及时的方式回应技术问题。 • 确定、设计和实施内部流程改进:自动化手动流程、优化数据交付、重新设计基础架构以实现更大的可扩展性等。 薪资范围:> 10万美元 下一步:如果您认为这个机会适合您,或者Cognizant是您想加入的组织类型,我们希望与您进行交流!请直接与我们申请。有关Cognizant的完整职位列表,请访问http://www.cognizant.com/careers。Cognizant致力于提供平等就业机会。成功的候选人将需要进行背景调查。 员工状态:全职员工 班次:白班 出差:否 职位发布日期:2024年1月30日 关于Cognizant Cognizant(纳斯达克-100:CTSH)是世界领先的专业服务公司之一,为数字时代的客户业务、运营和技术模型进行转型。我们独特的基于行业的咨询方法帮助客户构想、构建和运营更具创新性和高效性的企业。Cognizant总部位于美国,位列《财富》500强第185位,并始终被列为世界上最受钦佩的公司之一。了解Cognizant如何帮助客户在数字化方面领先,请访问www.cognizant.com或关注我们的Twitter账号@Cognizant。