大数据顾问

17个月前全职
LION AND ELEPHANTS

LION AND ELEPHANTS

location 新加坡
unsaved
大数据顾问 新加坡/全职/永久职位/现场工作 客户:银行 工资:领先的软件服务公司 问候! 我们正在寻找一位才华横溢的大数据工程师,负责开发和管理我们客户的大数据解决方案。在这个角色中,您将需要设计和实施大数据工具和框架,实施ELT流程,与开发团队合作,构建云平台,并维护生产系统。 要成为一名成功的大数据工程师,您应该具备深入的Hadoop技术知识,出色的项目管理技巧和高水平的问题解决能力。 您将推动EDW现代化的各种活动,包括数据工程,领导一个高效的数据工程团队,负责使用Teradata工具、Hadoop生态工具在Teradata上进行ETL/ELT开发,以满足数据仓库和大数据倡议在VCG/VBG领域的业务流程和应用需求,用于收集、存储、处理和分析大量数据。 需要有经验的大数据资源,可以指导、指导、支持团队成员,并使用TD Utilities、Informatica、UNIX Shell脚本、Hadoop生态工具、Spark、XML、JSON、SQL、Python、CICD、DevOps和云服务(GCP)特别是使用BQ、Airflow等来管理数据处理操作。 通过简化和提高性能,对BQ等进行查询调优,通过建立领域SME以及领导业务对数据层的调用,引入创新、行业标准,并改进现有数据流水线的性能。使用GCP、Hadoop工具栈、UNIX Shell脚本、Python、Spark处理、Storm、Kafka、nifi等流式处理工具、CI/CD部署和熟悉DEVOPS概念和工具等,执行各种ETL/ELT开发活动。 与验证团队合作,定义和推动ETL流水线中的质量/测试能力,与治理团队合作进行数据目录编制、分类实施等ETL数据层工作。在Teradata、GCP或大数据生态系统中设计、构建和部署新/现有的数据流水线,处理大量结构化和非结构化数据,包括整合来自多个来源的数据。 联系方式: 请将您的个人资料发送至priya@lionandelephants.com,并提供以下详细信息 • 通知期限 • 当前年薪(包括AWS/奖金) • 期望年薪 • 居民身份(公民/永久居民/就业准证) • 是否有其他工作机会 只接受新加坡本地人(公民,永久居民)