AWS 云和 ETL 开发人员 - 泽西城, 新泽西州

休斯敦 11天前全职 网络
面议
技能: AWS 云和 ETL 开发人员 地点: 休斯顿, 德克萨斯州 / 泽西城, 新泽西州 类型: 合同 主要职责和技术技能: 技术技能: • ETL 工具: Talend(优先考虑) • 数据库: Snowflake, Oracle, Amazon RDS(Aurora, Postgres), DB2, SQL Server 和 Cassandra, • 大数据和亚马逊服务: Apache Sqoop, AWS S3, Hue, AWS CLI, Amazon EMR, Amazon MSK, Amazon Sagemaker, Apache Spark • 数据建模工具: Archimate(非强制- 次要/优先考虑), Erwin, Oracle 数据建模工具(次要/优先考虑) • 调度工具: Autosys, SFTP, AirFlow(优先考虑。任何资源都可以学习如何使用它) 注意: (黄色高亮的技能是必需的)未高亮的技能,即使没有,也应在入职后学习 主要职责: • 设计、构建和自动化使用 AWS 服务(如 Apache Sqoop, AWS S3, Hue, AWS CLI, Amazon EMR, Amazon MSK, Amazon Sagemaker, Apache Spark)的 ETL 过程。 • 开发和维护数据管道,以将来自不同来源的数据移动和转换到数据仓库或数据湖中。 • 通过验证、清理和监控 ETL 过程来确保数据质量和完整性。 • 优化 ETL 工作流,以提高在 AWS 环境中的性能、可扩展性和成本效率。 • 解决与数据处理和 ETL 工作流相关的问题。 • 实施和维护数据管道和基础设施的安全措施和合规标准。 • 记录 ETL 过程、数据映射和系统架构。 • 实施 IAM 角色和访问控制等安全措施。 • 诊断和解决与 AWS 服务、基础设施和应用程序相关的问题。 • 精通大数据工具和 AWS 服务: 包括与数据存储和处理相关的 Apache Sqoop, AWS S3, Hue, AWS CLI, Amazon EMR, Amazon MSK, Amazon Sagemaker, Apache Spark。 • 强大的 SQL 技能: 用于查询数据库和在转换过程中操作数据。 Diverse Lynx LLC 是一个平等就业机会的雇主。所有合格的申请者将获得应有的就业考虑,不会受到任何歧视。所有申请者将仅根据其能力、技能和证明的能力来评估,以执行相应角色中概述的职能。我们在公司各级中促进和支持多元化的劳动力。