数据工程师/Hadoop开发者

15个月前全职
Sriven Systems, Inc

Sriven Systems, Inc

location 芝加哥
unsaved
下午好 请根据客户要求与我分享更新后的简历 arjun@srivensys.com W2美国公民/永久居民 数据工程师/Hadoop开发人员 12个月(预计会延长) 丹佛科罗拉多州或芝加哥伊利诺伊州的混合工作模式 有9个职位空缺,招聘进展非常迅速! 顶级技能 - 必备技能 Hadoop Hive SPARK Kafka 云数据工程 SQL 顶级技能详细信息 • 在Hadoop开发/编程方面拥有5-8年经验,能够工程化解决方案,将数据集导入集群。具有与Hadoop/大数据和分布式系统一起工作的经验。 2)具有Spark/Scala经验 - 需要在这些技术中进行开发,或者使用Impala和Hive提取数据,并使用SPARK结构化流处理数据。 具备基本的SQL技能,熟悉MySQL、HIVE、Impala、SPARK SQL中的一种或多种。 具备从消息队列、文件共享、REST API、关系数据库等进行数据摄取的经验,并熟悉json、csv、xml、parquet等数据格式。 具备使用Spark、Sqoop、Kafka、MapReduce、HBase、SOLR、CDP或HDP、Cloudera或Hortonworks、Elastic Search、Kibana、Jupyter Notebook等工具的工作经验。 至少熟练掌握Scala、Python、PHP或Shell脚本等一种编程语言。 具备使用Linux操作系统的经验是必需的。 解决平台问题和连接问题。 具备使用Cloudera管理器和YARN的经验。 具备在共享集群/云环境中解决复杂资源争用问题的经验。 具备在HBase中开发后端以将API与JavaScript和/或Python连接的经验。 具备在敏捷方法论下工作的经验,以满足客户不断变化的需求。 职位描述 我们诚邀您加入美国银行全球信息安全组织的数据战略与工程团队,担任大数据平台开发人员/工程师。我们是一个紧密团结、支持性强的社区,致力于为客户提供最佳体验,同时关注他们独特的需求。 在这个角色中,您将帮助构建新的数据管道,识别现有数据缺口,并提供自动化解决方案,为支持运营团队的应用程序提供先进的分析能力和丰富的数据。您还将负责从记录系统获取数据,并建立实时数据源,以自动化方式进行分析。 例如,负责第三方风险评估的网络安全保证小组使用这些分析仪表板进行评估,负责监控和恶意软件问题的网络安全防御小组也使用这些分析仪表板。这些小组将向该团队提出需求,需要帮助解决他们的需求和分析类型,然后该团队将根据这些需求在Hadoop中创建,并将其转移到UI以供分析目的使用。 他们正在寻找具有使用KafkaConnect、HBASE、ApacheSpot的经验,以增强集群功能的候选人。他们正在建设并确保集群的功能非常强大。首选具有强大的HBase和SPARK经验的人。他们正在寻找具有HBase经验的人,将其与应用程序和API相结合,以便提取数据。另一个他们将要处理的项目是数据摄取。他们将使用Flume、Spark和Hive。 其他技能和资格 具备强大的SQL技能,熟悉MySQL、HIVE、Impala、SPARK SQL中的一种或多种。 具备使用Spark/MapReduce或SQL作业进行性能调优的经验。 具备近实时和批处理数据管道的端到端设计和构建经验。 具备使用SVN、Git、Bit Bucket等源代码和版本控制系统的经验。 具备使用Jenkins和Jar管理的经验。 具备与Hadoop/大数据相关领域的工作经验。 具备使用Hive、Spark、HBase、Sqoop、Impala、Kafka、Flume、Oozie、MapReduce等工具的经验。 具备使用Java、Scala、Python或Shell脚本等编程语言的经验。 具备较强的SQL和数据建模经验。 具备在敏捷开发过程中工作的经验,并对软件开发生命周期的各个阶段有深入的理解。 对Hadoop生态系统有深入的理解,对Hadoop架构组件有强大的概念知识。 能够在最少的监督下自主开展工作,并具备在多样化技能团队中工作的能力。 能够理解客户需求并提供正确的解决方案。 具备解决复杂问题的强大分析能力。 渴望解决问题并深入探究潜在问题的能力。 重视学习新技术并适应的能力。 员工价值主张(EVP) 薪资合同 - 在此合同上享受6个TEK假期(假期工资)和5个银行假期(保证工资而非假期工资,但每周保证40小时的工资)。 工作环境 他们将与一个约30人的团队合作。团队主要位于北卡罗来纳州夏洛特,但还有其他市场的团队成员。非常合作,紧密团结的团队。这个角色需要在以下地点进行工作:芝加哥,伊利诺伊州;丹佛,科罗拉多州(也会考虑其他主要的美国银行市场)。 业务驱动/客户影响 有几个驱动因素,其中之一是增强他们的Jupyter Hub工具和SIEM工具,以及他们的TPCA - 第三方控制和评估 - 试图确定要提出的问题,并根据之前提出的问题构建模型。例如:如果Home Depot正在进行300万美元的交易,或者TEKsystems正在与我们进行大量交易,并对我们进行评估,是否意味着需要提出200或300个问题,只需更好地利用他们已有的数据,而不是每次都重新发明轮子。他们的数据目前散落在各处的电子表格中,没有一种统一的方式来查找这些信息或数据,并且需要改进/使其更高效,以满足CSA(特别是Byron的团队)的需求。Alan的团队将向Brent Bohmont的团队提供数据和报告,后者将开发UI,供Byron的团队实际查看和使用。UI是内部构建的/非现成的。他的团队将为UI工作流程构建应用程序,将其整合到一个队列中供他们查看,并提高效率。 外部社区职位描述 我们正在寻找多名Hadoop开发人员。 谢谢和问候, Arjun K 招聘部门经理 Sriven Systems, Inc 直线电话:6313156999 / 分机:1005 手机- +1 (951)-299-5015 arjun@srivensys.com https://www.linkedin.com/in/arjun-k-2302b62a/ 传真:516-908-3640 545 S. Kimball Avenue, Suite 100, Southlake, TX 76092(新地址) www.srivensys.com 连续8年获得“美国增长最快的500家和5000家公司”奖项:2008年至2016年。 1999-2023:23年以上的卓越表现