大数据工程师

15个月前全职
Knewin

Knewin

location 旧金山
unsaved
目标和交付成果 大数据工程师将领导大数据工程团队。顾问将担任技术负责人的角色,并提供专业服务,支持长期的IT战略和规划,包括高层次分析、专业报告和演示文稿,以及指导、支持和培训。 技术知识和技能: 在大数据环境中有4年以上的实际开发、部署和生产支持经验。 具有4-5年的Java、Scala、Python编程经验。 精通SQL和关系数据库设计以及数据检索方法。 了解HBase或Cassandra等NoSQL系统。 具有Cloudera Distribution 6.x的实际操作经验。 具有在Solr Cloud环境中创建、索引Solr集合的实际操作经验。 具有使用Hadoop组件Sqoop、Hive、Solr、MR、Impala、Spark、Spark SQL构建数据管道的实际操作经验。 必须具备使用Hive QL、UDF分析半结构化/结构化数据集的经验。 必须具备Spring框架、Web服务、REST API和微服务的经验。 具有摄取和处理Avro/Parquet/Sequence Files/Text Files等各种文件格式的实际操作经验。 必须具备数据仓库和商业智能系统的工作经验。 精通Unix/Linux环境下编写脚本和调度/执行作业。 具有使用MLLib或任何客户端工具构建客户端模型的实际操作经验。 具有在Spark/Kafka/Storm等实时分析中的实际操作经验。 具有Neo4J、Tiger Graph、Orient DB等图形数据库的经验。 敏捷开发方法论。 首要要求: 在Hadoop/大数据环境中具有5年以上的强大的实际设计和开发经验。 在Java、Scala和Python语言中具有强大的实际编码经验。 具有Spring框架、Web服务、REST API和微服务的实际操作经验。 具有使用Hadoop组件Sqoop、Kafka、Hive、SOLR、Map Reduce、Spark、Spark SQL、HBase等构建数据管道的实际操作经验。 J-18808-Ljbffr 最后更新日期:2024年1月19日