Hadoop管理员

圣弗朗西斯科 10天前全职 网络
面议
职位描述 职位名称:高级软件工程师 经验:8 - 11年 地点:旧金山/休斯顿 主要技能: - 设置生产环境的Hadoop集群,优化配置 - 推动Hadoop部署、集群扩展和维护操作的自动化 - 管理Hadoop集群,监控警报和通知 - 部署升级、更新和补丁 - 为生产服务提供24x7的三级故障排除和修复支持 - 安装和配置问题的诊断 - 集群管理问题的诊断 - 性能问题的诊断 - 作业调度、监控、调试和故障排除 - 全面监控和管理集群,特别是可用性、性能和安全性 - 文件系统管理和监控 - 在Hadoop和其他数据存储(包括关系数据库)之间的数据传输 - 以流式或批处理模式将其他数据源导入Hadoop - 启用和停用工作节点 - 配置集群以识别机架 - 设置高可用性/灾难恢复环境 - 调试/排除环境故障/停机问题 - 与数据交付团队合作,设置新的Hadoop用户。此工作包括设置Linux用户,设置Kerberos主体,并测试新用户的HDFS、Hive、Pig和MapReduce访问 - 设置Hadoop中的安全配置 - Hadoop集群和Hadoop Map Reduce例程的性能调优 - 管理和审查Hadoop日志文件 资格 工程学士,计算机应用硕士,硕士/研究生(优先IT/计算机科学) 附加信息