Databricks 工程师(仅限 USC 和 GC)

休斯敦 5天前合同 网络
面议
注意:请仅分享 USC/GC 简历 职位角色:Databricks 工程师 工作地点:德克萨斯州休斯顿 长期合同 职位概述 Databricks 工程师负责使用 Databricks Lakehouse 平台设计、开发和优化大规模数据管道和分析解决方案。此角色涉及使用大数据技术,确保数据质量,支持高级分析和机器学习工作流程,并支持跨职能数据团队。 主要职责 • 在 Databricks 笔记本、作业、工作流和 Delta Live Tables 中开发工作流和作业。 • 精通 Databricks、DLT(Delta Live Tables)框架和 Pyspark。 • 实施实时和批量数据处理解决方案。 • 从多种来源(API、流媒体平台、数据库、云存储)集成数据。 • 管理和优化 Databricks 集群、池、作业和工作区配置。 • 应用集群规模、性能调优、自动扩展和成本优化的最佳实践。 • 配置基于角色的访问控制、审计日志和 Unity Catalog 权限。 • 确保遵守数据隐私、合规性和治理要求。 • 实施安全的数据摄取、加密和密钥管理。