注意:请仅分享 USC/GC 简历
职位角色:Databricks 工程师
工作地点:德克萨斯州休斯顿
长期合同
职位概述
Databricks 工程师负责使用 Databricks Lakehouse 平台设计、开发和优化大规模数据管道和分析解决方案。此角色涉及使用大数据技术,确保数据质量,支持高级分析和机器学习工作流程,并支持跨职能数据团队。
主要职责
• 在 Databricks 笔记本、作业、工作流和 Delta Live Tables 中开发工作流和作业。
• 精通 Databricks、DLT(Delta Live Tables)框架和 Pyspark。
• 实施实时和批量数据处理解决方案。
• 从多种来源(API、流媒体平台、数据库、云存储)集成数据。
• 管理和优化 Databricks 集群、池、作业和工作区配置。
• 应用集群规模、性能调优、自动扩展和成本优化的最佳实践。
• 配置基于角色的访问控制、审计日志和 Unity Catalog 权限。
• 确保遵守数据隐私、合规性和治理要求。
• 实施安全的数据摄取、加密和密钥管理。