产品经理,LLM数据获取与生产(安全领域)- Seed Global Data

新加坡 10小时前全职 网络
5.4万 - 10.8万 / 月
职责 关于团队 Seed Global Data 是一个专注于为大型语言模型(LLM)生成国际数据的团队。对于大型模型的训练,数据是模型质量的生命线——而全球数据团队正在与技术、产品和运营团队密切合作,以确保有效的数据生产策略和执行管理。 作为我们 LLM 全球数据团队的重要成员,LLM 培训运营分析师将在管理使用多样化编码数据集训练大型语言模型(LLM)的复杂过程中发挥关键作用。此角色专注于监督和改进运营工作流程,主要针对与代码相关的项目,确保它们以高质量和高效率交付。 工作职责 - 与技术团队合作,找出潜在的差距并进行相关的安全对齐缓解措施,包括但不限于 SFT/RL 训练。 - 与评估团队合作,了解安全对齐训练的影响;迭代评估框架以更好地适应实际场景。 - 开发数据生产和获取的方法;确保高数据质量,同时最大限度地提高数据管道的有效性和效率。 请注意,此角色可能涉及接触潜在有害或敏感内容,无论是作为核心职能,通过临时项目参与,还是通过升级案件。这可能包括但不限于展示: - 仇恨言论或骚扰 - 自残或自杀相关内容 - 暴力或残忍 - 儿童安全 将提供支持资源和韧性培训以支持员工的身心健康。 资格 最低资格: - 对 AI 代理安全挑战有扎实的理解,例如在 AI 搜索和工具使用场景中。 - 3 年以上产品经理或产品策略师的经验 - 英语(口语和书面)熟练。 优先资格: - 对 LLM 和人类行为/经验/福祉有浓厚兴趣。必须是一个热情的学习者。此职位不适合那些觉得阅读论文和书籍乏味的人。 - 协作的团队合作者,知道如何坚定地倡导自己的想法而不咄咄逼人。擅长在关注优先目标和大局的同时保持对细节的关注。 - 具备计算机科学背景或编码技能。