研究工程师,预训练

伦敦 8天前全职 网络
面议
关于 Anthropic Anthropic 的使命是创造可靠、可解释和可引导的人工智能系统。我们希望人工智能对我们的用户和整个社会都是安全和有益的。我们的团队是一个快速成长的团队,由 committed 的研究人员、工程师、政策专家和商业领袖组成,齐心协力构建有益的人工智能系统。 Anthropic 处于人工智能研究的前沿,致力于开发安全、伦理和强大的人工智能。我们的使命是确保变革性的人工智能系统与人类利益保持一致。我们正在寻找一位研究工程师加入我们的预训练团队,负责开发下一代大型语言模型。在这个角色中,您将工作在前沿研究与实际工程的交汇处,为开发安全、可引导和可信赖的人工智能系统做出贡献。 主要职责 • 在模型架构、算法、数据处理和优化器开发等领域进行研究和实施解决方案 • 独立领导小型研究项目,同时与团队成员合作进行更大规模的项目 • 设计、运行和分析科学实验,以推进我们对大型语言模型的理解 • 优化和扩展我们的训练基础设施,以提高效率和可靠性 • 开发和改进开发工具,以提高团队生产力 • 参与整个技术栈,从低级优化到高级模型设计 资格要求 • 计算机科学、机器学习或相关领域的高级学位(硕士或博士) • 强大的软件工程技能,具有构建复杂系统的良好记录 • 精通 Python,并且有深度学习框架的经验(优先考虑 PyTorch) • 熟悉大规模机器学习,特别是在语言模型的背景下 • 能够平衡研究目标与实际工程限制 • 强大的问题解决能力和以结果为导向的思维方式 • 优秀的沟通能力,能够在协作环境中工作 • 关心您工作的社会影响 优先经验 • 在高性能、大规模机器学习系统上工作 • 熟悉 GPU、Kubernetes 和操作系统内部 • 使用变压器架构进行语言建模的经验 • 了解强化学习技术 • 有大规模 ETL 过程的背景 如果您在这个角色中会茁壮成长 • 拥有丰富的软件工程经验 • 以结果为导向,倾向于灵活性和影响力 • 愿意承担超出您职位描述的任务,以支持团队 • 喜欢配对编程和协作工作 • 渴望了解更多关于机器学习研究的知识 • 热衷于在一个作为一个整体团队运作的组织中工作,追求大规模的人工智能研究项目 • 正在努力将最先进的模型与人类价值观和偏好对齐,理解和解释深度神经网络,或开发新模型以支持这些研究领域 • 将研究与工程视为一枚硬币的两面,努力尽可能理解我们研究项目的各个方面,以最大化您的见解的影响 • 对人工智能安全和未来几年整体进展有雄心勃勃的目标,并致力于创造最佳的长期结果。 示例项目 • 优化新颖注意机制的吞吐量 • 比较不同变压器变体的计算效率 • 准备大规模数据集以便高效模型使用 • 将分布式训练任务扩展到数千个 GPU • 为我们的训练基础设施设计容错策略 • 创建模型内部的交互式可视化,例如注意模式 在 Anthropic,我们致力于营造一个多元和包容的工作场所。我们强烈鼓励来自各种背景的候选人申请,包括来自科技领域代表性不足群体的候选人。 如果您对推动人工智能的边界感到兴奋,同时优先考虑安全和伦理,我们希望听到您的声音! 此职位的预期基本薪酬如下。我们全职员工的总薪酬包包括股票、福利,并可能包括激励薪酬。 年薪 £250,000—£270,000 英镑 后勤 教育要求:我们要求至少有相关领域的学士学位或同等经验。 基于地点的混合政策:目前,我们希望所有员工至少 25% 的时间在我们的办公室。然而,某些角色可能需要更多时间在我们的办公室。 签证赞助:我们确实赞助签证!但是,我们无法为每个角色和每位候选人成功赞助签证。但如果我们给您提供了工作机会,我们将尽一切合理努力为您获取签证,并保留移民律师来协助此事。 我们鼓励您申请,即使您认为自己并不符合所有资格要求。并不是所有优秀的候选人都会满足列出的每一项资格。研究表明,来自代表性不足群体的人更容易经历冒名顶替综合症,并怀疑自己候选资格的强度,因此我们敦促您不要过早排除自己,如果您对这项工作感兴趣,请提交申请。我们认为,像我们正在构建的人工智能系统具有巨大的社会和伦理影响。这使得代表性更加重要,我们努力在我们的团队中包括多样化的观点。 我们的不同之处 我们相信,影响最大的人工智能研究将是大型科学。在 Anthropic,我们作为一个整体团队在少数几个大规模研究项目上工作。我们重视影响——推进我们长期目标的可引导、值得信赖的人工智能——而不是在较小和更具体的难题上工作。我们将人工智能研究视为一门实证科学,与物理学和生物学有很多共同之处,和计算机科学的传统努力一样。我们是一个极具协作性的团队,并且我们定期举行研究讨论,以确保我们在任何时候都在追求最高影响的工作。因此,我们非常重视沟通能力。 了解我们研究方向的最简单方法是阅读我们最近的研究。这项研究延续了我们团队在 Anthropic 之前所从事的许多方向,包括:GPT-3、基于电路的可解释性、多模态神经元、扩展法则、人工智能与计算、人工智能安全中的具体问题,以及从人类偏好中学习。 来和我们一起工作吧! Anthropic 是一家总部位于旧金山的公共利益公司。我们提供具有竞争力的薪酬和福利、可选的股票捐赠配对、慷慨的假期和父母假、灵活的工作时间,以及一个愉快的办公室空间以便与同事协作。关于候选人使用人工智能的指导:了解我们在申请过程中的 AI 使用政策。