关于Periodic Labs
我们是一家结合人工智能与物理科学的实验室,致力于构建最先进的模型以进行新的科学发现。我们资金充足,正在快速增长。团队成员是能够识别和解决问题的所有者,不受边界或官僚主义的限制。我们热衷于学习新工具和新科学,以推动我们的使命向前发展。
关于该职位
您将整合、优化和操作大规模推理系统,以支持人工智能科学研究。您将构建和维护高性能的服务基础设施,提供低延迟、高吞吐量的访问,以支持数千个GPU上的大型语言模型。您将与研究人员和工程师紧密合作,将最前沿的推理技术整合到大规模强化学习工作负载中。您将构建工具并直接支持前沿规模的实验,使Periodic Labs成为世界上最好的AI + 科学实验室。您将为开源LLM推理软件做出贡献。
如果您有以下经验,您可能会在此职位中茁壮成长:
- 优化最大开源模型的推理
- 高性能模型服务框架,如TensorRT-LLM、vLLM、SGLang
- 分布式推理技术(张量/专家/流水线并行、推测解码、KV缓存管理)
- 优化GPU利用率和强化学习的延迟