在NVIDIA，我们相信人工智能（AI）将从根本上改变人们的生活和工作方式。我们的使命是推进AI研究和开发，创造突破性技术，使任何人都能利用AI的力量并从中受益。我们的团队由AI、系统和性能优化方面的专家组成。我们的领导层包括在AI系统领域享有盛誉的专家，他们曾获得多项学术和行业研究奖项。
作为LLM推理团队的一员，您将帮助构建创新软件，目标是使LLM推理更加高效、可扩展和可访问。您是否有兴趣在LLM领域设计和实现最佳推理栈？与涉及资源编排、分布式系统、推理引擎优化以及编写高性能GPU内核的多元化团队合作。加入我们的团队，为开创加速计算和AI贡献力量。
• **您将从事的工作**
- 为我们的LLM推理核心后端软件编写安全、可扩展、模块化和高质量的（C++/Python）代码。
- 为GPU应用程序执行基准测试、分析和系统级编程。
- 提供代码审查、设计文档和教程，以促进团队间的协作。
- 对推理管道的不同阶段进行单元测试和性能测试。
• **我们需要您具备**
- 计算机科学、计算机工程、相关技术领域的学士学位或同等经验。
- Python和C/C++的强大编码能力。
- 2年以上软件工程行业经验或同等研究经验。
- 对机器学习和性能工程有深入了解和热情。
- 在构建性能为核心优势的软件项目中有丰富经验。
• **脱颖而出的方式**
- 扎实的机器学习、深度学习、操作系统、计算机架构和并行编程基础。
- 在系统或机器学习方面的研究经验。
- 在现代DL软件（如PyTorch、CUDA、vLLM、SGLang和TensorRT-LLM）方面的项目经验。
- 在性能建模、分析、调试和代码优化或CPU和GPU架构知识方面的经验。
我们强烈建议您包括展示上述资格的示例项目（例如Github）。
NVIDIA被广泛认为是技术界最理想的雇主之一。我们拥有世界上一些最具前瞻性和勤奋的人才。我们正在全球范围内构建许多最重要的AI技术和基础设施。您是否对AI系统、效率和性能充满热情？加入我们，共同推动加速计算的前沿！
您的基本工资将根据您的所在地、经验以及类似职位员工的薪酬确定。基本工资范围为Level 2的93,750 CAD - 162,500 CAD，Level 3的116,250 CAD - 201,500 CAD。
您还将有资格获得股权和福利。
此职位的申请将至少接受至2025年9月2日。
JR2002786
