Software Engineer, Systems ML - PyTorch Compiler, PyTorch Framework, PyTorch Performance | Ingénieur logiciel, Systems ML - Compilateur PyTorch, Framework PyTorch, Performance PyTorch

This role is about developing the core PyTorch 2.0 technologies, innovating and advancing the state-of-the-art of ML compilers, and accelerating PT2 adoption through direct engagements with OSS and industry users.The PyTorch Compiler team is dedicated to making PyTorch run faster and more resource-efficient without sacrificing its flexibility and ease of use. The team is the driving force behind PT2, a step function change in PyTorch's history that brought compiler technologies to the core of PyTorch. PT2 technologies have gained industry-wide recognition since their first release in March 2023. The team is committed to building the PT2 compiler that withstands the test of time while striving to become the #1 ML framework compiler in the industry. The team is highly innovative, passionate about the technologies we build, and love to do technical work. Our work is open source, cutting-edge, and industry leading.-------Ce rôle consiste à développer les technologies de base de PyTorch 2.0, à innover et à faire progresser l'état de l'art des compilateurs ML et à accélérer l'adoption de PT2 grâce à des engagements directs avec les utilisateurs d'OSS et de l'industrie.L'équipe du compilateur PyTorch s'efforce de rendre PyTorch plus rapide et plus économe en ressources sans sacrifier sa flexibilité et sa facilité d'utilisation. L'équipe est l'élément moteur derrière PT2, une avancée significative dans l'histoire de PyTorch qui a permis d'intégrer des technologies de compilation au sein même de PyTorch. Les technologies PT2 ont acquis une reconnaissance à l'échelle de l'industrie depuis leur première sortie en mars 2023. L'équipe s'engage à créer le compilateur PT2 qui résiste à l'épreuve du temps tout en s'efforçant de devenir le compilateur de framework ML n°1 de l'industrie. L'équipe est très innovante, passionnée par les technologies que nous construisons et aime faire du travail technique. Le code source de notre travail est libre, innovant et à la pointe de l'industrie.

Software Engineer, Systems ML - PyTorch Compiler, PyTorch Framework, PyTorch Performance | Ingénieur logiciel, Systems ML - Compilateur PyTorch, Framework PyTorch, Performance PyTorch Responsibilities:

• Develop the PT2 compiler (e.g., TorchDynamo, TorchInductor, Export, PyTorch Core) | Développer le compilateur PT2 (par exemple, TorchDynamo, TorchInductor, Export, PyTorch Core)
• Improve PyTorch performance via systematic solutions for the entire community | Améliorer les performances de PyTorch grâce à des solutions systématiques pour l'ensemble de la communauté
• Explore the intersection of the PyTorch compiler and PyTorch distributed | Explorez le point de rencontre entre le compilateur PyTorch et PyTorch distribué.
• Optimize Generative AI models across the stack (pre-training, fine-tuning, and inference) | Optimiser les modèles d'IA générative sur l'ensemble de la pile (pré-formation, réglage fin et inférence)
• Collaborate with users of PyTorch to enable new use cases of PT2 technologies both inside and outside Meta | Collaborer avec les utilisateurs de PyTorch pour permettre de nouveaux cas d'utilisation des technologies PT2 à l'intérieur et à l'extérieur de Meta

• Advanced in Python or C++ programming | Avancé en programmation Python ou C++
• Bachelor's degree in Computer Science, Computer Engineering, relevant technical field, or equivalent practical experience | Baccalauréat en informatique, en génie informatique, dans un domaine technique connexe ou une expérience pratique équivalente
• 4+ years of research or industry experience in developing compilers, ML systems, ML accelerators, GPU performance, and similar | Plus de 4 ans d'expérience en recherche ou dans l'industrie dans le développement de compilateurs, de systèmes ML, d'accélérateurs ML, de performances GPU et similaires

• Experience in developing PyTorch/PT2, Triton, MLIR, JAX, XLA, TVM is a huge plus | Une expérience dans le développement de PyTorch/PT2, Triton, MLIR, JAX, XLA, TVM est un énorme plus
• Knowledge in GPU architecture, ML accelerator performance, and developing high-performance kernels | Connaissances en architecture GPU, performances des accélérateurs ML et développement de noyaux hautes performances
• Experience in building OSS communities and extensive social media presence in the ML Sys domain | Expérience dans la création de communautés OSS et présence étendue sur les réseaux sociaux dans le domaine ML Sys
• Experience with training models, end-to-end model optimizations, or applying ML to systems | Expérience avec les modèles d'entraînement, l'optimisation de bout en bout des modèles ou applications du ML aux systèmes
• Knowledge of communication collectives, PyTorch distributed, and parallelism | Connaissance des collectifs de communication, de PyTorch distribué et du parallélisme
• Experience in developing inside other ML frameworks like Caffe2, TensorFlow, ONNX, TensorRT | Expérience de développement dans d'autres frameworks ML comme Caffe2, TensorFlow, ONNX, TensorRT