AWS Trainium / NKI Kernel Expert

Anyone AI está reclutando ingenieros experimentados en AWS Trainium / Neuron Kernel Interface (NKI) para un proyecto especializado enfocado en la evaluación y mejora de tareas de desarrollo de kernels para cargas de trabajo de IA.

Buscamos ingenieros con experiencia práctica en la creación u optimización de kernels NKI en hardware AWS Trainium o Inferentia2, que comprendan cómo la arquitectura de Trainium difiere de la programación tradicional de GPUs.

QUÉ HARÁS

Revisarás y evaluarás tareas técnicas que involucran:

• Corrección de kernels NKI y patrones de desarrollo específicos de Trainium
• Migraciones de CUDA a kernels NKI
• Optimización de rendimiento y benchmarking de Trainium
• Gestión de memoria entre SBUF, PSUM y HBM
• Computación basada en tiles y programación DMA
• Corrección numérica multiplataforma entre CUDA/Triton y NKI
• Cuellos de botella de rendimiento específicos de Trainium y oportunidades de optimización
• Retroalimentación técnica y evaluación de calidad de implementaciones de kernels

El trabajo implica determinar si las implementaciones no solo son técnicamente correctas, sino también idiomáticas y optimizadas para el hardware Trainium, en lugar de simplemente traducidas de enfoques basados en GPU.

QUÉ BUSCAMOS

• Más de 2 años de experiencia práctica desarrollando u optimizando kernels con Neuron Kernel Interface (NKI)
• Experiencia trabajando con AWS Trainium y/o Inferentia2
• Sólida comprensión de:
• Computación basada en tiles
• Jerarquía de memoria SBUF / PSUM / HBM
• Restricciones de dimensión de partición
• Orquestación DMA
• Técnicas de optimización específicas de Trainium
• Capacidad para evaluar migraciones de CUDA a NKI
• Experiencia en profiling y optimización de cargas de trabajo en Trainium
• Comprensión de las diferencias numéricas entre backends de GPU y Trainium
• Fuerte habilidad para analizar implementaciones técnicas complejas y proporcionar retroalimentación escrita clara

VALORADO

• Experiencia con AWS Neuron SDK o Neuron Compiler
• Experiencia en desarrollo de kernels CUDA o Triton
• Conocimiento de la arquitectura NeuronCore-v2
• Experiencia con cargas de trabajo FP32, BF16, FP8 e INT8
• Experiencia en benchmarking de cargas de trabajo en instancias Trn1 o Trn2
• Familiaridad con nki.language, @nki.jit o llamadas personalizadas XLA
• Experiencia en evaluación técnica, proyectos de datos de IA/ML, RLHF o evaluación basada en rúbricas

CONTRATACIÓN

Tipo de trabajo: Remoto

Modalidad

Consultoría a tiempo parcial, por proyecto

Enfoque: Ingeniería de kernels AWS Trainium / NKI y evaluación técnica

Este puesto es ideal para ingenieros que hayan trabajado profundamente con la infraestructura AWS Trainium y la optimización de kernels de ML de bajo nivel, y que estén interesados en aplicar esa experiencia a proyectos de IA técnicamente desafiantes.