Senior/Staff Machine Learning Engineer - Perception Offline Driving Intelligence

Engineer, Offline Driving Intelligence Team

The Offline Driving Intelligence (ODIN) team at Zoox is leveraging the latest in AI to craft algorithms that understand the world. We leverage large models first offline and we devise a path of impact into our self-driving robot, enabling safe and efficient navigation in complex environments.

As an engineer in the ODIN team, you will develop advanced multimodal large language models that enhance environmental understanding. You'll develop and fine-tune these models for off-vehicle analysis while working with the onboard team to deliver impact in our robotaxi platform, ensuring they can efficiently identify hazards and interpret driving restrictions with minimal latency. Working alongside world-class engineers and researchers, you'll leverage premium sensor data and cutting-edge infrastructure to validate your algorithms in real-world conditions, directly impacting productivity, safety and the capability of Zoox's autonomous system.

In this role, you will:

• Lead the development of multimodal large language models that enhance our robotaxis' understanding of complex urban environments
• Design effective model architectures and sophisticated training techniques, leveraging all the inputs from our sensor stack and the overall large scale data we have at Zoox.
• Drive end-to-end ML solutions from research to production, utilizing Zoox's extensive data pipelines and infrastructure to improve autonomous driving capabilities
• Collaborate with perception, planning, safety, and systems teams to integrate your models into the vehicle's decision-making pipeline
• Validate and optimize your solutions using real-world driving scenarios, directly contributing to the safety and reliability of Zoox's autonomous system

Qualifications:

• MS or PhD in Computer Science, Machine Learning, or related technical field
• Demonstrated experience training and deploying large language models (LLMs)
• Experience building and maintaining ML training pipelines, including data preprocessing, model training, and evaluation
• Proficiency in Python and ML libraries (PyTorch, NumPy) demonstrated through professional or research projects
• Experience training with large scale datasets (e.g. tens of millions of videos)

Bonus Qualifications:

• Publications in top-tier conferences (CVPR, ICCV, RSS, ICRA)
• Experience with autonomous robotics systems

Zoox is developing the first ground-up, fully autonomous vehicle fleet and the supporting ecosystem required to bring this technology to market. Sitting at the intersection of robotics, machine learning, and design, Zoox aims to provide the next generation of mobility-as-a-service in urban environments. We're looking for top talent that shares our passion and wants to be part of a fast-moving and highly execution-oriented team.

If you need an accommodation to participate in the application or interview process please reach out to accommodations@zoox.com or your assigned recruiter.

You do not need to match every listed expectation to apply for this position. Here at Zoox, we know that diverse perspectives foster the innovation we need to be successful, and we are committed to building a team that encompasses a variety of backgrounds, experiences, and skills.

In Summary: The Offline Driving Intelligence (ODIN) team at Zoox is leveraging the latest in AI to craft algorithms that understand the world . As an engineer in the ODIN team, you will develop advanced multimodal large language models that enhance environmental understanding . You'll develop and fine-tune these models for off-vehicle analysis .

En Español:

Ingeniero de aprendizaje automático senior/staff - Percepción de la inteligencia para conducir fuera de línea

Ciudad de Foster, CA

Percepción de software

Trabajo a tiempo completo / híbrido

El equipo Offline Driving Intelligence (ODIN) de Zoox está aprovechando lo último en inteligencia artificial para crear algoritmos que entiendan el mundo. Aprovechamos modelos grandes primero fuera de línea y diseñamos un camino de impacto en nuestro robot autónomo, permitiendo una navegación segura y eficiente en entornos complejos.

Como ingeniero en el equipo ODIN, desarrollará modelos avanzados de lenguaje multimodal grande que mejoran la comprensión ambiental. Desarrollará y perfeccionará estos modelos para análisis fuera del vehículo mientras trabaja con el equipo a bordo para ofrecer impacto en nuestra plataforma robotaxi, asegurándose de que puedan identificar eficientemente los peligros e interpretar las restricciones de conducción con una latencia mínima. Trabajando junto a ingenieros e investigadores de clase mundial, aprovecharás datos de sensores premium e infraestructura de vanguardia para validar tus algoritmos en condiciones reales, impactando directamente en la productividad, seguridad y capacidad del sistema autónomo de Zoox.

En este papel, usted:

• Liderar el desarrollo de modelos multimodales grandes del lenguaje que mejoran la comprensión de nuestros robots en entornos urbanos complejos
• Diseñar arquitecturas de modelos efectivas y técnicas sofisticadas de entrenamiento, aprovechando todas las entradas de nuestra pila de sensores y los datos generales a gran escala que tenemos en Zoox.
• Implementar soluciones ML de extremo a extremo desde la investigación hasta la producción, utilizando los amplios canales y infraestructuras de datos de Zoox para mejorar las capacidades de conducción autónoma
• Colaborar con los equipos de percepción, planificación, seguridad y sistemas para integrar sus modelos en la toma de decisiones del vehículo
• Validar y optimizar sus soluciones utilizando escenarios de conducción reales, contribuyendo directamente a la seguridad y confiabilidad del sistema autónomo de Zoox

Qualificaciones:

• Máster en Ciencias de la Computación, Aprendizaje automático o campo técnico relacionado
• Experiencia demostrada en la formación y el despliegue de grandes modelos lingüísticos (LLM)
• Experiencia en la construcción y mantenimiento de líneas de formación del ML, incluido el procesamiento previo a los datos, la capacitación de modelos y la evaluación
• Proficiencia en las bibliotecas Python y ML (PyTorch, NumPy) demostrada a través de proyectos profesionales o de investigación
• Experiencia en formación con conjuntos de datos a gran escala (por ejemplo, decenas de millones de vídeos)

Qualificaciones de bonificación:

• Publicaciones en conferencias de alto nivel (CVPR, ICCV, RSS, ICRA)
• Experiencia con sistemas robóticos autónomos

$230.000 - $332.000 al año