Machine Learning Engineer, Amazon General Intelligence (AGI) Job at US Company i
US Company, San Francisco, CA, United States
Machine Learning Engineer, Amazon General Intelligence (AGI)
The Artificial General Intelligence (AGI) team is looking for a passionate, talented, and inventive Machine Learning Engineer (MLE) to play a pivotal role in the development of industry-leading multi-modal and multi-lingual Large Language Models (LLM). As our SDE/MLE superstar, you’ll lead the charge in developing training algorithms and modeling techniques that will push the boundaries of large model training using GPUs and AWS Trainium. Your work will directly impact our customers’ lives through game-changing products and services powered by your Generative AI breakthroughs.
Get ready to dive into Amazon’s vast and diverse data sources and harness the immense power of our large-scale computing resources to turbocharge the development of multi-modal Large Language Models (LLMs) and other awe-inspiring Generative Artificial Intelligence (Gen AI) applications. Your expertise and insights will be invaluable in defining data strategies, model optimizations, and evaluation methods that will set new standards in the industry.
Key job responsibilities
- Ability to quickly learn new technologies and algorithms in the field of Generative AI to participate in our journey to build the best LLMs.
- Responsible for the development and maintenance of key platforms needed for developing, evaluating and deploying LLM for real-world applications.
- Work with other team members to investigate design approaches, prototype new technology and evaluate technical feasibility.
- Work closely with Applied scientists to process massive data, scale machine learning models while optimizing.
- Proven track record of optimizing GPU workloads at the Kernel level.
A day in the life
As a SDE/MLE with the AGI team, you will be responsible for leading the development of modeling techniques and optimizing performance of the state of the art of large model training using hardware like NVDIA GPUs. You will leverage Amazon’s heterogeneous data sources and large-scale computing resources to accelerate development with multi-modal Large Language Models (LLMs) and other Generative Artificial Intelligence (Gen AI) applications. As a key player in our team, you’ll have a significant influence on our overall strategy, shaping the future direction of AGI at Amazon. You’ll be driving system architecture and champion best practices that will ensure an unparalleled infrastructure of the highest quality. Work in an Agile/Scrum environment to move fast and deliver high quality software.
About the team
Join our AGI team and work at the forefront of AI. Collaborate with top minds pushing boundaries in deep learning, reinforcement learning, and more. Gain valuable experience and accelerate your career growth. This is a unique opportunity to create history and shape the future of artificial intelligence.
Mission of the team
We leverage our hyper-scalable, general-purpose large model training and inference systems to develop and deploy cutting-edge sensory AI foundational models that revolutionize machine perception, interpretation and interaction, with humans and with the physical world.
Basic Qualifications
- 3+ years of non-internship professional software development experience
- 2+ years of non-internship design or architecture (design patterns, reliability and scaling) of new and existing systems experience
- Experience programming with at least one programming language
Preferred Qualifications
- 3+ years of full software development life cycle, including coding standards, code reviews, source control management, build processes, testing, and operations experience
- Master’s degree in computer science or equivalent
- Experience in techniques like Kernel fusion and custom kernels to improve GPU utilization, mixed precision training using lower precision and dynamic loss scaling while leveraging hardware specific mixed precision capabilities and/or demonstrated ability to implement efficient memory management like gradient (activation) checkpointing, gradient accumulation, offloading optimizer states, and smart prefetching.
Amazon is an equal opportunity employer and does not discriminate on the basis of protected veteran status, disability, or other legally protected status. Our inclusive culture empowers Amazonians to deliver the best results for our customers. If you have a disability and need a workplace accommodation or adjustment during the application and hiring process, including support for the interview or onboarding process, please visit for more information.
Our compensation reflects the cost of labor across several US geographic markets. The base pay for this position ranges from $129,300/year in our lowest geographic market up to $223,600/year in our highest geographic market. Pay is based on a number of factors including market location and may vary depending on job-related knowledge, skills, and experience. Amazon is a total compensation company. Dependent on the position offered, equity, sign-on payments, and other forms of compensation may be provided as part of a total compensation package, in addition to a full range of medical, financial, and/or other benefits. For more information, please visit This position will remain posted until filled. Applicants should apply via our internal or external career site.
#J-18808-Ljbffr
In Summary: The Artificial General Intelligence (AGI) team is looking for a Machine Learning Engineer (MLE) to play a pivotal role in the development of industry-leading multi-modal and multi-lingual Large Language Models (LLMs) The SDE/MLE will lead the charge in developing training algorithms and modeling techniques that will push the boundaries of large model training using GPUs and AWS Trainium .
En Español:
Ingeniero de aprendizaje automático, inteligencia general de Amazon (AGI)
El equipo de Inteligencia General Artificial (AGI) está buscando a un ingeniero de aprendizaje automático (MLE, por sus siglas en inglés) apasionado, talentoso e inventivo para desempeñar un papel fundamental en el desarrollo de modelos de lenguaje grande (LLM), multimodal y multilingüe líderes en la industria. Como nuestra superestrella SDE / MLE, usted liderará la carga del desarrollo de algoritmos de capacitación y técnicas de modelado que empujarán los límites del entrenamiento de grandes modelos utilizando GPUs y AWS Trainium. Su trabajo afectará directamente las vidas de nuestros clientes a través de productos y servicios que cambian el juego impulsados por sus avances en IA Generativa.
Prepárese para sumergirse en las vastas y diversas fuentes de datos de Amazon y aprovechar el inmenso poder de nuestros recursos informáticos a gran escala para impulsar el desarrollo de modelos multimodales de lenguaje grande (LLM) y otras aplicaciones impresionantes de inteligencia artificial generativa (Gen AI). Su experiencia e información serán valiosas para definir estrategias de datos, optimizaciones de modelos y métodos de evaluación que establecerán nuevos estándares en la industria.
Responsabilidades clave del puesto de trabajo
- Capacidad para aprender rápidamente nuevas tecnologías y algoritmos en el campo de la IA Generativa para participar en nuestro viaje a construir los mejores LLM.
- Responsable del desarrollo y mantenimiento de las plataformas clave necesarias para desarrollar, evaluar e implementar el LLM en aplicaciones reales.
- Trabajar con otros miembros del equipo para investigar enfoques de diseño, prototipar nuevas tecnologías y evaluar la viabilidad técnica.
- Trabajar estrechamente con los científicos aplicados para procesar datos masivos, escalar modelos de aprendizaje automático mientras optimizan.
- Un historial comprobado de optimización de las cargas de trabajo de la GPU a nivel del Kernel.
Un día en la vida
Como SDE/MLE con el equipo AGI, usted será responsable de liderar el desarrollo de técnicas de modelado y optimizar el rendimiento del estado de la técnica de capacitación de grandes modelos utilizando hardware como GPUs NVDIA. Aprovechará las fuentes heterogéneas de datos y los recursos informáticos a gran escala de Amazon para acelerar su desarrollo con Modelos Large Language (LLMs) multimodal y otras aplicaciones de Inteligencia Artificial Generativa (Gen AI).
Sobre el equipo
Únete a nuestro equipo AGI y trabaja en la vanguardia de la IA. Colabora con las mejores mentes que empujan los límites del aprendizaje profundo, el aprendizaje por refuerzo y más. Obtenga valiosa experiencia y acelera tu crecimiento profesional. Esta es una oportunidad única para crear historia y dar forma al futuro de la inteligencia artificial.
Misión del equipo
Aprovechamos nuestros sistemas de capacitación y inferencia de modelos grandes e hiperescalables con fines generales para desarrollar e implementar modelos fundamentales avanzados en inteligencia artificial sensorial que revolucionan la percepción, interpretación e interacción de las máquinas, con los seres humanos y el mundo físico.
Qualificaciones básicas
- 3+ años de experiencia profesional en el desarrollo de software no como pasantía
- 2+ años de experiencia en diseño o arquitectura no especializada (patrones de diseño, fiabilidad y escalación) con sistemas nuevos y existentes
- Experiencia en programación con al menos un lenguaje de programación
Qualificaciones preferentes
- 3+ años de ciclo de vida completo del desarrollo de software, incluidos estándares de codificación, revisiones de código, gestión del control de fuentes, procesos de construcción, pruebas y experiencia en operaciones
- Máster en ciencias de la computación o equivalente
- Experiencia en técnicas como la fusión de Kernel y kernels personalizados para mejorar la utilización de GPU, entrenamiento con precisión mixta utilizando una menor precisión y escalación dinámica de pérdidas mientras aprovecha capacidades específicas de precisión mixta del hardware y/o capacidad demostrada para implementar un manejo eficiente de memoria como el punto de control de gradiente (activación), la acumulación de gradientes, los estados de optimización de descarga y la preposición inteligente.
Amazon es un empleador de igualdad de oportunidades y no discrimina en base al estatus de veterano protegido, discapacidad u otro estado legalmente protegido. Nuestra cultura inclusiva empodera a los amazónicos para ofrecer los mejores resultados para nuestros clientes. Si usted tiene una discapacidad y necesita alojamiento o ajuste del lugar de trabajo durante el proceso de solicitud y contratación, incluyendo apoyo para la entrevista o proceso de incorporación, por favor visite para obtener más información.
Nuestra compensación refleja el costo del trabajo en varios mercados geográficos de los Estados Unidos. El salario básico para esta posición varía desde $ 129.300 / año en nuestro mercado geográfico más bajo hasta $ 223.600 / año, incluyendo la ubicación del mercado y puede variar dependiendo del conocimiento relacionado con el empleo, las habilidades y la experiencia. Amazon es una compañía de compensación total. Dependiendo de la posición ofrecida, se pueden proporcionar equidad, pagos por inscripción y otras formas de indemnización como parte de un paquete de compensaciones totales, además de toda una gama completa de beneficios médicos, financieros y/u otros. Para obtener más información, visite este puesto que permanecerá ocupado hasta su publicación. Los solicitantes deben solicitar a través de nuestra página web interna o externa de carreras.
#J-18808-Ljbffr