Resumen del Puesto: Buscamos un Data Engineer experimentado en ecosistemas Big Data para un proyecto internacional de migración de infraestructura Hadoop a entornos cloud basados en Kubernetes, desarrollando y automatizando pipelines de datos. Puntos Destacados: 1. Proyecto internacional en entorno Big Data 2. Participación en proyectos de modernización de plataformas de datos 3. Entorno tecnológico moderno Data Engineer Buscamos un Data Engineer con experiencia en ecosistemas Big Data para participar en un proyecto internacional enfocado en la migración de infraestructura Hadoop hacia entornos cloud basados en Kubernetes. Formarás parte de un equipo de ingeniería de datos responsable del diseño, desarrollo y automatización de pipelines de datos, trabajando con tecnologías como Spark, Scala, Airflow y herramientas CI/CD dentro de un entorno ágil. Funciones Migración de infraestructura Hadoop a cloud utilizando Kubernetes Engine, COS, Spark as a Service y Airflow as a Service. Desarrollo de procesos de transformación y calidad de datos para garantizar consistencia y precisión. Implementación de pipelines de datos utilizando Scala, SQL y Apache Spark. Automatización de procesos mediante Airflow y herramientas de orquestación. Creación y mantenimiento de pipelines CI/CD para despliegues y testing automatizado. Desarrollo de tests unitarios y validación de procesos de datos. Elaboración de documentación técnica y operativa. Colaboración con equipos de negocio y tecnología para diseñar soluciones de datos escalables. Requisitos técnicos Experiencia con Apache Spark y Scala Experiencia en Hadoop ecosystem Conocimientos de SQL y bases de datos NoSQL Experiencia con Apache Airflow Experiencia con HDFS Experiencia con CI/CD (GitLab, Jenkins o similares) Conocimiento de S3 / COS Storage Experiencia trabajando con Parquet y ORC Conocimientos adicionales valorables Kubernetes / containerización Oozie Shell scripting Dremio Elasticsearch / Kibana Kafka o procesamiento streaming Ofrecemos Proyecto internacional en entorno Big Data Modelo de trabajo híbrido en Madrid (1 día presencial) Participación en proyectos de modernización de plataformas de datos Entorno tecnológico moderno Spark, Scala, SQL, NoSQL, CI/CD, S3, COS Storage