Senior Real-Time Data Engineer - Finance - Courbevoie F/H
Description
Descriptif du poste:\
\
Dans le cadre du développement de produits data pour un environnement international exigeant, nous recherchons un Ingénieur Data Temps Réel Senior.\
Le consultant rejoindra une équipe chargée de concevoir, développer et exploiter des produits data basés sur le cloud, depuis l'ingestion des événements jusqu'à la mise à disposition des données via des API et des interfaces de streaming.\
Les solutions développées doivent répondre à des exigences élevées en matière de fiabilité, de sécurité, de performance, d'observabilité et de maintenabilité.\
Vos missions\
Vous serez responsable de la conception, du développement et de l'exploitation de pipelines de données en temps réel et en batch.\
Vos principales responsabilités seront les suivantes :\
\* \
Concevoir et développer des produits data en temps réel à l'aide d'Apache Flink, Apache Kafka et d'architectures orientées événements.\
\* \
Construire des pipelines d'ingestion, de transformation et de mise à disposition des données robustes et évolutifs.\
\* \
Développer des API REST, des spécifications OpenAPI et des microservices pour exposer les données aux consommateurs.\
\* \
Mettre en œuvre des services cloud AWS adaptés aux besoins de streaming, de traitement et de déploiement.\
\* \
Définir des modèles de données, des schémas, des contrôles de qualité des données et des règles de validation.\
\* \
Industrialiser la livraison logicielle grâce à des pipelines CI/CD automatisés.\
\* \
Mettre en œuvre une observabilité complète couvrant les logs, les métriques, les traces, les tableaux de bord et les alertes.\
\* \
Assurer le support de production, la gestion des incidents, l'analyse des causes racines et l'amélioration continue.\
\* \
Appliquer les bonnes pratiques de sécurité relatives à l'authentification, à l'autorisation, à la gestion des secrets et au contrôle des accès.\
\* \
Produire une documentation d'architecture, des spécifications techniques, des procédures opérationnelles et des guides d'exploitation clairs.\
\* \
Contribuer aux revues de code, aux standards d'ingénierie et au transfert de connaissances au sein de l'équipe.\
L'objectif est de fournir des produits data en temps réel prêts pour la production, répondant aux exigences fonctionnelles, de performance, de fiabilité, de sécurité et de maintenabilité\
\
Profil recherché:\
\
\
\* \
Expérience confirmée en Data Engineering.\
\* \
Solide expertise sur Apache Flink et Apache Kafka.\
\* \
Expérience avérée dans la livraison et l'exploitation de produits data en temps réel en production.\
\* \
Bonne connaissance des architectures orientées événements et des systèmes distribués.\
\* \
Expérience dans le développement d'API REST, de spécifications OpenAPI et de microservices.\
\* \
Solide connaissance des services AWS, notamment MSK, Kinesis, Lambda, API Gateway, ECS/EKS, S3 et IAM.\
\* \
Expérience en qualité des données, gestion des schémas et tests automatisés.\
\* \
Connaissance des outils CI/CD tels que GitLab CI, GitHub Actions ou équivalents.\
\* \
Expérience des outils et pratiques d'observabilité, notamment CloudWatch, Prometheus, Grafana et OpenTelemetry.\
\* \
Expérience du support de production, de la gestion des incidents et de l'optimisation des performances.\
\* \
Bonne compréhension des principes de sécurité du cloud et des applications.\
\* \
Capacité à produire une documentation technique claire et complète.\
\* \
Capacité à contribuer à la conception d'architecture, aux revues de code et aux standards techniques.\
\* \
Bonnes compétences en communication et capacité à accompagner des ingénieurs moins expérimentés.\
\* \
Une expérience dans les marchés financiers ou dans un autre secteur réglementé serait un avantage.\
Compétences techniques attendues :\
\* \
AWS : niveau expert.\
\* \
Apache Kafka : niveau expert.\
\* \
API REST : niveau expert.\
\* \
Apache Flink : niveau expert.\
\* \
AWS MSK, Kinesis, Lambda, API Gateway, ECS/EKS et S3 : niveau expert.\
\* \
GitLab CI/CD : niveau confirmé.\
Le poste est ouvert uniquement aux candidats autorisés à travailler en France.