Concevoir et opérer l'AI Gateway
Concevoir, développer et opérer les fonctionnalités de la passerelle : API unifiée compatible OpenAI, routage multi-fournisseurs, bascule de secours, streaming et mise en cache.
Implémenter le contrôle d'accès, la gestion des clés d'API, les quotas, la limitation de débit, les budgets et l'imputation des coûts par équipe et par cas d'usage.
Évaluer et comparer les modèles (qualité, latence, coût) aux côtés de l'équipe Evaluation Services afin d'orienter les règles de routage et le catalogue de modèles.
Intégrer rapidement de nouveaux modèles et fournisseurs, en étroite collaboration avec l'équipe Inference Platform et les partenaires externes.
Bâtir l'observabilité de bout en bout : logs, traces, latence, métriques de tokens et de coûts, tableaux de bord et alertes.
Appliquer les politiques de sécurité et de conformité : garde-fous, filtrage des données personnelles (PII), protection contre l'injection de prompts, résidence des données, pistes d'audit.
Garantir la performance et la fiabilité à grande échelle : SLO, tests de charge, dimensionnement de la capacité, gestion des incidents (l'équipe assure à la fois le build et le run).
Contribuer aux analyses comparatives "build / buy / open-source" des solutions de passerelle, en lien avec l'architecture et l'équipe produit.
Rendre la plateforme prête pour les agents ("Agentic-ready")
Adapter la passerelle aux charges de travail orientées agents : appel d'outils, exposition et gouvernance de serveurs MCP, gestion de l'identité et des permissions des agents.
Exposer les services d'AI Engine via des API claires et des serveurs MCP afin que les produits internes et les agents puissent les exploiter.
Fournir des SDK, templates, plugins et documentations permettant aux équipes produit et à leurs propres agents de code d'adopter la passerelle en quelques minutes.
Travailler en mode "Agent-first"
Utiliser quotidiennement des agents de développement IA (ex. Claude Code, Codex, Cursor, GitHub Copilot) et leur déléguer l'implémentation, les tests, le refactoring, les migrations et la documentation, tout en restant pleinement garant du résultat.
Rédiger des spécifications claires et découper le travail en tâches bien délimitées que les agents peuvent exécuter ; piloter plusieurs agents en parallèle et réviser rigoureusement leur production.
Rendre les dépôts de code adaptés aux agents : fichiers de directives (AGENTS.md, CLAUDE.md), compétences (skills), environnements reproductibles, tests automatisés robustes et garde-fous CI.
Partager les bonnes pratiques au sein de l'équipe et de la communauté technique, et aider à mesurer leur impact sur la vitesse et la qualité de livraison.
Maintenir un haut niveau d'exigence via des revues de code, des tests automatisés, du CI/CD avec GitHub Actions sur Google Cloud Platform et une documentation exhaustive (GitHub / GitBook).
PROFIL RECHERCHÉ
5+ années d'expérience en ingénierie logicielle, avec de solides compétences backend en Python (FastAPI, programmation asynchrone) et une réelle maîtrise de la conception d'API.
Réelle expertise en IA/ML : bases solides en machine learning et deep learning (entraînement, évaluation, métriques, biais et surapprentissage), compréhension approfondie du fonctionnement des LLM (tokenisation, embeddings, fenêtres de contexte, échantillonnage, fine-tuning, quantification) et capacité à évaluer et comparer des modèles pour un cas d'usage donné. Un diplôme en IA, science des données ou domaine connexe est un plus.
Expérience avérée dans la conception et l'exp