Opportunité exclusive
Nous recherchons activement un(e) AI Platform Engineer freelance pour rejoindre une entreprise internationale du secteur retail.
Basé(e) à Lille, vous intégrerez une équipe en charge du socle IA du groupe, dans le cadre de la conception et de l'exploitation d'une passerelle d'accès unique et sécurisée aux modèles d'intelligence artificielle, utilisée par l'ensemble des équipes.
Vous interviendrez à la fois sur la construction (build) et sur l'exploitation (run) de cette plateforme, avec une approche « Agent-first » (développement largement délégué à des agents de code).
Vos responsabilités :
Concevoir et développer une API unique compatible OpenAI, avec routage entre fournisseurs, bascule de secours, streaming et cache.
Mettre en place le contrôle d'accès, la gestion des clés d'API, des quotas et des budgets, ainsi que le suivi des coûts par équipe.
Assurer une observabilité complète : logs, traces, latence, consommation de tokens, tableaux de bord et alertes.
Sécuriser la plateforme : garde-fous, filtrage des données personnelles, protection contre l'injection de prompts, résidence des données et pistes d'audit.
Garantir la performance à grande échelle : définition des SLO, tests de charge et gestion des incidents.
Comparer les modèles (qualité, latence, coût) et intégrer rapidement de nouveaux modèles et fournisseurs.
Contribuer aux analyses « build / buy / open-source » des solutions de passerelle, en collaboration avec l'architecture et l'équipe produit.
Préparer la plateforme aux agents IA : appel d'outils, serveurs MCP, identité et permissions des agents.
Fournir des SDK, des templates et de la documentation pour faciliter l'adoption de la plateforme.
Travailler en mode « Agent-first » : déléguer l'implémentation, les tests et la documentation à des agents de code, rédiger des spécifications claires et relire rigoureusement leur production.
Minimum 6 ans d'expérience en ingénierie logicielle, avec de solides compétences backend en Python (FastAPI, programmation asynchrone) et une réelle maîtrise de la conception d'API.
Expertise en IA/ML : bases solides en machine learning et deep learning, compréhension approfondie du fonctionnement des LLM (tokenisation, embeddings, fenêtres de contexte, fine-tuning, quantification) et capacité à évaluer et comparer des modèles.
Expérience avérée dans la conception et l'exploitation de systèmes basés sur les LLM en production : API de fournisseurs, streaming, appel d'outils, gestion des tokens et des coûts.
Pratique concrète du développement assisté par agents : capacité à spécifier, déléguer, orienter et relire le travail d'agents de développement.
Bonne maîtrise des protocoles et frameworks d'agents (MCP, A2A, LangGraph, Google ADK ou équivalents).
Expérience des environnements cloud-native : Docker, Kubernetes (idéalement GKE), Terraform, CI/CD avec GitHub Actions, Google Cloud Platform.
Culture de la sécurité : authentification et autorisation (OAuth2 / OIDC), sécurité des API, gestion des secrets.
Pratique de l'observabilité (OpenTelemetry, Prometheus / Grafana ou équivalents) et de l'automatisation des tests.
Une expérience avec des passerelles LLM ou API, le serving de modèles (vLLM, Vertex AI), Kafka, PostgreSQL, Redis ou MongoDB serait un plus.
Autonomie, proactivité, goût du partage et du travail en équipe, veille technologique continue sur l'IA.
Aisance en anglais, à l’oral comme à l’écrit.
Une mission de longue durée, de plus de 12 mois.
Un projet stimulant : plateforme IA du groupe, LLM, agents et serveurs MCP.
Une approche « Agent-first » pour travailler autrement.
Un TJM de 490 €/jour.
Une localisation dans la métropole lilloise.
Une organisation hybride avec 3 jours de télétravail par semaine.