CONTEXTE
Nous recherchons une expertise technique DevSecOps/LLMOps afin de maintenir et faire évoluer le Portail Multi-IAG face aux besoins croissants d’industrialisation, de sécurité, de conformité et de performance, et de contribuer à la montée en compétence de l’équipe sur les pratiques propres aux modèles génératifs.
La mission s’exécute dans un contexte multi-environnements (Landing Zone GCP, On-Prem, cloud de confiance/ SecNumCloud à venir) et s’interface avec les briques internes du groupe (API Gateway, observabilité, etc.).
La prestation s’articule autour de cinq missions clés :
Fiabilisation et accélération du Portail V1
- Objectif : Améliorer et industrialiser les pratiques opérationnelles pour sécuriser et optimiser les services existants.
- Périmètre : Mise en œuvre de la CI/CD, renforcement de la sécurité (IAM, secrets), structuration de l’observabilité (traces, métriques, logs) et des pratiques FinOps.
Conception et préparation du Portail V2 (cible 2026)
- Objectif : Définir et construire les fondations techniques de la future version du portail.
- Périmètre : Conception de l’architecture DevSecOps cible, production des artefacts documentaires (HLD/LLD), développement de l’Infrastructure as Code (IaC) et des pipelines, et pilotage de la migration.
Structuration de la filière LLMOps
- Objectif : Définir et mettre en œuvre les standards, outils et processus pour industrialiser le cycle de vie des modèles génératifs.
- Périmètre : Intégration des évaluations continues (qualité, sécurité, coûts) dans la CI, mise en place de « guardrails » et de politiques de sécurité (Policies as Code), et garantie de la conformité (RGPD / AI Act).
Anticipation de l’IA Agentique
- Objectif : Préparer la plateforme à l’intégration future des technologies d’agents IA.
- Périmètre : Veille technologique, prototypage des briques d’orchestration et de contrôle (HITL, guardrails spécifiques), et contribution à l’architecture cible.
Accompagnement et transfert de compétences
- Objectif : Assurer la montée en compétence et l’autonomie des équipes internes (Portail et Plateforme Data).
- Périmètre : Acculturation, production de documentation (playbooks, runbooks), formation et support méthodologique.
Activités détaillées
Pour réaliser ces missions, le prestataire mènera les activités suivantes :
- Ingénierie et industrialisation : Développement de pipelines CI/CD (GitLab), de scripts d’automatisation, d’Infrastructure as Code (Terraform), et de charts Helm.
- Qualité et sécurité : Mise en œuvre des tests (unitaires, performance, SAST/SCA/SBOM), intégration des évaluations de LLM et des « guardrails » (input/output, LLMGuard) comme étapes bloquantes dans la CI.
- Déploiement :
– Gestion et déploiement des modèles d’IA génératif
– Gestion et déploiement applicatif (solutions open source : LangFlow, LangFuse, OpenWebUI, n8n, LiteLLM, etc…) à l’échelle de l’entreprise.
- Support et MCO : Résolution d’incidents de niveau 2/3, optimisation des performances et des coûts, assistance technique aux équipes.
Exigences transverses
- Respect du référentiel technique et méthodologique de l’Entreprise, des procédures en vigueur (tests/validation), des contraintes & délais du présent document et du cadre contractuel associé.
- Respect des exigences sécurité & conformité (IAM, Vault/KMS, réseau privé, DPIA, RGPD/AI Act, journalisation/audit, résidence des données).
PERIMETRE/COMPETENCES :
- Jenkins (périmètre à harmoniser)
Stack d’observabilité et d’évaluation LLM :
- Prometheus, Grafana, Loki, OpenTelemetry…
- LangSmith, Langfuse
Environnements d’hébergement :
- Google Cloud Platform (Landing Zone, Vertex AI, GKE)
- Infrastructures On-Premise
Crée en 2008, Kéoni Consulting est une société de conseil et d’ingénierie informatique spécialisée dans le secteur de la banque, de la finance de marché, et de l’assurance, et de l’industrie. Nous sommes le partenaire dans la transformation digitale des grands Comptes. Nous les aidons à transformer leur modèle économique, aligner vos processus opérationnels, sélectionner les meilleures technologies, atténuer et palier les risques liés au digital.
Kéoni Consulting aide les entreprises à :
Faire la différence
Innover et créer
Réinventer votre business
Satisfaire les clients
Gagner en avantages compétitifs
Devenir le leader de leur secteur
Devenir le leader de votre secteur
Notre activité couvre la totalité du cycle de vie des systèmes d’informations (Pilotage et Gestion de projet, Conseil en MOA, Conception, Réalisation, Maintenance, Production Exploitation)