Talent.com
TechBiz Global GmbH
Senior AI DevOps / LLMOpsTechBiz Global GmbH • Bordeaux, NAQ, FR
Senior AI DevOps / LLMOps

Senior AI DevOps / LLMOps

TechBiz Global GmbH • Bordeaux, NAQ, FR
Il y a plus de 30 jours
Type de contrat
  • Temps plein
Description de poste

At TechBiz Global, we are providing recruitment service to our TOP clients from our portfolio. We are currently seeking an Senior AI DevOps / LLMOps specialist to join one of our clients' teams. If you're looking for an exciting opportunity to grow in a innovative environment, this could be the perfect fit for you.

Key Responsibilities

  1. Automation of Build-to-Production

- Design and implement robust CI/CD pipelines tailored for AI, covering model weights,

dataset versioning, and application code.

- Develop specialized workflows for PromptOps, ensuring that system prompts are

version-controlled, tested for regressions, and deployed with the same rigor as traditional

code.

-Automate the deployment of Agentic workflows, managing the complexities of stateful

AI interactions and multi-agent handoffs.

2. AI Infrastructure as Code (IaC)

- Provision and manage high-performance compute environments (GPU clusters, TPU

pods) using Terraform, Pulumi, or Ansible.

- Define and enforce Policy-as-Code for AI endpoints to ensure compliance with security,

cost-usage limits, and data residency requirements.

- Maintain a consistent environment across Hybrid Infrastructure, ensuring seamless

parity between On-Premises development and Cloud production.

3. Safe Experimentation & Controlled Releases

- Architect Progressive Delivery strategies for AI, including Canary releases, Blue-Green

deployments, and Shadowing (where new models run in parallel with production to

compare outputs).

- Build “Evaluation-in-the-Loop” gates within the pipeline to automatically test for bias,

hallucination, and performance degradation before a release.

- Implement A/B testing frameworks specifically designed for LLM outputs and agentic

behavior.

4. Monitoring & Observability

- Establish deep observability into Inference Endpoints, tracking metrics like tokens-per-

second, latency, and drift in model accuracy.

-Integrate feedback loops that capture production “edge cases” to feed back into the

training and fine-tuning pipelines.



Must-Have Technical Skills:

-Orchestration: Advanced Kubernetes (K8s) skills, specifically with KubeFlow, Ray, or

NVIDIA Triton.

-CI/CD & IaC: Expertise in GitHub Actions/GitLab CI, and Terraform or Pulumi.

- AI Tooling: Experience with Weights & Biases, MLflow, LangSmith, or Arize

Phoenix.

-Hardware: Understanding of GPU virtualization, CUDA drivers, and on-premises

hardware management.
-Security: Familiarity with Open Policy Agent (OPA) and secret management (Vault).

Experience:

- 10+ years in DevOps, SRE, or Cloud Engineering.

- 2+ years of hands-on experience in MLOps or LLMOps, specifically moving LLMs

from notebook to production.

-Proven experience managing Hybrid Cloud environments (e.g., AWS/Azure + Private

Data Center).

Créer une alerte emploi pour cette recherche

Senior AI DevOps / LLMOps • Bordeaux, NAQ, FR

Offres similaires

Senior Software Engineer

Wanteeedbordeaux, nouvelle aquitaine, France
Temps plein

Au sein d’une squad multidisciplinaire (Tech, Produit, Data), tes principales missions seront : /strong /p ul liParticiper à la recherche de solutions (fonctionnelles et techniques) pour les problè... Voir plus

 • Offre sponsorisée

Senior Java Full-Stack Dev — Agile, On-Site Bordeaux

Orange Businessbordeaux, nouvelle aquitaine, France
Temps plein

Orange Business recherche un développeur Full Stack à Bordeaux.Vous concevrez et maintiendrez des fonctionnalités front‑end et back‑end, tout en garantissant la qualité du code.Un minimum de 5 ans ... Voir plus

 • Offre sponsorisée

Lead Full Stack Java & Angular — Architecte & Mentor

Econocombordeaux, nouvelle aquitaine, France
CDI

Econocom recherche un Lead Développeur Full Stack à Bordeaux.Vous serez en charge de concevoir des applications web et d'accompagner les équipes dans le développement.Avec un poste en CDI, vous pro... Voir plus

 • Offre sponsorisée

Architecte Data & Cloud - Transformation & Data Mesh

Onepointbordeaux, nouvelle aquitaine, France
Temps plein

Une entreprise de conseil et technologie recherche un Architecte Data à Bordeaux pour définir des architectures de données et accompagner les clients dans leur transformation data.Le candidat idéal... Voir plus

 • Offre sponsorisée

Machine Learning Engineer (ML Engineer)

Genly Consultingbordeaux, nouvelle aquitaine, France
Temps plein

DataSciencebr/– à l’industrialisation des processus de déploiement des modèles de machine Learningbr/– à la conception et animations de formations auprès des Data Scientistsbr/– à l’automatisation ... Voir plus

 • Offre sponsorisée

Senior Ai Full Stack Engineer (H/F)

STATERABordeaux, France, FR
Temps plein

Dans le cadre d'un projet de transformation autour de l'IA générative et de l'IA agentique, nous recherchons un Senior AI Full Stack Engineer afin de participer au développement et à l&... Voir plus

 • Offre sponsorisée

Senior Software Engineer — Impactful Lean Delivery

Wanteeedbordeaux, nouvelle aquitaine, France
Temps plein

Une entreprise innovante en Nouvelle-Aquitaine recherche un développeur pour rejoindre une équipe dynamique et multidisciplinaire.Vous serez responsable du développement de solutions techniques en ... Voir plus

 • Offre sponsorisée

DEVOPS / DEV (F/H)

ConsertoBordeaux, Nouvelle-Aquitaine, France
Temps plein
Quick Apply

Envie d'intégrer une entreprise experte en informatique, engagée pour l’environnement ?.Cela tombe bien, votre futur poste en tant qu’.Je vous propose de rejoindre l’agence Bordelaise de Conserto �... Voir plus

Architecte Data F/H

Onepoint groupbordeaux, nouvelle aquitaine, France
Temps plein

Contribuez aux grandes transformations des entreprises et des acteurs publics en alliant innovation technologique et expertise métier, au service de nos clients et de la société pour les faire avan... Voir plus

 • Offre sponsorisée

Senior Software Engineer – Hybrid, AI‑Driven End-to-End

Betclic Groupbordeaux, nouvelle aquitaine, France
Temps plein

WE ARE BETCLIC /ppBetclic, European leader in sports betting, is much more than just an online gaming site! Also offering Poker, Horse Racing, and Casino games across various countries and contin... Voir plus

 • Offre sponsorisée

Architecte Solutions (F/H)

Ippon Technologiesbordeaux, nouvelle aquitaine, France
Temps plein

IPPON, l’énergie du collectif au service de la technologie positive ! /b /ph3Qui sommes-nous ? /h3pbIPPON TECHNOLOGIES /b est une société de conseil et d’expertise spécialisée dans la création de s... Voir plus

 • Offre sponsorisée

DEVSECOPS F/H

ConsertoBordeaux, Nouvelle-Aquitaine, France
Temps plein
Quick Apply

Envie d'intégrer une entreprise experte en informatique, engagée pour l’environnement ?.Cela tombe bien, votre futur poste en tant qu’.Je vous propose de rejoindre l’agence Bordelaise de Conserto �... Voir plus

Ingénieur Devops/Ingénieure Devops - €40.000 - €47.000 Par An

ConsertoBordeaux, France, FR
Temps plein

Entreprise Authentique et engagée, notre agence bordelaise rassemble une quarantaine de collaborateurs.Ici, on allie expertise technique, convivialité et une approche humaine, avec un objectif clai... Voir plus

 • Offre sponsorisée

Ingénieur Solution Avionique - F/H

Thalesbordeaux, nouvelle aquitaine, France
Temps plein

Lieu : Bordeaux, FrancebrstrongConstruisons ensemble un avenir de confiancebr/strongThales est un leader mondial des hautes technologies spécialisé dans trois secteurs d’activité : Défense Sécurit... Voir plus

 • Offre sponsorisée

Senior Consultant - F/H

Nijibordeaux, nouvelle aquitaine, France
Temps plein

Présentation /h3 pNous sommes plus qu’un simple cabinet de conseil, qu'une agence de design et qu'une société de mise en œuvre technologique.Nous sommes le partenaire de la transformation digitale ... Voir plus

 • Offre sponsorisée

Architecte Solution Teamcenter - PLM - Spatial - Bordeaux

CIMPA PLM Servicessaint aubin de médoc, nouvelle aquitaine, France
Temps plein

Architecte Solution Teamcenter - PLM - Spatial - Bordeaux /h3 pbDescription De L'entreprise /b /p pS’appuyant sur son savoir-faire des produits complexes de haute technologie, la vocation de CIMPA ... Voir plus

 • Offre sponsorisée

Architecte domaine ou solution H/F

Crédit Mutuel Arkéa Groupbordeaux, nouvelle aquitaine, France
Temps plein

La direction bDistribution /b a pour mission de développer et maintenir les produits de distribution des distributeurs internes ou externes du groupe Crédit Mutuel Arkéa : sites web, mobile de nos ... Voir plus

 • Offre sponsorisée

Senior Java Full-Stack Developer — IA & Agile, Bordeaux

Orange SAbordeaux, nouvelle aquitaine, France
Temps plein

Orange SA recherche un Développeur Full Stack Java à Bordeaux pour intégrer son Pôle Digital.Vous serez impliqué dans toutes les étapes de développement, en étroite collaboration avec des équipes p... Voir plus