Talent.com
Mindrift
Senior Python Engineer - AI Coding Agent Evaluation (Freelance)Mindrift • Lyon, Auvergne-Rhône-Alpes, FR
Senior Python Engineer - AI Coding Agent Evaluation (Freelance)

Senior Python Engineer - AI Coding Agent Evaluation (Freelance)

Mindrift • Lyon, Auvergne-Rhône-Alpes, FR
Il y a 25 jours
Type de contrat
  • Temps partiel
  • CDI
  • Télétravail
  • Quick Apply
Description de poste

Please submit your CV in English and indicate your level of English proficiency.


Mindrift connects specialists with project-based AI opportunities for leading tech companies, focused on testing, evaluating, and improving AI systems. Participation is project-based, not permanent employment.What this opportunity involves:
We're building a dataset to evaluate AI coding agents - how well a model handles real-world developer tasks.


You'll create challenging tasks and evaluation criteria within realistic simulated environments:

  • Build realistic developer environments - a virtual company with codebase, infrastructure, and context (tickets, docs, conversations) that forms a believable development history
  • Design tasks from intermediate states of these environments - craft the prompt, define what "solved" means, and ensure the task is solvable by an AI agent
  • Write tests that verify agent solutions - accept all valid approaches and reject incorrect ones, neither too strict nor too lenient
  • Iterate on tasks and tests based on QA feedback - review agent solutions, analyze failures, and refine until the evaluation is fair and robust

What this is NOT:

  • Not data labeling
  • Not prompt engineering
  • Not writing code from scratch - the agent writes most of the code; you guide and evaluate

What we look for:

  • 8+ years in software development
  • Core stack: Python (FastAPI), JavaScript/TypeScript (React), Docker, Postgres, Kafka, Redis
  • Experience writing tests (functional, integration)
  • English proficiency - B2+

Why this is hard:
Frontier models are already good at coding. Creating a task that genuinely challenges the best models is non-trivial. You need to deeply understand where models fail and what scenarios reveal the difference between a good and a bad solution. Tasks have many valid solutions - writing tests that accept all correct solutions and reject incorrect ones is harder than it sounds.

How it works
Apply → Pass qualification(s) → Join a project → Complete tasks → Get paidEffort estimate


Tasks for this project are estimated to take 30 hours to complete, depending on complexity. This is an estimate and not a schedule requirement; you choose when and how to work. Tasks must be submitted by the deadline and meet the listed acceptance criteria to be accepted.

Compensation:
Up to $200/hr equivalent, depending on level and pace. Tasks are estimated at ~30 hours each; you set your own schedule.

Créer une alerte emploi pour cette recherche

Senior Python Engineer - AI Coding Agent Evaluation (Freelance) • Lyon, Auvergne-Rhône-Alpes, FR

Offres similaires

Architecte Azure Data (H/F)

Exakis Nelitelyon, auvergne rhône- lpes, France
Temporaire

Exakis Nelite, entité du groupe strongMagellan Partners /strong, est le strong1er partenaire pure-player Microsoft /strongindépendant en France avec l’ambition de devenir le premier partenaire Eur... Voir plus

 • Offre sponsorisée

AI Product Builder

KolomoloLyon, Auvergne-Rhone-Alpes, France
Temps plein

Join the Future of Digital Tech with Kolomolo.As a global supplier of IT services and digital modernization solutions, we help businesses embrace cutting-edge technology to optimize their operation... Voir plus

Ingénieur Projet Cost & Data Lyon - H/F

MIGSO-PCUBEDLyon, France, FR
Temps plein

Bienvenue chez MIGSO-PCUBED, leader mondial du conseil en Management de Projets, Programmes, Portefeuilles, et Change Management.Nous sommes devenus le partenaire de confiance des marques les plus ... Voir plus

 • Offre sponsorisée

Data Architect (H/F)

O2MaxLyon, France, FR
Temps plein

Architecte de données dirigera des projets majeurs, recueillera les besoins, modélisera le Data Warehouse et pilotera les Data Engineers avec une approche orientée IA et Snowflake. Voir plus

 • Offre sponsorisée

Solutions Engineer H/F

E'nergysLyon, Auvergne-Rhône-Alpes, France
Temps plein

Intégrée au pôle Numérique du Groupe E’nergys, notre filiale Agora Calycé est une entreprise qui propose des solutions d’hébergement informatique, d’optimisation des systèmes numériques, de migrati... Voir plus

Senior AI & IT Transformation Analyst (Energy Trading)

QUANTEAM - North America (RAINBOW PARTNERS Group)lyon, auvergne rhône- lpes, France
Temps plein

A consulting firm in financial services is seeking a Senior Business Analyst specialized in Energy Trading to support AI-driven technology implementations.The role involves acting as a liaison betw... Voir plus

 • Offre sponsorisée

Senior Data Scientist - IA Générative F/H

Devoteam Data Drivenlyon, auvergne rhône- lpes, France
Temps plein

Senior Data Scientist - IA Générative F/H /h3 pAgence multi spécialiste composée de 350 collaborateurs répartis en communautés d’experts, Devoteam Lyon accompagne les DSI dans leur transformation d... Voir plus

 • Offre sponsorisée

Consultant Data Analyst - Lyon (F/H)

Armée de l’air et de l’espaceVilleurbanne, France, FR
Temps plein

Bandai Namco Entertainment Europe is a leading global publisher, developer and distributor of entertainment content for platforms including, but not limited to, all major video game consoles and PC... Voir plus

 • Offre sponsorisée

Lead Engineer - Data & Web (WanData)

Matawanlyon, auvergne rhône- lpes, France
Temps plein

Overview /h3pAu sein de l'équipe Data (département Engineering) et en interaction avec les équipes Product (dont rd), DevOps, QA et Delivery, votre rôle sera de contribuer au développement techniqu... Voir plus

 • Offre sponsorisée

Full‑Stack Java/Angular Dev — Agile & Projets Innovants à Lyon

PROXIADLyon, Auvergne-Rhône-Alpes, France
Temps plein

Une entreprise innovante en IT à Lyon recherche un Développeur Full Stack Java/Angular avec au moins 3 ans d’expérience.Vous serez en charge de l’analyse des besoins, du développement d'application... Voir plus

 • Offre sponsorisée

Investment Senior Associate (Bengaluru, India)

ARCHIMEDlyon, auvergne rhône- lpes, France
Temps plein

Be among the first 25 applicants /p pGet AI-powered advice on this job and more exclusive features.About ARCHIMED /h3 pWith offices in the US, Europe and Asia, ARCHIMED is a leading investment firm... Voir plus

 • Offre sponsorisée

Full-Stack Java & Angular Developer — Impactful Tech

APOLLO | CODING LIFElyon, auvergne rhône- lpes, France
Temps plein

Une entreprise de services numériques basée à Lyon recherche un développeur Java et Angular.Le candidat idéal doit avoir au moins 3 ans d'expérience dans le développement applicatif, maîtriser Java... Voir plus

 • Offre sponsorisée

DEVOPS INFRAS MICROSOFT Lyon (69), France - hybride 2025-07-29

CHROME TECHNOLOGIESlyon, auvergne rhône- lpes, France
Temps plein

Nous recherchons un DevOps sachant gérer des infrastructures Microsoft pour une mission long terme sur Lyon en France.Nous nous occupons des procédures administratives et de l'organisation du voyag... Voir plus

 • Offre sponsorisée

Architecte Data Snowflake (F/H)

Atos SElyon, auvergne rhône- lpes, France
Temps plein

Nous recherchons un(e) bArchitecte Data Snowflake /b passionné(e) et expérimenté(e) pour rejoindre notre équipe de professionnels dédiés à l’architecture et à l’optimisation des données.Vous rejoin... Voir plus

 • Offre sponsorisée

Consultant Data Analyst - Lyon (F/H)

NOVENCIA GroupLyon, France, FR
Temps plein

Novencia accompagne ses clients dans leurs projets de transformation Data et IA afin de valoriser leur patrimoine data et améliorer la prise de décision.Nos équipes interviennent sur toute la chaîn... Voir plus

 • Offre sponsorisée

Senior Full-Stack Java Springboot/Angular Engineer

EDF Francelyon, auvergne rhône- lpes, France
Temps plein

EDF France recherche un Développeur Fullstack confirmé pour Cyclife Digital Solutions à Lyon.Vous allez participer à l'analyse des besoins métiers et à la rédaction des spécifications techniques.Vo... Voir plus

 • Offre sponsorisée

DEVOPS INFRAS MICROSOFT Lyon (69), France - hybride 2025-07-29

Gravity Conseillyon, auvergne rhône- lpes, France
Temps plein

Nous recherchons un DevOps sachant gérer des infrastructures Microsoft pour une mission long terme sur Lyon en France.Nous nous occupons des procédures administratives et de l'organisation du voyag... Voir plus

 • Offre sponsorisée

Chef De Projet Senior – Agence Software Integration

AltecaLyon, France, FR
Temps plein

TRAVAILLER CHEZ ALTECA Chez Alteca le management de proximité, le bien-être et l'évolution de nos collaborateurs sont des priorités qui nous permettent, chaque jour, de proposer la meilleure ex... Voir plus