Vous avez déployé et opéré des agents basés sur des modèles de langage en production, avec une expérience directe de leurs défaillances et de leur adoption réelle en entreprise. Cette mission consiste à partager votre expertise sur la fiabilité, l'évaluation et la mise à l'échelle des agents IA dans des environnements complexes, via des entretiens conversationnels portant sur vos retours d'expérience concrets.
Mission ouverteVérifié récemment
AI Safety Experts - English & Punjabi
Mercor · Data & Machine Learning
Rejoignez une équipe de red teaming spécialisée dans l'identification des vulnérabilités des modèles d'IA conversationnels. Vous génèrerez des données d'entraînement de haute qualité en testant les systèmes d'IA avec des entrées adversariales, en documentant les failles et en produisant des rapports reproductibles que les clients pourront exploiter pour renforcer la sécurité de leurs modèles.
Travail à réaliser
- Tester les modèles d'IA conversationnels par des techniques adversariales (jailbreaks, injections de prompts, exploitations de biais) pour identifier les vulnérabilités
- Annoter les défaillances des modèles, classer les types de vulnérabilités et signaler les risques systémiques détectés
- Générer et documenter des cas d'attaque reproductibles, des datasets et des rapports structurés selon les taxonomies et benchmarks établis
- Communiquer clairement les résultats et le raisonnement derrière chaque trouvaille aux équipes techniques et non techniques
Compétences requises
Red teamingMachine LearningAdversarial testingData annotationPrompt injectionBias analysisConversational AI evaluationTechnical documentation
Rémunération et engagement
16–22 USD /heure
Rémunération telle qu'affichée par la plateforme, sans garantie de revenu ou d'heures.
Pays et langue
Expérience non précisée
Ouvert aux pays suivants : États-Unis.
Langue requise : PA.
Processus de candidature
Candidature via work.mercor.com : création de profil, évaluation de compétences, puis mise en relation avec des projets correspondant à votre profil.
Source et vérification
Source officielle : https://work.mercor.com/jobs/list_AAABnpAZ6Dy4XN87koBPT4LM/ai-safety-experts-english-punjabi
Dernière vérification : 6 octobre 2026.
Missions similaires
Vous rejoignez une équipe de red teaming pour tester la robustesse et la sécurité de modèles d'IA conversationnels. Votre mission consiste à générer des entrées adversariales (jailbreaks, injections de prompts, cas de détournement) pour découvrir les vulnérabilités des systèmes d'IA avant leur déploiement. Vous annotez les défaillances, classez les risques et produisez des datasets documentés que les clients peuvent exploiter pour améliorer leurs modèles.
Cette mission consiste à tester des modèles d'IA conversationnels en tant qu'expert en sécurité de l'IA, en générant des données d'entraînement adversariales pour identifier les vulnérabilités. Vous produirez des rapports et des datasets structurés qui permettront aux clients d'améliorer la robustesse et la sécurité de leurs systèmes d'IA. Le profil recherché maîtrise l'analyse critique de contenu, la rigueur méthodologique et la communication technique.