Vous avez déployé et opéré des agents basés sur des modèles de langage en production, avec une expérience directe de leurs défaillances et de leur adoption réelle en entreprise. Cette mission consiste à partager votre expertise sur la fiabilité, l'évaluation et la mise à l'échelle des agents IA dans des environnements complexes, via des entretiens conversationnels portant sur vos retours d'expérience concrets.
Mission ouverteVérifié récemment
AI Safety Experts - English & Malay
Mercor · Data & Machine Learning
Cette mission consiste à former des modèles d'IA conversationnels en les testant de manière adversariale pour identifier leurs vulnérabilités et améliorer leur sécurité. Vous générerez des données d'entraînement de haute qualité en annotant les défaillances, en classifiant les risques et en documentant les cas d'attaque reproductibles. Le profil idéal possède une expérience préalable en red teaming ou en sécurité informatique, et maîtrise une approche structurée et méthodique pour tester les limites des systèmes d'IA.
Travail à réaliser
- Réaliser des tests adversariaux sur les modèles d'IA conversationnels pour identifier les vulnérabilités (jailbreaks, injections de prompts, exploitation de biais)
- Générer et annoter des données de haute qualité en classifiant les défaillances du modèle et en signalant les risques systémiques
- Documenter les cas d'attaque et les résultats de tests de façon reproductible pour que les clients puissent agir
- Appliquer des taxonomies et des cadres de référence pour assurer la cohérence et la structure des tests
Compétences requises
Red teamingAdversarial testingAI safetyJailbreakingPrompt injectionBias detectionDocumentation techniqueVulnerability classification
Rémunération et engagement
17–25 USD /heure
Rémunération telle qu'affichée par la plateforme, sans garantie de revenu ou d'heures.
Pays et langue
Expérience non précisée
Ouvert aux pays suivants : États-Unis.
Langue requise : MS.
Processus de candidature
Candidature via work.mercor.com : création de profil, évaluation de compétences, puis mise en relation avec des projets correspondant à votre profil.
Source et vérification
Source officielle : https://work.mercor.com/jobs/list_AAABn7Fufd0YHgkyfXdCV6ag/ai-safety-experts-english-malay
Dernière vérification : 6 octobre 2026.
Missions similaires
Vous rejoignez une équipe de red teaming pour tester la robustesse et la sécurité de modèles d'IA conversationnels. Votre mission consiste à générer des entrées adversariales (jailbreaks, injections de prompts, cas de détournement) pour découvrir les vulnérabilités des systèmes d'IA avant leur déploiement. Vous annotez les défaillances, classez les risques et produisez des datasets documentés que les clients peuvent exploiter pour améliorer leurs modèles.
Cette mission consiste à tester des modèles d'IA conversationnels en tant qu'expert en sécurité de l'IA, en générant des données d'entraînement adversariales pour identifier les vulnérabilités. Vous produirez des rapports et des datasets structurés qui permettront aux clients d'améliorer la robustesse et la sécurité de leurs systèmes d'IA. Le profil recherché maîtrise l'analyse critique de contenu, la rigueur méthodologique et la communication technique.