Vous avez déployé et opéré des agents basés sur des modèles de langage en production, avec une expérience directe de leurs défaillances et de leur adoption réelle en entreprise. Cette mission consiste à partager votre expertise sur la fiabilité, l'évaluation et la mise à l'échelle des agents IA dans des environnements complexes, via des entretiens conversationnels portant sur vos retours d'expérience concrets.
Mission ouverteVérifié récemment
AI Safety Experts - English & Malayalam
Mercor · Data & Machine Learning
Vous rejoignez une équipe spécialisée en sécurité de l'IA pour tester des modèles de langage conversationnels en exposant leurs failles et vulnérabilités par des attaques adversariales. La mission consiste à générer des données d'entraînement de haute qualité via l'annotation d'erreurs, la classification des risques et la documentation d'attaques reproductibles. Ce rôle s'adresse à des experts du langage rigoureux, dotés d'un jugement critique sur la qualité et l'exactitude des réponses IA.
Travail à réaliser
- Tester les modèles d'IA conversationnels par des injections de prompts, des jailbreaks et des cas d'abus pour identifier les vulnérabilités.
- Annoter les défaillances des modèles, classifier les risques de sécurité et signaler les problèmes systémiques détectés.
- Documenter les cas d'attaque reproductibles et produire des rapports détaillés que les clients peuvent exploiter.
- Suivre des taxonomies et des normes de qualité pour garantir la cohérence et la rigueur des tests d'adversarité.
Compétences requises
Jugement critique en matière de contenu et de langageRigueur analytiqueRespect des processus et des normes de qualitéCommunication technique et non-techniqueAptitude à tester des modèles conversationnelsÉvaluation de biais et désinformationDétection de réponses inappropriées
Rémunération et engagement
16–22 USD /heure
Rémunération telle qu'affichée par la plateforme, sans garantie de revenu ou d'heures.
Pays et langue
Expérience non précisée
Ouvert aux pays suivants : États-Unis.
Langue requise : ML.
Processus de candidature
Candidature via work.mercor.com : création de profil, évaluation de compétences, puis mise en relation avec des projets correspondant à votre profil.
Source et vérification
Source officielle : https://work.mercor.com/jobs/list_AAABnpAl6GSzF1Eq8S5GPpnj/ai-safety-experts-english-malayalam
Dernière vérification : 6 octobre 2026.
Missions similaires
Vous rejoignez une équipe de red teaming pour tester la robustesse et la sécurité de modèles d'IA conversationnels. Votre mission consiste à générer des entrées adversariales (jailbreaks, injections de prompts, cas de détournement) pour découvrir les vulnérabilités des systèmes d'IA avant leur déploiement. Vous annotez les défaillances, classez les risques et produisez des datasets documentés que les clients peuvent exploiter pour améliorer leurs modèles.
Cette mission consiste à tester des modèles d'IA conversationnels en tant qu'expert en sécurité de l'IA, en générant des données d'entraînement adversariales pour identifier les vulnérabilités. Vous produirez des rapports et des datasets structurés qui permettront aux clients d'améliorer la robustesse et la sécurité de leurs systèmes d'IA. Le profil recherché maîtrise l'analyse critique de contenu, la rigueur méthodologique et la communication technique.