Research Engineer, AI Monitoring

Anthropic PBC
  • Temps plein
  • San Francisco, United States
Développement Recherche

Anthropic recherche une personne à la croisée de l’ingénierie et de la recherche pour développer et exploiter des classificateurs qui détectent et bloquent les actions dangereuses des agents d’IA internes. Le poste associe la recherche visant à détecter avec précision des comportements rares, nouveaux ou adversariaux et l’ingénierie de production de systèmes utilisés pour la recherche, l’entraînement et les évaluations. Vous contribuerez à rendre ces protections fiables à grande échelle, en étroite collaboration avec d’autres équipes et en utilisant des agents d’IA pour mener des expériences et produire du code.

Exigences

  • Savoir organiser et hiérarchiser plusieurs axes de travail et communiquer clairement avec les équipes concernées.
  • Savoir examiner de manière critique le code et les résultats expérimentaux, y compris ceux produits par des agents d’IA.
  • Manifester un intérêt sincère pour le développement de systèmes d’IA sûrs et bénéfiques.
  • Concevoir, entraîner et évaluer des classificateurs en temps réel détectant les actions dangereuses d’agents, notamment des modèles guidés par prompts, des classificateurs entraînés ou des sondes des mécanismes internes des modèles.
  • Déployer, ajuster et exploiter ces classificateurs pour les agents internes, l’entraînement par apprentissage par renforcement et les évaluations ; assumer la responsabilité de leur précision, fiabilité, latence, coût et comportement en cas de défaillance.
  • Créer des jeux de données, des processus d’annotation et des évaluations afin de mesurer et d’améliorer les classificateurs et les taxonomies de préjudices.
  • Collaborer avec les équipes de red teaming pour éprouver les classificateurs et les renforcer contre les faiblesses découvertes ; travailler avec les équipes utilisatrices pour corriger rapidement les faux positifs sans réduire la protection.
  • Contribuer à l’orientation de l’équipe, notamment aux décisions sur les développements, les partenariats et les investissements.
  • Une expérience de direction de projets techniques ambigus, d’évaluation de grands modèles de langage, de développement de classificateurs ou d’exploitation de systèmes de production à grande échelle est souhaitée. Une expérience des systèmes de détection où les vrais positifs sont rares et les faux positifs coûteux est également utile, par exemple pour détecter les abus, la fraude, le spam ou les intrusions.
  • Sont également utiles : l’exploitation de services à faible latence et haute disponibilité, avec astreintes ; le fine-tuning de modèles de langage ou l’utilisation de sondes des mécanismes internes des modèles ; l’infrastructure d’inférence ou de déploiement de LLM ; l’intégration de composants à l’infrastructure d’entraînement ; la sécurité ; ou la recherche sur le contrôle de l’IA, la supervision évolutive, la sécurité des agents ou l’apprentissage par renforcement.
  • Le niveau d’études minimum indiqué est une licence ou une combinaison équivalente d’études, de formation et/ou d’expérience ; un domaine d’études ou une expérience professionnelle pertinente est requis. L’expérience attendue dépend du niveau interne du poste.

Informations complémentaires

Anthropic est une société d’intérêt public dont le siège se trouve à San Francisco et qui œuvre à la création d’une IA fiable, interprétable et pilotable. La rémunération annuelle pour ce poste se situe entre 375 000 et 640 000 GBP. Les membres du personnel doivent actuellement travailler dans l’un des bureaux au moins 25 % du temps ; certains postes peuvent exiger une présence plus importante. Un parrainage de visa peut être proposé. Les personnes intéressées sont invitées à postuler même si elles ne remplissent pas toutes les conditions. Les avantages comprennent une rémunération compétitive, une contribution facultative équivalente aux dons d’actions, des congés et un congé parental généreux, des horaires flexibles et des bureaux propices à la collaboration. Les candidatures peuvent consulter les consignes d’Anthropic concernant l’usage de l’IA dans le processus de recrutement. Les recruteurs contactent les candidats depuis @anthropic.com ou indiquent travailler pour le compte d’Anthropic ; ils ne demandent jamais d’argent ni de coordonnées bancaires.

Plus d'emplois dans les catégories Développement et Recherche

APG Asset Management

  • Temps plein
  • Heerlen, Netherlands

Salaire: 5533.19 - 7143.86 EUR P1M

Développement Recherche

Flex Ltd.

  • Temps plein
  • Oostrum, Netherlands

Salaire: 3730 - 3730 EUR MONTH

Développement Apprentissage Automatique Recherche

Entreprises recrutant des talents en IA

Des laboratoires de recherche aux startups en croissance rapide, ces employeurs construisent avec l'Intelligence Artificielle et recrutent sur OnlyAIJobs.