AI Security Engineer

Menlosecurity
  • Temps plein
  • Mountain View, United States
Développement Sécurité et sûreté

Menlo Security développe des solutions de sécurité pour les navigateurs et les agents d’IA, afin de protéger les organisations contre les menaces provenant du Web, des documents et des e-mails. L’ingénieur·e Data & AI / ML Evaluation construira et exploitera l’infrastructure de données, les jeux de données et les systèmes d’évaluation des modèles de sécurité IA de l’entreprise.

Exigences

  • Justifier de 2 à 4 ans d’expérience en ingénierie logicielle, ingénierie des données ou assurance qualité et évaluation automatisées.
  • Maîtriser Python ; la connaissance de C++ et SQL ainsi qu’une expérience de l’entraînement de modèles et des algorithmes d’IA/ML sont des atouts.
  • Concevoir et exploiter des pipelines automatisés de collecte, scraping Web, ingestion, traitement, annotation et curation de jeux de données contenant des échantillons de menaces issus de trafic simulé et de sources Web.
  • Entraîner et réentraîner des modèles tels que les SLM de détection des injections de prompt, les modèles de détection de Shadow AI, les classificateurs de macros malveillantes et les modèles de détection de PII.
  • Collecter les faux positifs provenant des flux utilisateurs/DDR en production et les intégrer aux processus de réentraînement et d’évaluation ; intégrer rapidement les retours concernant les faux positifs et faux négatifs.
  • Développer des bancs d’essai et des dispositifs d’évaluation automatisés et reproductibles pour mesurer la qualité de détection, les performances d’exécution et la précision par rapport à des modèles de référence tels que Vertex AI.
  • Collaborer avec les équipes de recherche et d’ingénierie logicielle pour transformer la télémétrie de détection en améliorations concrètes des modèles.
  • Assurer la fiabilité et le débit des pipelines de données, ainsi que la couverture, la diversité et la précision d’annotation des jeux de données de menaces ; suivre la précision des modèles au regard des benchmarks et des versions précédentes.
  • Connaître les structures de données, les formats de stockage et la configuration des bases de données, et travailler de manière méthodique sur l’annotation, la validation, le suivi des bugs et des métriques.
  • Atouts : expérience des frameworks d’évaluation ML, de la curation de jeux de données ou des outils d’annotation ; extraction de texte, prétraitement NLP ou analyse de documents ; notions de cybersécurité telles que Prompt Injection, macros malveillantes et DLP/PII ; stockage cloud ou objet et Docker ; AWS, GCP, Terraform, Kubernetes ou Linux.

Informations complémentaires

Menlo met en avant une culture fondée sur le leadership proactif, la communication directe, l’impact collectif, l’exigence et l’orientation client. Les candidatures qualifiées sont étudiées sans discrimination fondée sur les caractéristiques protégées mentionnées. Les agences doivent suivre la procédure Ashby ATS de Menlo, disposer d’un accord de services signé et être affectées au poste par l’équipe Talent ; les candidatures envoyées hors procédure ne donnent droit à aucune rémunération. Menlo invite les personnes intéressées à suivre l’entreprise sur LinkedIn.

Plus d'emplois dans les catégories Développement et Sécurité et sûreté

Multiverse

  • Temps plein
  • London, United Kingdom
Développement Infrastructure Sécurité et sûreté

Entreprises recrutant des talents en IA

Des laboratoires de recherche aux startups en croissance rapide, ces employeurs construisent avec l'Intelligence Artificielle et recrutent sur OnlyAIJobs.