Noma Security : Sécuriser les Applications d’IA à Grande Échelle
Alors que les entreprises s'empressent d'adopter l'intelligence artificielle pour rester compétitives, beaucoup réalisent que cette course effrénée les expose à de nouveaux risques de cybersécurité. Selon un récent sondage mené auprès de plus de 350 responsables informatiques, la complexité des applications d'IA a affaibli la posture de sécurité de plus de la moitié des organisations interrogées. Pire, plus de 40% des dirigeants estiment que leurs équipes de sécurité manquent des compétences nécessaires pour protéger efficacement leurs applications et charges de travail basées sur l'IA.
Noma Security : Une Approche Holistique de la Sécurité des Applications d'IA
C'est dans ce contexte que Noma Security, une jeune pousse fondée en 2023, sort de l'ombre avec une solution ambitieuse visant à sécuriser de bout en bout le cycle de vie des applications d'IA. Son co-fondateur et CEO, Niv Braun, a eu l'idée de créer Noma après avoir constaté un angle mort significatif pour les équipes de sécurité chez Verint, son ancien employeur spécialisé dans l'automatisation de l'expérience client.
Les outils existants sont conçus pour le cycle de vie traditionnel des logiciels. Cependant, le cycle de vie des données et de l'IA est fondamentalement différent. Il implique des processus de R&D distincts, s'appuie sur des technologies différentes et fait face à des vulnérabilités techniques uniques au sein des modèles d'IA.
– Niv Braun, CEO de Noma Security
Identifier et Corriger les Vulnérabilités des Pipelines d'IA
La plateforme de Noma est conçue pour aider à repérer - et à corriger - les erreurs de configuration dans les composants utilisés pour développer et exécuter des applications d'IA. Elle scanne par exemple les jeux de données d'entraînement des modèles à la recherche de données sensibles, comme du texte contenant des informations personnellement identifiables.
Selon Niv Braun, les entreprises peuvent être mieux équipées pour faire face aux menaces si elles peuvent consolider les fonctions de sécurité des applications d'IA dans un seul tableau de bord, déployable dans des environnements cloud ou auto-hébergés.
Se Démarquer dans un Marché Florissant
Noma n'est pas la seule startup à s'attaquer à la sécurité de l'IA. HiddenLayer et Protect AI se concentrent sur la défense des systèmes d'IA contre les attaques adverses, tandis que Cranium fournit de la visibilité sur les systèmes d'IA au niveau applicatif. Mais Niv Braun croit que l'approche holistique de sa société lui donne un avantage :
De nombreuses solutions de sécurité à fonction unique inondent le marché, essayant de tirer parti de la hype autour de l'IA. En aidant les entreprises à comprendre l'empreinte de leurs applications d'IA et en leur donnant des contrôles de gouvernance, Noma ne se contente pas de les aider à minimiser et à atténuer les risques, mais leur donne également la confiance dont elles ont besoin pour étendre plus rapidement leur utilisation de l'IA à des parties plus stratégiques de l'entreprise.
Une Croissance Rapide pour Répondre à une Demande Pressante
Fondée il y a seulement un an, Noma compte déjà des clients payants, dont des entreprises du Fortune 500 dans les logiciels B2B, les services financiers et le commerce de détail. La startup a récemment bouclé un tour de table de série A de 25 millions de dollars, menée par Ballistic Ventures et à laquelle ont participé Glilot Capital Partners et Cyber Club London. Un financement qui devrait lui permettre de doubler son équipe de 20 personnes dans les 12 prochains mois.
Dans un contexte où les incidents de sécurité liés à l'IA se multiplient, comme les attaques par injection de prompts ou l'empoisonnement des données d'entraînement, nul doute que les solutions comme celles de Noma Security vont devenir de plus en plus indispensables aux entreprises misant sur l'intelligence artificielle pour leur transformation digitale et leur croissance. Reste à savoir si la jeune pousse parviendra à s'imposer face à une concurrence qui s'annonce féroce sur ce nouveau marché à fort potentiel.
