Lakera lève 20 millions de dollars pour protéger l’IA des vulnérabilités
Alors que l'intelligence artificielle générative révolutionne de nombreux secteurs, la question de la sécurité de ces applications devient cruciale pour les entreprises. C'est dans ce contexte que la startup suisse Lakera vient de lever 20 millions de dollars en série A auprès du fonds européen Atomico pour étendre sa technologie de protection contre les vulnérabilités des grands modèles de langage.
Une vulnérabilité majeure : l'injection de prompts malveillants
Au cœur des IA génératives comme ChatGPT se trouvent les grands modèles de langage (LLM), capables de comprendre et générer du texte de manière quasi-humaine. Mais pour fonctionner, ces modèles ont besoin d'instructions, appelées "prompts". Et c'est là que réside une faille de sécurité majeure : des acteurs malveillants peuvent construire des prompts pour tromper l'IA et lui faire divulguer des données confidentielles ou pirater des systèmes. C'est ce qu'on appelle l'injection de prompts.
Lakera Guard : un pare-feu intelligent pour les applications d'IA
Pour répondre à cette menace grandissante, Lakera a développé Lakera Guard, une solution présentée comme un "pare-feu IA à faible latence". Grâce à une base de données alimentée par de multiples sources (jeux de données open source, recherches internes, interactions avec un jeu interactif...), Lakera a constitué une taxonomie des attaques par injection de prompts pour mieux les détecter en temps réel.
Nos modèles s'améliorent et évoluent en permanence avec le paysage des menaces émergentes.
David Haber, co-fondateur et CEO de Lakera
Une modération de contenu intégrée
En plus de sa protection contre les injections malveillantes, Lakera a aussi développé des modèles spécialisés pour scanner les prompts et les réponses des IA à la recherche de contenu toxique (discours haineux, contenu sexuel, violence, grossièretés...). Cette fonctionnalité est particulièrement utile pour les applications comme les chatbots destinés au grand public.
Des entreprises de premier plan séduites
Avec cette levée de fonds de 20 millions de dollars, Lakera compte bien étendre sa présence mondiale, notamment aux États-Unis. La startup revendique déjà des clients prestigieux outre-Atlantique comme la licorne canadienne Cohere ou la startup américaine Respell.
Les grandes entreprises, les éditeurs de logiciels et les fournisseurs de modèles d'IA se précipitent tous pour déployer des applications d'IA sécurisées.
David Haber, co-fondateur et CEO de Lakera
Avec l'engouement croissant pour l'IA générative, la sécurité devient un enjeu majeur pour son adoption à grande échelle dans les entreprises. Des startups comme Lakera jouent un rôle clé pour instaurer la confiance et permettre de déployer sereinement ces technologies révolutionnaires. Une tendance à suivre de près dans les prochains mois.
