CoGuard : Cybersécurité et IA au service des entreprises
Dans un contexte où les cybermenaces pèsent de plus en plus lourd sur les entreprises, une jeune pousse canadienne se démarque en misant sur l'intelligence artificielle pour renforcer leur protection. CoGuard, startup basée à Kitchener-Waterloo en Ontario, vient de décrocher un financement du programme de subventions pour la cybersécurité d'OpenAI. Une belle reconnaissance pour cette entreprise innovante qui automatise la détection des vulnérabilités liées aux erreurs de configuration logicielle.
CoGuard dans le cercle restreint des bénéficiaires des subventions OpenAI
Lancé en juin 2023, le programme de subventions d'OpenAI vise à soutenir des projets exploitant l'IA pour se prémunir contre les cyberattaques et évaluer les capacités des modèles d'IA en matière de sécurité. Doté d'un fonds total d'un million de dollars, il offre des subventions par tranches de 10 000$ sous forme de crédits d'API, de financement direct ou d'équivalents.
Sur plus de 600 candidatures reçues en un an, CoGuard fait partie des huit lauréats annoncés la semaine dernière, aux côtés de laboratoires universitaires réputés comme le Breuer Lab du Dartmouth College ou le MIT's Computer Science Artificial Intelligence Laboratory. Si le montant exact de la subvention n'a pas été révélé, elle a permis à la startup de financer des recherches sur l'utilisation de l'API d'OpenAI pour résoudre les problèmes de misconfiguration logicielle.
L'IA au cœur de la solution de cybersécurité de CoGuard
Fondée en 2020 par Nadia Mazzarolo et Albert Heinle, expert en informatique et ancien enseignant à l'Université de Waterloo, CoGuard s'appuie sur l'IA pour automatiser la détection des erreurs de configuration. Ces failles surviennent lorsque des paramètres sont manquants ou mal implémentés dans un logiciel ou une plateforme, ouvrant la voie à des accès non autorisés aux données sensibles.
Grâce à sa solution, CoGuard aide les entreprises à :
- Identifier et corriger rapidement ces vulnérabilités
- Détecter les faiblesses de leur infrastructure de sécurité existante
- Mettre en place des processus de développement applicatif et de configuration d'infrastructure plus sécurisés
Un projet de recherche prometteur financé par OpenAI
La subvention d'OpenAI a été utilisée par CoGuard pour mener une étude sur l'usage de l'API d'OpenAI afin de remédier aux erreurs de configuration des logiciels et plateformes. Plus précisément, les travaux ont porté sur l'identification et l'ajout de nouvelles politiques et règles pour les configurations, tout en maintenant ou améliorant les configurations existantes.
Nous avions envisagé l'utilisation de grands modèles de langage dans notre cycle de développement pour gérer et mettre à jour efficacement notre ensemble complet de règles pour les configurations d'infrastructure. La subvention d'OpenAI pour la recherche en cybersécurité était une excellente opportunité de tester cette idée dans le cadre d'un projet de recherche. Cela s'est avéré fructueux et nous sommes reconnaissants de la confiance et du soutien d'OpenAI.
– Albert Heinle, directeur technique et cofondateur de CoGuard
Des interrogations sur la gestion des risques par OpenAI
Si OpenAI cherche à investir dans des solutions combinant IA et sécurité, l'entreprise à l'origine du générateur de texte ChatGPT fait elle-même l'objet de critiques. Certains doutent de sa capacité à gérer adéquatement les risques associés au développement de l'IA, plusieurs responsables et employés axés sur la sécurité ayant quitté l'entreprise cette année. Parmi eux, le cofondateur canadien Ilya Sutskever, qui a récemment lancé une société visant à développer une superintelligence artificielle de manière sûre.
Dans ce contexte, l'approche de CoGuard apparaît d'autant plus pertinente. En exploitant judicieusement la puissance de l'IA pour combler les failles de sécurité plutôt que les créer, la jeune pousse ouvre la voie à une utilisation responsable et bénéfique de cette technologie. Reste à voir comment sa solution évoluera grâce à ce coup de pouce financier, et si elle inspirera d'autres acteurs du secteur à œuvrer pour une IA éthique et sécuritaire.
