Fondée en octobre 2023 par Dor Sarig et Ziv Karliner, Pillar développe une plateforme qui cartographie automatiquement tous les actifs liés à l’IA au sein d’une organisation — des modèles et bases de données aux prompts, en passant par notebooks et frameworks — pour sécuriser les applications du développement à la production. La plateforme est alimentée par des renseignements sur les menaces issus de la recherche et basés sur l’analyse de plus de 50 millions d’interactions d’applications d’IA.
« La sécurité ne peut plus répondre aux avancées technologiques, elle doit être fondamentale, tissée dans le tissu même du cycle de vie du développement de l’IA », a déclaré Sarig. « Notre plateforme aide les équipes à repérer, à comprendre et à traiter les risques de sécurité à chaque étape du cycle de vie, avec une approche continue et automatisée. »
« Cela donne aux organisations la confiance nécessaire pour avancer rapidement tout en restant en sécurité, en libérant le véritable potentiel de l’IA », a-t-il ajouté.
Parmi les clients de Pillar figurent les entreprises technologiques Similarweb, Eleos Health et AvidXchange.
La startup a cité une enquête récente de Deloitte auprès de 1200 responsables de la sécurité des informations, qui a montré que 77 % des personnes interrogées s’inquiétaient des risques et du paysage des menaces de la technologie générative liée à l’IA.
L’enquête a révélé que deux organisations sur cinq ont connu un incident de sécurité ou de confidentialité lié à l’IA, et que dans un quart de ces cas, la menace était malveillante. Selon l’enquête, les principaux risques spécifiques à l’IA sont les attaques par évasion, l’empoisonnement des données, la confidentialité des données et les fuites de propriété intellectuelle.
Laisser un commentaire