Dans cet article, nous explorerons les trois piliers clés de la protection de l’IA, et comment deux approches puissantes, l’Architecture Zero Trust (ZTA) et la Sécurité Centrée sur les Données, peuvent être appliquées pour protéger les systèmes d’IA. 

Tout d’abord, expliquons ce que signifie protéger l’IA. 

Un système d’IA est un système basé sur des machines qui déduit, à partir des données qu’il reçoit, comment générer des résultats. Cela implique l’utilisation d’algorithmes et de modèles computationnels, tels que l’apprentissage automatique (ML) et les grands modèles de langage (LLM), pour analyser les données et leurs schémas afin de produire du contenu, des prédictions, des recommandations ou des décisions. 

Avec la croissance exponentielle des capacités de collecte de données, nous assistons à la création de jeux de données massifs utilisés pour entraîner les systèmes d’IA. L’accès non autorisé à ces systèmes pourrait exploiter leurs vulnérabilités, entraînant la fuite de données personnelles, financières ou commerciales. Des techniques comme l’injection de commandes et les attaques par inférence peuvent manipuler les modèles d’IA pour révéler des données confidentielles en intégrant des commandes malveillantes ou en déduisant des détails à partir des réponses du modèle. De plus, certains résultats générés par l’IA pourraient contenir des informations sensibles telles que la propriété intellectuelle qui doivent être sécurisées.

En plus du risque d’accès non autorisé aux données, les modèles ML et LLM sont menacés d’être compromis si les modèles eux-mêmes ou les données d’entraînement sont altérés. En modifiant soit les modèles, soit les données d’entraînement, un système d’IA peut être manipulé pour produire des résultats invalides ou même dangereux. Ce type de manipulation peut être difficile à détecter en raison de la complexité de ces modèles et de l’opacité de la prise de décision dans les systèmes d’IA. 

Par conséquent, protéger l’IA signifie protéger le système d’IA, les données utilisées par le système et les résultats produits par le système. La ZTA et la Sécurité Centrée sur les Données sont des approches appropriées pour répondre à ces exigences en vérifiant en continu tous les utilisateurs et les interactions de données et en garantissant que les données sont sécurisées au repos, en transit et en utilisation, quel que soit l’endroit où elles sont stockées ou traitées. 

Le contrôle d’accès basé sur les attributs (ABAC) est une méthode dynamique de gestion des accès et des autorisations aux ressources contrôlées. Contrairement au contrôle d’accès traditionnel qui repose sur des rôles statiques, l’ABAC utilise des attributs, qui peuvent inclure des rôles utilisateurs, des conditions environnementales et le contexte des demandes d’accès, pour accorder des permissions. Cette granularité est cruciale dans un environnement ZTA, où la confiance n’est jamais présumée, et chaque demande d’accès est vérifiée. 

La mise en œuvre de l’ABAC implique de définir des politiques spécifiant quels attributs doivent être présents pour que l’accès soit accordé. Par exemple, seuls les utilisateurs avec un certain niveau de sécurité, sur un réseau sécurisé pendant les heures de travail, peuvent accéder au système d’IA. Une fois l’accès accordé, toute action de l’utilisateur qui dévie des tâches autorisées, comme la manipulation des données d’entraînement, déclencherait les politiques ABAC, empêchant l’utilisateur de faire des modifications inappropriées. 

Alors que les systèmes d’IA ingèrent d’énormes quantités d’informations, il devient essentiel d’assurer la sécurité des données sensibles utilisées dans l’entraînement et les opérations de l’IA. Une méthode efficace pour y parvenir est d’utiliser l’obfuscation et la ségrégation des données pour protéger les données au repos et en utilisation. En séparant et en obfusquant les données, les organisations peuvent appliquer des contrôles centrés sur les données plus stricts. La ségrégation des données consiste à catégoriser les données en fonction de leur sensibilité et de leurs caractéristiques pour accorder l’accès. L’obfuscation des données transforme les données en un format illisible sans l’autorisation appropriée, garantissant que même si les données sont interceptées, elles ne peuvent pas être comprises. Le masquage cache des parties spécifiques, telles que les identifiants personnels, tout en préservant l’utilisabilité des données pour l’analyse et l’entraînement. 

Protéger les modèles ML et LLM, ainsi que les données qu’ils utilisent, implique de chiffrer les données au repos pour empêcher les utilisateurs malveillants de modifier les fichiers de données et de compromettre les résultats des systèmes d’IA. En chiffrant les données au repos et en les déchiffrant uniquement sur demande d’accès d’un système d’IA autorisé, l’intégrité des modèles d’IA, de leurs ensembles de données sous-jacents et des résultats du système peut être maintenue. 

Par exemple, dans un système d’IA de santé, les données des patients provenant des ensembles de données d’entraînement peuvent être séparées, obfusquées ou masquées pour protéger la vie privée tout en permettant au modèle d’IA d’apprendre à partir des données. Ces techniques garantissent que les informations sensibles sont toujours protégées, que les données soient au repos, en transit ou en utilisation. 

Les résultats des systèmes d’IA peuvent être aussi précieux et sensibles que leurs entrées et processus. Protéger ces résultats nécessite de contrôler l’accès via l’ABAC et d’appliquer une protection persistante des fichiers avec la gestion des droits numériques d’entreprise (DRM). 

Utiliser l’ABAC pour gérer l’accès aux résultats de l’IA garantit que seuls les utilisateurs autorisés peuvent visualiser ou manipuler les résultats. Par exemple, un système d’IA générant des rapports financiers ne devrait rendre ces rapports accessibles qu’aux individus ayant les rôles financiers et managériaux appropriés. 

De plus, les technologies DRM peuvent être appliquées pour protéger de manière persistante les fichiers contenant les résultats de l’IA, tels que les rapports sensibles et les modèles propriétaires. Le DRM peut contrôler comment un fichier est utilisé, y compris les restrictions sur la copie, le partage et l’impression, empêchant ainsi la distribution et l’utilisation non autorisées. En intégrant le DRM avec l’ABAC, les organisations peuvent s’assurer que la protection suit les données, maintenant la sécurité quel que soit l’endroit où le fichier est envoyé. 

Protéger l’IA nécessite une approche multifacette qui combine les principes de la ZTA avec les pratiques de Sécurité Centrée sur les Données. En contrôlant l’accès avec l’ABAC, en sécurisant les données grâce à la ségrégation, l’obfuscation et le masquage, et en protégeant les résultats de l’IA avec l’ABAC et le DRM, les organisations peuvent efficacement atténuer les risques et améliorer la sécurité et l’intégrité de leurs systèmes d’IA.