Comment FortressAI sait-il qu'un outil d'IA n'a pas été altéré ?
Réponse courte : Avant d'accorder à un outil d'IA l'accès à des données, FortressAI évalue si cet outil a été altéré — en vérifiant l'intégrité de son processus et des bibliothèques chargées grâce aux mêmes analyses comportementales de la mémoire sur lesquelles repose le reste de la plateforme. Un outil approuvé qui a été compromis n'obtient pas vos données simplement parce qu'il figure sur la liste autorisée.
L'approbation n'est pas synonyme de confiance
La plupart des dispositifs de gouvernance de l'IA s'arrêtent à la liste d'autorisation : cette application est-elle permise ? C'est nécessaire, mais insuffisant, car l'identité d'une application et son intégrité sont deux questions distinctes.
claude.exe, un client Copilot, une application de bureau ChatGPT, ou un navigateur exécutant Gemini peuvent tous être légitimement approuvés — et tous être exploités. Un attaquant qui compromet un client IA approuvé hérite de tout accès aux données accordé à ce client. Une liste d'autorisation seule le lui remet.
FortressAI évalue donc deux éléments avant l'accès aux données :
- Cet outil est-il autorisé ? (évaluation et politique propres à chaque outil)
- Cet outil est-il toujours lui-même ? (le processus ou ses bibliothèques ont-ils été altérés)
Les deux conditions doivent être remplies.
Ce que signifie « altéré » dans ce contexte
Le contrôle s'appuie sur les analyses de la mémoire — la même couche de capteurs fondamentale qui sous-tend la protection des données et de l'identité. Il examine l'état du programme en cours d'exécution et de ses bibliothèques chargées à la recherche de signes d'injection, de modification en mémoire ou d'exploitation.
Cela importe car les techniques d'attaque modernes visent spécifiquement les processus de confiance. Un code injecté dans une application approuvée hérite de ses permissions et de sa réputation. Vérifier le fichier sur le disque ne prouve rien quant à ce que le processus est devenu en mémoire.
Que se passe-t-il en cas d'échec du contrôle
La réponse suit le même modèle graduel appliqué dans l'ensemble de la plateforme :
- Autorisé et non altéré, conforme à la politique — l'accès se poursuit.
- Autorisé et non altéré, mais dépassant la politique — bloqué, expurgé, ou alimenté en fausses données, selon vos règles. L'outil continue de fonctionner.
- Altéré ou inconnu — rejeté ou suspendu, selon le moteur comportemental et vos paramètres.
L'effet pratique : un client IA compromis est traité comme un attaquant, et non comme une application approuvée traversant un moment difficile.