Como é que a FortressAI sabe que uma ferramenta de IA não foi comprometida?
Resposta breve: Antes de conceder a qualquer ferramenta de IA acesso a dados, a FortressAI avalia se essa ferramenta foi objeto de adulteração — verificando a integridade do seu processo e das bibliotecas carregadas através da mesma análise comportamental de memória em que assenta o resto da plataforma. Uma ferramenta aprovada que tenha sido comprometida não recebe os seus dados apenas por constar da lista de permissões.
Aprovação não é o mesmo que confiança
A maioria da governação de IA fica-se pela lista de permissões: esta aplicação está autorizada? Isso é necessário, mas não suficiente, porque a identidade de uma aplicação e a sua integridade são questões distintas.
O claude.exe, um cliente do Copilot, uma aplicação de ambiente de trabalho do ChatGPT ou um navegador a executar o Gemini podem todos ser legitimamente aprovados — e todos podem ser explorados. Um atacante que comprometa um cliente de IA aprovado herda todo o acesso a dados que foi concedido a esse cliente. Uma lista de permissões, por si só, entrega esse acesso.
Por isso, a FortressAI avalia dois aspetos antes de conceder acesso a dados:
- Esta ferramenta está autorizada? (avaliação e política por ferramenta)
- Esta ferramenta continua a ser ela própria? (o processo ou as suas bibliotecas foram adulterados)
Ambas as condições têm de se verificar.
O que significa "adulterado" neste contexto
A verificação recorre à análise de memória — a mesma camada de sensores fundamental que está na base da proteção de dados e de identidade. Esta análise examina o estado do programa em execução e das bibliotecas carregadas, à procura de sinais de injeção, modificação em memória ou exploração.
Isto é importante porque as técnicas de ataque modernas visam especificamente processos de confiança. Código injetado numa aplicação aprovada herda as suas permissões e a sua reputação. Verificar o ficheiro em disco nada prova sobre aquilo em que o processo se transformou em memória.
O que acontece quando a verificação falha
A resposta segue o mesmo modelo graduado utilizado em toda a plataforma:
- Autorizado e não adulterado, dentro da política — o acesso prossegue.
- Autorizado e não adulterado, mas fora da política — bloqueado, com dados ocultados ou substituídos por dados falsos, consoante as suas regras. A ferramenta continua a funcionar.
- Adulterado ou desconhecido — rejeitado ou suspenso, de acordo com o motor comportamental e as suas definições.
O efeito prático: um cliente de IA comprometido é tratado como um atacante, e não como uma aplicação aprovada que está simplesmente a ter um mau dia.