IA pode ser brilhante. Íntegra já é mais difícil
Por The Shift
A integridade da IA (AI Integrity) está emergindo como um problema de governança distribuída que poucas organizações conseguem resolver isoladamente e para o qual ainda não existe um modelo operacional consolidado.
Os sinais já são observáveis em produção. Em 2025, pesquisadores demonstraram que cerca de 250 documentos maliciosos foram suficientes para inserir um backdoor em um modelo com bilhões de parâmetros, sem acesso direto à infraestrutura. No mesmo período, mais da metade dos funcionários federais dos Estados Unidos já utilizavam IA no trabalho diário.
A combinação cria um risco específico: sistemas integrados à operação que podem ser alterados sem sinais imediatos. O desvio não aparece como falha evidente, mas como mudança silenciosa de comportamento.
O modelo clássico de segurança ajuda a enquadrar o problema. A tríade CIA – Confidencialidade, Integridade e Disponibilidade – continua sendo referência. Mas, em IA, há um claro desequilíbrio: confidencialidade e disponibilidade avançam com incentivos econômicos e foco em propriedade intelectual; a integridade recebe menos atenção e ainda carece de métricas e padrões consolidados.
Na prática, sistemas podem operar com alto desempenho e, ainda assim, incorporar alterações que testes tradicionais não detectam.
Esse risco cresce à medida que a IA deixa de apoiar decisões e passa a executá- las – gerando código, interagindo com clientes e operando fluxos críticos. Nesse contexto, integridade deixa de ser atributo desejável e passa a ser condição de funcionamento.
A integridade de um sistema não depende apenas do modelo, mas de toda a cadeia que o compõe – dados, treinamento, integração e uso. Poucas organizações têm visibilidade completa sobre esse ciclo. Esse padrão já foi observado em ataques à cadeia de suprimentos de software; no caso da IA, o componente crítico é o próprio mecanismo de decisão.
Os incentivos de mercado reforçam o problema. Desempenho é mensurado e comercializado. Integridade, ainda não. O custo do risco recai sobre quem adota, não sobre quem desenvolve.
Para executivos, isso impõe uma nova variável na equação de adoção: não apenas se o modelo funciona, mas como garantir que continuará funcionando conforme esperado ao longo do tempo.
Ameaças como o envenenamento de modelos, em que dados incorretos alteram o comportamento, assim como a extração não autorizada de modelos, já são tecnicamente viáveis e tendem a ganhar relevância com a escala de adoção. O impacto nos negócios vai além da perda técnica; pode distorcer insights de negócios, expor propriedade intelectual, afetar a reputação da marca e a integridade das iniciativas de transformação digital.
Nesse contexto, integridade da IA deixa de ser um atributo técnico e passa a fazer parte da arquitetura de gestão de risco. Requer que os executivos reconheçam que os sistemas de IA fazem parte da arquitetura central de gestão de riscos e que a confiança, a resiliência e a defesa são diferenciais competitivos.
Nas organizações que lideram essa mudança, a integridade da IA está incorporada à governança de riscos corporativos, com a responsabilidade executiva sobre a garantia do modelo, os testes de resiliência e os padrões de verificação, em vez de relegar a confiança apenas às equipes técnicas.
Conteúdo originalmente produzido e publicado por The Shift. Reprodução autorizada exclusivamente para a Abranet. A reprodução por terceiros, parcial ou integral, não é permitida sem autorização.
