Agente sem controle não é inovação. É problema novo. E mais caro

Por The Shift

O debate sobre IA corporativa está mudando rápido. Há dois anos, falava-se de governança e de riscos como barreiras. Hoje, no centro da conversa estão arranjos organizacionais que tornam agentes de IA não apenas utilizáveis, mas produtivos, confiáveis e integrados ao valor do negócio.

Para líderes e executivos, isso implica repensar a IA não como um projeto isolado de tecnologia, mas como uma disciplina que combina governança proativa, novas métricas e competências humanas orientadas a produto.

No fim das contas, mais importante do que perguntar se a IA pode transformar o negócio é avaliar se a organização tem o sistema operacional humano-tecnológico necessário para sustentar essa transformação.

Os números ajudam a explicar por que essa discussão deixou de ser abstrata. Pesquisas citadas por grandes consultorias indicam que algo em torno de um quarto das empresas já utiliza agentes de IA, com projeções que apontam para uma adoção próxima de três quartos nos próximos dois anos. Ao mesmo tempo, apenas uma minoria declara ter governança robusta e supervisão estruturada para esse tipo de sistema. A curva de uso cresce mais rápido do que a curva de controle.

O estudo mais recente, da Deloitte, alerta que os agentes de IA estão passando da fase piloto para a produção tão rapidamente que os controles de risco tradicionais, projetados para operações mais centradas no ser humano, estão tendo dificuldade para atender às demandas de segurança. As empresas participantes ampliaram o acesso da força de trabalho à IA em 50% em apenas um ano – crescendo de menos de 40% para cerca de 60% dos trabalhadores agora usando a tecnologia. Mas apenas 21% delas implementaram governança ou supervisão rigorosas para agentes de IA, embora 30% se diga estar altamente preparada em relação à governança e risco relacionados.

Em paralelo, a conversa técnica avançou. Avaliar apenas o modelo de linguagem já não resolve o problema. As empresas mais adiantadas passaram a medir agentes pela trajetória completa: o que fazem ao longo de um fluxo de trabalho, quais ferramentas acionam, como lidam com falhas e quantas vezes precisam escalar para um humano. Em ambientes com múltiplos agentes, entram ainda desafios de coordenação, como redundância, deadlocks, violações de regras de negócio, tempo de resolução e custo.

Do lado da governança, a mudança está em tratar regras como parte da rotina operacional. Em vez de políticas genéricas sobre “uso responsável”, começam a surgir decisões operacionais claras: que ações um agente pode executar sozinho, em quais faixas de valor, com que tipo de dado, em que situações precisa de confirmação humana e quais eventos disparam alertas automáticos para risco e auditoria. Quando isso entra nos fluxos, nos logs e nos limites de ferramenta, a área de risco deixa de ser apenas instância de veto e passa a atuar como parceira no desenho de cada aplicação.

É aqui que entram as competências humanas. Pesquisas da Harvard Business Review e de especialistas em produto convergem em um ponto: times que extraem valor consistente de IA se comportam como times de produto maduros. Começam por problemas de negócio específicos, definem outcomes claros, escolhem poucos fluxos de alto impacto, experimentam em ciclos curtos, observam dados e iteram.

Em vez de acumular cases de vitrine, constroem capacidades reutilizáveis – frameworks de avaliação, bibliotecas de cenários de teste e critérios claros de go/no go.

Esse foco no sistema operacional humano-tecnológico combina governança como design, métricas pensadas para o mundo agêntico e competências de produto como alavanca de adoção. No artigo completo publicado no site da The Shift, mostramos como telcos, bancos e grandes organizações estão transformando esses conceitos em operação — com exemplos concretos de avaliação em produção, limites de autonomia, divisão de responsabilidades entre negócio, risco e tecnologia e os trade-offs que surgem quando agentes deixam o laboratório e entram no core do negócio.

Conteúdo originalmente produzido e publicado por The Shift. Reprodução autorizada exclusivamente para a Abranet. A reprodução por terceiros, parcial ou integral, não é permitida sem autorização.