SAS: “Foi a IA que fez” não será desculpa em 2027

Em 2027, “Quem responde por este agente de IA?” se tornará uma questão de governança tão fundamental quanto “Quem responde por este orçamento?”. A ponderação é feita pelo SAS que aponta, em suas previsões para o ano que vem, que as empresas querem provas do que a IA realmente entrega de resultados.

À medida que a IA se integra cada vez mais às operações empresariais e ganha mais autonomia para agir, seu impacto irá muito além da própria tecnologia. “Confiança, governança e supervisão humana precisarão estar incorporadas desde o início, para que as organizações possam inovar rapidamente sem perder o controle sobre os resultados”, argumenta o SAS em sua tese central das previsões.

Segundo a empresa de dados, a IA empresarial está enfrentando três testes decisivos: à medida que passa a agir com mais autonomia, quem responde pelos resultados? Ela consegue comprovar seu valor? E podemos confiar em suas decisões?

Jenn Chase, diretora de marketing do SAS, enfatiza que, à medida que os agentes de IA deixam de apenas recomendar ações e passam a executá-las, o risco muda. “Quando sua IA diz algo, sua marca também está dizendo. Uma oferta não autorizada, uma promessa não cumprida ou uma interação ruim com um cliente pode rapidamente se transformar em uma crise reputacional. A responsabilização não pode ser delegada. As empresas precisarão estabelecer regras claras sobre o que um agente pode decidir de forma independente, quando é necessária a intervenção humana e quem tem autoridade para interromper sua atuação”, diz.

Adam Neiberg, gerente global para setor financeiro do SAS, acrescenta que, em 2027, os agentes de IA passarão de decisões relacionadas a compras para decisões financeiras de maior impacto, como transferir dinheiro em nome das pessoas que representam. “Isso abre uma caixa de Pandora e torna ainda mais complexas questões fundamentais de autoridade: o cliente autorizou o agente? A autorização se aplica a essa transação? O agente está agindo dentro dos limites de sua autorização ou foi comprometido? À medida que as máquinas ganham mais autonomia para movimentar dinheiro, os bancos serão obrigados a redefinir os limites da prevenção a fraudes. Mais do que verificar transações individuais, precisarão determinar o escopo de atuação e a integridade dos agentes por trás delas”, assinala.

O SAS ressalta que a inteligência artificial terá de provar seu valor. Nesse sentido, o choque de realidade da IA fortalecerá os hyperscalers, uma vez que a economia por trás do boom da IA passará por uma grande readequação, com avaliações astronômicas, dívidas crescentes e o enorme custo da expansão dos data centers se chocando com a pressão para demonstrar retornos sustentáveis.

“O FOMO ajudou a impulsionar níveis de investimento sem precedentes, e o escrutínio crescente sobre práticas como round-tripping aumentará ainda mais a pressão para saber se as contas realmente fecham. A IA continuará avançando, mas as empresas se tornarão muito mais seletivas, investindo onde o valor gerado justificar o custo. Os hyperscalers sairão fortalecidos porque seus negócios diversificados, sua infraestrutura, sua base de clientes e sua escala oferecem mais formas de monetizar a IA, além da flexibilidade financeira necessária para se adaptar à reconfiguração do mercado”, explica Matt Parson, diretor-financeiro do SAS.