Relatório aponta que governos vivem dilema com IA confiável

Com recortes regionais da América do Norte, Europa, América Latina, Meta (Oriente Médio, África e Turquia) e Ásia-Pacífico, o relatório especial focado no setor público do SAS com insights de pesquisa do IDC “Relatório do impacto dos dados e da IA: O imperativo da Confiança” revelou que 38% das organizações públicas ainda dependem excessivamente de IA sem adotar salvaguardas adequadas, incluindo o uso de tecnologias mais novas, como IA generativa, mesmo sem total validação. E mais: o setor público confia mais em IA generativa do que em machine learning, mesmo o ML sendo mais maduro e já usado há anos em auditoria, combate a fraudes e outras aplicações críticas.

Ao analisar o “dilema da confiança”, o relatório aponta uma dicotomia entre governos que ou subutilizam a chamada IA confiável por falta de segurança e clareza ou aqueles que confiam demais em sistemas ainda não comprovados, elevando o risco de vieses, falhas e custos operacionais. De acordo com o reporte, esse desalinhamento é observado em todas as regiões, representando uma barreira crítica para a adoção eficaz da IA no governo.

Em nota à imprensa, Grant Brooks, vice-presidente sênior de Setor Público do SAS, destacou que “para que o setor público possa confiar na IA, ela precisa gerar valor claro ao mesmo tempo em que protege o bem-estar dos cidadãos. Ele afirmou que transformar esse valor em benefícios reais para cidadãos e comunidades exige o alinhamento entre ambição e preparo em IA. A conclusão é que ainda há trabalho a fazer para chegar lá.

Órgãos governamentais em todo o mundo estão adotando a IA rapidamente, com maior uso de IA agêntica (52%) do que outros grandes setores, como bancos, saúde e varejo. No entanto, de acordo com o relatório, apenas 6% dos órgãos governamentais estão no estado “ideal”, combinando alta confiança interna em IA com sistemas comprovadamente confiáveis — o menor percentual entre todos os setores analisados na pesquisa.

O estudo revelou que os participantes do setor público confiam muito mais na IA generativa do que no machine learning (ML). Apesar do aprendizado de máquina ser amplamente usado há anos em aplicações como auditoria tributária e detecção de fraudes, os líderes governamentais depositam mais confiança em uma tecnologia menos explicável e mais sujeita a erros.

No que se refere a entregar IA confiável, o setor público fica atrás de segmentos como seguros, bancos e ciências da vida. Apenas 15,3% operam no mais alto nível do Índice de Confiabilidade da IA do relatório, abaixo da média global de 19,8%. Além disso, o setor público também apresenta expectativas menores de investimento futuro em iniciativas de IA confiável quando comparado a bancos e seguradoras.

De acordo com Chris Marshall, vice-presidente de dados, analytics, ia, sustentabilidade e pesquisa setorial do IDC, órgãos governamentais estão avançando rapidamente da experimentação ao uso operacional da IA, mas a confiança não pode ser presumida, especialmente, quando os sistemas impactam resultados públicos. O ponto, afirma, é que “sem bases de dados robustas e governança clara, a confiança na IA pode crescer mais rápido do que sua confiabilidade, aumentando os riscos para cidadãos e instituições”.

Embora alguns governos estejam avançando na incorporação de práticas de IA confiável, a maioria ainda enfrenta lacunas significativas em centralização de dados, governança de IA e qualificação de talentos, fatores que limitam o alcance de todo o potencial da IA. A prontidão e as capacidades em IA do governo variam bastante entre as regiões, mas há algumas tendências em comum.

Segundo o relatório, todas as regiões apontam a falta de uma base de dados centralizada ou otimizada como o principal desafio para implementar IA. Além disso, a ausência de governança de dados é frequentemente citada como o segundo maior desafio, com exceção da América Latina, onde aparece em quarto lugar.

As organizações governamentais demonstram forte expectativa de crescimento nos investimentos em IA no próximo ano: 12,6% projetam aumentos superiores a 20%, enquanto quase metade espera um crescimento entre 4% e 20%. A eficiência e a eficácia dos processos são vistas como os principais caminhos para capturar valor com a IA. Além disso, mais de 60% citam ganhos de produtividade individual – o maior índice entre os setores analisados.

O setor público também é o único em que os respondentes da pesquisa apontam mais lacunas de competências entre os funcionários em geral do que entre equipes técnicas especializadas. Em resposta a esses desafios, organizações governamentais estão priorizando investimentos tanto em arquitetura tecnológica quanto na qualificação da força de trabalho.