A IA pode automatizar algumas documentos do governo, mas vem com riscos sérios
Brett Hondow / Alamy
Muitos países estão explorando como a inteligência synthetic pode ajudar com tudo, desde o processamento de impostos até a determinação dos benefícios do bem -estar. Mas uma pesquisa mostra que os cidadãos não estão tão entusiasmados quanto seus governos – e isso pode criar riscos reais para a democracia.
“Foco apenas em ganhos de eficiência de curto prazo e riscos de tecnologia brilhante, desencadeando uma reação pública e contribuindo para um declínio de longo prazo na confiança e na legitimidade democrata”, diz Alexander Wuttke na Universidade Ludwig Maximilian de Munique, na Alemanha.
Wuttke e seus colegas pediram a cerca de 1200 pessoas no Reino Unido que compartilhassem seus sentimentos sobre as ações do governo, onde um humano ou uma IA lidou com a tarefa. Esses cenários hipotéticos incluíram declarações fiscais de processamento, aprovação ou rejeição de pedidos de bem -estar e avaliações de risco sobre se os réus devem ser elegíveis para a fiança.
Algumas pessoas só foram informadas sobre como a IA poderia melhorar a eficiência do governo-mas outras aprenderam sobre benefícios e riscos relacionados à IA. Esses riscos incluíram dificuldade em entender como as decisões de IA são tomadas, crescendo a dependência governamental da IA que se torna menos reversível ao longo do tempo e a falta de caminhos claros para os cidadãos contestarem e corrigirem as decisões de IA.
Quando as pessoas tomaram conhecimento dos riscos relacionados à IA, relataram um declínio significativo em sua confiança no governo e um sentimento de perder o controle. Por exemplo, a porcentagem de participantes que relatam perda de controle democrático em seu governo aumentou de 45 % para mais de 81 % em cenários em que o governo se tornou cada vez mais dependente da IA para lidar com tarefas específicas.
A proporção de pessoas que exigem menos IA no governo também aumentou acentuadamente quando os participantes aprenderam sobre os riscos – subindo de menos de 20 % no cenário de linha de base para mais de 65 % em qualquer cenário em que aprenderam sobre os benefícios e os riscos do governo usando a IA.
Apesar desses resultados, os governos democratas poderiam usar a IA de maneiras responsáveis que retêm a confiança dos cidadãos, diz Hannah Quay-de La Vallee no Centro de Democracia e Tecnologia em Washington DC. Mas ela diz que há poucas histórias de sucesso de IA no governo até agora. Enquanto isso, já existem “alguns casos de falha” – e as apostas desses casos podem ser incrivelmente altas.
Por exemplo, os esforços estaduais dos EUA para automatizar o processamento de reivindicações de benefícios públicos levaram a dezenas de milhares de pessoas sendo carregado incorretamente por fraude. Algumas dessas pessoas acabaram tendo que pedir falência ou perder suas casas. “Os erros do governo têm impactos enormes e de longo alcance”, diz Quay-de La Vallee.
Tópicos:
