Texto do artigo
Durante gerações, o poder público era compreendido observando coisas concretas: tribunais de mármore, processos amarrados com barbante, leis impressas no diário oficial e discussões acaloradas nos corredores do Congresso. O governo era uma tarefa entre pessoas, com seus acertos, suas manhas e seus vieses. Mas, nas últimas décadas, o tabuleiro mudou sem que a maioria de nós percebesse.
Hoje, as decisões que afetam a vida cotidiana já não saem apenas da letra e do punho de um juiz ou da assinatura de um ministro. Elas saem de linhas de código, sistemas preditivos e bases de dados massivas. A chamada governança algorítmica deixou de ser um experimento de escritório para se tornar a estrutura que sustenta grande parte das compras públicas, da distribuição de subsídios e da vigilância cidadã.
Essa transformação levanta uma dúvida incômoda: quando entregamos a gestão dos assuntos comuns a um programa de computador, onde fica a responsabilidade política?
O mito do software imparcial
Costuma-se vender a automação como o remédio definitivo contra a lentidão e o favorecimento dos funcionários públicos. Sob essa premissa, um sistema automatizado oferece vantagens difíceis de ignorar:
- Responde a emergências analisando a demanda no ato.
- Reduz o espaço para pedidos de propina ou favorecimentos manuais nas licitações.
- Detecta padrões de sonegação fiscal cruzando milhões de notas fiscais em segundos.
No entanto, por trás dessa aparente neutralidade técnica existe uma armadilha. Os programas não surgem do nada. São programados por pessoas e treinados com dados do passado. Se esse passado estiver carregado de desigualdades ou abusos, a máquina não corrige a injustiça; simplesmente a repete em maior velocidade e com um selo de autoridade matemática.
Isso ocorreu nos Estados Unidos com o sistema COMPAS, que atribuía classificações de alto risco de reincidência a pessoas afro-americanas com muito mais frequência do que a pessoas brancas com o mesmo histórico. Ocorreu também nos Países Baixos com o software SyRI, desenvolvido para combater fraudes em subsídios sociais. O programa colocou a lupa quase exclusivamente sobre os bairros mais pobres e as famílias imigrantes, provocando multas injustas que acabaram derrubando um governo inteiro quando a Justiça declarou o sistema ilegal por violar direitos básicos.
Quando o algoritmo falha, o cidadão comum bate contra uma parede. Não há a quem pedir explicações porque o funcionário diz que a máquina produziu aquele resultado, e a empresa que vendeu o programa se protege sob o argumento do segredo comercial para não mostrar como ele funciona internamente.
O caso do Paraguai: a tecnologia a serviço do controle
Na região, o avanço da administração digital apresenta aspectos positivos e negativos interessantes. O Paraguai é um bom reflexo dessa tensão. Com o crescimento do Portal Paraguai e a unificação da Identidade Eletrônica, a burocracia presencial começou a perder espaço. Mas o uso mais direto da inteligência analítica aparece na supervisão do dinheiro público.
A Direção Nacional de Contratações Públicas começou a utilizar ferramentas de análise de dados e inteligência artificial para impedir fraudes nas licitações. O sistema revisa o histórico das compras do Estado em busca de sinais de alerta:
• Editais elaborados sob medida para um único fornecedor.
• Acordos por baixo dos panos entre empresas que se revezam para vencer.
• Aumentos chamativos de preços em insumos de saúde ou obras viárias.
Nesse terreno, o uso da tecnologia mostra sua melhor face. Um computador pode cruzar, em minutos, milhares de planilhas que uma equipe de auditores levaria anos para revisar. A grande dívida pendente no país está relacionada à proteção de dados pessoais. Sem uma lei forte e aplicada com rigor, as mesmas ferramentas que servem para fiscalizar a corrupção podem acabar sendo utilizadas para controlar os cidadãos sem sua autorização.
A privatização invisível do poder
Existe outro problema que raramente é debatido: a perda de soberania. Os governos normalmente não desenvolvem seus próprios programas nem possuem servidores para processar volumes gigantescos de informação. Eles compram o serviço de um grupo restrito de corporações de tecnologia com sede no Vale do Silício ou na China.
Essa dependência gera dois riscos diretos:
1. Dependência do fornecedor: O Estado perde a capacidade de compreender e modificar os sistemas com os quais administra a saúde, os impostos ou a segurança.
2. Caixa-preta: Se a empresa protege o código-fonte como propriedade intelectual, nenhum órgão público de controle pode auditar quais variáveis têm maior peso no momento de tomar uma decisão.
No fim, decisões fundamentais para a sociedade ficam nas mãos de engenheiros e executivos privados que jamais prestaram contas nas urnas.
Recuperar o controle humano
O dilema atual não consiste em desligar os computadores e voltar ao processo físico com carimbo de borracha. As ferramentas digitais são indispensáveis para administrar problemas complexos. Trata-se de estabelecer regras claras para que a tecnologia responda à lei e aos direitos das pessoas, e não o contrário.
Para isso, a gestão pública precisa se sustentar sobre quatro pilares:
1. Direito de saber: Qualquer pessoa deve ser informada quando uma decisão que a afeta tiver sido tomada por um programa e tem o direito de receber uma explicação simples sobre os motivos.
2. Avaliação prévia: Antes de colocar um software em funcionamento no setor público, é necessário testá-lo para verificar se ele não discrimina nem prejudica determinados grupos.
3. Revisão humana obrigatória: As medidas que impactem a liberdade, o patrimônio ou os direitos de uma pessoa precisam passar pela assinatura e pela responsabilidade de um funcionário público identificável.
4. Desenvolvimento próprio: Os Estados precisam formar equipes técnicas capacitadas para não depender cegamente daquilo que o mercado oferece.
Governar hoje é, em grande medida, escrever código. As linhas de programação estão desempenhando o mesmo papel que antes cabia aos regulamentos e decretos. Se permitirmos que a eficiência seja o único parâmetro para medir o progresso, terminaremos vivendo em uma ordem social impecável no papel, mas inacessível às pessoas comuns. A democracia do século XXI está em jogo na capacidade de exigir que a tecnologia respeite critérios de justiça, transparência e tratamento digno.
1. CAF - Banco de Desenvolvimento da América Latina. (2024). Regulação da Compra Pública de Inteligência Artificial na América Latina: Padrões éticos e transparência no setor público. ScioTeca CAF.
2. Direção Nacional de Contratações Públicas (DNCP) / MITIC. (2025). Avanços na adoção de Inteligência Artificial e governança de dados para a prevenção de riscos no setor público do Paraguai. Ministério de Tecnologias da Informação e Comunicação, Assunção.
3. O'Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown Publishing Group.
4. Pasquale, F. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press.
5. PNUD & MITIC. (2025). AI Landscape Assessment (AILA) Paraguay: Diagnóstico para a implementação ética e estratégica da Inteligência Artificial na administração pública. Programa das Nações Unidas para o Desenvolvimento.
6. UNESCO. (2021). Recomendação sobre a Ética da Inteligência Artificial. Organização das Nações Unidas para a Educação, a Ciência e a Cultura.
7. Veale, M., & Brass, I. (2019). Administration by Algorithm: Public Management Meets Machine Learning in the UK. In Algorithmic Regulation (pp. 121-148). Oxford University Press.
8. Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs.
Transcrição do artigo publicado na edição impressa. A versão diagramada está disponível no visualizador acima.
