EL GRAN ALGORITMO DEL ESTADO: ¿QUIÉN MANDA CUANDO DECIDEN LAS MÁQUINAS?

Durante generaciones, el poder público se entendía mirando cosas concretas: tribunales de mármol, expedientes atados con hilo, leyes impresas en el registro oficial y discusiones acaloradas en los pasillos del congreso. El gobierno era una tarea entre personas, con sus aciertos, sus mañas y sus sesgos. Pero en las últimas décadas, el tablero cambió sin que la mayoría nos diéramos cuenta.

Hoy las decisiones que afectan la vida cotidiana ya no salen únicamente del puño y letra de un juez o de la firma de un ministro. Salen de líneas de código, sistemas predictivos y bases de datos masivas. La llamada gobernanza algorítmica dejó de ser un experimento de oficina para convertirse en la estructura que sostiene gran parte de las compras públicas, la asignación de subsidios y la vigilancia ciudadana.

Esta transformación plantea una duda incómoda: cuando le entregamos la gestión de los asuntos comunes a un programa informático, ¿dónde queda la responsabilidad política?

El mito del software imparcial

Se suele vender la automatización como la medicina definitiva contra la lentitud y el favoritismo de los funcionarios. Bajo esa premisa, un sistema automatizado ofrece ventajas difíciles de ignorar:

• • Responde a emergencias analizando la demanda en el acto.
• • Reduce el espacio para el pedido de coimas o la preferencia a mano en las licitaciones.
• • Detecta patrones de evasión impositiva cruzando millones de facturas en segundos.

Sin embargo, detrás de esa aparente neutralidad técnica hay una trampa. Los programas no nacen de la nada. Los programan personas y se entrenan con datos del pasado. Si ese pasado está cargado de desigualdades o abusos, la máquina no arregla la injusticia; simplemente la repite a mayor velocidad y con un sello de autoridad matemática.

Ocurrió en Estados Unidos con el sistema COMPAS, que daba calificaciones de alto riesgo de reincidencia a personas afroamericanas con mucha más frecuencia que a personas blancas con el mismo historial. Ocurrió también en Países Bajos con el software SyRI, diseñado para cazar fraudes en los subsidios sociales. El programa puso la lupa casi de forma exclusiva en los barrios más pobres y en familias inmigrantes, provocando multas injustas que terminaron tumbando a un gobierno entero cuando la justicia declaró ilegal el sistema por violar derechos básicos.

Cuando el algoritmo falla, el ciudadano común choca contra una pared. No hay a quién pedirle explicaciones porque el funcionario dice que la máquina arrojó ese resultado, y la empresa que vendió el programa se escuda en el secreto comercial para no mostrar cómo funciona por dentro.

El caso de Paraguay: la tecnología al servicio del control

En la región, el avance de la administración digital muestra claroscuros interesantes. Paraguay es un buen reflejo de esta tensión. Con el crecimiento del Portal Paraguay y la unificación de la Identidad Electrónica, el papeleo presencial empezó a ceder terreno. Pero el uso más directo de inteligencia analítica aparece en la supervisión del dinero público.

La Dirección Nacional de Contrataciones Públicas comenzó a usar herramientas de análisis de datos e inteligencia artificial para frenar trampas en las licitaciones. El sistema revisa el historial de las compras del Estado buscando señales de alerta:

• • Pliegos de bases confeccionados a la medida de un solo proveedor.
• • Acuerdos por debajo de la mesa entre empresas que se turnan para ganar.
• • Subas llamativas de precios en insumos de salud u obras viales.

En este terreno, el uso de tecnología muestra su mejor cara. Una computadora puede cruzar en minutos miles de planillas que a un equipo de auditores le llevaría años revisar. La gran deuda pendiente en el país pasa por la protección de datos personales. Sin una ley fuerte y aplicada con rigor, las mismas herramientas que sirven para vigilar la corrupción pueden terminar usándose para controlar a la ciudadanía sin su permiso.

La privatización invisible del poder

Hay otro problema que pocas veces se debate: la pérdida de soberanía. Los gobiernos no suelen desarrollar sus propios programas ni tienen los servidores para procesar volúmenes gigantescos de información. Le compran el servicio a un puñado de corporaciones tecnológicas con sede en Silicon Valley o China.

Esa dependencia genera dos riesgos directos:

• 1. Atadura con el proveedor: El Estado pierde la capacidad de entender y modificar los sistemas con los que gestiona la salud, los impuestos o la seguridad.
• 2. Caja negra: Si la empresa protege el código fuente como propiedad intelectual, ningún organismo público de control puede auditar qué variables pesan más a la hora de tomar una decisión.

Al final, decisiones clave para la sociedad quedan en manos de ingenieros y ejecutivos privados que jamás rindieron cuentas ante las urnas.

Recuperar el control humano

El dilema actual no pasa por apagar las computadoras y volver al expediente físico con sello de goma. Las herramientas digitales son indispensables para gestionar problemas complejos. De lo que se trata es de fijar reglas claras para que la tecnología responda a la ley y a los derechos de las personas, y no al revés.

Para lograrlo, la gestión pública necesita sostenerse sobre cuatro pilares:

• 1. Derecho a saber: Cualquier persona debe ser informada cuando una decisión que le afecta la tomó un programa, y tiene derecho a recibir una explicación sencilla de los motivos.
• 2. Evaluación previa: Antes de poner a funcionar un software en el ámbito público, hay que probarlo afuera para verificar que no discrimine ni perjudique a ciertos grupos.
• 3. Revisión humana obligatoria: Las medidas que impacten en la libertad, el patrimonio o los derechos de una persona tienen que pasar por la firma y la responsabilidad de un funcionario visible.
• 4. Desarrollo propio: Los Estados tienen que formar equipos técnicos capacitados para no depender a ciegas de lo que vende el mercado.

Gobernar hoy es, en gran medida, escribir código. Las líneas de programación están cumpliendo el mismo rol que antes tenían los reglamentos y los decretos. Si dejamos que la eficiencia sea la única vara para medir el progreso, terminaremos viviendo en un orden social impecable en los papeles, pero inaccesible para la gente común. La democracia del siglo XXI se juega en la capacidad de exigir que la tecnología respete los criterios de justicia, transparencia y trato digno.

1. CAF - Banco de Desenvolvimento da América Latina. (2024). Regulação da Compra Pública de Inteligência Artificial na América Latina: Padrões éticos e transparência no setor público. ScioTeca CAF.

2. Direção Nacional de Contratações Públicas (DNCP) / MITIC. (2025). Avanços na adoção de Inteligência Artificial e governança de dados para a prevenção de riscos no setor público do Paraguai. Ministério de Tecnologias da Informação e Comunicação, Assunção.

3. O'Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown Publishing Group.

4. Pasquale, F. (2015). The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press.

5. PNUD & MITIC. (2025). AI Landscape Assessment (AILA) Paraguay: Diagnóstico para a implementação ética e estratégica da Inteligência Artificial na administração pública. Programa das Nações Unidas para o Desenvolvimento.

6. UNESCO. (2021). Recomendação sobre a Ética da Inteligência Artificial. Organização das Nações Unidas para a Educação, a Ciência e a Cultura.

7. Veale, M., & Brass, I. (2019). Administration by Algorithm: Public Management Meets Machine Learning in the UK. In Algorithmic Regulation (pp. 121-148). Oxford University Press.

8. Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs.