De rigurosa etiqueta

Durante siglos, la consigna ceremonial de “rigurosa etiqueta” para un evento funcionó como un mecanismo explícito de clasificación: la vestimenta determinaba quién podía entrar, quién no y la jerarquía de cada participante. Actualmente no te invitan, pero estás igualmente rigurosamente etiquetado participando de ceremonias secretas. Los algoritmos infieren características que nos atribuyen sin avisos, que cumplen una función similar de control, regular el acceso a derechos, beneficios y oportunidades.

Ambos sistemas clasifican para gobernar, normalizan para excluir y estandarizan para disciplinar. La diferencia es que actualmente nadie sabe que ha sido reiteradamente etiquetado por un modelo opaco que ya decidió quién es, qué riesgo representa y qué lugar debe ocupar.

El gobierno nacional expande, de manera activa y sigilosa, mediante convenios con Salta, Corrientes, Tucumán, Santa Fe, CABA y diversos municipios, su Gemelo Digital Social (GDS), que ya decide sobre 11 M de personas, el 24 % de la población argentina.

Presentado como una solución técnica e inocua, el GDS es una arquitectura que ejecuta perfilamientos sociales y construye modelos predictivos sobre poblaciones vulnerables. Decisiones estatales como el otorgamiento, priorización y restricción de prestaciones, se someten a su arbitrio, reformulando presupuestos con un barniz de objetividad. El sistema vulnera derechos fundamentales colisionando con los estándares internacionales sobre el uso responsable de la IA. Acota el debate haciendo gala de una autoridad aséptica que procede de modelos entrenados con datos incompletos, distorsionados, fragmentados o desactualizados. También está configurado para identificar presuntos patrones de fraude e inferir comportamientos poblacionales hipotéticos.

La medición ya no se limita a describir la realidad, comienza a definirla.

La antigua sospecha del “algo habrá hecho” ha mutado en otra todavía más inquietante: “según el algoritmo, podría hacer algo”. La predicción sustituye a la presunción de inocencia, y simples probabilidades se convierten en certezas incorporadas al procedimiento administrativo.

La indefensión se profundiza cuando ese etiquetado se combina con un aparato judicial opaco, cortesano del poder de turno que instrumentaliza la inacción, los errores de procedimiento y las prescripciones selectivas según el favor del viento.

Distorsión.

Los antecedentes internacionales son concluyentes: el sesgo introducido en la configuración de herramientas semejantes es la regla no la excepción. En USA, investigaciones sobre el Compas detectaron parcialidad racial en la clasificación del riesgo de reincidencia. En los Países Bajos, el programa SyRI evidenció distorsión algorítmica ineficiente por vigilar especialmente barrios de sectores de bajos ingresos y población migrante. En Australia, su empleo sobre comunidades aborígenes originó intervenciones desproporcionadas y afectaciones de derechos culturales y territoriales.

La desmesura de sus propulsores ha vulnerado los derechos de ciudadanos amparados con legislaciones vigentes. Cinco millones de argentinos poseen doble nacionalidad europea. No se ha previsto su estratificación diferenciada que por otra parte también disminuiría la potencia explicativa del modelo. El tratamiento de sus registros está previsto en el Reglamento General de Protección de Datos (RGPD) de la Unión Europea. Cuando se violan sus garantías, se activan obligaciones y mecanismos de protección extraterritoriales. Las acciones consecuentes incluyen las revisiones de acuerdos de transferencia de datos, interoperabilidad y reivindicaciones ante organismos multilaterales. Las penalizaciones se extienden desde los actores públicos a los proveedores tecnológicos involucrados. La Ley de Inteligencia Artificial Europea establece multas de hasta 35 millones de euros o del 7 % de la facturación mundial anual del responsable, sin perjuicio de las responsabilidades civiles vinculadas que cualquier ciudadano europeo puede reclamar.

La caduca ley argentina de Protección de Datos Personales fue sancionada antes de la expansión de la inteligencia artificial. Frente al nuevo contexto carece de los medios que garanticen su operatividad. En el Índice Latinoamericano de Inteligencia Artificial 2025, (Cenia/Cepal), nuestro país se sitúa entre los 5 peores de los 19 países latinoamericanos evaluados en ciberseguridad. El crítico informe también alude a la falta de actualización y presupuestos de la estrategia nacional de IA, señalando brechas significativas en ética y sostenibilidad.,

La infraestructura disponible en el Centro Nacional de Datos y la Nube Arsat permitiría alojar en territorio argentino la información crítica del Estado y mantener copias de seguridad soberanas, cifradas y geográficamente redundantes. Su utilización reduciría la fragmentación, desactualización de las bases, y el riesgo de interrupciones, bloqueos o accesos indebidos. La soberanía también es digital y requiere de un “Régimen General de Inteligencia Artificial” que garantice buenas prácticas incluyendo la existencia de evaluaciones de impacto accesibles y mecanismos eficaces de impugnación a disposición de los afectados.

Encrucijada.

La Argentina está frente a una encrucijada silenciosa: aceptar que algoritmos opacos definan derechos y destinos, o recuperar el control democrático sobre cómo se gobierna la vida social. El avance del Gemelo Digital Social muestra que la vigilancia ya no necesita cámaras; alcanza con datos mal protegidos y decisiones automatizadas que nadie supervisa. Es el momento de exigir límites, reclamar transparencia y defender nuestros derechos digitales antes de que la próxima etiqueta esté asignada y el margen para reaccionar se haya reducido. La democracia no se pierde de golpe: se pierde por omisión. Y hoy, la omisión sería imperdonable.

“Manifestar que no te importa la privacidad porque no tienes nada que ocultar es como sostener que no te importa la libertad de expresión porque no tienes nada que decir.” Edward Snowden.

Por Ing. Javier Mariano García Guerrero. Ex auditor principal de la Sindicatura General y coautor de la Metodología de Evaluación de la Sec. de Desarrollo Social de Presidencia de la Nación.