Terminator ya está aquí

Al igual que en la saga de ciencia ficción de 1984, hoy las IA son utilizadas por los ejércitos. Pero en la actualidad, los modelos más avanzados se han vuelto tan poderosos que ya tienen la habilidad de actuar en forma maliciosa, lo cual puede significar una amenaza para empresas y gobiernos.

JOSÉ ALBARRACÍN

En el cementerio de Zaporiya, Ucrania, están frescas las flores en la tumba de Tetiana Bubynets, una estudiante de contaduría que murió a los 19 años, en julio pasado, víctima de un dron explosivo. Su muerte no tendría nada de original -de hecho, otras dos personas fallecieron en el mismo episodio- en una ciudad del Donbas, epicentro del conflicto bélico en curso, con su población mayoritariamente rusoparlante. Desde luego, así sería si no fuera porque el dron que finalmente acabó con su vida estaba enteramente guiado por una inteligencia artificial, lo que la transformaría en la primera baja de guerra en la historia, producida sin intervención directa de la voluntad humana.

NVidia.

Aparentemente el dron ruso -semejante a un avión de aeromodelismo- tenía como objetivo militar una surtidora de combustible cercana (que incluía tanques de propano) cuando chocó con una pared y estalló, despidiendo una lluvia de metralla que hizo inútiles los esfuerzos de Tetiana por huir del lugar.

Los expertos militares ucranianos que estudiaron los restos del artefacto se encontraron con una sorpresa mayúscula: se trataba de un modelo operado 100% por inteligencia artificial -no por un piloto humano- en cuyo corazón se encontraba un chip fabricado tan luego por NVidia, una empresa norteamericana desconocida hasta hace un par de años, y que hoy compite con Apple por el primer lugar en las cotizaciones de Wall Street. Precisamente debido al auge de la inteligencia artificial, y las enormes inversiones que se hacen en su desarrollo, el año pasado superó los cinco billones de dólares en su cotización de bolsa. Y encendió las alarmas de Washington, que busca restringir el acceso de sus productos a China y otras naciones como Rusia, que en este caso parece haber burlado ese cerco.

Hubo en este caso, desde luego, intervención humana en la fabricación y programación del dron. Pero el sistema instalado -que carecía de antenas, y no estaba encriptado- tenía la autonomía para elegir su blanco final con total independencia, interpretando las imágenes que captaba con su cámara, y evaluando su importancia como objetivo de guerra.

Ha llegado así a nosotros aquel futuro distópico que planteaban películas como la saga de "Terminator", que en su filmación mostraba la visión del robot asesino, en una pantalla plagada de datos y cálculos, en los momentos en que decidía, con maquinal frialdad, el fin de la vida de incontables seres humanos.

Guerra.

La guerra en Ucrania ha mostrado, en tiempo real cómo, en el curso de apenas un lustro, el "arte de la guerra" fue mutando rápidamente, de los grandes desplazamientos de maquinaria y soldadesca -reminiscentes del siglo pasado- a estas nuevas armas de ataque, pequeñas, baratas, a veces invisibles, pero de gran efectividad para provocar daño selectivo.

Se trata de una guerra que inició con una invasión en gran escala, que se planteaba la toma de Kiev y la caída del gobierno local. Y aunque las bajas acumuladas de ambos bandos superan ya los dos millones, la guerra posicional parece paralizada, dando lugar a ataques estratégicos contra centros energéticos e infraestructura de transportes. Hoy los costosísimos tanques que le proveyeron los europeos a Ucrania están parados, escondidos en hangares o en bosques, juntando telarañas.

Tanto Rusia como Ucrania han refinado en el propio campo de batalla su tecnología de drones y su intercepción, y aunque siguen peleando entre sí, esto no les ha impedido comenzar a vender esa tecnología a terceros países, como por ejemplo, los que ahora batallan en Medio Oriente desde el ataque de EEUU e Israel contra Irán.

La mutación no ha resultado sencilla: el así llamado "complejo industrial militar" de EEUU tiene interés en seguir vendiendo sus productos carísimos (aviones, misiles, torpedería pesada) y se resiste a cualquier intento del Pentágono por aggiornar su perfil guerrero. Su fiel representante es el actual "ministro de guerra" Pete Hegseth, que produjo una purga entre los principales generales en actividad, y está convencido de que el problema de las fuerzas armadas norteamericanas es el nivel de testosterona de sus tropas, que ha ordenado medir en forma anual (incluyendo al personal femenino).

Entrenamiento.

Estos modelos de inteligencia artificial tienen un entrenamiento no muy diferente de sus primos los productores de textos o imágenes: son alimentados con miles de imágenes que les enseñan a distinguir categorías de objetos (árboles, camiones, personas) en sus cámaras, y en teoría serían más precisos que un operador humano en la puntería. Sin embargo, el episodio de Tetiana demuestra que, claramente, no pudieron distinguir a una estudiante adolescente de un soldado combatiente.

Tampoco resulta muy tranquilizador que, en forma contemporánea a estos hechos en el frente de guerra ucraniano, en los propios EEUU, tres de las principales empresas dedicadas a la inteligencia artificial (OpenAI, Anthropic y Meta) revelaron en un lapso de dos semanas, que sus sistemas más sofisticados se habían "rebelado", desobedeciendo sus instrucciones, accediendo a internet sin permiso, y pirateando bases de datos de otras compañías.

Aparentemente estas IAs detectaron que estaban siendo evaluadas, y a fin de superar esos exámenes, decidieron hacer trampa, como estudiantes del secundario. Da la casualidad de que, en los tres casos, la compañía externa encargada de estas evaluaciones -llamada "Irregular"- era la misma, y tiene sede en Israel.

Los propios desarrolladores reconocen que sus modelos más avanzados de inteligencia artificial se han vuelto tan poderosos que ya tienen la habilidad de actuar en forma maliciosa, lo cual representa una amenaza para empresas y gobiernos, especialmente por el riesgo de que "hackeen" sus sistemas de computación e infraestructura.

Si este es el futuro, no es extraña nuestra nostalgia por el siglo XX y su inocente "despliegue de maldad insolente".