IA: “Existen peligros reales”

El fundador y director ejecutivo de Anthropic, Dario Amodei, lanzó este fin de semana una dura advertencia sobre el rumbo de la inteligencia artificial (IA). Según afirmó, “la industria mintió” acerca de los riesgos reales de esta tecnología y llamó a replantear el rol de los gobiernos y de la sociedad en su regulación.

Según informó El Destape, en una entrevista al programa Sunday Morning de CBS, Amodei sostuvo: “No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos en Anthropic, pero mucha de la industria sí”.

Sus declaraciones se produjeron luego de la publicación de un ensayo en el que pidió “un ritmo más lento” para el desarrollo de la IA, en línea con preocupaciones compartidas por otros referentes del sector como Sam Altman, de OpenAI, y Elon Musk, de xAI.

Riesgos.

En ese texto, Amodei enumeró riesgos concretos: el uso indebido de la IA en ciberataques y bioterrorismo, la pérdida de control sobre sistemas autónomos y la disrupción económica que podría afectar a millones de trabajadores.

Sin embargo, en su entrevista descartó una prohibición total de la tecnología. “No creo que prohibirla por completo sea el enfoque correcto. Primero, porque perderíamos beneficios increíbles como curas médicas. Segundo, porque esta tecnología se desarrollará en otros países, incluyendo países autoritarios”, explicó.

El ejecutivo reconoció que el dilema más complejo es geopolítico: si Estados Unidos ralentiza el desarrollo, China podría avanzar sin restricciones y consolidar un liderazgo tecnológico global.

Aun así, Amodei expresó su incomodidad con que empresas privadas concentren tanto poder. “Me resulta incómodo que una compañía esté a cargo de una herramienta tan poderosa. Creo que debería existir una combinación de gobiernos democráticos que ejerzan una gobernanza conjunta”, subrayó.

Construcción.

Para el CEO de Anthropic, la clave está en cómo se construye la tecnología: “Si construimos de la manera correcta, la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta”.

Sus advertencias contrastaron con la postura del presidente estadounidense, Donald Trump, y del líder de la Cámara de Representantes, Mike Johnson, quienes ayer defendieron la continuidad del desarrollo de la IA para evitar que China se quede con el liderazgo.

El debate se intensificó tras la renuncia de Jacob Coxon, investigador de Anthropic y ex OpenAI, quien denunció que las compañías estaban más preocupadas por superarse mutuamente que por garantizar la seguridad de sus productos.

Coxon escribió en su cuenta de X: “Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria”.

Amodei insistió en que la gobernanza debe ser compartida y transparente. “No podemos dejar que las decisiones críticas dependan de los intereses de una sola empresa”, afirmó.