El contexto geopolítico de la IA (Parte 1)

El nuevo juguete de la humanidad viene con muchísimas evidencias que advierten de un riesgo existencial para la “casa común”. Y en la sala no parece haber adultos responsables.

Por más contradictorio que parezca, la realidad que las Inteligencias Artificiales (IAs) nos proponen es una construcción caprichosa. Al usarla jugamos a ser amos, escribimos deseos en un prompt y ella obedece; bien o mal -no importa- obedece. Con ella somos más eficientes que ayer, gracias a ella ganamos la libertad de mandar y estamos dispuestos a pagar el precio que sea, aunque ello suponga destruir la biósfera planetaria y nuestra propia subjetividad.

Asistimos a una época en la cual la humanidad parece estar bajo una nueva amenaza existencial, en la que nada parece ser suficiente: el derecho internacional de los derechos humanos, sus convenciones y protocolos, sus informes y exámenes periódicos, sus campañas de educación y promoción, su extensa y elaborada agenda 2030 para “No dejar a nadie atrás”, se doblega ante la lógica de la acumulación de riqueza de corporaciones que ostentan un capital superior al PBI de muchos países.

Las acciones de las empresas de IA son la estrella de los mercados, prometen jugosas ganancias que nadie sabe cuándo se materializarán. No obstante, los gigantes tecnológicos de IA pierden plata. En efecto, van a pérdida. El gasto para su desarrollo y funcionamiento es mucho mayor que lo que ingresa por publicidad, suscripciones, grandes clientes y los jugosos contratos con el Estado. Para Esteban Magnani, investigador y docente de la UBA y UNRAF, este déficit privado se sostiene por las expectativas que despierta el negocio de la IA. Sin medias tintas advierte: “Es una timba financiera, anclada en contratos militares y de seguridad que está sosteniendo el mayor dumping de la historia”.

Esta fiebre singular no surgió de forma espontánea. Es el resultado de un proceso de colonización algorítmica fomentado y subvencionado durante décadas por el sistema de planeamiento estratégico e inteligencia norteamericano tras la guerra fría. Es su modo de intentar sostener su hegemonía planetaria y está dando paso a un nuevo tipo de poder, cada vez más concentrado y fuera de control.

El poder del amo

Por estos tiempos, algunos amos asoman más que otros, como Peter Thiel y Alex Karp que están al frente de Palantir, una empresa valuada en 35 mil millones de dólares que ha logrado convertirse en el sistema operativo de un nuevo poder punitivo global. 

El brutal bautismo de fuego de este empleo desenfrenado de la IA con fines militares y de seguridad se remonta al modo en que Israel respondió a su lucha contra Hamas. De la mano de Palantir, el gobierno de Netanyahu automatizó la selección de objetivos y se libró del escrutinio humano y moral de sus propios funcionarios, una delegación que nunca había pasado.

Esta corporación organiza el marco burocrático para detectar objetivos: desde redadas contra migrantes, al secuestro de un presidente, pasando por el bombardeo de una escuela donde estudiaban 148 niñas, el asesinato selectivo de más de la mitad del gobierno Iraní, o controlar la circulación en aeropuertos, fronteras y hospitales. Entre sus principales clientes -además de la administración Trump- están varios Estados y sus tecnologías ya controlan el sistema de salud británico o el control aduanero en Ecuador, por ejemplo. 

La visita de Thiel a la Argentina ha despertado todo tipo de alarmas, tanto por los negocios como por su impacto en las democracias. Como bien observa J. Carlos Lara, co-director ejecutivo de Derechos Digitales, “Palantir se especializa en conectar bases de datos que antes estaban aisladas (salud, antecedentes penales, registros migratorios, actividad financiera) para crear perfiles predictivos. En un país con una historia de persecución política y abusos de las fuerzas de seguridad, entregar estas capacidades a una empresa extranjera con estos antecedentes es una irresponsabilidad histórica.”

Gobernanza de la IA y las armas autónomas

Los principales actores políticos y empresariales detrás de la IA no se inmutan ante el riesgo. En solo un año, la OCDE documentó un aumento de más del 85% en su monitor de incidentes y peligros en todos los campos de implementación de la IA.

Las empresas no ignoran su responsabilidad, más aún cuando está en riesgo la población. Conocen las recomendaciones éticas de la UNESCO¹ y la OCDE², los acuerdos gubernamentales como los Principios del G20³, la Declaración de Bletchley⁴, el Proceso de Hiroshima⁵ y el Código de conducta del G7, las resoluciones 79/239⁶ y 78/265⁷ de la Asamblea General de la ONU, la Declaración de Seúl⁸ y la Declaración de la Cumbre de Acción sobre la IA⁹. No se trata de documentos cualquiera, sino pronunciamientos gubernamentales tras largos procesos de discusión y acuerdo.

También saben perfectamente que ninguno de ellos es efectivamente vinculante, excepto por el Convenio Marco¹⁰ del Consejo de Europa y la ley IA Act¹¹ de la Unión Europea (UE). Advierten también que a nivel regional, la gobernanza de la IA está en estado embrionario, tanto en la Asociación de Naciones del Sudeste Asiático (ASEAN¹²), como en la Unión Africana¹³ y el Mercosur¹⁴. En la OEA, los Lineamientos Interamericanos de Gobernanza de Datos e Inteligencia Artificial (MIGDIA¹⁵) están en proceso de revisión, y la propuesta de la CEPAL en la Declaración de Santiago¹⁶ parece haber quedado solo en una agenda.

Los únicos marcos que establecen algunas obligaciones específicas para la IA en el ámbito militar y de seguridad son pocos y débiles. 

El REAIM 2023 consiste en una declaración política promovida por EEUU, que contó con el apoyo de China (incluidas sus ediciones posteriores en 2024 y 2026) pero se negó a firmarlas por dudar del compromiso real en la esfera de influencia norteamericana, algo que se observa también en las conversaciones con EEUU sobre el control de armas nucleares. 

Israel, quien se reconoce como el principal campo de experimentación de la IA militar, se ha alineado con EEUU en firmar declaraciones que promueven la responsabilidad humana, pero operacionalmente mantiene una postura de soberanía tecnológica que prioriza la ventaja militar y la seguridad nacional. Hoy, solo 35 de 85 naciones firmantes respaldan los 20 principios del acuerdo, entre ellos el propio EEUU que se negó a firmar la última revisión, lo que deja al instrumento prácticamente muerto.

La OTAN adoptó en 2021 (revisada en 2024) una estrategia de Principios de uso responsable de Defensa (PRU) que exige alinear los sistemas de IA con el derecho internacional humanitario y los derechos humanos. Hasta creó un Data and AI Review Board para supervisar a los estados de la alianza. Pero este instrumento no llega a ser un mecanismo formal de rendición de cuentas, tan solo un listado de “compromisos” no vinculantes.

En paralelo a la Cumbre de Acción sobre IA del 2025, Francia logró reunir a 27 países para firmar la Declaración de París sobre Control Humano en Sistemas de Armas con IA, en la que prometieron “garantizar que los seres humanos sigan siendo responsables del desarrollo, la implementación y el uso de aplicaciones de IA en el ámbito militar, e implementar las salvaguardias adecuadas relacionadas con el juicio humano y el control sobre el uso de la fuerza”. Aunque tampoco es vinculante ni prevé un mecanismo de cumplimiento, éste fue el acuerdo más explícito alcanzado hasta la fecha.Para resumir: Occidente en pleno se queja de la postura China por oponerse a cualquier prohibición sobre el uso de la IA en sistemas militares, especialmente en lo referente a las Armas Autónomas Letales (LAWS, en inglés). El argumento chino es que las prohibiciones prematuras frenarían el desarrollo tecnológico legítimo y la innovación. China opta para toda su industria un enfoque basado en la «gestión de riesgos» y la “supervisión”, lo que le ha permitido integrar su industria y aumentar significativamente su poderío tecnológico. Rusia, que no fue invitada a la REAIM por la guerra en Ucrania, pide un tratado global en las Naciones Unidas y rechaza los marcos voluntarios con el argumento de que “consolidan una hegemonía occidental disfrazada de ética”. En cambio, EEUU e Israel -dos grandes protagonistas en este campo- promueven el declaracionismo: una retórica sobre el control humano, pruebas, cumplimiento del derecho internacional humanitario, transparencia… pero de ninguna manera aceptan firmar un compromiso efectivo y vinculante.

1. En 2021, la UNESCO elaboró la primera norma mundial sobre la ética de la IA: la «Recomendación sobre la ética de la inteligencia artificial» es aplicable a los 194 Estados miembros y establece un conjunto de pautas y principios éticos que involucra tanto a gobiernos como empresas en el cumplimiento responsable de los derechos humanos y los Objetivos de Desarrollo Sostenible (ODS). ↩︎
2. En 2019 el Consejo de la OCDE, reunió a nivel ministerial a sus Estados miembros para adoptar el primer acuerdo intergubernamental sobre IA que tuvo como objetivo fomentar la innovación y la confianza en la IA, promoviendo una gestión responsable y garantizando el respeto de los derechos humanos y los valores democráticos. ↩︎
3. En la Cumbre de Osaka de 2019, el G20 tomó los principios de la OCDE y adoptó una declaración con el compromiso de adoptar un enfoque para la IA centrado en el ser humano, como motor para el avance de los ODS y la consecución de una sociedad sostenible e inclusiva. ↩︎
4. En 2023, veintinueve estados participantes en la Cumbre sobre Seguridad de la IA, entre ellos EEUU, el Reino Unido, India y varios países de la Unión Europea, suscribieron el compromiso de seguir investigando la seguridad de la IA y mantener un diálogo global inclusivo para aprovechar sus beneficios en forma responsable. ↩︎
5. En 2023, el G7 desarrolló un conjunto de directrices y principios orientadores para las organizaciones que desarrollan los sistemas de inteligencia artificial más avanzados. El propósito fue fomentar una IA segura, protegida y digna de confianza a nivel global mediante la mitigación de riesgos y la promoción de la transparencia. El acento estuvo puesto en la realización de pruebas exhaustivas, identificación de vulnerabilidades y protección a la privacidad de los datos y la propiedad intelectual. ↩︎
6. En 2024 la Asamblea General de la ONU adoptó una resolución sobre “La inteligencia artificial en el ámbito militar y sus implicaciones para la paz y la seguridad internacionales” que se afirma que el derecho internacional, incluidos la Carta de las Naciones Unidas, el derecho internacional humanitario y el derecho internacional de los derechos humano, deben aplicarse a lo largo de todas las etapas del ciclo de vida de la IA, incluido el ámbito militar. ↩︎
7. También en 2024 la ONU aprobó la extensa resolución “Aprovechar las oportunidades de sistemas seguros y fiables de inteligencia artificial para el desarrollo sostenible”, para “salvar la brecha en materia de IA y otras brechas digitales entre los países y dentro de ellos”. ↩︎
8. Esta declaración fue adoptada en 2024 por Australia, Canadá, la UE, Francia, Alemania, Italia, Japón, la República de Corea, Singapur, Reino Unido y EEUU para comprometerse por una IA segura, innovadora e inclusiva. Es sucesora de la Declaración de Bletchle. ↩︎
9. Más de 100 países, incluyendo líderes gubernamentales, organizaciones internacionales, representantes de la sociedad civil, el sector privado y las comunidades académicas y de investigación se reunieron en París en febrero de 2025 para poner en relieve la importancia de reforzar la diversidad del ecosistema de la IA. Las declaraciones adoptadas se propusieron establecer para la IA un enfoque abierto, multiactor e inclusivo basado en los derechos humanos, cuyas prioridades principales son: a) Promover la accesibilidad a la IA para reducir la brecha digital; b) Garantizar que la IA sea abierta, inclusiva, transparente, ética, segura y confiable, teniendo en cuenta los marcos internacionales para todos. c) Fomentar la innovación en IA creando las condiciones para su desarrollo y evitando la concentración del mercado que impulsa la recuperación y el desarrollo industrial. d) Fomentar el despliegue de la IA que moldee positivamente el futuro del trabajo y los mercados laborales y que brinde oportunidades para un crecimiento sostenible. e) Lograr que la IA sea sostenible para las personas y el planeta. f) Reforzar la cooperación internacional para promover la coordinación en la gobernanza internacional. ↩︎
10. Este es el primer tratado internacional jurídicamente vinculante que tiene como objetivo garantizar que las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial sean plenamente compatibles con los derechos humanos, la democracia y el Estado de Derecho, al tiempo que fomentan el progreso tecnológico y la innovación. Fue abierto a la firma el 5 de septiembre de 2024. ↩︎
11. El Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo entró en vigor el 13 de junio de 2024. En él se establecen normas armonizadas en materia de IA que implicó la actualización de un amplio conjunto de normas vinculantes en la UE. ↩︎
12. La Asociación de Naciones del Sudeste Asiático cuenta con una “Guía sobre gobernanza y ética de la IA” para las organizaciones de la región que deseen diseñar, desarrollar e implementar tecnologías de IA tradicionales en aplicaciones comerciales, no militares o de doble uso. Esta guía se centra en fomentar la alineación dentro de la ASEAN y promover la interoperabilidad de los marcos de IA entre jurisdicciones. También incluye recomendaciones sobre iniciativas a nivel nacional y regional que los gobiernos de la región pueden considerar implementar para diseñar, desarrollar e implementar sistemas de IA de manera responsable. ↩︎
13. En 2024 el Consejo Ejecutivo de la Unión Africana aprobó la Estrategia Continental de IA durante su 45.ª Sesión Ordinaria que considera a la IA un activo estratégico fundamental para alcanzar las aspiraciones de la Agenda 2063 y los Objetivos de Desarrollo Sostenible (ODS). Esta estrategia es complementaria de la “Política africana de seguridad y empoderamiento infantil en línea”, el “Marco de política de datos de la Unión Africana”, el “Pacto Digital Africano” y la “Estrategia de transformación digital de la Unión Africana”. ↩︎
14. En 2023, la Reunión de Altas Autoridades de Derechos Humanos del Mercosur (RAADH) adoptó una “Declaración de Principios de Derechos Humanos en el Ámbito de la IA” con 11 puntos para alinear las políticas públicas en IA con el Sistema Interamericano de Derechos Humanos y el Sistema Universal. ↩︎
15. El Marco de Referencia Interamericano de Gobernanza de Datos e IA (MIGDIA) es una iniciativa de los estados miembros de la OEA, inspirada en la sección de Gobierno Digital y Abierto de la Cumbre de las Américas de 2022. Su objetivo es guiar a los estados miembros en el desarrollo de la gobernanza de datos para la IA. El marco incluye: Lineamientos en 12 áreas temáticas como hoja de ruta; un estudio sobre el estado de la gobernanza de datos e IA en las Américas con recomendaciones y una política modelo de gobernanza de datos e IA como referencia para los estados miembros. ↩︎
16. La Novena Conferencia Ministerial sobre la Sociedad de la Información de América Latina y el Caribe incluyó en su declaración final un llamamiento en favor de una gobernanza sólida de los ecosistemas de IA y su uso responsable, en línea integral con todos los derechos humanos. ↩︎