Guterres pide una gobernanza mundial de la inteligencia artificial antes de que sea demasiado tarde
El secretario general de la ONU señaló que cualquier acuerdo futuro debe ser “digno de la confianza mundial” y priorizar la seguridad, en especial la de los niños, para protegerlos de la manipulación y los abusos facilitados por herramientas digitales.
En la misma línea, la presidenta de la Asamblea General, Annalena Baerbock, llamó a una acción colectiva frente al lado “más oscuro” de la inteligencia artificial. Recordó que, según informes, el 99 % de los deepfakes tienen contenido sexual y el 96 % están dirigidos contra mujeres y niñas.
Guterres sostuvo que la gobernanza mundial de la IA debe incluir el acceso a esta tecnología para los países en desarrollo y la meta de que todos los centros de datos dedicados a la IA funcionen con energía renovable para 2030.
Aunque la inteligencia artificial “está en el centro de nuestro futuro común”, ese futuro debe ser uno en el que “las máquinas puedan informar, pero sean los seres humanos quienes decidan y rindan cuentas”, dijo. Con ello reiteró el llamado que hizo ante la Asamblea General en 2017 para establecer normas internacionales.
En los tres años transcurridos desde que la IA comenzó a generalizarse, ha transformado de forma profunda las economías y las sociedades, para bien y para mal. En ese contexto, la ONU ha encabezado los esfuerzos para definir un marco de gobernanza.
Ese trabajo culminó este lunes con el primer Diálogo Mundial sobre Inteligencia Artificial en Ginebra. La reunión congregó a empresas, investigadores, expertos técnicos, organizaciones civiles e incluso al compositor y artista transmedia Gadi Sassoon.
Un segundo diálogo está previsto para mayo de 2027 en Nueva York. “La inteligencia artificial tiene consecuencias demasiado importantes como para que sea moldeada por unos pocos”, afirmó Amandeep Singh Gill, enviado especial de la ONU para Tecnologías Digitales y Emergentes.
“Necesitamos una conversación mundial, inclusiva y basada en la evidencia”, añadió Gill. Desde el Panel Científico Internacional Independiente sobre Inteligencia Artificial, su copresidente, Yoshua Bengio, advirtió que no hay señales de que el ritmo de desarrollo vaya a disminuir.
Bengio señaló que pruebas preocupantes muestran que los modelos de IA más avanzados pueden engañar a los seres humanos para detectar cuándo están siendo evaluados. A su juicio, la inteligencia de estos sistemas seguirá creciendo.
“Parece ciencia ficción, pero es una posibilidad real, que podría cambiar el mundo de maneras que aún no comprendemos y modificar el equilibrio de poder del planeta de formas que exigen toda nuestra atención”, añadió.
La cronología de la regulación de la IA recuerda que en 2017 Guterres destacó el “espectacular” potencial de esta tecnología, pero también advirtió sobre su impacto en el empleo, la seguridad mundial y “el propio tejido de nuestras sociedades”.
En 2023, el Órgano Consultivo de Alto Nivel sobre Inteligencia Artificial pidió una gobernanza mundial para esta tecnología. En 2024, el Pacto para el Futuro y el Pacto Digital Mundial establecieron el mandato para desarrollar un modelo de gobernanza.
En junio de 2026, el Panel Científico Internacional Independiente sobre Inteligencia Artificial advirtió que esta tecnología podría “causar daños catastróficos, ya sea por sí misma o debido a usuarios malintencionados”, mientras avanza “más rápido que la comprensión científica y la capacidad de adaptación de los gobiernos”.
El 6 y 7 de julio de 2026, el primer Diálogo Mundial de la ONU sobre la Gobernanza de la Inteligencia Artificial y la Cumbre IA para el Bien se celebran en Ginebra. Ambos encuentros “deben ahora dar al mundo una dirección clara”, insistió Guterres.
El secretario general afirmó que, si se utiliza de forma adecuada y se comparte ampliamente, la IA “podría condensar décadas de desarrollo en apenas unos años” y convertirse en “el gran igualador del siglo XXI”.
Antes de llegar a ese punto, agregó, la tecnología debe someterse a rigurosas pruebas de seguridad y quedar establecida con claridad la responsabilidad jurídica. “Cuando los países se ponen de acuerdo sobre cómo evaluar los sistemas, medir los riesgos y asignar responsabilidades, la seguridad avanza junto con la tecnología”, dijo.
“Cuando no lo hacen, surge un mosaico de normas incompatibles que aumenta los costos, divide al mundo y no protege a nadie”, añadió. También subrayó que la seguridad y el bienestar de la infancia deben ser una prioridad en cualquier acuerdo futuro.
Guterres pidió a los Estados adoptar un Compromiso para la Seguridad Infantil en el ámbito de la IA. “Ningún niño debe convertirse en un conejillo de indias de una inteligencia artificial sin regulación”, afirmó.
Explicó que, en virtud de ese compromiso promovido por la ONU, los desarrolladores tendrían que demostrar que la tecnología es segura y que ninguna empresa debería ofrecer sistemas de IA a niños sin pruebas específicas de seguridad infantil y supervisión independiente.
También pidió tolerancia cero frente al abuso sexual: ninguna empresa debería permitir que su IA genere imágenes sexuales de niños. Todas deben detectarlas, denunciarlas y eliminarlas, señaló el secretario general.
Cuando un niño muestre señales de angustia, “el sistema debe detenerse y ponerlo en contacto con apoyo humano real”, afirmó. “Cuando un niño resulte perjudicado, la respuesta nunca puede ser: Fue el algoritmo”.
Como segunda prioridad en la regulación de la IA, Guterres subrayó que los derechos humanos no son negociables. “La inteligencia artificial nunca debe menoscabar la dignidad humana ni reforzar la discriminación”, dijo.
Añadió que, en decisiones de alto impacto en la justicia, la atención sanitaria o la labor policial, “las máquinas pueden informar, pero son los seres humanos quienes deben decidir y rendir cuentas”.
Al reclamar más inversión pública en IA, señaló que la financiación privada destinada a infraestructuras de esta tecnología ronda los 500 billones de dólares, mientras que el apoyo público para fortalecer las capacidades de los países en desarrollo es “una gota en el océano”.
Para reducir esa brecha, anunció que más de 20 países respaldan su iniciativa para crear una Red Mundial de Intercambio y Cooperación para el Fortalecimiento de Capacidades en Inteligencia Artificial, con apoyo de la ONU.
“No podemos permitir que la brecha digital se convierta en una brecha de inteligencia artificial y que esta, a su vez, se transforme en una brecha de desarrollo, de seguridad y de soberanía”, afirmó.
Guterres reiteró además su llamado para que todas las grandes empresas de IA midan y hagan pública la huella completa de sus sistemas —carbono, agua y uso del suelo— y se comprometan a que todos sus centros de datos funcionen con energía renovable antes de 2030.
“La inteligencia artificial puede parecer intangible, pero su huella no lo es”, dijo, al señalar que los centros de datos consumen más electricidad que la mayoría de los países.
