Secretario General advierte al Consejo de Seguridad que la IA no debe decidir el destino de la humanidad
El secretario general de las Naciones Unidas, António Guterres, advirtió este miércoles al Consejo de Seguridad sobre el enorme potencial de la inteligencia artificial y los graves riesgos que implica si no se regula adecuadamente, al participar en un debate de alto nivel sobre las implicaciones de seguridad de esta tecnología en la transformación de la guerra.
Guterres afirmó que “la IA ya no es un horizonte lejano: está aquí, transformando la vida diaria, el espacio informativo y la economía global a una velocidad vertiginosa” y planteó que la pregunta no es si la IA influirá en la paz y la seguridad internacionales, sino cómo se dará forma a esa influencia. Según el mandatario, utilizada de forma responsable, la IA podría ayudar a anticipar inseguridad alimentaria, apoyar operaciones de desminado y detectar brotes de violencia antes de que se descontrolen; sin embargo, advirtió que, sin salvaguardias, también puede ser militarizada, citando ejemplos recientes de uso de IA para dirigir ataques, ciberataques y la creación de deepfakes que podrían polarizar sociedades o descarrilar la diplomacia.
Guterres subrayó que “la capacidad de fabricar y manipular audio y video amenaza la integridad de la información, alimenta la polarización y puede desencadenar crisis diplomáticas”, y afirmó que “el destino de la humanidad no puede quedar en manos de un algoritmo”. El titular de la ONU indicó que las decisiones deben recaer en las personas y estableció cuatro prioridades para los gobiernos: mantener el control humano sobre el uso de la fuerza, crear marcos normativos globales coherentes, proteger la integridad de la información y cerrar la brecha de capacidad en materia de IA entre países ricos y pobres. En ese marco, reiteró su llamado a prohibir los sistemas de armas autónomas letales que operan sin control humano y a avanzar hacia un instrumento jurídicamente vinculante para el próximo año. Además, señaló que las decisiones sobre armas nucleares deben permanecer en manos humanas, no de las máquinas.
El secretario general indicó medidas ya en marcha, como la creación de un panel científico independiente sobre IA y un nuevo diálogo global sobre gobernanza de la IA, que se realizará en Nueva York. Según Guterres, estas iniciativas buscan conectar la ciencia, las políticas y la práctica, ofrecer a cada país un lugar en la mesa y reducir la fragmentación internacional.
En el plano internacional, la científica Yejin Choi, investigadora del Instituto de Inteligencia Artificial Centrada en el Ser Humano de la Universidad de Stanford, explicó ante el Consejo de Seguridad que el avance de la IA está concentrado en pocas empresas y países y llamó a ampliar el acceso para que “todos y en todas partes tengan un papel” en su desarrollo. Choi propuso que los sistemas sean más pequeños y adaptativos para reducir barreras de entrada, y destacó la necesidad de mayor representación de la diversidad lingüística y cultural, señalando que los modelos actuales muestran bajo rendimiento en idiomas que no son el inglés y pueden reflejar sesgos culturales.
Guterres cerró la intervención advirtiendo que la ventana de oportunidad para una regulación efectiva se está cerrando y recordó que la comunidad internacional ha respondido ante tecnologías que podrían desestabilizar las sociedades mediante reglas, instituciones y la defensa de la dignidad humana. Afirmó que la “ventana para moldear la IA —por la paz, la justicia y la humanidad— se está cerrando” y enfatizó la necesidad de actuar sin demora. La sesión del Consejo de Seguridad se desarrolló en el marco de la semana de alto nivel de la 80.ª sesión de la Asamblea General, con la participación de jefes de Estado y de gobierno, entre ellos Lee Jae Myung, presidente de la República de Corea, quien presidió la reunión.
