Los niños deben ser escuchados antes de que se tomen decisiones sobre IA
“Los niños de hoy son la primera generación que crece con la inteligencia artificial, pero a menudo la última a la que se le pide su opinión”, dijo Volker Türk en Nueva York, durante una reunión de alto nivel sobre la protección de la niñez en la era de la IA.
El encuentro se celebró en paralelo al debate general de la Asamblea General y estuvo copresidido por Emmanuel Macron, Pedro Sánchez, William Ruto y Anthony Albanese.
La oficina del Alto Comisionado y sus socios encuestaron a más de 1.000 niños en 49 países. Los menores expresaron preocupación por la creación de imágenes falsas de personas reales, la explotación de datos personales y una posible reducción de su creatividad.
También advirtieron del riesgo de que la IA sustituya relaciones con la familia, los amigos, los profesores o los terapeutas. Según la oficina, los niños quieren ser escuchados antes de que se tomen decisiones, y no después.
Türk sostuvo que la Convención sobre los Derechos del Niño, el tratado de derechos humanos más ratificado del mundo, debe aplicarse también a la inteligencia artificial. Añadió que la responsabilidad de proteger esos derechos recae en particular en quienes desarrollan sistemas de IA.
Esa protección, dijo, debe incluir una evaluación previa de riesgos para los derechos humanos, más transparencia y controles independientes. También afirmó que las leyes deben cumplirse y que “los compromisos voluntarios no bastan”.
La reunión de Nueva York se enmarcó en una coalición internacional lanzada en julio en Ginebra para situar los derechos y la seguridad de los niños en el centro del desarrollo de la IA.
La Coalición por los Derechos y la Protección de los Niños en la Era de la Inteligencia Artificial reúne a gobiernos, agencias de la ONU, empresas tecnológicas, organizaciones de la sociedad civil y expertos. Diecisiete países se han adherido hasta ahora.
Entre sus objetivos figura hacer participar a los niños en el diseño, el despliegue y el control de los sistemas de IA que influyen en sus vidas. “Los derechos de los niños se aplican a la IA, como se aplican en todas partes”, resumió Türk.
Para Catherine Russell, directora ejecutiva de UNICEF, los niños ya usan la IA y no esperan a que los adultos terminen de definir las reglas. Dijo que puede ofrecer oportunidades para aprender, crear y acceder a información y servicios.
Pero advirtió que los riesgos también son considerables. Según investigaciones de UNICEF, al menos 1,2 millones de niños en 11 países vieron su imagen transformada en contenidos sexuales falsos creados con IA en el plazo de un año.
“A pesar de su nombre, no hay nada falso en el daño que estos contenidos causan a los niños”, afirmó Russell.
La responsable de UNICEF también destacó que la coalición internacional debe situar la seguridad y los derechos del niño en el centro del diseño de la IA. Coincidió con Türk en la necesidad de dar voz a los menores en las decisiones que configuran su vida digital.
“Todos tenemos la responsabilidad de situar a los niños, sus derechos y sus necesidades en el centro del debate sobre la IA”, concluyó.
