ONU advierte sobre aumento de amenazas de la IA para niños, desde deepfakes hasta acoso sexual

Según informes de agencias estadounidenses, los casos de abuso infantil facilitado por la tecnología habrían pasado de 4.700 en 2023 a más de 67.000 en 2024, solo en Estados Unidos. Las autoridades señalan que estas cifras reflejan incidentes reportados y pueden no capturar la totalidad de los casos.

Las agencias instan a gobiernos y empresas a garantizar sistemas transparentes y responsables, y a que estos estén diseñados para proteger a los menores. Entre las medidas solicitadas se incluyen estándares de supervisión independiente, mayor claridad sobre el uso de tecnologías de detección y reporte, y una colaboración más estrecha entre el sector público y el privado para reducir la exposición de menores a riesgos en línea. También se subraya la necesidad de contar con criterios claros de elegibilidad, financiamiento y plazos de implementación.

Las autoridades destacan que la información disponible no detalla, entre otros aspectos, el origen de los casos ni el marco de denuncia, y señalan que se requieren datos más completos para evaluar el alcance real y la efectividad de las medidas institucionales. Se aconseja ampliar la recopilación de estadísticas y establecer mecanismos de auditoría para medir avances y límites de las intervenciones.