Expertos señalan riesgos de IA sin control y la posibilidad de crear un “monstruo de Frankenstein”
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, alertó este jueves sobre el riesgo de que la inteligencia artificial se convierta en un “monstruo de Frankenstein” si quienes la desarrollan carecen de una comprensión profunda de los principios éticos y sociales. En la Cumbre sobre el Impacto de la IA celebrada en Nueva Delhi, Türk afirmó que, cuando los desarrolladores tienen un conocimiento superficial de estos principios, es posible perder el control sobre la tecnología y causar daños significativos.
El máximo responsable de derechos humanos de la ONU instó a gobiernos y empresas a establecer salvaguardas urgentes para evitar que la IA profundice la desigualdad, amplifique sesgos y cause perjuicios en la vida real. Entre los riesgos que señaló están la inequidad, la discriminación y la desinformación, y subrayó la importancia de incluir a grupos vulnerables y minorías en el proceso de diseño y despliegue de estas herramientas.
Türk comparó el avance descontrolado de la IA con “dejar salir el genio de la botella” y mencionó casos como Myanmar, donde las plataformas de redes sociales ampliaron el discurso de odio contra los rohinyás. También advirtió sobre el impacto de la desinformación en el tejido social y mencionó que algunas mujeres le han expresado que consideran abandonar la política ante el odio que encuentran en las redes. En paralelo, pidió exigir a las empresas una evaluación de impacto de derechos humanos cuando diseñan, lanzan y comercializan herramientas de IA, y señaló la disparidad de poder que existe entre tecnológicas y países pequeños.
La autoridad de derechos humanos señaló que la IA podría usarse para el bien en áreas como salud, educación y desarrollo sostenible, pero advirtió que también podría facilitar armas autónomas, desinformación y misoginia violenta. En cuanto a un futuro a cinco años, Türk planteó una visión de desarrollo inclusivo, con mayor diversidad geográfica en la industria y una IA que se apoye en la riqueza de distintas sociedades, advirtiendo que, sin una visión clara, podría aumentar la polarización y desatar conflictos que ya no estarían controlados por las personas.
