IA: los niños deben ser escuchados antes de que se tomen decisiones

Los niños deben ser considerados titulares de derechos de pleno derecho en el desarrollo y el uso de la inteligencia artificial (IA), afirmó el martes el Alto Comisionado de las Naciones Unidas para los Derechos Humanos, que pidió situar su seguridad en el centro de la gobernanza de estas tecnologías.

«Los niños de hoy son la primera generación que crece con la inteligencia artificial, pero a menudo la última a la que se le pide su opinión», declaró Volker Türk en Nueva York, durante una reunión de alto nivel dedicada a la protección de los niños en la era de la IA, que se celebró en paralelo al debate general de la Asamblea General.

La reunión estaba copresidida por el presidente francés, Emmanuel Macron; el presidente del Gobierno español, Pedro Sánchez; el presidente keniano, William Ruto, y el primer ministro australiano, Anthony Albanese.

La oficina del responsable de velar por el respeto de los derechos humanos, junto con sus socios, encuestó a más de 1000 niños en 49 países. Estos expresaron sus inquietudes, en particular, ante la creación de imágenes falsas de personas reales, la explotación de sus datos personales, una posible disminución de su creatividad.

Además, les preocupa el riesgo de que la IA sustituya las relaciones con su familia, sus amigos, sus profesores o sus terapeutas. Sobre todo, los niños quieren ser escuchados antes de que se tomen las decisiones, y no después.

Salvaguardias desde el diseño

Para Volker Türk, la Convención sobre los Derechos del Niño, el tratado de derechos humanos más ampliamente ratificado del mundo, debe aplicarse también a la inteligencia artificial.

La responsabilidad de proteger los derechos de los niños incumbe en particular a los actores que desarrollan los sistemas de IA, subrayó.

Debe pasar por una evaluación de los riesgos en materia de derechos humanos antes de su puesta en el mercado, una mayor transparencia y controles independientes. Los gobiernos también deben hacer cumplir las leyes: «Los compromisos voluntarios no bastan», advirtió el Alto Comisionado.

La reunión de Nueva York se celebró en el marco de una nueva coalición internacional lanzada en julio en Ginebra para situar los derechos y la seguridad de los niños en el centro del desarrollo de la IA. La Coalición por los Derechos y la Protección de los Niños en la Era de la Inteligencia Artificial reúne a gobiernos, agencias de la ONU, empresas tecnológicas, organizaciones de la sociedad civil y expertos.

Diecisiete países se han adherido hasta ahora a esta coalición, que pretende en particular hacer participar a los niños en el diseño, el despliegue y el control de los sistemas de IA que influyen en sus vidas.

«Los derechos de los niños se aplican a la IA, como se aplican en todas partes», resumió Volker Türk.

Riesgos que ya son muy reales

Para Catherine Russell, directora ejecutiva de UNICEF, los niños no esperan a que los adultos terminen de definir las reglas: ya utilizan la IA, que puede ofrecerles importantes oportunidades para aprender, crear y acceder a información y servicios.

Pero los riesgos son igualmente considerables. Según investigaciones de UNICEF, al menos 1,2 millones de niños en 11 países vieron su imagen transformada en contenidos sexuales falsos creados con IA en el espacio de un año.

«A pesar de su nombre, no hay nada falso en el daño que estos contenidos causan a los niños», advirtió Russell.

Por eso, Catherine Russell también se refirió a la coalición internacional y destacó que debe, en particular, situar la seguridad y los derechos del niño en el centro del diseño de la IA. Coincidió con Türk en que hay que dar voz a los menores en las decisiones que configuran su vida digital.

«Todos tenemos la responsabilidad de situar a los niños, sus derechos y sus necesidades en el centro del debate sobre la IA», concluyó.

FUENTE: ONU