Salamanca (EFE).- La ‘Declaración de Salamanca sobre la Inteligencia Artificial y los Derechos de la Infancia’, adoptada este jueves por el Ministerio de Juventud e Infancia y la Universidad de Salamanca, establece diez compromisos para instituciones públicas y organizaciones privadas que abarcan desde el impacto neurológico de esta tecnología hasta los riesgos de privacidad que entraña.
A partir del legado de la Declaración de Salamanca de la UNESCO de 1994, la declaración, que entregarán este viernes al secretario general de Naciones Unidas, António Guterres, cuando reciba su honoris causa en Salamanca, se basa en el principio de que toda innovación tecnológica debe estar al servicio de la humanidad y de que ningún avance puede considerarse un progreso real si compromete los derechos, la dignidad, el bienestar o el pleno desarrollo de cualquier niño o niña.
El texto, firmado por la ministra Sira Rego y por el rector de la Universidad de Salamanca, Juan Manuel Corchado, insta a los Estados, las Administraciones Públicas, los proveedores de tecnología, las instituciones educativas y las organizaciones internacionales a defender y aplicar sus diez principios para salvaguardar los derechos, el desarrollo y el bienestar de todos los niños en la era digital.
1.- Regulación pública
El primero de ellos es que la regulación pública de la IA debe tener la protección de la infancia como pilar fundamental, de manera que los sistemas de esta tecnología que puedan ser usados por los niños o afectarles deben diseñarse y evaluarse de forma independiente teniendo en cuenta la evolución de sus facultades y sus necesidades de desarrollo.
2.- Los niños no son materia prima
En segundo lugar, el documento establece que deben prohibirse la elaboración de perfiles, la publicidad conductual y los diseños destinados a maximizar la interacción cuando se dirijan a los niños, porque sus datos y sus interacciones no deben explotarse ni utilizarse para entrenar modelos.
3.- Investigar antes de implementar
Asimismo, el texto indica que antes de la implementación de esta tecnología se debe desarrollar una investigación continuada e independiente sobre sus efectos neurológicos, cognitivos y emocionales en los niños, una labor que debe orientar las políticas y preservar la primacía del juego, el movimiento, la motricidad fina y la experiencia corporal en las primeras etapas del desarrollo.
4.- Prioridad del vínculo humano
El documento plantea igualmente que no deben diseñarse los sistemas de IA para manipular las necesidades emocionales, simular vínculos afectivos humanos o fomentar la dependencia, y que deben dejar claro a los niños, de forma continua y acorde con su edad, que están interactuando con una máquina.
5.- Uso crítico de la IA en educación
El quinto apartado repara en su uso en la educación, con la recomendación de que, si se emplea, la IA debe respetar el criterio profesional y la autonomía del profesorado, y servir como una herramienta de apoyo para los educadores y las familias, con el objetivo de que fomente el pensamiento crítico y la creatividad de los niños.
6.- Privacidad
Asimismo, la declaración aborda la cuestión de la educación sobre esta tecnología adaptada a cada edad, tanto de los progenitores y educadores como de los niños, para garantizar que se preserva la privacidad y sus derechos, a la vez que exista capacidad para decidir qué delegar en ella y qué debe seguir dependiendo del criterio humano.
7.- Inclusión, accesibilidad y equidad
En séptimo lugar, la declaración indica que los sistemas de IA no deben reproducir ni intensificar la discriminación por motivos de discapacidad, género, origen étnico, lengua, situación socioeconómica o cualquier otra condición.
8.- IA de niños y niñas
A continuación, el texto pide que los niños participen de manera efectiva, de acuerdo con la evolución de sus facultades, en el diseño, la evaluación y la gobernanza de los sistemas y las políticas de IA que les conciernen.
9.- Rendición de cuentas
En penúltimo lugar, se establece que, cuando estos sistemas causen daños a los niños o afecten a sus derechos, estos y quienes actúen en su nombre deben poder acceder a mecanismos de reclamación y reparación rápidos, eficaces y adaptados a la infancia, y que la responsabilidad debe recaer en proveedores, responsables de la implementación y en las autoridades identificables.
10.- Tolerancia cero con abusos y explotación sexual
Por último, el decálogo estipula que la IA nunca debe utilizarse para generar o alterar imágenes sexualizadas de niños, tampoco cuando sean otros niños quienes la utilicen, de manera que los desarrolladores y los proveedores deben prevenir estos usos indebidos desde el diseño y retirar con rapidez dicho contenido.
Asimismo, pide que las medidas adoptadas en respuesta a los niños que causen esos daños deben ser proporcionadas y educativas.EFE
