El Departamento de Proyectos Internacionales del INTEF presenta el resumen del informe Artificial Intelligence and the Rights of the Child. Towards an Integrated Agenda for Resarch and Policy elaborado por el JRC de la Comisión Europea. Esta publicación está encaminada a ofrecer elementos que ayuden a una agenda integrada de investigación y políticas en relación a los derechos de la infancia y su expresión en los desarrollos tecnológicos de Inteligencia Artificial. El informe parte de un estado de la cuestión en el que se incide en el abanico de posibilidades que la Inteligencia Artificial presenta para la infancia, punto de partida que no conlleva parejo un análisis de riesgos adecuado en relación a los derechos propios de esta población. Se exponen a continuación, una revisión de iniciativas regulatorias seguida de una aproximación a tres tipos de aplicaciones prácticas de la Inteligencia Artificial analizadas desde la perspectiva de los derechos de la infancia. El informe concluye con los resultados de varios seminarios en los que jóvenes y expertos tomaron parte activa expresando sus visiones sobre el tema, y conclusiones para el desarrollo de sistemas de Inteligencia Artificial basados en las características y derechos propios de la infancia.

Entre las iniciativas regulatorias mencionadas se destacan por su contenido en derechos infantiles:

1. Guía sobre Inteligencia Artificial para la Infancia. UNICEF presenta este documento en el que se indican una serie de requerimientos para el desarrollo de iniciativas de IA centradas en la Infancia, entre los que se pueden destacar: asegurar la inclusión, asegurar la seguridad del menor o la protección de datos y de la privacidad del menor.
2. El Informe OECD Digital Education Outlook 2021. Pushing the frontiers with AI, blockchain and robots concluye que el uso efectivo de robots, software educativo, análisis predictivo y otras tecnologías similares conllevarán la reinvención del rol del profesorado y requerirá colaboración de todos los sectores implicados en la educación.
3. Declaration on Youth Participation in AI Governance. El Council of Europe resalta cinco consideraciones de importancia al respecto de los desarrollos de Inteligencia Artificial:
   • Las consecuencias en términos de exclusión del rápido desarrollo de las tecnologías de Inteligencia Artificial.
   • La necesidad de desarrollar y asegurar salvaguardas legales.
   • La ausencia de jóvenes en los procesos de gobernanza de las tecnologías de Inteligencia Artificial emergentes.
   • El imperativo respeto a principios éticos.
   • La necesidad de evaluar el valor de las tecnologías de Inteligencia Artificial.
4. El Plan de Acción Educativa Digital y la Directiva de Servicios Audiovisuales. El plan prevé el desarrollo de directrices éticas sobre IA y protección de datos. Esta preocupación es una línea de actuación que se mantiene en la directiva como un desafío actual de la ciudadanía (y la infancia en particular), para la que se contempla el desarrollo de habilidades de alfabetización digital.

En relación a los tipos de sistemas de Inteligencia Artificial, el informe resalta una serie de riesgos asociados a estas tecnologías. Por un lado, en relación a los sistemas de recomendaciones (en servicios de video, de compras en línea, de recomendaciones en RR. SS), se hace patente la posible violación de la privacidad de los datos de los menores cuando estos son procesados, o la exposición a contenidos no adecuados para la edad del niño. Sobre los agentes de conversación, estos todavía carecen de una adecuación a las características de dicción de la infancia, al mismo tiempo que pueden conllevar caracterizaciones de género estereotipadas. Este tipo de riesgos son mencionados igualmente en relación a los robots sociales para niños, en directa conexión la complejidad de ejecución del derecho al olvido (debido a los sistemas de almacenamiento en la nube) que este tipo de tecnología presenta.

De los seminarios con jóvenes y expertos, el informe resalta preocupación en línea con lo comentado hasta el momento, sin menoscabo de temáticas que durante la celebración de los seminarios fueron expresadas por los/las participantes, entre las que predominan:

• La necesidad de más conocimiento sobre Inteligencia Artificial.
• La necesidad de regulaciones que protejan a los usuarios de las tecnologías.
• Transparencia de las aplicaciones que empleen Inteligencia Artificial.
• Mejor explicación del funcionamiento de estas aplicaciones.
• Necesidad de evaluación sobre el impacto de la Inteligencia Artificial en alumnado con discapacidad (en línea directa con la necesidad de tecnologías de IA más inclusivas).
• Sistemas de verificación adaptados a la infancia.

En su capítulo 8, Artificial Intelligence and the Rights of the Child. Towards an Integrated Agenda for Research and Policy, concluye con una serie de recomendaciones en términos de necesidad. Su contenido ya se encuentra expresado como competencias digitales del profesorado en el actual Marco de Referencia de la Competencia Digital Docente:

• Hay una necesidad de tecnología para infancia para asegurar que los sistemas de IA no reflejen de manera sistemática prejuicios discriminatorios debido a la información recogida y los algoritmos de base que usan para operar.
• Hay una necesidad para que la infancia se sienta empoderada en el control de cómo su información personal es usada y qué implicaciones tiene esto.
• Hay una necesidad de transparencia, explicación y rendición de cuentas, para informar debidamente a los ciudadanos de manera que no se den situaciones de desconfianza o exceso de esta en los desarrollos de Inteligencia Artificial.
• Hay una necesidad de respetar el derecho de agencia de la infancia.

Tienes a tu disposición el resumen extenso del informe: link de acceso