Publicación del informe "Inteligencia Artificial y Educación: Una mirada crítica a través de la lente de los derechos humanos, la democracia y el Estado de Derecho"

El Consejo de Europa acaba de publicar el informe Inteligencia Artificial y Educación: Una mirada crítica a través de la lente de los derechos humanos, la democracia y el Estado de Derecho, que analiza las oportunidades y riesgos del creciente impacto de la IA en la educación basándose en la evidencia, desde el punto de vista de los valores fundamentales que garanticen futuros desarrollos éticos.

El informe se divide en cuatro partes: conexiones entre la Inteligencia Artificial (IA) y la educación; retos para la IA y la educación; IA, educación, derechos humanos, democracia y el Estado de derecho; conclusiones y análisis.

En la primera parte, se define la IA como: «sistemas basados en máquinas que pueden hacer predicciones, recomendaciones o tomar decisiones que influyan en entornos reales o virtuales, dado un conjunto de objetivos definidos por el ser humano. Los sistemas de IA interactúan con nosotros y actúan sobre nuestro entorno, ya sea directa o indirectamente. A menudo, parecen funcionar de forma autónoma y pueden adaptar su comportamiento aprendiendo sobre el contexto. (UNICEF 2021: 16)». A continuación, se enumeran las conexiones entre la IA y la educación en 4 ámbitos:

El aprendizaje con IA que implique el uso de herramientas basadas en IA en procesos de enseñanza y aprendizaje
La utilización de la IA para aprender sobre el aprendizaje en sí
El aprendizaje sobre IA que desarrolle los conocimientos de alumnado de todas las edades (alfabetización en IA) en sus dimensiones técnicas y humanas
La preparación para la IA que garantice que toda la ciudadanía esté preparada para su impacto de nuestras vidas.

En la segunda parte, se identifican como retos el uso de la IA en: la pedagogía, el alumnado en riesgo de exclusión, el desarrollo cognitivo, enfoques centrados en el alumnado, el alumnado con discapacidad, la privacidad, las aplicaciones de alto riesgo, las emociones y la protección digital. Seguidamente, se describe la necesidad de establecer principios éticos para la IA en educación que regulen el mercado de datos y posibles conflictos de intereses. Respecto a la IA y el sistema educativo, se mencionan factores económicos y políticos que impulsan la IA, la eficacia de la evaluación con IA y el denominado colonialismo de la IA por acciones de empresas para dominar el sector.

La tercera parte analiza la IA, la educación y los derechos humanos, con especial énfasis en los derechos del niño, entre ellos:

El derecho a la educación
El derecho a la dignidad humana
El derecho a la autonomía
El derecho a ser escuchado
El derecho a la privacidad y a la protección de datos
El derecho a la transparencia y explicabilidad
El derecho a denegar o retirar el consentimiento
El derecho a ser protegido de la explotación económica
Los derechos de los padres

Así mismo, se describen los riesgos que puede conllevar el uso de la IA para la democracia y enfoques para abordar la temática en educación como:

La promoción de valores democráticos
La educación para la democracia presupone el acceso a una educación de calidad basada en el principio de equidad
El refuerzo de la solidaridad, la colaboración y sensibilidad por las necesidades de otros
Los modelos de aprendizaje automáticas no discriminatorios
Consulta pública respecto a la regulación del diseño, desarrollo y despliegue de la IA

Respecto a la IA y el Estado de derecho, se señalan actualmente los limitados instrumentos legales que la regulan, aunque sí existan marcos legales internacionales que establecen los derechos fundamentales. También se menciona la regulación de algoritmos como aspecto prioritario a regular en el ámbito educativo para la predicción de notas o datos biométricos.

La publicación concluye con la necesidad de abordar la dimensión humana de la IA, además de la tecnológica. Finalmente, se realiza un análisis de necesidades que señalan hacia un mayor debate entre los Estados miembros del Consejo de Europa y otros agentes implicados, para asegurar que los sistemas educativos responden de forma proactiva y efectiva a los retos y oportunidades que conlleva la IA y la educación, apoyando las acciones del Consejo de Europa, aumentando la investigación, prácticas pedagógicas de calidad, normativa, salvaguarda de los derechos de las familias, mejoras curriculares, desarrollo profesional docente, enfoques multidisciplinares y priorizar los derechos humanos, la democracia y el Estado de derecho en la enseñanza de la IA.