¿Podemos fiarnos de la Inteligencia Artificial?

Rótulo video `podemos fiarnos del machine learning`
  • Nivel:
    • Bachillerato
    • E.S.O.
    • Primaria
  • Área del pensamiento computacional:
    • Inteligencia Artificial

Presentamos el segundo recurso del mes que trata sobre Inteligencia Artificial y sobre cómo podemos enseñarla en los niveles no universitarios. En esta ocasión planteamos un importante problema que presenta la Inteligencia Artificial cuando se hace con una técnica denominada Machine Learning: el problema del sesgo en los datos. Parte del material que te presentamos en este recurso fue transmitido en directo durante la mañana del día 17 de octubre de 2019, como evento del INTEF en su participación en la semana europea de la programación (code week 2019-20).

En la actividad para el nivel de secundaria presentamos una introducción al Machine Learning (aprendizaje automático), que es una de las técnicas de mayor éxito para el desarrollo de la Inteligencia Artificial. En dicha actividad presentamos la aplicación on-line teachable machine, con la que puedes explorar, de una manera muy sencilla, los conceptos fundamentales del Machine Learning: entrenamiento, aprendizaje y uso de la inteligencia artificial en aplicaciones. Este es el video completo de aquella sesión:

Como es un poco largo hemos cortado el video en 3 partes. En esta primera mostramos la parte en la que hacemos una introducción a la Inteligencia Artificial y el Machine Learning.

En esta segunda parte te enseñamos la aplicación on-line Teachable Machine, con la que podrás experimentar para enternder cómo funcionan los algoritmos de Machine Learning.

Y por último, en esta tercera parte te plantemos una actividad para realizar con Teachable Machine. Se trata de construir un clasificador de perros y gatos utilizando como datos de entrenamiento y prueba las imágenes de este documento. La actividad revela un importante problema que presentan todos los algoritmos de Machine Learning.

Si has realizado la actividad habrás comprobado que el clasificador construido entrenando a Teachable Machine con esas imágenes, clasifica a algunos perros como si fueran gatos. Planteamos, entonces, las siguientes preguntas:

  • ¿Por qué crees que ocurre esto?
  • ¿Cómo podemos resolver el problema?
  • ¿Qué consecuencias puede tener aplicar la inteligencia artificial a problemas reales?

Pues bien, te contamos las respuestas en este video tutorial.

Como tú mismo puedes comprobar, este tipo de algoritmo de inteligencia artificial puede dar algunas sorpresas desagradables debido al problema del sesgo, introducido por los ejemplos elegidos como datos de entrenamiento. El problema es aún más relevante dado que el sesgo es algo que se puede reducir, pero no se puede eliminar completamente. Y es que el único conjunto de datos libre de sesgo sería aquel compuestos por todos los ejemplos posibles que tratamos de clasificar. Pero construir tal conjunto de datos no solo es imposible, sino que además no tendría sentido, pues lo que se pretende conseguir con estos algoritmos es clasificar datos que no han sido “vistos” anteriormente por el algoritmo. El sego es, por tanto, un problema intrínseco del Machine Learning.

Si quieres seguir profundizando en los problemas que provoca el sesgo cuando se utiliza el Machine Learning en aplicaciones reales, te recomendamos que consultes el proyecto Gender Shades, en el que se evalúa la precisión de algunos de los productos actuales que usan Inteligencia Artificial para clasificar a las personas por  género. Verás que el resultado no es tan prometedor como podríamos pensar e invita a una profunda reflexión sobre este tema. Este es el video promocional del proyecto.

Es importante que los ciudadanos logremos entender los principios de funcionamiento de la tecnología, sobre todo de la que más nos afecta. Y no cabe duda de que el aprendizaje automático es, y lo será aún más, una de las tecnologías de más impacto en la sociedad. Un ejemplo concreto de esta preocupación lo representa la “European General Data Protection Regulation” donde se resalta que todos los ciudadanos europeos tienen el derecho a que les sea explicado las decisiones que le afectan, sin importar quien (o qué sistema de inteligencia artificial o algoritmo) toma tal decisión.

Por eso te animamos a que introduzcas contenidos sobre Inteligencia Artificial en tu aula. Desde CodeIntef nos hemos propuesto facilitarte la tarea con estos recursos. Si quieres saber más sobre Inteligencia Artificial y Machine Learning y sobre cómo llevar estos conceptos al aula, te recomendamos este otro recurso del mes donde hacemos una sencilla pero completa introducción a la Inteligencia Artificial, te proponemos una actividad en la que programarás con Scratch un asistente virtual con Machine Learning, y te ofrecemos otros muchos recursos para trabajar este fascinante tema.

Y eso es todo amigos! Te esperamos en el próximo recurso del mes.