Como ya os adelantábamos en el recurso de septiembre, este mes vamos a presentaros un recurso que os permitirá explorar con vuestros alumnos aspectos éticos que envuelven la Inteligencia Artificial (IA). Este es un tema que está muy presente en las prioridades de la Comisión Europea en cuanto a la educación e integración de la IA en la vida diária de los ciudadanos europeos y, con este recurso, queremos aportaros ideas para ayudaros a hacer conscientes a los alumnos de estas implicaciones éticas.

¿Que debo saber para empezar a trabajar con este recurso?

En esta ocacion, vamos a trabajar los dilemas éticos y morales que plantea la Inteligencia Artificial y, para ello, usaremos Moral Machine. Está basado en los dilemas tradicionales del tranvía.

Niveles a los que va dirigido:

Este recurso es adecuado para los niveles de secundaria y bachillerato. También puede utilizarse en módulos de F.P. Básica y, dependiendo del nivel de los alumnos, podría utilizarse en módulos de Programas Profesionales de Modalidad Especial.

Asignatura/s:

Puede ser utilizarlo en Valores Éticos, Ética, Filosofía, asignaturas y ámbitos relacionados con la Lengua Castellana y los idiomas, así como para optativas de centro para la preparación de Torneos de Debate. También puede utilizarse en el módulo de Comunicación y Sociedad de F.P. Básica. La herramienta de creación  de escenarios permite la creación de escenarios adecuados para el módulo de Comunicación y Sociedad de Programas Profesionales de Modalidad Especial.

¿Se requieren conocimientos previos?¿cuáles son?

No se requieren conocimientos previos para el uso de este recurso. Basta con conocimientos básicos de internet

¿Qué objetivos se persiguen con este recurso?

Se persigue hacer reflexionar a los alumnos sobre la ética del uso de la Inteligencia Artificial en el día a día. Para ello utiliza el dilema del tranvía utilizando los vehículos automáticos que se están desarrollando últimamente y que tantas noticias han generado en relación con su seguridad.

¿En qué consiste el recurso?

El recurso que vamos a usar nos va a permitir plantear distintos dilemas en el que el protagonista es un coche autónomo, a través de la web desarrollada por Scalable Cooperation, Mit Media Lab y  el MIT. La página se creó para realizar investigaciones acerca de la opinión que muestran los ciudadanos de a pie sobre las posibles implicaciones éticas de los vehículos autónomos y de la Inteligencia Artificial en general. Los resultados de estos estudios se encuentran publicados en el menú Acerca de  de la web, en la sección de Publicaciones y han ido avanzando durante los años de uso de la página, desde 2016 hasta 2020. Además de tomar datos para la investigación, la página dispone de recursos que pueden ser muy útiles en el aula.

Y ahora que ya se para qué sirve, ¿cómo lo utilizo?

Este recurso no fue creado con fines eduativos, pero las posibilidades para formar a nuestros alumnos  son múltiples. En primer lugar podemos utilizar la utilidad de Juzgar para disponer de 13 escenarios aleatorios con los que practicar los dilemas en el aula. Los dilemas tienen siempre la misma estructura, heredada del dilema del tranvía. Se plantean dos escenarios en los que se debe decidir qué sacrificio de personas o animales es más aceptable que otro. Los escenarios se plantean mediante imágenes que nos permiten reconocer, si observamos con detalle, todas las posibles circunstancias a tener en cuenta:

• El tipo de personas o animales que están involucrados en la escena
• Si hay algún aspecto legal involucrado
• Si la decisión se toma por acción expresa o por omisión de acción.

En cualquier caso, para asegurarnos de que hemos tenido en cuenta todos los posibles elementos de jucio, se puede desplegar una explicación de los escenarios. Además de estos trece dilemas aleatorios, podemos idear nuestras actividades teniendo en cuenta un diseñador de escenarios en el que se pueden plantear aquellos dilemas que consideremos que pueden ser más adecuados de acuerdo con el nivel de nuestros alumnos. Podemos observar aspectos éticos sobre el sacrificio: ¿es preferible el sacrificio de un animal antes que el de una persona?, ¿tiene más valor la vida de un niño o la de un anciano?, ¿la de un ladrón o la de un médico?. También pueden incluirse aspectos legales mediante la disposición de semáforos. La decisión sobre el sacrificio en este momento se puede llegar a tomar en función de si la persona cruza de forma legal o no. Se pueden diseñar escenarios en los que el desenlace no es necesariamente la muerte, pudiendo establecer que las personas resulten heridas o que el resultado sea incierto. Todos estos elementos pueden combinarse para lograr un gran número de escenarios, cubriendo desde los más sencillos, adecuados para los alumnos más jóvenes, hasta escenarios realmente complicados para alumnos más mayores. La página nos permite  obtener el enlace permanente al escenario lo que nos permite guardarlo para utilizarlo cuando sea necesario Un ejemplo del uso del diseñador podría hacer reflexionar a nuestros alumnos sobre dos aspectos

• ¿es más aceptable el sacrificio de las personas cuando están cruzando convenientemente o cuando no lo hacen?
• ¿es más aceptable dejar que el coche autónomo continúe su trayectoria, con lo que el sacrificio se realiza por omisión de la acción? ¿o acaso es más aceptable hacer que cambie de carril de manera activa y atropelle a las personas que cruzan de manera incorrecta?

Así quedaría el escenario diseñado según esos preceptos

En cualquier caso, como ya sabemos, la respuesta nunca es correcta o incorrecta. Lo importante es el debate que se establece en el aula bajo la supervisión del profesor. Como en los dilemas tradicionales, el profesor se encarga de hacer ver a los alumnos aquellos planteamientos que no han tenido en cuenta o que son sesgados. Esta es una herramienta que tiene que utilizar la reflexión personal o colectiva, el debate, la argumentación y  las ideas, para ayudarnos a construir una sociedad en la que la Inteligencia Artificial esté al servicio del bien común.

¿Qué habilidades de los alumnos desarrollo que no se pueden obtener de manera más tradicional?

La enseñanza de los dilemas éticos en el currículo de ESO y Bachillerato permite el desarrollo de esta dimensión en el alumnado. Además, utilizado como base para debates o redacciones permite desarrollar la dialéctica, la oratoria y la correcta redacción de las ideas. Todo esto ya se conseguía con el planteamiento clásico de este tipo de dilemas, pero el uso de Moral Machine en clase permite dar una nueva dimensión, permitiendo la valoración ética de la Inteligencia Artificial por parte de nuestros alumnos. Los jóvenes de hoy en día, y nosotros mismos, comenzamos a vernos rodeados por aplicaciones y dispositivos que utilizan Inteligencia Artificial. Es importante que nuestros alumnos se planteen algunas de sus consecuencias éticas. Además, esta forma de presentarlo requiere un esfuerzo de atención a la hora de comprender los escenarios. El alumno no solo escucha por parte del profesor la descripción del escenario, tiene que observar detenidamente la escena antes de poder elegir el sacrificio que él considera menos lesivo. Este esfuerzo es muy beneficioso para los alumnos, porque supone una posición activa, de búsqueda de las distintas situaciones que forman el dilema, en lugar de ser un mero receptor de la información. Si pensamos en su uso desde cualquier asignatura impartida en inglés, podemos acceder a la versión en inglés de la web.

¿Qué ventajas me puede proporcionar?

La ventaja de utilizar este recurso frente al planteamiento tradicional del dilema del tranvía es variada:

• Hacemos reflexionar a los alumnos sobre un dilema ético que está de actualidad. Hasta el punto de que los diseñadores de automóviles, programadores y autoridades legisladoras están en este momento tratando de articular las bases para la introducción de la Inteligencia Artificial y los dispositivos automatizados en el día a día.
• Utilizamos un recurso más actual que el del tranvía, lejano en el imaginario del alumnado.
• Disponemos del dilema en una web que podemos compartir por vía telemática con los alumnos. Esto nos permite utilizarlo en enseñanza a distancia que está demostrando ser tan necesaria en estos momentos.

¿Cómo evalúo las competencias adquiridas por mis alumnos?

La evaluación de las competencias adquiridas por los alumnos con este recurso no se aleja tanto de la evaluación de la forma clásica de los dilemas éticos. Dependiendo de si se trata de un debate, una redacción o una reflexión sobre el dilema propuesto se utilizarán los criterios y procedimientos de evaluación que se establecen en las programaciones para este tipo de dilemas. En cualquier caso, como ocurre siempre con este tipo de actividad, no se evalúa la opción elegida por el alumno sino, dependiendo en qué asignatura lo estemos utilizando, la argumentación y los códigos éticos que se encuentran detrás de dicha elección. Si queréis encontrar más información sobre los distintos aspectos éticos de la Inteligencia Artificial, podéis encontrar algunos en esta página de la Unesco. En ella se exploran, además de los dilemas generados por los coches automáticos, el sesgo de género, la creación de arte y la utilización en la justicia de la IA.  Y hasta aquí el recurso de este mes. Esperamos que os resulte útil en vuestras clases. ¡Hasta pronto!