La inteligencia artificial (IA) se ha convertido en un tema central en el ámbito tecnológico y político a nivel mundial. Por esta razón, la UNESCO ha creado la Recomendación sobre la ética de la inteligencia artificial que proporciona un marco universal de valores, principios y acciones para guiar a los Estados Miembros y a todos los actores de la IA, tanto del sector público como privado, en la formulación de su legislación, políticas y otros instrumentos.
Los valores y principios que se incluyen en este documento han de ser respetados por todos los agentes involucrados durante todo el ciclo de vida de los sistemas de IA y, cuando resulte necesario y conveniente, ser promovidos mediante modificaciones de las leyes, los reglamentos y las directrices existentes y la elaboración de otros nuevos.
La Recomendación incluye una lista de valores que se deben tener en cuenta:
- Respeto, protección y promoción de los derechos humanos, las libertades fundamentales y la dignidad humana
- Prosperidad del medio ambiente y los ecosistemas
- Garantizar la diversidad y la inclusión
- Vivir en sociedades pacíficas, justas e interconectadas
Asimismo, se detallan los siguientes principios en la Recomendación de la UNESCO:
- Proporcionalidad e inocuidad
- Seguridad y protección
- Equidad y no discriminación
- Sostenibilidad
- Derecho a la intimidad y protección de datos
- Supervisión y decisión humanas
- Transparencia y explicabilidad
- Responsabilidad y rendición de cuentas
- Sensibilización y educación
- Gobernanza y colaboración adaptativas y de múltiples partes interesadas
También se detallan en esta Recomendación las áreas de acción política que permitirán poner en práctica los valores y principios establecidos para el uso de la IA. Es necesario implementar medidas eficaces para que todas las partes involucradas en el uso de la IA cumplan con estas recomendaciones y establezcan mecanismos de evaluación del impacto en los 11 ámbitos de actuación que se desarrollan en este documento.
En el ámbito de actuación 8, correspondiente a Educación e Investigación, la UNESCO establece una serie de acciones políticas que los Estados Miembros deben llevar a cabo. Estas acciones tienen como finalidad el empoderamiento de la población y la reducción de las desigualdades en el acceso a la tecnología digital, que se han acentuado con la adopción masiva de sistemas de IA. Entre estas acciones, destacan:
- La colaboración de los Estados Miembros con organizaciones internacionales, instituciones educativas y entidades privadas y no gubernamentales.
- El desarrollo de habilidades y conocimientos previos necesarios para la formación en IA.
- La promoción de programas generales y accesibles de sensibilización en relación a los avances, retos y oportunidades de la IA.
- El fomento de proyectos de investigación sobre el uso apropiado y ética de la IA en la enseñanza, la capacitación de los docentes y el aprendizaje en línea.
- La inclusión y liderazgo de grupos marginados o vulnerables en programas de educación en IA.
- El desarrollo de planes de estudios nacionales inclusivos que incorporen la ética de la IA para todos los niveles.
- El apoyo público y cooperación con aquellos agentes cuyas prácticas desarrollen la IA de forma ética.
- La formación a los investigadores en IA para que tengan en cuenta las consideraciones éticas en sus publicaciones.
- La facilitación del acceso de la comunidad científica a los datos que manejan las empresas del sector privado para la investigación y el desarrollo de la IA.
- El seguimiento y la evaluación crítica de las investigaciones en materia de IA para evitar posibles usos indebidos.
- El apoyo a la comunidad científica en la sensibilización sobre las ventajas y desventajas del uso de la IA.
Finalmente, la UNESCO enfatiza la importancia del seguimiento y evaluación continua a fin de mejorar los procesos de aprendizaje y tomar decisiones informadas sobre el uso de los sistemas de IA. Esto ayudará a garantizar que la IA se utilice de manera responsable y supondrá un beneficio para la sociedad en general.