La inteligencia artificial (IA) está experimentando un notable avance, brindando beneficios económicos y sociales en una amplia gama de sectores, que incluyen salud, agricultura, educación, energía y seguridad, entre otros. Este progreso tecnológico ofrece ventajas competitivas al mejorar la eficiencia en la asignación de recursos y permitir una mayor personalización de soluciones digitales. No obstante, es crucial reconocer que la implementación de la IA conlleva riesgos potenciales que podrían impactar en los intereses públicos y en los derechos amparados por la legislación de la Unión Europea (UE).
Propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial) y se modifican determinados actos legislativos de la Unión – Orientación general.
El 21 de abril de 2021, la Comisión Europea inició discusiones sobre la propuesta del Reglamento de IA en el Grupo “TELECOM”, durante la Presidencia portuguesa, consolidando la posición de Europa como líder en la supervisión de la IA. Posteriormente, el 8 de diciembre de 2023, la Presidencia del Consejo y los negociadores del Parlamento Europeo alcanzaron un acuerdo provisional sobre el Reglamento que establece normas armonizadas en materia de IA. Este texto, que también afecta en ciertos aspectos al ámbito educativo, se espera que sea aprobado y entre en vigencia, en su versión definitiva, en 2026.
Este proyecto de Reglamento tiene como objetivo fundamental garantizar el uso de sistemas de IA que cumplan con estándares legales, seguros y fiables. De esta manera, se busca establecer un marco regulatorio que respete y proteja los derechos fundamentales y valores europeos, a la vez que se propicia un ambiente para el desarrollo continuo y sostenible de la IA en la UE.
La propuesta parece inclinarse hacia una perspectiva orientada a la gestión de riesgos que producen los diversos sistemas de IA. Es importante resaltar que la calificación de “alto riesgo” establecida en este acuerdo provisional se refiere a aquellos sistemas con consecuencias perjudiciales significativas para los ciudadanos y ciudadanas de la UE.
Entre los sistemas de IA considerados de alto riesgo, se incluyen ejemplos específicos relacionados con la biometría, el control fronterizo o la educación y formación profesional. En concreto y, hablando de este último, se detallan:
- (a) sistemas de IA destinados a utilizarse para determinar el acceso o la admisión de personas físicas a programas o centros educativos y de formación profesional a todos los niveles o para asignar a personas físicas a dichos programas o centros;
- (b) sistemas de IA destinados a utilizarse para evaluar los resultados del aprendizaje, también cuando dichos resultados se utilicen para orientar el proceso de aprendizaje de las personas físicas en programas o centros educativos y de formación profesional a todos los niveles.
Por tanto, en el contexto educativo, es fundamental cumplir con los requisitos propuestos para los sistemas de IA considerados de alto riesgo, ya que cualquier influencia indebida en los procesos de acceso, admisión y evaluación podría vulnerar derechos fundamentales, tales como el derecho a la educación y la formación, así como el derecho a no sufrir discriminación. Entre los requisitos establecidos se subraya la necesidad de contar con conjuntos de datos precisos y representativos, la consideración del contexto de aplicación, el tratamiento cuidadoso de datos especiales para abordar sesgos, la transparencia en el funcionamiento de los sistemas y la supervisión humana para garantizar la seguridad y conformidad; todo respaldado por una evaluación rigurosa antes de su introducción en el mercado.
Por otro lado, también relacionado con el ámbito educativo, la propuesta de Reglamento aborda la regulación de la generación de nuevo contenido mediante IA. Este aspecto cobra relevancia dado el creciente uso de aplicaciones de IA generativa por parte de los y las docentes para la creación de recursos educativos. La propuesta subraya la importancia de referenciar explícitamente aquellos materiales que han sido creados o manipulados por IA. Esta medida no solo buscar garantizar la transparencia, sino también promover un uso ético y responsable de la IA en el entorno educativo.
En conclusión, la propuesta de Reglamento presentada busca establecer un marco jurídico coherente para la UE en el ámbito de la IA. Al proponer normas y pautas armonizadas, su objetivo es impulsar de manera sólida el desarrollo y la utilización de la IA dentro del mercado interior. A través de esta iniciativa se busca, no solo fomentar la innovación tecnológica, sino también salvaguardar de manera efectiva los intereses públicos y los derechos fundamentales de las ciudadanas y ciudadanos europeos.