Es un modo de decirlo. Hay otro: “Se hace necesario reconocer que existe una diferencia cualitativa entre los docentes y las herramientas impulsadas por IA que teóricamente están haciendo lo mismo”. Así se expone en el informe ‘Inteligencia Artificial y Educación: Una mirada crítica a través de la lente de los derechos humanos, la democracia y el Estado de Derecho’, que, avalado por el Consejo de Europa, analiza las oportunidades y riesgos del creciente impacto de la IA en la educación.
Los autores del informe recuerdan que las herramientas de IA están fuera del sistema, son de propiedad comercial y “rara vez transparentes”. ¿Podrán competir alguna vez con el papel que desempeña el profesor, más allá de ser una herramienta complementaria? En el informe se formulan más preguntas que respuestas se dan, entre otros motivos, porque aún quedan por resolver los límites de la IA y, lo más importante, cómo quedará regulada, si es que se puede regular algo que está en proceso permanente de cambio y de forma tan veloz.
El catedrático de la Universidad UDIMA, primer doctor en Informática en España y uno de los referentes mundiales en este ámbito, el de la inteligencia artificial, Juan Pazos, pone los puntos sobre las íes, casi en modo de advertencia: “La IA no solo ayuda hoy a tomar decisiones, sino también, en algunos casos, a tomar la más adecuada”. ¿Colisiona eso con el rol de un profesional llamado a compartir sus conocimientos como es el del profesor?
Obviamente, este no debe tomar decisiones a diario sobre los temas que enseña a sus alumnos, pero lo que apunta Pazos es un aviso para navegantes. Si una máquina, entendiendo que la IA no es sino otra cosa, es capaz de mejorar las decisiones humanas ¿qué no será capaz de hacer en el corto y medio plazo? Porque sí, el desarrollo de la IA y su implementación sobre la vida de las personas se mide ya en el futuro más inmediato.
Por eso adquieren importancia las conclusiones, aunque sean en forma de interpelaciones, de los expertos consultados por el Consejo de Europa. “Aunque reconocíamos el potencial de la IA para la educación”, apuntan, “identificamos muchos desafíos importantes y planteamos múltiples preguntas. Lo que es más importante, ¿cómo nos aseguramos de que la IA proteja y no socave los derechos humanos, la democracia y el estado de derecho?”.
O, “¿cuál es el ‘tipo correcto’ de IA en la educación? ¿Se están introduciendo las tecnologías de IA en las escuelas y otros entornos educativos para abordar las tareas educativas correctas? ¿Están mejorando el aprendizaje como una actividad esencialmente humana y social, o apuntan a hacer que el aprendizaje sea ‘más eficiente’? ¿Están diseñados para apoyar o reemplazar a los maestros? ¿Están personalizando los caminos de aprendizaje para un contenido de aprendizaje preespecificado, principalmente preparando a los estudiantes para los exámenes, o apoyando resultados de aprendizaje personalizados, permitiendo a los estudiantes alcanzar sus objetivos y potencial individuales?”. Demasiadas preguntas, lo que equivale a demasiadas incertidumbres.
El informe ahonda también en qué se debe enseñar sobre la IA a nuestros hijos y ciudadanos, en nuestras escuelas y universidades y en la educación vocacional y el aprendizaje permanente “¿Cómo nos aseguramos de ir más allá de centrarnos exclusivamente en la dimensión tecnológica de la IA para prestar la misma atención a la dimensión humana de la IA, cuestiones como el impacto de la IA en los derechos humanos, la autonomía y la agencia, junto con cuestiones de transparencia, equidad, confianza y ética?”.
Reconocen los expertos que, dado que tratan un dominio de IA de tan rápido crecimiento, no pretenden que este informe “proporcione respuestas definitivas”, y sí que provoque “más preguntas que respuestas”.
Y a falta de respuestas, ahí van algunas necesidades, como las definen, que habrían de tenerse en cuenta en este contexto. Las necesidades identificadas se basan en la premisa de que la IA en sí misma no es problemática y reconoce que lo que es potencialmente problemático es cómo se desarrolla, entrena y aplica la IA en contextos educativos, a quién se dirige la IA y quiénes son los beneficiarios reales.
Se necesita, añaden, una mejor comprensión de la diversidad de conexiones entre la IA y la educación, y no estar limitados por los enfoques actuales, que tienden a subestimar la dimensión humana de la IA, “así como más evidencia y menos exageraciones sobre las conexiones entre la IA y la educación, lo que a su vez requerirá más financiación”.
“Necesitamos”, prosiguen los expertos, “evitar la automatización de malas prácticas pedagógicas, por ejemplo, la instrucción y supervisión de exámenes y, en cambio, centrarnos en utilizar el poder de la IA para abordar problemas de la educación genuina, como son la inclusión, el compromiso y la evaluación”.
También reclaman una regulación “apropiada y sólida”, que aborde los derechos humanos y de los niños, antes de que las herramientas de IA se introduzcan en las aulas, así como reconocer que existe una diferencia cualitativa entre los docentes y las herramientas impulsadas por IA que teóricamente están haciendo lo mismo, insisten.
No se olvidan de los padres, sobre quienes se pide que puedan ejercer sus derechos democráticos en las decisiones de adquisición, por ejemplo, de herramientas impulsadas por IA, que puedan afectar el desarrollo de sus hijos y el derecho a la educación.
Y currículos escolares y de aprendizaje permanente que aborden las dimensiones tanto humana como tecnológica de la IA, “para garantizar que todos entiendan mejor cómo funciona la IA y su impacto potencial en todas nuestras vidas”, además de que se garantice la ética desde el diseño (que cubra temas como el sesgo, la transparencia, la elección de la pedagogía) para todas las herramientas impulsadas por IA propuestas para su uso en contextos educativos, para facilitar en lugar de socavar la innovación.
Se reclama también en el informe un desarrollo profesional adecuado para los docentes (así como para los administradores y los encargados de formular políticas), de modo que puedan tomar decisiones informadas sobre qué herramientas de IA podrían ser apropiadas para sus clases.
En suma, concluyen los expertos consultados por el Consejo de Europa, se precisan “enfoques multidisciplinarios que reúnan a educadores, estudiantes y padres, científicos y filósofos del aprendizaje, informáticos e ingenieros de IA, desarrolladores comerciales y gobiernos”.
