Alucinaciones de la IA en educación: retos y oportunidades para docentes

El auge de herramientas como el ChatGPT ha impactado la práctica docente impulsando a los docentes a encontrar la forma de integrar dichas herramientas IA en el proceso de enseñanza-aprendizaje. Las herramientas de la IA tienen muchas aplicaciones en educación: creación de contenido, personalización de la retroalimentación, apoyo en investigación de tipo académico, análisis de datos, mejoramiento de la redacción.

Sin embargo, la integración de la IA en educación no puede realizarse de cualquier forma, dado que aún existen numerosos inconvenientes y retos en esa integración. Uno de esos inconvenientes son las alucinaciones, denominación que hace referencia a contenido que parece creíble, pero que no lo es. Las alucinaciones de la IA son respuestas con errores o sin sentido, que contienen información y/o resultados que no tienen respaldo real, lo que puede conllevar consecuencias negativas dependiendo del ámbito en qué se utilice.

Las alucinaciones de la IA representan un problema en el contexto educativo, cuando no se detecta o se asume un contenido como verdadero, pero también pueden ser tratadas como oportunidades para fomentar el pensamiento crítico del estudiante, desafiándolo para que:

• Detecte e identifique las alucinaciones en un texto
• Explique por qué la IA generó información incorrecta o falsa
• Discuta las consecuencias que conlleva la confianza en información incompleta o inexacta
• Desarrolle estrategias de verificación de la veracidad y precisión de la información dada por IA
• Busque otras fuentes más fiables de información como bibliografía especializada

Con herramientas de IA sucede lo mismo que con Google, Google es un buscador muy útil en el proceso de enseñanza-aprendizaje; sin embargo, su uso abusivo y la falta de verificación de la información por parte de quién busca una información puede generar un impacto negativo, igual las herramientas de IA son usadas por muchos estudiantes y muchas personas que no verifican ni contrastan los resultados o información obtenida con otras fuentes, dando validez a la primera respuesta que le brinde la IA a sus preguntas. Las principales causas de las alucinaciones de la IA son:

• Errores en los datos de entrenamiento, clasificación y etiquetado de datos
• Errores en la Programación de las herramientas IA
• Incapacidad de los sistemas para interpretación correcta de la información recibida
• Especialización de la IA de generar texto con sentido, sin dominar los fundamentos del área de conocimiento al que se refiere

Las herramientas de la IA por sí solas no brindan soluciones, se requiere que cada área en que se introduzca, minimice las problemáticas inherentes a su uso indebido.

Cualquiera sea tu área profesional o actividad, aprende sobre la IA con cursos como el Ciclo de Inteligencia Artificial del Campus Virtual Coomeva, para aprovechar al máximo sus beneficios sin “caer” en sus alucinaciones.

Referencia:

• Barac, M., & López-Rodríguez, M. I. (2024). ¿ Cómo integra el estudiantado universitario la IA en sus procesos de aprendizaje?. European Public & Social Innovation Review, 9, 1-14.