Una guía para estudiantes alerta de las "alucinaciones" de la IA

La Universidad Nacional a Distancia (UNED) ha publicado sendas guías dirigidas a sus profesores y estudiantes sobre el uso de la inteligencia artificial generativa, donde alertan al alumnado de "las alucinaciones" de estas herramientas y las prohíbe para las pruebas de evaluación y trabajos de fin de título.

La UNED es una de las universidades españolas pioneras en la elaboración de este tipo de manuales y el pasado mes de noviembre ya editó una guía de IA para la enseñanza y el aprendizaje.

En esta ocasión, las publicaciones ofrecen recomendaciones específicas a estudiantes y docentes y ejemplos de instrucciones ("prompts") para sacar el máximo partido a las herramientas de IAG de texto, como ChatGPT, Bard o Claude, ha indicado a EFE el vicerrector adjunto de Tecnologías Educativas de la UNED, Sergio Martín.

El estudiantado de la UNED puede usar la IA generativa durante sus estudios, pero en las pruebas de evaluación y de los trabajos fin de título no está permitido, salvo que el equipo docente indique lo contrario.

"Además, herramientas como ChatGPT tienden a inventarse hechos. Por ejemplo, si le pides que te haga un estado del arte sobre un tema en concreto es muy probable que se invente muchas de las referencias, aunque aparentemente parezcan reales", recalca la guía.

Por ello, "solo debes usarlas para ayudarte con tareas sobre las que tú tengas el suficiente conocimiento para discernir si la respuesta es correcta o no".

Aunque la inteligencia artificial puede resultar útil para preparar un borrador inicial sobre un tema, la universidad subraya que puede dar nombres, eventos o referencias ficticias, lo que se conoce como "alucinaciones".

Además puede producir información inexacta, sesgada o desactualizada y, en ningún caso, constituye una fuente original de información, sino que reproducen información de otras fuentes que no identifican.

Por otro lado, la guía destinada al profesorado explica que la IAG puede complementar y facilitar la labor del docente, por ejemplo a la hora de diseñar nuevos materiales didácticos, automatizar ciertas tareas e implementar nuevas estrategias pedagógicas.

Hoy por hoy, no existe ninguna herramienta que funcione para detectar el empleo de inteligencia artificial generativa. "Existen pero dan falsos positivos y falsos negativos, es una moneda al aire, no son sistemas fiables", según el vicerrector adjunto.