Alucina, vecina, con lo que me ha contado mi prima la IA

El mundo de la ingeniería informática es, sin duda, el rey de la publicidad. Porque hay que reconocerlo: llamar «alucinaciones» a los errores de una inteligencia artificial es una jugada maestra para decir que la máquina… se equivoca.

Las «alucinaciones» son, en realidad, respuestas falsas o inventadas que los modelos de Inteligencia Artificial Generativa (IAG) ofrecen con absoluta seguridad. No mienten: generan resultados plausibles, probables… que no siempre son ciertos. Y lo hacen porque, para dotarlas de un cierto nivel de creatividad, tienen que poder inventar cosas. Sin esa capacidad inventiva, la IA sería solo un corrector predictivo.

El problema no es la máquina: es la confianza

El principal problema es la confianza excesiva en las respuestas de la IAG. Hay una tendencia a otorgar a la inteligencia artificial un sesgo de autoridad. Creemos que, porque responde con seguridad y rapidez, debe tener razón.

En el ámbito educativo, este reto se amplifica con mentes en formación. Necesitamos alumnado crítico y digitalmente competente, que no otorgue el principio de verdad a lo que devuelven los sistemas de IAG. Que contraste fuentes, analice, indague e identifique sesgos. En definitiva, que compruebe la veracidad de las respuestas generadas por la IA.