La Inteligencia Artificial (IA) generativa alucina, es decir, que, en ocasiones, arroja resultados e informaciones que no se basan en datos reales, aunque la presentación sea correcta y, en apariencia, coherente. Esta es la razón por la que no deberíamos fiarnos al 100% y preservar siempre el pensamiento crítico de cara a la IA.
Las razones que hay detrás de estas alucinaciones pueden ser múltiples. Desde errores de algoritmo, hasta fallos y sesgos en el corpus de entrenamiento de la IA o limitaciones en los sensores de la máquina. Los desarrolladores suelen advertir de este peligro poniendo en entredicho la absoluta fiabilidad de las aplicaciones de manera que la alucinación continúa siendo un desafío a implementar en los sistemas de IA.
Tanto se ha hablado de este asunto que el término ‘hallucinate’, alucinar en inglés, se ha convertido en la palabra del año 2023 elegida por el diccionario de Cambridge. La decisión se ha tomado tras anunciar, el pasado 15 de noviembre, la incorporación de una nueva acepción del término, hasta ahora relacionado con un trastorno mental, que conduce a quien lo padece a ver, oír, sentir u oler algo que no existe.
La nueva definición del diccionario de Cambridge que acompañará a la palabra ‘alucinar’ es esta: cuando una inteligencia artificial (= un sistema informático que tiene algunas de las cualidades que tiene el cerebro humano, como la capacidad de producir lenguaje de una manera que parece humana) alucina, produce información falsa.
La adaptación de la lengua a los tiempos
Añadir este nuevo significado a la palabra ‘alucinar’ no solo expresa el cambio social y cultural que está ocasionando el auge de la IA, sino también da a entender que la lengua es una cosa viva y que lo crean las personas y cambia para adaptarse al contexto y tiempo en el que se encuentran. En lo que atañe al diccionario de la Real Academia de la Lengua Española, RAE, todavía no se ha llevado a cabo ninguna modificación en línea con la de Cambridge.
“El hecho de que las IA puedan ‘alucinar’ nos recuerda que los seres humanos aún deben aportar su capacidad de pensamiento crítico al uso de estas herramientas”, sostenía en otro medio Wendalyn Nichols, directora de publicaciones de Cambridge Dictionary. “En el mejor de los casos, los grandes modelos lingüísticos sólo pueden ser tan fiables como los datos que se usan para entrenarlos. La pericia humana se ha vuelto más importante que nunca para crear la información autorizada y actualizada con la que se puedan nutrir los modelos lingüísticos”.
