En noviembre de 2022, Meta presentó Galactica como un modelo de lenguaje revolucionario entrenado con 48 millones de artículos científicos, libros y enciclopedias. La promesa era enorme: una IA capaz de resumir investigaciones, resolver problemas matemáticos y escribir artículos académicos.
Duró exactamente 3 días.
Qué pasó
El problema no fue que Galactica fallara en silencio. Fue que fallaba con total confianza. El modelo generaba:
- Artículos científicos completamente inventados con citas reales de investigadores que nunca escribieron eso
- Respuestas sobre física cuántica mezclando conceptos correctos con errores graves, sin distinción
- Secciones sobre la historia de los osos en el espacio (sí, en serio)
- Explicaciones de cómo los humanos digieren el vidrio, presentadas como hechos médicos
Lo más peligroso no era el error, sino la forma. Galactica escribía con el tono autoritario de un paper académico. Sin advertencias, sin “no estoy seguro”, sin fuentes verificables. Simplemente afirmaba cosas falsas como si fueran verdad establecida.
La reacción de la comunidad científica
Los investigadores que probaron el demo público en los primeros días publicaron capturas de pantalla en Twitter mostrando los errores. Yann LeCun, entonces director de IA de Meta, intentó defender el modelo argumentando que los críticos no lo usaban correctamente.
Dos días después, Meta cerró el demo sin anuncio oficial. Simplemente desapareció.
El paper original del modelo sigue disponible, pero Galactica como producto nunca volvió.
La lección
Galactica fue uno de los primeros casos masivos de alucinaciones de IA que llegaron al público general. El problema de los modelos de lenguaje que generan información falsa con total confianza no es nuevo, pero Galactica lo demostró de forma espectacular en el peor dominio posible: la ciencia, donde los errores tienen consecuencias reales.
Meta tardó 3 días en reconocer que el problema era el modelo, no los usuarios.