Галлюцинация в языковых моделях — это ситуация, когда модель, например ChatGPT, генерирует неправдоподобные факты, ссылки на несуществующие исследования или даже целые события. Проблема возникает из-за статистической природы работы LLM: они предсказывают следующее слово на основе вероятностей, а не проверки истинности.
Пример: модель может утверждать, что в 2023 году Нобелевскую премию по физике получил вымышленный учёный, и подкрепить это деталями, похожими на правду. Другой случай — генерация ссылок на несуществующие научные статьи с убедительными названиями и DOI.
Галлюцинации особенно опасны в образовательных и медицинских консультациях, где точность критична. В 2025 году исследователи из DeepMind предложили методы снижения таких ошибок через кросс-проверку с внешними базами знаний, но проблема остаётся актуальной.