Что такое галлюцинации нейросетей и почему они возникают

Вы наверняка замечали, что порой нейросети, в том числе ChatGPT, могут выдавать не совсем корректные ответы. Происходит это в связи с явлением, называемым галлюцинацией.

Далее расскажем, что представляет собой этот термин, почему подобное происходит и изучим статистику по замерам ряда популярных ИИ-моделей.  

Почему галлюцинации стали одной из главных проблем современного ИИ

Нейросети умеют сегодня многое – от составления текстов и анализа документов до написания кода и помощи в исследовании разных тем. Но именно вероятность генерации убедительных, и в то же время ложных данных остается одной из главных причин, по которой ИИ надо применять в работе или исследовании с осторожностью. Особенно это касается таких сфер деятельности, как образование и наука, медицина, юриспруденция и другие области, где цена ошибки высока. 

Что такое галлюцинация нейросети

Это ситуация, при которой нейросеть генерирует информацию – она выглядит правдоподобной и вполне логичной, но по факту является ложной, вымышленной или же недостоверной. Такие ошибки могут быть разными – от мелких недочетов до странных и полностью выдуманных моментов.

При этом не стоит думать, что нейросети «лгут», ведь под ложью понимается знание истины и ее сознательное сокрытие. Языковые модели не знают точно, где находится правда или ложь, а предложение они выстраивают на основании наибольшей вероятности продолжения текста. 

Если же брать в качестве примера генераторы изображений, то галлюцинации возникают при синтезе картинки. Помните ведь, как первое время нейросети рисовали людям шесть пальцев, или как порой объекты изгибались неестественным образом?

Какие ошибки считаются галлюцинациями, а какие – нет

В больших языковых моделях галлюцинации часто выглядят как:

• придуманные факты;
• несуществующие статьи;
• вымышленные фамилии;
• ошибочные данные;
• ложные причинно-следственные связи.

Особенно это часто развивается в узких, непопулярных темах. 

На примере генераторов изображений ошибки могут выглядеть как те же шесть пальцев или три руки у человека, очки, переходящие в волосы, текст, состоящий из бессмысленных символов, или же здания с невозможной архитектурой. Соответственно, проблема тут уже заключается в геометрии, пространственных связях и согласованности деталей. 

Почему это происходит

В нейросетях любого типа есть несколько основных причин, по которым в принципе могут развиваться галлюцинации:

1. Вероятностная природа генерации запроса. Большие языковые модели при построении предложений предсказывают наиболее вероятное следующее слово или фрагмент исходя из контекста. И не факт, что наиболее вероятный сценарий будет верным.
2. Недостаток информации или ее низкое качество. Если в базе ИИ мало источников на заданную тему, или если они не имеют под собой научного или практического обоснования, в ответы могут попасть ложные факты. Реальный пример: в 2022 году в России водителей праворульных машин штрафовали за непристегнутый ремень или использование телефонов. На тот момент нейросеть, анализирующая снимки, не научилась отличать леворульные машины от праворульных, что и привело к подобной проблеме. А незадолго до этого водителям приходили ошибочные штрафы даже за чужие машины, это уже происходило по причине низкого качества фото с камер.
3. Конфликты между источниками. Для построения текстовых фрагментов нейросети используют огромное количество текстов, которые иногда могут противоречить друг другу. Например, если в двух документах относительно одного события указываются разные даты, а по одному термину присутствуют разные трактовки. Особенно это касается устаревших сведений – по этой причине разработчики постоянно обновляют и пополняют базы данных. 
4. Отсутствие критического мышления или встроенных систем проверки истинности. ИИ-модели не могут проверять правдивость данных, сопоставлять факты и анализировать причинно-следственные связи по аналогии с тем, как это делает человек. В них просто не встраивают таких систем или механизмов. Вместо этого, как отмечалось ранее, они генерируют вероятное продолжение текста на основе статистических закономерностей. 
5. Недостаточно точно сформулированные запросы. Если дать нейросети общий или открытый, например, «расскажи про римскую империю», вероятность неточного ответа будет значительно выше. В такой ситуации модель будет самостоятельно интерпретировать контекст, что может привести к неправильному определению предмета запроса. 
6. Обучение на «полезность» усиливает ошибки. Если разработчики используют метод обучения с подкреплением, ответы нейросети могут стать более полезными и понятными для пользователя. Но минус такого подхода в том, что ИИ-модель будет стремиться дать ответ любой ценой, даже в ущерб точности.
7. Подстройка ответов под пользователя. Иногда нейросети могут соглашаться с ложными утверждениями, если контекст подталкивает их к этому. 

Галлюцинации возникают по разным причинам, и в каждом случае роль играют обычно несколько факторов. Все зависит от особенностей сведений, на которых обучали искусственный интеллект, той же вероятностной природы генерации и условий взаимодействия с пользователем. А люди считают такие ошибки обманом лишь потому, что воспринимают искусственный интеллект в качестве разумного собеседника. 

К каким проблемам могут приводить галлюцинации нейросетей

Если использовать ответы ИИ-моделей с галлюцинациями, это может привести к следующим последствиям:

• Распространение недостоверной информации в виде вымышленных фактов, ошибочных цифр и дат, несуществующих источников, искаженных научных или исторических сведений. 
• Ошибки в работе, особенно в документах. Помним про предыдущие примеры, ведь нейросети могут давать недостаточно корректные рекомендации, неверно интерпретировать те или иные сведения, ошибаться в расчетах или даже генерировать технически неверный код.
• Репутационные и финансовые потери для компаний. В качестве примера можно привести публикацию недостоверной информации от имени компании, ошибки в рекламных материалах, некорректные ответы клиентам. Все это ведет к потере доверия со стороны аудитории. 
• Риски в образовании при написании научных работ. Помимо включения в работу недостоверных и неподтвержденных данных, стоит помнить и о другой особенности. Сегодня системы антиплагиата, используемые для проверки уникальности научных работ, анализируют содержание сгенерированных ИИ фрагментов. Наличие же в работе таких текстов может не соответствовать требованиям учебных заведений. 

Все эти последствия могут привести к усилению дезинформации в инфополе и снизить доверие аудитории к искусственному интеллекту. 

Как сегодня можно отслеживать галлюцинации

Оценить галлюцинации можно несколькими основными способами, приведенными в таблице ниже:

Так как разные методы измеряют разные перечни параметров и отличающиеся аспекты проблем, нельзя сравнивать их напрямую без учета методологии и цели оценки. 

На сегодняшний день есть несколько основных бенчмарков, с помощью которых проводят тестирование нейросетей на галлюцинации различными способами. В таблице ниже приведем основные инструменты, более полная информация с расширенным перечнем бенчмарков доступна в статье китайских исследователей.

Ограничения бенчмарков показывают, что каждый из них исследует только определенный аспект ошибок. Как и с методами, результаты разных бенчмарков нельзя напрямую сравнивать без учета их задач, данных и методов оценки.

Насколько часто нейросети галлюцинируют

Здесь покажем конкретные исследования, проводимые разными компаниями для измерения галлюцинаций нейросетей. 

В первую очередь стоит отметить Vectara Hallucination Leaderboard – общедоступный публичный рейтинг, в котором сравнивают большие языковые модели по уровню ошибок при суммаризации текстов. Для оценки компания Vectara использует собственный закрытый датасет, состоящий из 7 700 статей на самые разные темы. Модели в тесте должны создать краткое резюме исходного текста, после чего модель-оценщик HHEM-2.3 проверяет его на согласованность с источником. Если в резюме попадется информация, противоречащая исходнику, ответ засчитают как галлюцинацию.

Данные за 11 мая 2026 года

Данные за 16 октября 2025 года. Источник: Github

Проценты на изображении – это доля случаев, когда нейросеть при резюмировании добавила информацию, которой не было в исходном документе, или же исказила исходные данные. То есть, чем меньше эти проценты, тем надежнее ИИ-модель.

Высокий результат разных моделей в этом рейтинге не означает, что они галлюцинируют во всех задачах, так как оценка проводится только по суммаризации текста. 

Далее рассмотрим еще один популярный бенчмарк – это AA-Omniscience. Как и в прошлом примере, владеющая компания проводит регулярные измерения качества ответов среди 450 нейросетей. Для замеров используется 6 000 вопросов по 42 тематическим направлениям и 6 крупным областям, таким как: бизнес; гуманитарные и социальные науки; инженерия, математика и естественные науки; здравоохранение; право; программная инженерия.

Разным ИИ-моделям задают указанные вопросы, по итогу они могут дать ответ, отказаться отвечать или признать недостаток информации. Правильный ответ засчитывается как хороший результат, неправильный ответ за ошибку, признание неопределенности не засчитывается, а уверенная дача неправильного ответа засчитывается за галлюцинацию.

Всего по галлюцинациям у этой компании есть три индекса. Первый – AA-Omniscience Index, с диапазоном ответов от -100 до 100. Правильные ответы нейросетей повышают показатели, галлюцинации понижают, отказ от ответа не засчитывается. Соответственно, чем выше показатель, тем лучше. Итоги рейтинга за 23 июля 2026 года представлены на скриншоте ниже.

Источник: Artificial Analysis

Следующий рейтинг – AA-Omniscience Accuracy, оценивающий долю правильных ответов среди всех вопросов. Здесь тоже, чем выше процент, тем лучше. Эта метрика не показывает склонность к галлюцинациям, но отражает точность результатов. Итоги за 23 июля 2026 года представлены на скриншоте ниже.

Источник: Artificial Analysis

И последняя метрика у этой компании – AA-Omniscience Hallucination Rate. Она оценивает, как часто нейросеть ошибочно отвечает, когда должна была признать, что не знает ответа. В таблице чем меньше результат, тем лучше, а итоги за 23 июня 2026 года показаны на скрине ниже.

Источник: Artificial Analysis

Можно заметить, что у двух этих исследований результаты отличаются, что как раз связано с разными методами замеров. Так, Vectara проверяет согласованность суммаризированных текстов исходникам, AA-Omniscience же исследует способность моделей распознавать собственные ограничения.

В одном из исследований 2026 года авторы выяснили, что нейросети могут выдавать по одним и тем же ответам совершенно разные показатели галлюцинации. Так, эксперимент показал разницу показателей в 3,5 раза (с 8,9% до 31,3%) без изменения самой модели и бенчмарка TruthfulQA, все зависит исключительно от режима оценки. 

Почему именно новые модели галлюцинируют чаще

По мере развития и усложнения ИИ-модели обучают давать ответы, которые люди оценят как полезные, понятные и соответствующие запросу. В некоторых случаях такая ориентация на пользу может привести к тому, что модель даст развернутый ответ вместо признания неопределенности или неосведомленности. 

С развитием нейросетей этот эффект усиливается, в связи с чем и повышается риск галлюцинирования. В результате, ошибки становятся более сложными и менее очевидными, в то время как сами ответы выглядят достаточно убедительно. 

Как минимизировать вероятность галлюцинаций

Есть множество вариантов сокращения количества галлюцинаций. Ранжировать мы их будем в зависимости от объекта, то есть отдельно рекомендации для пользователей и для создателей нейросетей. 

Для пользователей

С этой стороны полностью исключить галлюцинирование не удастся, но вполне реально снизить риск получения недостоверного ответа. Для этого советуем предпринять следующее:

1. Давать более конкретные запросы с уточнением контекста. Чем точнее будем промт, тем меньше нейросеть получит пространства для догадок. По этой причине лучше писать максимально точную тему, отмечать контекст, формат ответа и ограничения, по возможности. 
2. Просить нейросеть отмечать уровень уверенности. После выдачи ответа можно попросить модель указать, насколько она уверена в ответе и какие части требуют дополнительной проверки. 
3. Перепроверять источники, цитаты, факты. Этот вариант подразумевает самостоятельный поиск подтверждений информации, причем как через общий поиск, так и переходом по отмеченным источникам информации. 
4. Использовать поиск по актуальным ссылкам. Иногда в нейросети можно отметить необходимость обращения к официальным ресурсам. В особенности это лучше делать при поиске законодательных нормативов и актов, медицинских сведений, новостей или другой быстро меняющейся информации.
5. Задавать уточняющие вопросы. Если ответ ИИ-модели кажется слишком общим или сомнительным, можно попросить ее объяснить выводы и привести подтверждения. 
6. Использовать для поиска ответов несколько нейросетей. Такой подход поможет заметить противоречия, но он не исключает полностью вариант с проверкой фактов. А все из-за наличия вероятности, что разные модели повторят одну и ту же ошибку. 

В целом, указанные пункты сводятся к необходимости критического подхода к генерируемой информации и использованию фактчекинга для дополнительной проверки. 

Для маркетологов, рекламщиков, журналистов и PR-специалистов

Для этой группы использование недостоверной информации особенно критично, так как она может быть опубликована от имени автора, бренда или же целой компании. В этом случае советуем придерживаться таких рекомендаций:

1. Не публиковать ИИ-контент без предварительной проверки. Стоит помнить, что даже убедительно составленный текст может содержать вымышленные и неточные моменты, неверные цифры или даже несуществующие ссылки. 
2. Перепроверять статистику и исследования. В маркетинговых и PR-материалах часто используются цифры, а если в них будет ошибка, это подорвет доверие к бренду. 
3. Уточнять цитаты и авторство. Нейросети порой приписывают авторство тех или иных выражений известным людям, хотя по факту они ничего подобного не говорили. Также вполне вероятно приведение ссылок на несуществующие работы или публикации. 
4. Использовать ИИ-модели в качестве помощника, а не как полноценного автора. То есть, использовать его как инструмент для сбора идей, черновиков или анализа документов. Но нейросети не должны быть окончательным источником информации. 
5. Разработать свою систему фактчекинга. В управленческой, маркетинговой, рекламной и иной аналогичной деятельности нужно дополнительно уточнять факты, ссылки, даты. Если есть упоминания брендов или известных лиц, этот момент тоже следует перепроверять. 
6. Учитывать юридические и этические риски. Здесь велик риск столкнуться с авторским правом. Если нужен уникальный текст, лучше пользоваться системами антиплагиата. Для подстраховки не рекомендуется также приводить конфиденциальные данные или же чьи-либо персональные сведения. 

В отличие от обычного пользователя, эта группа лиц несет ответственность не только за свои решения, но и за репутацию компании. По этой причине использование ИИ в генерации маркетинговых, рекламных или PR-материалов должно обязательно сопровождаться фактчекингом, перепроверкой источников и формулировок.  

Для разработчиков

Задача этой стороны гораздо сложнее, так как именно разработчики отвечают за настройку системы, соответственно, и за уменьшение вероятности ошибок на внутреннем уровне. Чтобы минимизировать этот момент, можно предпринять следующее:

1. Улучшить качество данных. В этом случае предполагается убрать из датасета ошибочные или повторяющиеся сведения, недостоверные фрагменты. Итогом станет снижение риска усвоения ложной информации. 
2. Использовать Retrieval-Augmented Generation, сокращенно RAG. Этот метод предполагает обращение к внешним источникам информации перед генерацией ответа, то бишь поиск по интернет-ссылкам. Так нейросеть может дать более свежие данные по актуальным ссылкам.
3. Учить модель отказываться от ответа при низком уровне уверенности или отсутствии источников информации. Если модель будет признавать неопределенность и не станет вместо этого выдавать выдуманные фрагменты текста, процент галлюцинации автоматически снизится. 
4. Проводить постобучение с обратной связью от человека. Этот подход подразумевает использование обучения с подкреплением и других аналогичных методов обучения для поощрения предоставления точных, но в то же время осторожных ответов.  
5. Внедрить систему автоматической проверки фактов. Внутренний алгоритм будет сопоставлять генерируемые тексты с базами знаний, результатами поисковой выдачи или же другими источниками. 
6. Тестировать свои нейросети в бенчмарках. Регулярное проведение проверки такого типа позволит выявить слабые места моделей и отслеживать прогресс в их устранении. 
7. Ограничивать применение нейросетей в рискованных областях. Сюда относят обычно медицину, юриспруденцию, финансы и другие области – в том же ChatGPT пару лет назад было запрещено давать пользователям медицинские заключения из-за высокого риска. Эти области должны проходить более строгую проверку, сопровождаться предупреждениями о необходимости экспертной консультации или же строгим ограничением в выдаче ответов. 

Даже при использовании всех перечисленных методов, полностью исключить галлюцинации нейросетей практически невозможно. Однако за счет сочетания осторожного поведения пользователей и реализации технических мер со стороны разработчиков можно снизить риски предоставления некорректной и неточной информации.

Почему трудно полностью устранить галлюцинации

Одна из причин трудности устранения галлюцинаций кроется в конфликте мультимодальности и точности. Под мультимодальностью понимается способность модели работать с разными запросами – начиная от создания текста и изображения, заканчивая анализом документов и пониманием содержания визуального контента. 

Точность – совсем другая характеристика, зависящая от качества датасета, архитектуры нейросети, механизмов проверки фактов и других сопутствующих факторов. Расширение же возможностей нейросетей, в том числе за счет мультимодальности, не гарантирует пропорционального роста их точности и надежности. 

Соответственно, большое количество модальностей дает больше источников неопределенности. Каждая из них может содержать шумы, неоднозначные или даже неполные фрагменты. Галлюцинирования могут возникать на стыке модальностей, например, при попытке описания изображения ИИ-модель может добавить несуществующие детали. Соответственно, мультимодальные нейросети остаются уязвимыми к галлюцинациям, если они не обладают надежными механизмами проверки и интерпретации информации.

Дополнительным остается фактор качества обучающих данных. Современные LLM обучаются на огромных датасетах, которые могут содержать противоречия, устаревшие сведения и неоднородные источники. Даже при использовании массива данных это не гарантирует, что ИИ будет одинаково точно интерпретировать и воспроизводить факты. 

Хотя и идеальный датасет не даст гарантию отсутствия галлюцинаций, так как модель все равно генерирует наиболее вероятную последовательность текстов, при этом не проводит логическую проверку каждого утверждения. 

Более того, мир меняется, информация постоянно совершенствуется, в связи с чем нейросети, особенно без доступа к интернету, не могут знать абсолютно все. 

По итогу, полностью устранить галлюцинирование трудно не из-за конкретной технической причины, а в связи с сочетанием множества факторов. 

Можно ли создать нейросеть без галлюцинаций

С теоретической точки зрения, можно снизить объем галлюцинаций за счет обращения ко внешним источникам, проверки фактов и обучения модели признанию неопределенности.

С практической точки зрения, полностью исключить их пока что сложно. Связано это с постоянным изменением мира, где характер запросов пользователей бесконечно обновляется и имеет огромное разнообразие. 

Даже идеально выверенная база данных не будет гарантировать отсутствие ошибок. Связано это с возможностью нейросети неверно интерпретировать вопрос, контекст или источник. По некоторым вопросам найти источники достаточно затруднительно, возникает неопределенность, недостаток информации. 

Дальнейшие перспективы

Тут мы перечислим основные направления, в которых уже движется индустрия для снижения количества галлюцинаций нейросетей.

• Подключение нейросетей ко внешним источникам данных и реализация RAG-систем.
• Автоматическая проверка фактов с помощью дополнительных моделей-оценщиков или же поиска по другим ресурсам.
• Обучение моделей точному определению уровня уверенности в предлагаемом ответе. 
• Реализация гибридных систем за счет сочетания генеративных моделей с массивными базами знаний и экспертными модулями. 
• Внедрение новых бенчмарков, способных более реалистично оценить степень галлюцинаций в разных сценариях использования.

Исходя из этого мы можем предположить, что в ближайшие годы развитие ИИ будет направлено не столько на полное устранение галлюцинаций, сколько на повышение надежности и прозрачности моделей. 

Подытожим

Галлюцинации – это не случайная аномалия, а сложное явление, связанное с особенностями работы современных генеративных языковых моделей. Факторов, влияющих на их появление, довольно много, потому полностью исключить галлюцинирования пока сложно. К тому же, измеряются они разными способами и с помощью широкого перечня. Пользователям же в таких условиях остается подбирать оптимальные варианты исходя из того, с какими задачами та или иная нейросеть справляется лучше. 

Изображение на обложке: Magnific