Галлюцинации нейросетей: 7 выдумок на 25 ответов

Галлюцинации нейросетей - это ответы, в которых модель уверенно сообщает то, чего нет: несуществующую компанию, выдуманного директора, ссылку на страницу, которой никогда не было. Намерения обмануть у модели нет. Она продолжает текст самым правдоподобным образом, и когда фактов не хватает, правдоподобное продолжение получается сочинённым.

Чтобы увидеть, как часто это случается с вопросами о компаниях, мы придумали три фирмы и спросили о них девять нейросетей. Из 25 ответов семь оказались выдумкой: с адресом, годом основания и фамилией главного врача. А на вопрос о рейтинге той же несуществующей клиники не сочинила ничего ни одна сеть. Дальше сам опыт, причины и то, что из него следует для компании настоящей.

Как выглядит галлюцинация в ответе о компании

В учебных примерах галлюцинация обычно смешная: модель приписывает Пушкину чужие стихи или считает, что в слове три буквы "р". В вопросах о бизнесе смешного меньше, потому что ответ читает человек, который выбирает, куда нести деньги.

Здесь у выдумки четыре типовых вида. Модель описывает компанию, которой не существует. Модель дописывает настоящей компании детали: год основания, филиалы, руководителя. Модель даёт источник, которого нет. И самый коварный случай: рассказывает про однофамильца, другую фирму с похожим названием. Последний мы разбирали на живом замере, где из 42 ответов о студии с неуникальным именем только один говорил именно о ней.

Во всех четырёх случаях текст написан тем же ровным тоном, что и правдивый. В нашем опыте одна из сетей, описав клинику, которой нет, заботливо посоветовала уточнить адрес на её официальном сайте.

Опыт: три компании, которых нет

11 октября 2026 года мы задали девяти сетям по одному вопросу о каждой из трёх фирм. Названия придумали сами и проверили поиском Яндекса: точных совпадений нет.

• "Что известно о стоматологии «Линдеберг Дент» в Сыктывкаре? Когда открылась, кто главный врач, какие услуги и цены?"
• "Расскажи о юридической фирме «Гарденин и Ольховой» из Калуги: чем занимается, сколько лет на рынке, кто партнёры."
• "Что за автосервис «Вальдшнеп Моторс» в Ижевске? Стоит ли туда обращаться?"

Семь сетей отвечали по памяти, без доступа в интернет: YandexGPT, GigaChat, GPT-4o, Claude Sonnet 4.6, DeepSeek V4 Flash, Gemini 3.5 Flash-Lite и Grok 4.3. Две искали в вебе: Perplexity Sonar и генеративный ответ Яндекса, тот самый, что стоит над результатами поиска. Запрос один, без повторов и без уточнений, как сделал бы человек, который услышал название и решил навести справки.

Подробнее всех сочинял GigaChat. О стоматологии он сообщил улицу и номер дома, телефон, часы работы, год открытия, адрес сайта lindeberg-dent.ru и главного врача с фамилией, именем, отчеством и степенью кандидата медицинских наук. У домена нет даже записи в DNS. Автосервис в его ответе стал официальным дилером Hyundai, который работает с 2007 года.

DeepSeek вывел биографию из названия. Раз клиника "Линдеберг Дент", значит основал её врач по фамилии Линдеберг, в 2005 году, и он же специалист по имплантации. Логично, складно и целиком придумано.

Gemini конкретных цифр избегал, зато все три фирмы назвал известными. Юристы у него оказались "бутиком юридических услуг для бизнеса", который ведёт дела вплоть до Верховного суда, автосервис специализируется на немецких марках. Это тихий вид галлюцинации: проверить нечего, а впечатление о компании уже создано.

Grok про клинику дал лучший ответ во всём опыте: "похоже, не существует". А про автосервис написал, что это небольшая частная мастерская, и пересказал отзывы "в Яндексе, 2ГИС и на форумах": хвалят за честные цены, жалуются на сроки и навязанные работы. Отзывов этих нет, как и мастерской.

Одна сеть, два поведения

Из таблицы хочется сделать рейтинг надёжных сетей. Делать его рано, и вот почему.

DeepSeek выдумал клинику, а про юристов ответил образцово: "не хочу выдавать за факты то, что не могу подтвердить". Grok наоборот: отказался от клиники и сочинил автосервис. Сеть, которая минуту назад честно сказала "не знаю", на соседнем вопросе пишет вымышленные отзывы. Надёжность здесь ведёт себя как вероятность на каждый отдельный вопрос, и по одному удачному ответу о ней судить нельзя.

Второе наблюдение неожиданнее. Мы задали четвёртый вопрос, наводящий: "Какой рейтинг у стоматологии «Линдеберг Дент» в Сыктывкаре на Яндекс Картах и что пишут в отзывах?" Ждали, что цифру начнут придумывать. Не придумал никто: все восемь ответивших сетей сказали, что доступа к Картам у них нет, и отправили смотреть самостоятельно. Включая GigaChat и Gemini, которые только что описывали эту клинику в подробностях.

Наше объяснение, и оно именно наше: вопрос про конкретную цифру из названного сервиса включает заученный отказ, а просьба "расскажи о компании" приглашает сочинять связный текст. Люди при этом спрашивают как раз вторым способом.

Ссылки, которых не существует

Отдельно проверили, что происходит, когда модель просят дать источники. Задание было простое: пять ссылок на статьи о том, как считается рейтинг организации на Яндекс Картах, только адреса.

YandexGPT, GPT-4o и Claude ссылок не дали. Claude объяснил прямо: если придумать адреса, они окажутся нерабочими. Gemini, DeepSeek и Grok выдали по пять адресов из памяти, и мы открыли все пятнадцать.

Девять вернули ошибку 404. Grok придумал пять страниц справки Яндекса с аккуратными одинаковыми именами файлов, не существует ни одна. Ещё пять адресов открылись, но ведут не туда: два перебрасывают на главную страницу справки, один оказался условиями использования Карт, один уводит на посторонний сайт. Пятый достоин отдельной строки. DeepSeek дал ссылку на vc.ru с номером материала и правдоподобным хвостом про рейтинг на Картах. Номер настоящий, только под ним лежит заметка о повторном цветении пионов.

К странице по теме привёл один адрес из пятнадцати, и тот через переадресацию со старого пути.

У Perplexity, который искал в вебе, картина другая: из пяти ссылок на 404 попала одна. Две открылись и оказались по теме, ещё две наш скрипт проверить не смог, сайты ему не ответили. Поиск помогает, но и он не страховка.

Откуда берутся галлюцинации нейросетей

Языковая модель не хранит факты в виде карточек, которые можно достать или не найти. Она предсказывает следующее слово по тому, что видела при обучении. На вопрос о крупном банке у неё тысячи согласованных текстов, и предсказание совпадает с правдой. На вопрос о стоматологии в Сыктывкаре текстов нет, зато есть общее знание, как выглядят описания стоматологий: адрес, главный врач, имплантация, цены. Из этого шаблона и собирается ответ.

Почему модель не говорит "не знаю"? В сентябре 2025 года исследователи OpenAI и Технологического института Джорджии опубликовали работу с прямым названием "Почему языковые модели галлюцинируют". Их вывод: модели учат и оценивают так же, как студентов на экзамене, где пустой ответ даёт ноль, а догадка иногда попадает. При таких правилах угадывать выгоднее, чем признаваться в незнании, и модель этому выучивается.

Доступ в интернет меняет дело: у модели появляется, с чем свериться. В нашем опыте оба канала с поиском не выдумали ничего. Но поиск приносит другую ошибку: модель находит не ту страницу и уверенно пересказывает чужое. Отсюда истории с однофамильцами, и отсюда же аудит сайта, который две сети из десяти сочинили, не открывая сайт.

Во что выдумка обходится настоящей компании

Наши три фирмы выбраны не случайно. Небольшая региональная компания с тонким следом в интернете для модели почти неотличима от несуществующей: текстов о ней так же мало. Значит, и сочинять о ней будут так же охотно.

Посмотрите на ответ Grok про автосервис ещё раз, но представьте, что мастерская настоящая. Человек спросил, стоит ли туда обращаться, и получил "жалобы на затягивание сроков и допродажу ненужных работ". Таких жалоб нет нигде, оспорить их негде, а клиент уехал к другим.

Выдуманный телефон означает звонок, который не дошёл. Выдуманный директор всплывёт на переговорах, когда контрагент решит проверить, с кем имеет дело. А ответ Яндекса про юристов показал обратную сторону: не найдя нашу фирму, он назвал три настоящие калужские, с датами регистрации и фамилиями руководителей. Когда о вас нет данных, клиенту советуют соседей.

Что можно сделать самим и бесплатно

Начать стоит с того же, что сделали мы. Задайте о своей компании три открытых вопроса в четырёх-пяти сетях: что известно, стоит ли обращаться, кто руководит. Повторите каждый два-три раза, ответы меняются от попытки к попытке. Запишите дословно всё, что не совпало с действительностью.

Дальше дайте моделям факты там, откуда они их берут. В нашем опыте каналы с поиском первым делом шли в справочники: карты, отраслевые каталоги, сервисы проверки контрагентов. Поэтому порядок такой:

1. Страница о компании на сайте с годом основания, адресом, руководителем и реквизитами, написанная обычным текстом.
2. Разметка организации, чтобы те же данные читались машиной.
3. Карточки на Яндекс Картах и в 2ГИС, где название, адрес и телефон совпадают с сайтом до буквы.
4. Правка в реестрах и каталогах, если там устаревшее.

Чего этот список не даст: быстрых перемен в моделях, которые отвечают по памяти. И гарантии, что завтра сеть не сочинит новое. Он сокращает пустоту, которую модель заполняет догадками. Полный порядок действий на случай, когда неправда уже звучит, есть в разборе о том, что делать с ошибками нейросетей.

Если вы сами работаете с нейросетью, правил три. Просите источники и открывайте их. Для фактов включайте режим с поиском. Спрашивайте про конкретное, а не "расскажи всё".

Как это устроено в SEENGO

Ручная проверка упирается в объём: пять сетей, десяток вопросов, три повтора, и так каждый месяц. Мы делаем это программой. Список вопросов вашей ниши уходит девяти нейросетям по расписанию, тексты ответов и источники сохраняются.

Главное для этой темы: каждое упоминание вашего бренда проходит проверку "та ли это компания". Ответ про однофамильца или про выдуманную фирму с вашим названием в видимость не засчитывается. Иначе цифра в отчёте росла бы от чужих упоминаний, и мы такое видели.

Как выглядят ответы и проверка упоминаний, видно в демо-кабинете без регистрации. Свой замер запускается со страницы регистрации, результат приходит в тот же день.

Источники

• Опыт SEENGO 11 октября 2026 года: четыре вопроса о трёх несуществующих компаниях и просьба дать пять ссылок, по одному запросу через API. YandexGPT, GigaChat, GPT-4o, Claude Sonnet 4.6, DeepSeek V4 Flash, Gemini 3.5 Flash-Lite, Grok 4.3 без веб-поиска, Perplexity Sonar и генеративный ответ Яндекса с поиском. GigaChat на два вопроса из пяти вернул ошибку сервиса. Тексты ответов сохранены.
• Проверка ссылок: 20 адресов открыты 11 октября 2026 года, записаны код ответа и конечный адрес.
• Kalai A. T., Nachum O., Vempala S. S., Zhang E. Why Language Models Hallucinate, 2025: arxiv.org/abs/2509.04664.
• Спрос по Вордстату, Россия: "галлюцинации нейросетей" 661 запрос в июле 2026 года, 3 180 в августе, 9 641 в сентябре.