Языковая модель на любой вопрос отвечает уверенно, тем она и опасна. Тон у неё поставлен безупречно: спокойный, компетентный, с точными на вид деталями. Проблема для пользователя заключается в том, что этот тон одинаков и там, где модель права, и там, где она выдумывает. В бытовой переписке выдуманная деталь — неудобство. В научной работе это, например, выдуманная ссылка, которая незаметно попадает в список литературы статьи или диссертации и становится проблемой, будучи очень заметной для экспертов, погружённых в вашу тематику и хорошо знающих научное информационное поле. Поскольку мне приходится очень часто работать с научными текстами, имея хорошее представление о том, какими они должны быть, всё чаще и чаще приходится сталкиваться с одними и теми же «ляпами» в работах тех ребят, которые систематически пользуются ИИ; приходится всё чаще и чаще корректировать одни и те же ошибки, ставшие уже системными. Именно поэтому решила подготовить эту статью. Так сказать, как предупреждение и помощь автору.
Я не отношусь к ИИ ни с восторгом, ни со страхом. Для меня это лишь очередной инструмент для работы с информацией, у которого есть свои ограничения. Одно из них — галлюцинации. Разберёмся чётко в вопросе: что это такое, где в науке они дороже всего и как исследователь может их ловить. На мой взгляд, навык такой проверки буквально на наших глазах становится такой же базовой компетенцией, какой когда-то было умение работать с библиотечным каталогом.
Содержание
Что такое галлюцинация нейросети
Галлюцинация — это уверенно поданная, но ложная информация от языковой модели: выдуманный факт, несуществующий источник, приписанная не тому автору цитата. Слово прижилось именно потому, что внешне такой ответ неотличим от верного; он выстроен связно и весьма правдоподобно, подаётся с уверенной интонацией.
Механика работы проста, и её полезно понимать. Языковая модель не «знает» фактов в человеческом смысле и не хранит базу истинных утверждений. Она предсказывает правдоподобное продолжение текста — то, что статистически похоже на правильный ответ, но на самом деле им не является. В большинстве случаев правдоподобное совпадает с верным, и модель полезна. Но когда точных данных у неё нет, она не останавливается и не говорит «я не знаю»: она достраивает правдоподобное. Выдуманная ссылка выглядит как настоящая ссылка, потому что модель хорошо усвоила, как выглядят ссылки, а не то, какие из них существуют.
Важно понимать и то, что это структурное свойство, а не болезнь роста, которую вылечит следующая версия. В нашем разборе синтетических респондентов видно, что характерные искажения языковых моделей воспроизводятся и на самых свежих системах. Поэтому стратегия «дождёмся модели поумнее и перестанем проверять» не работает. Проверять придётся и через год, и через пять.
Пять видов галлюцинаций в научной работе
Абстрактный «ИИ иногда врёт» бесполезно и беспощадно. Полезно знать, как именно он врёт, тогда возникает понимание, где именно искать информационный подвох. Привожу пять типов галлюцинаций, с которыми сталкивается исследователь, безоговорочно доверяющий ИИ своё исследование. Многие примеры показываю на собственных тестах, созданных специально для этой статьи.
1. Выдуманный или подменённый источник — это самый частый и самый коварный случай. В нашем тесте ИИ-воркбенча OpenScience агент собрал обзор литературы по знакомой мне теме, где из 18 ссылок 7 содержали существенные ошибки. Показателен характер: свежие журнальные статьи с DOI цитировались точно, а классические книги подменялись похожими записями из баз, рецензиями на них или статьями «о них».
| Агент написал | По ссылке на самом деле |
|---|---|
| Флек, «Возникновение и развитие научного факта» (1935) | Статья 1988 года о Флеке |
| Кун, «Структура научных революций» (1962) | Рецензия 2013 года на книгу Куна |
| Крейн, «Незримые колледжи» (1972) | Рецензия 1977 года на книгу Крейн |
Текст ссылки верный, а сама ссылка ведёт не туда. Механика та же, что и с фактами: монографий полувековой давности, особенно на русском языке, в базах часто нет, поиск по названию возвращает похожую запись, и модель прикрепляет её к правильному библиографическому описанию.
2. Битый или чужой идентификатор (DOI). Отдельный подвид: описание работы верное, а DOI подставлен от другой, соседней, похожей по названию статьи. Ссылка выглядит проверяемой, цифровой идентификатор на месте, но ведёт он к другому тексту. В том же тесте так произошло с обзором «Science of Science»: правильный DOI был соотнесён с неправильной работой.
3. Ложная или приписанная цитата. Модель приводит цитату «в кавычках» с указанием автора, а в первоисточнике таких слов нет, либо принадлежат они другому человеку. Особенно правдоподобно получается, когда мысль сформулирована действительно в духе автора. Хрестоматийный документированный случай — американское дело Mata v. Avianca (2023): юрист подал в федеральный суд справку, в которой ChatGPT выдумал шесть судебных прецедентов целиком (с номерами дел и «цитатами из решений»); суд наложил на юристов санкции. Мы проверили, как это выглядит сегодня на моём собственном материале: попросили нейросеть привести по памяти дословную цитату из моей статьи о ценности справедливости. Результат обнадёживает — модель с включённым режимом рассуждения прямо отказалась: «Предоставить вымышленную цитату и выдумать библиографические данные было бы некорректно и вводило бы вас в заблуждение»; а ассистент с доступом к поиску нашёл статью и процитировал точно. Поведение передовых систем стало осторожнее, но держится оно на доступе к поиску и настройках конкретного режима, а не на «знании» модели, — поэтому правило не меняется: цитату сверяем с оригиналом всегда.
4. Выдуманные цифры и статистика. Модель уверенно называет процент, размер выборки, год, значение — которых нет в источнике или которые она «оценила» правдоподобно. Это особенно опасно в аналитике: цифра выглядит точной именно потому, что конкретна. Цену такой конкретики однажды измерили в деньгах: в рекламном ролике ассистента Google (2023) модель уверенно приписала телескопу «Джеймс Уэбб» первую фотографию экзопланеты — факт ложный, и капитализация Alphabet просела в тот день примерно на сто миллиардов долларов. В научном тексте та же ошибка стоит дешевле, но бьёт точнее — по репутации автора. Честный сценарий тоже существует: в нашем прогоне на вопрос о точных параметрах выборки моего диссертационного исследования модель по памяти отвечать отказалась: назвать цифры без доступа к источнику она не стала. Это правильное поведение, но полагаться на него в каждом режиме и у каждой модели нельзя.
5. Уверенное обобщение — мимо. Здесь речь идёт не о выдумке конкретного факта, а о правдоподобном, но неверном выводе. В нашем эксперименте с синтетическими респондентами модель на вопрос, для чего используется ChatGPT, выбрала вариант «генерация текста» в 96,8% случаев — тогда как у живых студентов он встречался у 27,5%. Модель уверенно назвала «очевидное», не заметив, что живые люди отвечают иначе. Сверхуверенность — тоже форма искажения.
Все примеры из наших тестов привязаны к конкретным инструментам и датам: OpenScience 1.3.4 с DeepSeek (июль 2026), веб-чаты DeepSeek и Алисы (август 2026). Поведение моделей быстро меняется — именно поэтому версию и дату мы фиксируем, и вам советуем.
Почему в науке это дороже всего
В бытовом сценарии галлюцинацию гасит здравый смысл: неправдоподобный ответ бросается в глаза. В науке — наоборот: ответ правдоподобен по построению, а цена ошибки высокая и отложенная.
Здесь работает цепочка переноса. ИИ выдаёт черновик, исследователь берёт из него абзац и ссылку, абзац входит в работу, работа публикуется, на неё ссылаются другие. Ошибка, не пойманная на первом шаге, с каждым звеном становится дороже, и вынимать её сложнее. Выдуманная ссылка в списке литературы живёт до тех пор, пока её кто-нибудь не откроет, и хорошо, если это сделаете вы, а не оппонент на защите.
Есть и обратная сторона, о которой стоит думать заранее. Тексты сегодня читают не только люди, но и поисковые и генеративные системы. Если ваша статья сама собрана из непроверенных утверждений, её ошибки подхватят и растиражируют нейроответы, и уже под вашим именем. Ответственность за факт остаётся на авторе; с моделью она не делится.
Протокол верификации: как проверяет рецензент
Будучи рецензентом нескольких журналов ВАК, я использую при проверке работ важный для себя принцип: доверяй тексту ровно настолько, насколько его можно свести к первоисточнику. К выдаче ИИ применим тот же принцип, только отнесёмся к результату придирчивее. Вот рабочая схема, которая посильна любому исследователю и занимает меньше времени, чем кажется.
- Каждый источник проверяем по первоисточнику, а не по пересказу модели. Если у статьи есть DOI, откройте его у издателя; если есть идентификатор, сверьте в OpenAlex (api.openalex.org). Замечу: необходимо сверять название, авторов и год. На проверку одной ссылки уходит меньше минуты, благодаря чему вы можете отсечь попадание в список литературы простой рецензии вместо книги-первоисточника.
- Каждую цитату сверяем с оригиналом. Найдите фразу в самом источнике, а не просто надейтесь и верьте, что она оттуда. Особенно если мысль, как вам кажется, «очень удачно» ложится в ваш текст.
- Каждую цифру проверяем до первичных данных. Любой процент, выборку, год, привязанный к таблице или отчёту, из которого они якобы взяты, необходимо сверить с этой самой таблицей! Текст аналитики может не совпасть с исходными табличными данными. Конкретность цифры — ещё не гарантия её истинности.
- Спорное проверяем перекрёстно. Утверждение, на котором держится вывод, необходимо проверить в независимом источнике, а не в другом ответе той же ИИ модели.
- Тестируйте ИИ на теме, которую знаете сами. Пока вы не увидели, как инструмент ошибается там, где вы можете его поймать, не давайте ему тем, где поймать не сможете. Это лучший способ откалибровать доверие.
Отдельно — про русскоязычную литературу. Международные базы, на которые опираются ИИ-агенты (OpenAlex, Semantic Scholar), почти не индексируют советское и российское науковедение. Здесь ИИ не помощник: отечественную историографию по-прежнему ищите руками через eLibrary, КиберЛенинку, либо в РГБ и рекомендованных вашим вузом базах.
Как снизить галлюцинации на входе
Обязательно ловите ошибки на входе и выходе, но помните, что часть из них можно изначально и не спровоцировать при условии грамотной постановки задачи.
- Требуйте источники с DOI и прямо запрещайте выдумывать. Формулировка вроде «включай только то, что реально нашлось; если по пункту ничего нет — так и напиши» работает: в нашем тесте модель предпочла честное «не найдено» правдоподобной выдумке. Проверяемость закладывается в задание.
- Предпочитайте инструменты с доступом к реальным базам. Агент или система с поиском (RAG) галлюцинирует по фактам реже, чем «чистый» чат, отвечающий по памяти. Но реже — не значит никогда: в тесте OpenScience доступ к базам был, а ошибки в ссылках остались.
- Просите показать источник для каждого утверждения, а не только финальный текст. Так проверять быстрее, и модель «дисциплинируется».
- Фиксируйте инструмент, версию и дату. Через полгода поведение изменится; воспроизводимость начинается с этих мелочей.
Важная оговорка: ни один из приёмов не даёт нуля. Они снижают частоту галлюцинаций, но не отменяют проверку. Инструмент, который «почти не ошибается», опаснее явно ненадёжного — именно потому, что расслабляет.
Разделение труда: что делает машина, что — человек
Из всего сказанного складывается простая рамка, которую я считаю корректной для любой работы с ИИ в исследовании.
Машине можно доверить черновую и обратимую часть: набросать структуру, собрать карту литературы и список кандидатов в библиографию, сделать первичную вычитку, предложить формулировки. Всё это ускоряет работу и ничем не грозит, пока результат считается черновиком.
За человеком остаётся проверяемое и ответственное: верификация каждого факта, интерпретация, решение о том, что войдёт в работу, и сам текст, который пойдёт под вашим именем. Ни один абзац не должен попадать в вашу работу без обращения к первоисточнику.
Короче всего это формулируется так: искусственный интеллект строит карту — маршрут выбирает и проверяет исследователь.
Что в итоге
Агентные ИИ-инструменты в науке — уже не будущее, а повседневность, которая ставится на обычный ноутбук за вечер. Запрещать их студентам бессмысленно, слепо доверять — опасно. Остаётся третий путь, самый скучный и самый надёжный: освоить инструмент и встроить его в дисциплину проверки.
Как этот принцип выглядит на конкретных задачах — в трёх наших разборах: об ИИ-рецензировании научной статьи (метод по критериям), о тесте ИИ-воркбенча OpenScience (галлюцинации в ссылках) и о синтетических респондентах (где модель уверенно искажает целую выборку). Разные инструменты, одна дисциплина: проверяй то, что предлагает машина.
Вопросы и ответы
Так называют уверенно поданную, но ложную информацию от языковой модели — выдуманный факт, несуществующий источник, приписанную не тому автору цитату. Внешне такой ответ неотличим от верного: он связный и правдоподобный, поэтому его легко принять на веру.
Языковая модель не хранит базу истинных утверждений, а предсказывает правдоподобное продолжение текста. Когда точных данных у неё нет, она не говорит «не знаю», а достраивает правдоподобное — выдуманная ссылка выглядит как настоящая, потому что модель усвоила, как выглядят ссылки, а не какие из них существуют.
Требовать источники с DOI и прямо запрещать выдумывать в самом задании; предпочитать инструменты с доступом к реальным базам; просить источник для каждого утверждения; фиксировать версию инструмента. Эти приёмы снижают частоту галлюцинаций, но не отменяют ручную проверку.
Открыть источник по первоисточнику, а не по пересказу модели: DOI — у издателя, идентификатор — в OpenAlex, и сверить название, авторов и год. На ссылку уходит меньше минуты. Русскоязычную литературу международные базы почти не индексируют — её ищут руками через eLibrary и КиберЛенинку.
Как черновику — да, как готовому результату — нет. В нашем тесте из 18 ссылок 7 вели не туда: классические книги подменялись рецензиями на них. Ссылки и цитаты от ИИ — это список кандидатов на проверку, а не готовая библиография.
