«Становится всё меньше текстов, которые люди создают без помощи нейросетей»: издательство МИФ — о скандале вокруг «Мифологии Лавкрафта», написанной с помощью ИИ

В конце июня «Нож» опубликовал статью Андрея Бородина о книге «Мифология Лавкрафта», вышедшей в апреле в издательстве «Манн, Иванов и Фербер». Прочитать ее можно здесь. Поводом для критики стали подозрения, что книга была написана с помощью ИИ. На это, по мнению Бородина, указывали общий стиль текста и отдельные фрагменты, похожие на нейросетевые «галлюцинации»: несуществующие источники, цитаты, персоналии и факты. Статья вызвала большой резонанс, с нами связалось издательство, чтобы пояснить свою точку зрения. Публикуем беседу с Анной Устиновой, заместителем руководителя редакционного отдела, и Надеждой Молитвиной, руководителем редакции «Гуманитарный нон-фикшн».

Надежда Молитвина: Наша серия «Мифы от и до» началась как переводная. Мы нашли зарубежного правообладателя, формат, который был нам интересен с точки зрения продукта и стратегии портфеля, и издали первые переводные тайтлы: скандинавские, греческие и египетские мифы.

Примерно с 2022 года мы стали активнее работать с русскоязычными экспертами и авторами. Такие проекты, как правило, создаются с нуля. Сначала внутри редакции обсуждаем, в какие направления готовы идти: какие регионы, народы, традиции, тематики, города нам интересны и что имеет более высокий коммерческий потенциал. После этого подбираем эксперта.

Большинство наших авторов — антропологи, историки, краеведы, фольклористы. То есть люди с подтверждённым научным бэкграундом, с публикациями в научной и академической среде. Мы смотрим, есть ли у автора учёная степень: это хороший маркер качества. Ещё для нас важно, готов ли эксперт выходить к широкой аудитории, может ли он говорить о своей теме понятным языком, не оставаясь только в рамках научных конференций и профильных изданий.

Если бы это был проект с нуля, можно было бы пойти на профильные фантастические ресурсы — тот же «Фантлаб», посмотреть на фестивали, конвенты, мероприятия, связанные с фантастикой, поискать эксперта там. Можно было бы посмотреть на переводчиков Лавкрафта, на научных редакторов, которые уже работали с этой темой. Но эта книга пришла к нам из издательского «самотёка» — мы получили рукопись в высокой степени готовности. Проект показался нам интересным и мы решили работать с материалом, подключив к нему научного редактора.

Анна Устинова: Когда рукопись поступила к нам, в тексте не было следов применения ИИ. Но в нём также отсутствовала часть сносок и цитат, на что указал научный редактор. После этого, придерживаясь нашего внутреннего процесса, рукопись вернулась к автору на доработку. Возможно, слабое владение автора правилами оформления цитирования привело к тому, что он использовал ИИ как инструмент быстрой технической расстановки сносок. В результате в сносках появились типичные для нейросети «галлюцинации».

После того как автор добавил сноски и цитаты, рукопись не была передана на повторную проверку научному редактору, а пошла дальше по процессу. Затем на этапе литературной редактуры проверка ссылочного аппарата не была проведена на должном уровне. Фактчекинг не был сделан так, как должен был быть сделан, и следы применения ИИ в части сносок и цитат остались незамеченными.

С другой стороны, корпус переводов Лавкрафта на русском языке огромен. У отдельных рассказов может быть по пять-десять официальных переводов. В сети есть множество неофициальных фанатских переводов, которые тоже могут быть интересны поклонникам и исследователям творчества Лавкрафта. Российские издательства выпускали огромное количество переизданий и сборников. Всё это создаёт дополнительный риск ошибок при проверке ссылок на источники.

Сейчас мы донастраиваем редакционно-издательский процесс. Проверка рукописей на следы применения ИИ усиливается и будет идти параллельно с проверкой на плагиат. Мы усиливаем научную редактуру, проверку ссылочного аппарата и этап экспертного чтения, когда ответственный редактор внимательно читает рукопись целиком.

При этом ни ChatGPT, ни DeepSeek, ни специальные ИИ-детекторы не дают стопроцентной гарантии. Например, при проверке книг Пришвина ИИ-детекторы определяют почти 90% вероятность использования ИИ в тексте. Что само по себе парадоксально. Поэтому мы тестируем несколько сервисов, но главным фильтром всё равно остаётся профессиональная редакторская экспертиза: редактор должен видеть, где текст теряет связность, а авторский голос начинает звучать как сгенерированный.

Кроме того, теперь в наших внутренних регламентах закреплено: если после замечаний научного редактора в текст добавляется новый материал — сноска, цитата, фрагмент, дополнительный аргумент, — рукопись обязательно возвращается на повторную научную проверку.

Мы понимаем, что всё равно будем издавать проекты на редкие и специфические темы. На них есть запрос аудитории, но не по всем темам есть академические специалисты, которые могут стать авторами. Поэтому для малоизученных тем мы вводим дополнительную научную проверку: сначала научный рецензент из смежной области помогает принять решение о включении проекта в план, а затем, если решение положительное, подключается научный редактор. Так у нас появляется два научных эксперта на разных этапах.

Есть просто плохой текст, а есть плохой текст, написанный искусственным интеллектом. Есть ли здесь принципиальная разница? Потому что фрагменты, которые я видел, были откровенно слабыми. И даже если предположить, что автор написал их сам, текст всё равно выглядел не особенно экспертным. Нет ли здесь проблемы современного книгоиздания: нужно издавать больше и быстрее, чтобы сводить концы с концами? Другой причины публиковать слабый текст и делать это впопыхах я не вижу — кроме экономической необходимости выпускать определённый минимум книг.

А.У.: Искусственный интеллект — это не просто технологический, но и языковой феномен. Тексты, которые он создаёт, обладают собственной стилистической спецификой. Они могут быть грамматически безупречны, но лишены того, что в филологии называется языковой личностью: уникального следа человеческого сознания, рефлексии, интенции.

Если человек долго находится в среде, где преобладают тексты определённого типа, его собственная речь начинает подстраиваться — на уровне лексики, синтаксиса, интонации. Для издательств это создаёт новую задачу. Мы должны не просто отличать текст, созданный человеком, от текста, сгенерированного нейросетью. Мы должны находить следы нейросетевого языка в тексте живого автора, который может сам не замечать, что использует ИИ-штампы.

В данном случае мы действительно загнали себя в ловушку сроков. Нам следовало взять больше времени, остановиться, внимательнее перечитать текст и принять решение: публиковать его в этом виде или делать ещё один круг редактуры, чтобы поднять уровень.

Н.М.: У нас достаточно жёсткая позиция, и она обоснована в том числе правовым полем. Мы как издатели не можем получить права на объект интеллектуальной собственности, если он сгенерирован с помощью искусственного интеллекта. В договорах мы прописываем гарантии, что произведение создано лично автором и что он обладает правами в полном объёме.

В данном случае у нас есть позиция автора: он отрицает использование искусственного интеллекта. Я не хочу никого обвинять или строить домыслы, но мы видим артефакты, которые, очевидно, остались после применения ИИ. При этом автор отрицает его использование и, конечно, понимает, что не обладал бы правом на текст, если бы ИИ его создал.

Изменение процессов связано ещё и с тем, что книжный рынок быстро меняется, меняются тренды. Мы сопоставляем коммерческий потенциал, срок проекта, в течение которого он остаётся интересным издателю, и тот продукт, который можем получить за ограниченное время.

Но вопрос качества текста — отдельный. Он не сводится к использованию ИИ. В данном случае нам действительно нужны были дополнительная проверка, дополнительная экспертиза и, возможно, более внимательная реакция на обратную связь по тексту. Нужно было либо отложить издание, либо пересмотреть текст, либо подключить соавтора или дополнительного эксперта, либо отказаться от темы.

Нет ли здесь обратной стороны моды на нон-фикшн в целом? С одной стороны, хорошо, что его читают, что люди хотят его писать. Для автора книги, вероятно, было важно стать автором в жанре нон-фикшн. С другой стороны, любая мода приводит к появлению большого количества проходных вещей. Как сейчас формируются моды? Как издатель понимает, что в какой-то момент книга о мифологии Лавкрафта актуальна, а через год, возможно, уже не очень?

Н.М: Мы ежегодно прописываем стратегию портфеля для разных направлений. В МИФе есть редакция художественной литературы, редакция нон-фикшна, а сам нон-фикшн делится на прикладное и гуманитарное направления.

В рамках редакции гуманитарного нон-фикшна мы анализируем тренды, смотрим международный контекст, изучаем, что происходит у зарубежных издателей. Мы заказываем исследования аудитории, проводим опросы, глубинные интервью. В зависимости от результата, который хотим получить, подбираем методику, позволяющую собрать данные и понять, что происходит на рынке.

Мы рассматриваем отдельно тренд, популярность темы и перенасыщенность ниши. Например, можно сказать, что славянская мифология популярна. Это правда, но сейчас на рынке стало слишком много книг этой тематики. Мы видим тиражи, отчёты, читаем профессиональную литературу, смотрим отчёты Книжной палаты, статистику книжных магазинов и торговых сетей, следим за коллегами на российском рынке. То есть анализируем внутренние данные о реальном спросе.

Вы формулируете разумные правила, но факт издания этой книги как будто все эти правила нарушает. Её написал начинающий автор без очевидной академической компетенции. Текст слабый и, вероятно, написан с помощью ИИ. Даже если забыть про выпавший этап повторной научной редактуры, есть же первый входной этап: вы смотрите рукопись и понимаете, что она слабая. Как получилось, что книга вообще была запланирована к печати?

Н.М.: Мы смотрели на этот текст как на текст от фаната и для фанатов. Мы понимаем, что среди фанатов могут быть разные компетенции и разные точки зрения. Даже авторы из разных гуманитарных дисциплин могут спорить друг с другом: фольклорист с религиоведом, религиовед с историком. В науке тоже есть классические примеры длительных споров между школами.

При этом мы понимали, что могут быть противоречивые точки зрения, что он, возможно, ещё будет с кем-то публично спорить. Он уже представлял книгу на мероприятии в Санкт-Петербурге, но там публичной дискуссии не случилось. Скорее вскего, если бы мы обратились к другим авторам, которые изучают эту тему, у них могли бы быть совершенно другие точки зрения, возможно, более весомые аргументы.

У меня была гипотеза, что существует дефицит научных редакторов и что он тоже повлиял на эту ситуацию.

А.У.: Нельзя говорить о дефиците научных редакторов вообще, не конкретизируя тему. Есть широкие темы, где мы легко находим научных редакторов. Например, если нам нужен историк для проверки фактологии или исторических теорий.

Но бывает очень узкая тема. В таком случае издание книги может сильно затягиваться. Мы находим контакты двух научных экспертов, которые обладают нужными степенями и регалиями, но у них экспедиции, конференции, научные мероприятия. Они могут уделить нам время через три месяца или через полгода. Это влияет на сроки: мы вынуждены ждать, когда конкретный эксперт будет доступен.

Иногда мы привлекаем научных редакторов из смежных областей: культурологов, антропологов, искусствоведов. Иногда к одному тексту привлекаем нескольких учёных, если, например, это сборник о мифологии разных народов.

Н.М.: Научная редактура — это вид работы, не всегда очевидный для тех, к кому мы обращаемся. Многие специалисты знают, что такое научное рецензирование в академических журналах, где рецензент принимает решение о публикации или отказе. Но научная редактура в коммерческом издательстве — это другое.

Здесь нужно проверять факты, соответствие текста дисциплине, давать обратную связь, своим именем отвечать за то, что выйдет. Многие сильные специалисты просто не имеют опыта сотрудничества с коммерческими издательствами. Они работают с университетами, научными журналами, научными издательствами.

Когда к ним приходит редактор из коммерческого издательства, приходится очень подробно объяснять, в чём будет заключаться их роль и почему мы хотим получить результат в достаточно сжатые сроки. Для издателя идеальный срок — условно месяц. А в академической среде человек может сказать, что готов подписаться под результатом, только если у него будет год на исследование. И он по-своему прав.

А.У.: Часто нам помогают сами авторы. Поскольку большинство наших авторов — научные эксперты и члены академического сообщества, они рекомендуют коллег по университетам, конференциям, совместным проектам. Мы часто обращаемся к авторам за такими рекомендациями.

Возвращаясь к проблеме авторства: вы уже сталкиваетесь с потоком рукописей, написанных искусственным интеллектом? Насколько это распространено?

Н.М.: В издательском самотёке сейчас достаточно много входящих рукописей, которые по многим признакам выглядят как созданные с привлечением ИИ: по «галлюцинациям», стилю, повторам. Иногда это можно определить даже без детекторов.

Тексты, которые мы готовы рассматривать, мы проверяем. Раньше проверяли на антиплагиат, а после появления больших генеративных языковых моделей стали использовать и ИИ-детекторы. Но большой процент текстов отсеивается просто благодаря редакторской экспертизе: когда видно, что текст, скорее всего, создан не человеком.

При этом всегда остаётся риск длинной цепочки источников. Человек может без злого умысла использовать материал, который изначально был создан с помощью ИИ или содержит ошибки, нарушения авторских и смежных прав.

В самотёке процент таких текстов большой. Я сейчас не назову точную цифру, но это очень большой процент отказов. Раньше мы говорили, что в принципе маленькая доля входящих заявок нам подходит, поэтому около 80% плана с русскоязычными авторами — это книги, которые издательство заказывает само.

А самих заявок стало больше из-за ИИ? Увеличился ли вал плохих рукописей, написанных искусственным интеллектом?

Н.М.: Мне не кажется, что самих заявок стало больше. Входящий поток и раньше был большим. Скорее меняется процентное соотношение: становится всё меньше текстов, которые люди создали без помощи нейросетей, своим многомесячным или многолетним трудом, и больше текстов, которые были написаны быстро.

Мой главный вывод такой: в сфере научно-популярной литературы главный риск — баланс научного и популярного, академического и рыночного. Нужно, чтобы текст был достаточно точным, но при этом понятным и интересным широкой аудитории; чтобы книгу можно было выпустить в срок и заработать на ней, но при этом сохранить её ценность. Кажется, в этом случае что-то пошло не так именно на границе этих сред.

Н.М.: Да, ценность, новизна, авторский голос и интерес аудитории — всё это нужно удерживать одновременно. В данном случае аудитория была в значительной степени фанатской, очень трепетно относящейся к теме. Её реакция понятна: трудно принять, что к любимому писателю подошли небрежно.

При этом у автора не было злого умысла, и с нашей стороны не было установки «давайте быстрее выпустим, лишь бы было». Сейчас мы очень внимательно пересматриваем все новинки и понимаем, что к каждому анонсу будет повышенное внимание со стороны медиа.

Мы уже проверили анонсы, которые готовим на следующий год. По каждому есть внутреннее обоснование: почему мы взяли этот тайтл в портфель, почему идём в эту тематику, почему работаем с конкретным человеком, где нужна дополнительная подстраховка и дополнительная экспертиза.