«Это точно писала нейросеть!» Как распознать искусственный интеллект в тексте

Александр Зубов

Писать с ошибками, чтобы доказать, что ты человек?

Длинные тире, «как известно всем без исключения в интернете», — это вернейший признак нейронного текста. Истинно вам говорю: заметили у собеседника длинное тире — вглядитесь получше, и точно найдете ИИ-следы. В крайнем случае зловещий красный глаз, как у Терминатора. 

Прежде чем двигаться дальше, давайте сначала кратко объясню, о чем вообще разговор. В русском языке есть знак «дефис», короткая черточка (-), а есть знак «тире» (—), черточка, как нетрудно заметить, значительно более длинная. Большинство из нас в повседневных переписках их вообще не различает («палка она и есть палка!»), но и справочники по правописанию, и типографско-книгоиздательские правила эту разницу весьма внятно проговаривают и проводят между дефисом и тире отчетливую границу. Это два разных знака, используемых в разных случаях и по разным поводам.

Отличать дефис от тире и ставить нужный знак в нужном месте всегда считалось признаком хорошего тона и «особым грамотейским шиком» — но вот здрасьте-пожалуйста, мы очнулись в мире, где пунктуационная точность, оказывается, стала признаком ИИ!

Эта очевидная и утомительная глупость сверкнула в интернете с полгода назад и очень многим понравилась: вот он, понятный, легкий и простой способ опознать нейромусор, окрестить собеседника ботом и обесценить тем самым любые его аргументы. Если раньше, чтобы задешево возвыситься над оппонентом в споре, надо было вчитаться в его слова и как минимум найти ошибку, то теперь и этого не требуется: длинные тире видно издалека. Вжик-вжик — уноси готовенького!

Нас с коллегами-корректорами эта ерунда, конечно, расстроила, но не настолько, чтобы всерьез с ней бодаться (мало ли в интернете всяких глупостей?), — пожали плечами, поморщились и пошли по своим делам. Однако глупость разрастается: недавно мне попалось на глаза суждение, дескать, не только длинные тире выдают ИИ, но даже простое употребление буквы «ё». Ею, мол, живые люди тоже не пользуются. Видишь «ё» — перед тобою бот!

По меткому (но не вполне цензурному) замечанию одного комментатора, если так пойдет, то скоро, чтобы доказать, что ты живой человек, нужно будет вообще писать с ошибками и без запятых. 

Шутки шутками, но действительно, давайте поговорим на эту тему — о том, можно ли распознать нейронку в тексте. А главное, зачем.

«Ну да, но вообще нет»

Если вбить в поиск фразу «Признаки текста, созданного нейросетью», мы найдем массу статей самого разного свойства — познавательных, развлекательных и, конечно, рекламных. Тема животрепещущая (или, если оперировать в терминах SEO, собирающая трафик), а потому собрать урожай легкодоступных кликов и просмотров хочется всякому: и респектабельным бизнес-медиа, и общеинтернетовской энциклопедии, и полушутливым блогам в «Дзене» и телеграме (*тяжелым взглядом смотрит в зеркало*).

Статьи эти очень быстро устаревают и теряют актуальность: выходит новая версия ChatGPT или Gemini, обученная как раз на таких текстах и умеющая работать над ошибками, — и именно эти признаки она сама в себе тщательно латает. 

Все мы помним эти совершенно школьные, глупые и смешные ошибки, допускаемые первыми моделями («Сколько ног у лошади?» — «Две передние, две задние, две левые и две правые — итого восемь!»), — сейчас их уже на мякине не проведешь. Умнеют, заразы, не по дням, а по часам.

И тем не менее некоторые устойчивые паттерны сохраняются — модифицируясь и усложняясь, они все же сохраняют узнаваемые черты. Давайте попробуем вспомнить хотя бы несколько из них.

Первое и самое очевидное, что, несомненно, замечал даже начинающий пользователь искусственного интеллекта: он всегда с вами соглашается. Что бы вы ни придумали, какой бы несуразный, нелепый или попросту идиотский вопрос ему ни задали — первой фразой всегда будет: «Да, конечно!» Дальнейшая беседа уже может пойти в разные стороны и иметь разную степень полезности, но первый шаг почти всегда один и тот же: «Да, человек, ты полностью прав. Я чрезвычайно рад беседовать с таким понимающим, проницательным и умным собеседником».

Доходит до абсурда. Пример из личного опыта: «Привет! Скажи, я могу подключить беспроводные наушники к Playstation 4?» — «Привет! Конечно! Но с одной важной оговоркой: это, увы, невозможно сделать».

Шутка «Ну да, но вообще нет» появилась в интернете задолго до нейросетей, но сейчас обрела новую жизнь.

«Валенки — это не просто обувь, это образ жизни» 

Если говорить о более предметных признаках, то ранние модели очень любили дихотомии, или дилеммы, — выбор из двух вариантов, дешевое противопоставление чего угодно чему угодно. Вы могли попросить ChatGPT помочь в выборе валенок на зиму, и он тут же бросался рассуждать, что «валенки — это не просто обувь, это образ жизни» или что «зима — это не просто время года, а состояние ума». Риторические фигуры вида «Не просто X, а Y» — это те самые дихотомии, противопоставление двух сущностей, выдающие ИИ довольно отчетливо.

Современные, более поздние модели научились это в себе отлавливать (рассуждаю так, будто модель сама научилась на собственных ошибках, — но на самом деле ее, конечно, так перепрограммировали создатели). И теперь их дихотомии-дилеммы превратились в трихотомии-трилеммы. Звучит устрашающе, но смысл интуитивен: теперь они выбирают не из двух, а из трех сущностей.

«Валенки — это не просто обувь. Не элемент стиля. Это образ жизни.

Зима — это не время года. Не погода за окном. Это состояние ума».

Конструкции вида «Не X, а Y» усложнились до «Не X, не Y, а Z».

Не бог весть что, но тоже своего рода прогресс, не так ли?

В этих примерах можно увидеть еще два маркера нейросетей, не до конца искорененных даже в современных моделях: любовь к парцелляциям и тягу к неуемному пафосу.

Парцелляция в русском языке — это риторическая фигура. Заключающаяся. В дроблении. Одной фразы. Точками. На несколько. Предложений.

В художественной литературе (и, шире, в любых текстах «донейронной» эпохи) парцелляцию использовали в стилистических целях, чтобы «нарубить» предложение на кусочки, создав тем самым определенный эффект — чаще всего ощущение брутальности, резкости или задумчивости. Автор как будто бы вбивает стальную заклепку после каждого слова — понимать это можно по-разному, но, согласитесь, в этом есть нечто эстетическое.

ИИ-болванчики тоже очень полюбили парцелляцию, и дальше началось то, что случается с подростками-рокерами, которые украшают кожаные куртки заклепками снизу доверху: стилистический акцент превратился в фон. Переперчили. То, что должно было стать выделением, стало основной массой текста. Внутри которого. Этот прием. Уже. Не работает.

«Здесь начинается самое интересное»

С пафосом, я думаю, все еще понятнее — пример про валенки и зиму весьма нагляден. Ты просишь помочь с обувью — тебе рассказывают про «особую философию», «состояние ума» и бог еще знает какой «слоу-лайф» и «тихую роскошь».

Очнись, электронный болван, я просто хочу выбрать валенки! Просто обувь! Мне не надо «менять парадигму мышления» и «выстраивать новый дискурс и метатекст». Поставь мне мою любимую песню «Валенки» и не выпендривайся!

Справедливости ради актуальные модели уже не так сильно взбивают эту безумную словесную пену, но у них всплыл другой смешной косяк: всякий раз, когда им удается написать без пафоса, они хвастливо это подчеркивают: «Вот смотри! Ты просил про валенки — рассказываю тебе коротко, по делу и без воды».

И раз уж речь зашла о конкретных фразах, то вот еще одна, моя самая любимая: «Здесь начинается самое интересное». 

По какой-то таинственной причине мой ChatGPT ее просто обожает. О чем бы я ни просил его рассказать — он всегда начинает как будто слегка издалека, а затем, подбираясь к сути, заявляет: «И вот здесь самое интересное». Хочется перебить его и спросить: «А до этого ты чего мне наплел? Неинтересного?»

Подводя итог

Наконец, еще один признак, от которого современные модели никак не могут излечиться (скажу больше: мне кажется, в новых версиях это становится даже более заметно) — это желание подытожить и суммировать даже самый короткий и простой ответ.

Задайте нейросети элементарный вопрос: «Как сварить яйцо вкрутую?» Она не только выдаст пошаговый, пронумерованный рецепт, начинающийся с фразы «Войдите на кухню и включите свет, чтобы не промахнуться мимо холодильника», общаясь с вами так, будто вам пять лет, но затем, в конце, предложит еще раз просуммировать и кратко подытожить все это умопомрачительное в своей сложности мероприятие.

Подходящий момент, чтобы по всем законам комедийного жанра подвести кратчайший промежуточный итог нашей сегодняшней беседы (а лучше выдать конспект в виде нумерованного списка), — но я, уважая интеллект читателя, не стану этого делать.

Потому что все это хоть и важно, но, на мой взгляд, не имеет решающего значения. Для того чтобы увидеть тот единственный и главный признак, с головой выдающий любой нейронный текст, нужно взять простой советский…

И вот на этом месте я делаю драматическую паузу и шепчу: «…Продолжение следует!» Во второй части этого рассуждения — на будущей неделе — мы раскроем эту тайну!..

(Что? Этот наглец подвесил в воздухе дешевую интригу в лучших традициях дешевых бразильских сериалов?! Да как он посмел!..

Да, посмел! А нейронки так умеют? То-то же!)