«Ваш текст точно написала нейросеть». Разбираемся, зачем нам это знать
Александр Зубов
Признаки нейронного текста
Вкратце напомним, о чем шла речь в первом тексте:
- Нейронки всегда соглашаются.
- Нейронки обожают дихотомии (выбор из двух элементов) и трихотомии (выбор из трех).
- Нейронки любят Великий! Пафос!
- Нейронки. Любят. Парцелляции.
- Нейронки любят «по делу и без воды».
- Нейронки любят говорить, что «здесь начинается самое интересное».
- Нейронки любят подводить сжатые итоги даже после самых коротких и простых пояснений.
И в этот момент я подвесил дешевую интригу: «О самом главном и безошибочном способе опознать нейротекст я расскажу во второй части!..» Что ж, время пришло.
Житейский опыт
Давайте проведем крошечный эксперимент. Посмотрите на картинку:
Сколько времени вам потребовалось, чтобы понять, что это не реальное фото, а нейронная генерация? Не ошибусь, если предположу: нисколько. Вам не понадобилось ни единой секунды, вы поняли это мгновенно.
Но как именно вы это поняли? По каким формальным признакам?
Вы увидели эту неестественную, «прилизанную» картинку? Или стопку книг — этот заезженный штамп всех генераций? Или плашки с текстом, которые оформлены как-то «пластиково», специфически нейронно?
Да, вы все это увидели. Но разве поэтому вы поняли, что картинка нейронная?
Мне кажется, наоборот: вы сначала увидели продукт работы ИИ, а уже потом, постфактум, декомпилировали у себя в голове общее впечатление на пучок надежных аргументов.
Первое впечатление, самое истинное, интуитивное и честное, было коротким и простым: «Это нейронка!» Почему? А вот это уже во-вторых — и далее начинается цепочка убедительных и подробных аргументов.
С ИИ-текстами то же самое — не столь отчетливо и быстро, как с картинкой, но принцип похож.
Видя текст, написанный нейронкой, мы с вами не проводим в голове этой сложной диалектической работы: «Я считаю этот текст искусственным, потому что: а)… б)… в)…» Мы не раскладываем ничего по полочкам. Не выстраиваем длинной цепочки причинно-следственных связей.
Все гораздо проще. Вначале возникает вспышка: «Это нейронка!» И уже далее, если нам это почему-то необходимо, мы готовы подтянуть аргументы. Все они будут правдивы — но глубоко вторичны. Почему так? Ответ очевиден: насмотренность и начитанность. «Глаз наметан», как гласит народная мудрость.
Мы видели много человеческих текстов и в последние годы много нейронных — и научились различать их интуитивно, на каком-то неуловимом уровне.
Нам не нужны аргументы, чтобы прийти к выводу, — мы приходим к нему сразу, бессознательно. Аргументы приходят позже.
Это и есть тот самый главный, безошибочный и быстрый способ отличить ИИ-текст от текста, созданного человеком, — просто посмотреть на него опытным взглядом. Просто пожить на свете сколько-то лет, почитать разных текстов (хороших и дурных, человеческих и нейронных), чтобы в какой-то момент «датчик в голове» щелкал сам. Не по какой-то конкретной причине — просто в силу суммы накопленного житейского опыта и читательской насмотренности.
Искусство имитации
Мне могут возразить: «Это ты сейчас такой смелый — когда нейросети, считай, находятся еще в колыбели своего развития. Но что ты запоешь через пару лет, если темпы научно-технического прогресса сохранятся? Как тогда будет срабатывать твой „датчик в голове“?»
Действительно, искусственный интеллект с момента своего появления и до сего дня прошел впечатляющий путь — и отдельно изумляет то, как быстро он это сделал.
Отличным примером здесь может быть сгенерированное видео «Уилл Смит ест спагетти» — именно такой ролик появился на YouTube три года назад, еще на самой заре ИИ.
Название вроде бы невинное, но выглядело это просто чудовищно: некое инопланетное существо с бесформенным куском глины вместо лица и нечеловеческой анатомией поглощает какую-то желтую массу… В конце это все выруливает в какой-то сущий макабр, без единой человеческой черты. Такое видео могло напугать неподготовленного зрителя, а всем остальным давало отчетливо понять: нейросети никогда, никогда не смогут и близко подойти ни к чему правдоподобному. О какой замене живой съемки может идти речь, если ИИ не способен даже одной секунды удержать нос в середине лица?..
Однако прошло всего три года, и новая серия поглощения спагетти выглядит совершенно иначе. Узнаваемый актер в кадре, аппетитная тарелка лапши, профессионально поставленный свет и множество мелких деталей — по этому видео невозможно понять, что это тоже нейронная генерация! Видео выглядит на 100% как живая съемка.
А ведь это видео! Сложный и дорогой в производстве медиапродукт! Искусственному интеллекту понадобилось всего три года (даже по меркам человеческой жизни невеликий срок), чтобы совершить такой колоссальный рывок. Что же будет с текстом — «черными крючками на белом фоне»? Уж наверно его нейронки смогут сымитировать еще быстрее? Да?..
Сейчас я скажу, пожалуй, самую возмутительную вещь: да, нейросети действительно смогут имитировать человеческий голос неотличимо от настоящего, живого автора (собственно говоря, они уже сейчас это могут). Но это не проблема.
Эту беседу мы начали с вопроса, как определить, что автором текста был ИИ.
Сейчас я предлагаю заменить этот вопрос другим, более абстрактным: а зачем нам с вами это определять? Какой в этом смысл?
Или даже так: а какая вообще разница, написал ли текст живой человек или искусственный интеллект?..
Не спешите с ответом. Подумайте.
Сломать магию
Обратимся к музыке. Недавно я читал любопытную беседу о том, насколько этично с точки зрения музыкальных продюсеров выкладывать на стриминги целые альбомы, сгенерированные ИИ, и зарабатывать на этом деньги.
Один комментатор отметил: «Я бы хотел, чтобы вся нейронная музыка была помечена соответствующим образом», на что другой ему возразил: «Нейросеть — это такой же компьютерный инструмент, как, например, синтезатор или драм-машина. Разве ты, слушая электронную музыку, требуешь, чтобы на диске стояла отметка „Сделано на компьютере“? Так почему же ты хочешь, чтобы музыка, написанная с помощью ИИ (такого же инструмента), была отмечена как-то по-особенному?»
И хотя лично я больше согласен с первым комментатором, нужно признать, что и в словах второго тоже есть зерно истины. Расцвет нейронных сетей — это лишь последние три-четыре года, а музыку на компьютерах пишут уже очень давно. Человечество придумало много электронных инструментов, чтобы упростить жизнь музыкантам и разнообразить их творчество: синтезаторы, электрогитары, миди-клавиатуры и автотюн.
И ни разу ни на одном музыкальном альбоме мне не попадалось отметки «сделано на компьютере» или «записано с применением электронных инструментов». Почему? Да потому что какая мне, слушателю, разница, как именно сделана магия звука?!
Артист сделал свое дело — записал музыкальную композицию так, как хотел и мог. Применяя те инструменты, которыми владел. Теперь моя задача, как слушателя, — послушать и понять: мое или не мое. Трогает она мое сердце или проходит мимо.
Какая мне разница, как именно сделана эта песня? Применял ли автор в ее создании электронные гитары или акустические? Пел живьем или через автотюн?
Зачем мне видеть «изнанку фокуса»? Чтобы сломать магию? Чтобы больше никогда не насладиться любимой песней, потому что «я был на том мясокомбинате, где сделали эту сосиску, и видел все собственными глазами»? Сомнительное удовольствие. Многие знания, как сказал мудрец, приносят многие печали.
ИИ — такой же инструмент?
Я убежден, что с текстами ситуация точно такая же. Вспомним то, с чего мы начали: «Как убедиться, что сообщение, которое мне прислали, написал живой человек, а не нейросеть?»
Я задам встречный вопрос: «А как убедиться, что ваш собеседник писал текст сам, а не использовал Microsoft Word? Как удостовериться, что это его собственная грамотность, а не встроенная проверка орфографии?»
А зачем, позвольте спросить, вам в этом убеждаться? Не все ли вам равно?..
Ведь когда мы задаем вопрос: «Не нейросеть ли написала этот текст?» — мы на самом деле имеем в виду другое: «Насколько этот текст действительно отражает личный опыт и переживание автора?» А это уже рассуждение из совсем другой плоскости.
Можно сделать предположение, что «настоящий живой текст живого человека» — это только то, что написано ручкой по бумаге, и никак иначе.
А то, что написано на компьютере, — это априори бездушное чучело, «мертвый набор букв». Справедливо ли это предположение? Конечно нет! Текст может быть живым, искренним и честным — и при этом быть набран в «Ворде» или гуглдоках.
Можно пойти дальше и выдвинуть другое предположение: только текст с ошибками и опечатками считается живым. Как только вы прогнали его через автопроверку орфографии — все, он умирает.
Как вам такое предположение? Еще одна чушь! Ошибки в тексте либо есть, либо их нет — и это никак не связано с категориями «живости» или «мертвости» текста! Это просто разговор на другую тему.
Ищу человека
За каждым текстом, даже самым искусственным, «ИИшным» и нейронным, все равно в конечном счете стоит человек. Настоящий живой автор, который придумывал тему, хотел донести свою мысль и пытался что-то сказать. Человек из плоти и крови, который программировал ИИ, прописывал ему запрос.
Мы не должны спрашивать себя, нейронка перед нами или нет.
Вместо этого мы должны понять: пусть даже это нейронка — донесла ли она исходную мысль? Смог ли автор воспользоваться ИНСТРУМЕНТОМ, чтобы в должной мере выразить то, что стремился?
И если да, если он сделал это хорошо, душевно и качественно, — то мне не важно, пользовался ли он при этом искусственным интеллектом. Равно как не имеет значения, писал ли он от руки, пользовался ли «Вордом» или автопроверкой орфографии. Меня вообще не касается, какие инструменты были у него в запасе.
И наоборот: если автор сделал это плохо, бездарно и плоско — ИИ тут тоже ни при чем. Нейронка написала плохой текст? Поверьте, без нейронки он был бы еще хуже.
Есть давняя и печальная мудрость касательно оружия: «Убивает не пуля. Убивает человек, державший пистолет». Пистолет — это лишь инструмент, бессловесный и безличностный. Боюсь, и нейросети, сколь живыми и «человекоподобными» они нам ни казались, тоже лишь инструменты в человеческих руках — умелых и не очень.
Инструмент способен помочь нам написать красивый текст — пронзительный и честный, насыщенный и богатый. Почему же тогда нейронные тексты такие… скорбные?
Вопрос не к инструменту.