Ещё несколько лет назад хороший текст требовал времени. Нужно было сформулировать мысль, переписать неудачный абзац, найти нужное слово, убрать повтор и снова перечитать всё сначала.

Сегодня этот процесс можно сократить до нескольких минут. Можно даже ничего не печатать: рассказать свою мысль голосом, попросить искусственный интеллект превратить расшифровку в связный текст, а затем сделать его короче, яснее или убедительнее.

И довольно часто результат действительно оказывается лучше исходника.

Но возникает странный вопрос: если миллионы людей используют одни и те же инструменты, не начинаем ли мы постепенно писать одинаково?

Новое исследование, опубликованное в Nature Human Behaviour, показывает, что этот эффект уже можно измерить. Учёные провели три исследования, охватившие семь наборов данных и более 880 тысяч текстов — от публикаций в соцсетях и Reddit до научных работ, эссе, новостей и политических выступлений. Затем человеческие тексты переписывали с помощью GPT-3.5, Gemini Pro и Llama 3 70B.

Результат оказался одновременно ожидаемым и немного тревожным. ИИ хорошо сохранял основное содержание, но уменьшал разнообразие стилей. В разных наборах данных разброс по сложности текста после обработки языковыми моделями сокращался на 21–50 процентов.

ИИ не обязательно меняет то, что мы хотим сказать. Но он постепенно меняет то, как именно мы это говорим.

В тексте гораздо больше нас, чем кажется

Стиль — это не только красивые обороты и богатый словарный запас.

Мы выбираем длину предложений, любимые слова, местоимения, степень категоричности, количество эмоций, шутки и оговорки. Кто-то пишет короткими фразами. Кто-то строит предложения на пол-экрана. Один человек начинает объяснение издалека, другой сразу выдаёт вывод.

Многие из этих особенностей мы даже не замечаем. Но вместе они образуют языковой отпечаток автора. По нему можно делать осторожные выводы о социальном контексте человека, некоторых психологических особенностях и принадлежности к определённой языковой среде.

После обработки текстов ИИ такие сигналы становились слабее. Алгоритмам было труднее определять характеристики автора по его языку.

Получается любопытный эффект: текст становится лучше отредактирован, но одновременно чуть меньше рассказывает о человеке, который его написал.

Можно назвать это цифровым макияжем для языка. Он убирает шероховатости. Но иногда именно шероховатости делают нас узнаваемыми.

Почему ИИ нас усредняет

Никакого тайного механизма здесь нет.

Большая языковая модель учится на огромном количестве человеческих текстов и при генерации выбирает наиболее подходящие продолжения. Когда мы просим её «улучшить», «сделать профессиональнее» или «переписать красиво», она обычно движется к формулировкам, которые хорошо работают в похожих ситуациях.

Она сокращает лишнее, выравнивает структуру, убирает странности и заменяет необычные конструкции более привычными.

В одном конкретном письме это почти всегда выглядит улучшением. Но если ту же операцию одновременно выполняют миллионы людей, возникает парадокс: каждый отдельный текст может стать лучше, а все тексты вместе — более похожими.

Подобный эффект замечают не только в письме. В экспериментах ChatGPT помогал отдельным участникам находить более сильные творческие решения. Однако при рассмотрении всей группы среднее качество идей росло, а их разнообразие сокращалось.

ИИ способен усреднять не только способы выражения мысли, но иногда и направления, в которых мы её ищем.

Хороший помощник может стать слишком хорошим

Отказываться от ИИ-помощников было бы странно. Они действительно полезны.

Человеку, который пишет на неродном английском, ИИ помогает приблизить текст к профессиональной норме. Исследователю — оформить статью в соответствии с требованиями журнала. Инженеру — быстро превратить технические мысли в понятное письмо. А человеку, которому проще говорить, чем печатать, — превратить десять минут разговора в готовый материал.

Это настоящая демократизация способности ясно выражать мысли. Умение хорошо писать перестаёт быть барьером, который отделяет сильную идею от аудитории.

Но у этого есть обратная сторона.

Исследования опыта учёных, использующих английский как неродной язык, показывают: после обработки ChatGPT тексты могут становиться более профессиональными, но некоторые авторы перестают полностью воспринимать их как свои. Формально всё написано правильно, однако из текста исчезают знакомый ритм, характерные обороты и ощущение собственного голоса.

Сглаживаться может не только индивидуальный стиль. Если языковая модель преимущественно воспроизводит наиболее распространённые нормы письма, менее представленные культурные и языковые традиции рискуют постепенно отходить на второй план.

Что произойдёт с интернетом, если значительная часть человеческих текстов будет регулярно проходить через несколько крупных языковых моделей?

Мы можем получить мир, в котором почти никто не пишет плохо. Но и по-настоящему необычно писать тоже станут реже.

Неровность иногда полезнее совершенства

Человеческое творчество устроено неудобно.

Мы ошибаемся, уходим не туда, неправильно понимаем задачу, цепляемся за случайную ассоциацию и вспоминаем что-то совершенно не относящееся к делу.

Большинство таких отклонений бесполезны. Но иногда именно из них появляется новая идея.

ИИ очень хорош в том, чтобы быстро привести человека к добротному варианту. Он предлагает логичную структуру, уместные аргументы и формулировки, которые уже доказали свою эффективность в похожих текстах.

Человек иногда способен забрести туда, где никакого «хорошего варианта» вообще не должно было находиться. И именно там порой оказывается что-то новое.

Это не означает, что машина не способна генерировать оригинальные идеи. Эксперименты показывают, что языковые модели могут соперничать с людьми во многих творческих задачах и повышать средний уровень результата. Проблема появляется на уровне множества ответов: сильные идеи начинают группироваться вокруг одних и тех же направлений.

Качество и разнообразие — не одно и то же. Инструмент может улучшать первое и одновременно уменьшать второе.

Значит ли это, что тексты не стоит отдавать ИИ?

Скорее наоборот.

Проблема не в самом инструменте, а в том, на каком этапе мы передаём ему управление.

Есть большая разница между двумя запросами:

«Напиши мне статью об этом».

И:

«Вот мои мысли, примеры и выводы. Помоги сделать их понятнее, но сохрани мою интонацию».

В первом случае модель определяет содержание, структуру и язык. Во втором она остаётся редактором.

То же самое происходит с идеями. Если сначала попросить ИИ придумать десять вариантов, собственные мысли уже будут вращаться вокруг увиденного. Если же сначала сформулировать несколько направлений самостоятельно, а затем попросить модель найти слабые места или предложить альтернативы, человеческая часть работы сохраняется лучше.

Исследователи называют важным навыком метапознание — способность замечать, как именно ИИ влияет на собственное мышление. Нужно понимать, где появилась наша мысль, а где направление предложила модель.

Возможно, одним из главных навыков работы с искусственным интеллектом окажется вовсе не умение писать идеальные промпты.

Гораздо важнее будет понимать, что именно не стоит ему отдавать.

Грамматику — пожалуйста.

Сокращение длинного абзаца — прекрасно.

Перевод, поиск повторов, структура, варианты заголовков и проверка логики — всё это машины делают всё лучше.

Но странную метафору, неожиданную ассоциацию, личную интонацию, нелепую шутку или фразу, которую хороший редактор непременно захотел бы исправить, иногда стоит оставить.

Раньше нам приходилось учиться писать достаточно хорошо.

Теперь, возможно, придётся учиться не позволять машине писать слишком хорошо вместо нас.

Источники и дополнительные материалы