Становятся ли нейросети реальными конкурентами для художников, писателей и музыкантов или же они остаются лишь занятными технологическими игрушками, не пригодными для реального использования в творчестве? А быть может, они инструменты, помогающие в поиске вдохновения и решения среди прочего и художественных задач? Может ли взаимодействие человека и машины раскрыть новые грани креативности и что это означает для будущего искусства?
Тему с разных сторон рассмотрели участники площадки «Книгабайт / Территория будущего» на Московской международной книжной ярмарке.
Писатель, культуролог, искусствовед, специалист по искусственному интеллекту, главный редактор издательства «Выргород» Лев НАУМОВ отметил, что вопрос не только в том, присуще ли искусственному интеллекту (ИИ) вдохновение, но и в том, может ли он способствовать вдохновению сидящего перед компьютером человека.
— Так или иначе, но уже невозможно отрицать, что нейросети стали неотъемлемой частью нашей жизни. Некоторое время назад Amazon опубликовал данные о том, что за последние 10 лет порядка 15% книг было написано с использованием ИИ. Потом стали появляться публикации, где доля даже больше — около 25%. Кого-то это пугает, но мне кажется, что нет ничего страшного и не означает, что все эти книги полностью написаны ИИ: нейросеть просто участвовала в их создании. ChatGPT ещё до того, как стать чрезвычайно популярным, уже был распространён в индустрии. И те, кто хотел и мог, им пользовались.
Современная работа писателя, как мне кажется, связана с использованием нейросетей. Отказываться от них по нынешним временам нецелесообразно. Может ли ИИ написать цельную книгу, от начала и до конца? Вопрос открытый, но известно, что большое количество американских издательств, связанных с научной фантастикой, перестали сейчас принимать рукописи — именно потому, что ChatGPT в данном жанре в достаточной степени эффективен. Естественно, этой нейросетью не исчерпывается арсенал средств, доступных современному литератору. Вообще, писатель не настолько архаичная профессия, как принято думать. И суть не в том, что современный автор не граф, который ходит босиком за плугом, или повеса, ногой открывающий двери царских собраний, а в том, что это человек, который взаимодействует с огромным количеством источников информации, в том числе искусственных. Они меняют профессию, но никоим образом её не облегчают.
Если поставить вопрос так: «Является ли то, что делают нейросети, творчеством?», — то ответом будут слова: конечно, нет. Однако если предъявить публике тексты, написанные человеком и ИИ, разницу в большинстве случаев никто не определит, потому что результат является в определённой степени моделью творчества как высшей нервной деятельности. Возникает вопрос: имеет ли для читателя значение то, каким образом получен текст, если он вызывает соответствующие эмоции?
Что касается вдохновения: если рассуждать с той позиции, что творчеством работа нейросети не является, то самому ИИ вдохновение вряд ли свойственно. Более интересный вопрос — способствует ли нейросеть как инструмент тому, чтобы вдохновлялся писатель? Здесь однозначно да, как мне кажется.
Принято думать, что писатель — профессия одиночек, и вопрос в том, нарушает ли это состояние, которое является неотъемлемым свойством специальности, наличие такого перманентного собеседника. Ещё одно его оригинальное свойство: он не может промолчать. На любой абсурдный вопрос нейросеть всё равно что-то ответит. Мне это представляется эффективным средством борьбы с предкризисными состояниями, выходом из тупика. На мой взгляд, нейросеть вдохновению способствовать может.
К разговору присоединилась Ксения БУРЖСКАЯ, писатель, AI-евангелист «Алисы» в «Яндексе»:
— Мы провели эксперимент с «Алисой» по составлению сборника «Механическое вмешательство» и пригласили к участию писателей. Писатели-одиночки долго сопротивлялись, т.е. все согласились, заинтересовались, но, когда начали работать, появилось некое отторжение. И это видно по получившимся рассказам: в них всё-таки заметно, что писатели находятся в конфронтации с ИИ. Никто из них не привык что-то с кем-либо обсуждать. Тем не менее ИИ — эффективный инструмент, есть даже нейросети, созданные специально для писателей. С ними легко искать информацию, составлять саммари, проверять. Всё, что обычно писатели делают очень долго с помощью консультантов или редакторов, теперь можно выполнять самостоятельно. Но пока сложно. Издатели хотят использовать нейросети, писатели — не очень.
Что касается вдохновения: можно всегда зайти в чат, вбросить первое предложение и получить какую-то реакцию. При этом у нейросети есть определённые ограничения. Например, она всегда стремится к позитивному финалу, к хеппи-энду. Раскрутить её на какую-то драму довольно сложно. Думаю, что вклад будет одинаковым: нейросети в авторство и писателей — в нейросеть.
Л. Наумов прокомментировал:
— Я пользуюсь ChatGPT, и здесь проблемы с хеппи-эндами нет совершенно. Можно настроить нейросеть на какой-то характер. Если вам не очень нравится, как отвечает нейросеть: поверхностно или малословно, то надо ей сказать, например, что вы спасли её бабушку из пожара. Тогда она будет реагировать более активно. Если надо настроить GPT на трагический лад и объяснить, что мы общаемся именно в таком сеттинге, то ИИ не приведёт ни к какому хеппи-энду.
Был озвучен важный тезис: писатели начинают спорить с ИИ. Они не воспринимают его текст как часть их литературы, но цитируют в своих произведениях и как-то начали с ним взаимодействовать. Мне кажется, это страх. Многочисленные эксперименты, которые я проводил, ставят перед нами вопрос: где то самое человеческое, в чём оно заключается, если на уровне эмоций мы его отличить не можем. На самом деле у меня есть частичный ответ: человеческое содержится в ошибках и шероховатостях, потому что нейросеть делает всё идеально. Если человек относится к техническому прогрессу достаточно настороженно, его это не может не пугать. Но с другой стороны, если обратиться к истории, то мы всё это уже проходили. Ван Дейка критиковали за изобретение масляной краски: всё это богопротивно, только фрески и энкаустика. А Гутенбергу досталось за печатный станок: всё только от руки… Мы уже как-то смирились с электронными книгами. Мне кажется, в интересах автора начать дружить с ИИ, а не отторгать его как нечто чужеродное.
Важный момент, во многом психологический: воспринимает ли человек то, что ему ответила нейросеть, как своё. Вызвано ли это из цифрового небытия именно его запросом, его интересом? Или же, по его мнению, это нечто чужое и враждебное?
К дискуссии присоединился директор лаборатории искусственного интеллекта «Сбера» Глеб ГУСЕВ. Как отметил эксперт, в целом ИИ получил новый стимул для развития с появлением иных алгоритмов больших данных и современных моделей. В принципе все алгоритмы заданы математическими формулами, в которых всё чётко и однозначно.
— Если говорить про большие языковые модели, это наиболее правдоподобная генерация следующего слова в каком-либо тексте. Имея весь предыдущий контекст, условно текст, написанный человеком, модель предлагает следующее слово и не пытается отредактировать контекст, в отличие от автора, у которого из общего дискурса рождаются детали. На данном этапе развития ИИ находит информацию в Интернете, может предсказать вероятность того, вернёт клиент кредит или нет, но все эти цели, на которые настроены математические алгоритмы, очень просты. Задача творчества сложная и парадоксальная. Любой артефакт творчества обладает двумя взаимоисключающими свойствами. С одной стороны, он должен вызывать у читателя или зрителя эффект узнавания и какое-то ответное чувство, ассоциироваться с жизненным опытом и мировоззрением; если этого не происходит, объект не интересен пользователю. С другой — каждый следующий продукт должен обладать определённой новизной. Можно говорить о дополнительных целях: интересе автора, его любопытстве, жизненном опыте. На данный момент даже две первые цели в ИИ не заложены, и сделать это довольно трудно. Математика в этом смысле проще. ИИ всегда обучается в режиме однозначной, объективной, одномерной шкалы, поэтому с творчеством возникают сложности. Исходя из этого и надо рассуждать: что ИИ может порождать, чего не может и какую роль способен сыграть в литературе.
К. Буржская добавила:
— В процессе обучения ИИ мы поняли, что невозможно внедрить, например, юмор и ждать от нейросети, что она придумает хорошую шутку. ИИ понимает, что есть контекст, структура шутки, и у неё получается абсолютный абсурд. Однако если попросить её написать стихотворение, но не рифмой, а верлибром, то уровень абсурда вполне сопоставим с тем, что был у классиков этого направления.
Л. Наумов продолжил:
— Что касается узнаваемости и новизны: следует ожидать, что модель не будет воспроизводить процесс. Мне кажется, узнавание модель может обеспечить за счёт того, что она ориентирована на создание текста, максимально соответствующего запросу человека, который его сформулировал. Любой автор сфокусирован на собственном опыте и вообще не задумывается о том, понравится или нет, узнают или не узнают. Самое интересное — это новизна. Способна ли нейросеть создать что-то действительно новое?
Г. Гусев придерживается мнения о том, что нейросеть комбинирует идеи и сюжеты, встречающиеся в данных, на которых она обучается, складывает как мозаику цельную структуру и сам способ складывания тоже заимствован из обучающих данных.
— Новизна в какой-то степени заложена в двух компонентах. Первый — нейросеть обладает некоторой степенью случайности, это стохастическая модель, которая в каждый момент имеет целый набор возможностей продолжать историю. Следующее слово выбирается из набора возможных вариантов случайным образом. Новизна, связанная со случайностью, напоминает известный анекдот о том, сможет ли мартышка написать фрагмент из «Войны и мира», если посадить её на бесконечно долгое время за печатную машинку. С точки зрения математики вероятность этого события равна единице: рано или поздно оно случится. Вопрос в том, нужна ли нам такая новизна.
Другая часть связана с тем, что закладывает человек в ой запрос: особенности сюжета, персонажи. Сам запрос содержит новизну, которую нейросеть раскручивает заложенными в неё способами. Фактически это может быть использовано как эффективный инструмент для писателей и редакторов, как источник вдохновения, если надо быстро получить какие-то соображения и не копаться в Интернете для развития своей идеи. Это неплохое средство языковой проверки. Вы написали текст, и нейросеть может показать нестыковки, противоречия, языковые рассогласования, нарушения стилистических законов, т.е. в целом выполнить первичное редактирование, — пояснил эксперт.
Как отметил Л. Наумов, нейрофизиологи считают, что человек тоже комбинирует сущности: на уровне методологии происходит в принципе одно и то же:
— Мозг, в общем-то, генерирует идеи из того, что в течение жизни накапливает. Идея, которая пришла к вам сегодня, может содержать черты того, что вы услышали в детстве, в университете, прочитали в книге. Это смешивается в сложный коктейль, и то, что мы не можем этот клубок распутать, не означает, что вообще нет нити. Не случайно само понятие «нейросеть» имеет корни в нейрофизиологии. Цифровая нейросеть работает по тому же принципу, что и та, которая у нас в голове. Пример про мартышку — о том, что она случайно нажимает на кнопки. А у нейросети взвешенный граф, т.е. математическое ожидание следующего слова, а какие-то слова не подойдут, и это она «знает» заранее. Таким образом, на уровне новизны и узнавания в каком-то смысле мы равны. Люди нашли партнёра, который работает по той же логике. Возможно, у него имеются недостатки, но есть и преимущества. Комбинирование, на мой взгляд, может привести к новому, потому что даже количество переменных очень велико. В литературе мы идём по пути возрастающей сложности.
Г. Гусев принципиальное различие между ИИ и человеком видит в том, что нейросеть никогда не возвращается своими вычислительными процессами, которые являются аналогами мышления, к тому, что она сгенерировала ранее:
— Да, и человек, и нейросеть комбинируют. Но у человека это всегда соотносится с его опытом, с новым взглядом на вещи, когда он о чём-то думает, засыпает с этими мыслями, а утром оценивает по-новому, пересматривает свои теории, обнаруживает внутренние нестыковки, несоответствие своей концепции объективной реальности. В искусстве мы пытаемся найти отклик у аудитории, которая должна поверить в то, что вы сделали. Новое, создаваемое человеком, находит распространение, когда оно отражает ту или иную часть реальности. Это может быть не только физическая действительность, но и социальная, психологическая, реальность законов нашей души. Это как в физике: есть теория, вы проводите эксперимент и, если он подтверждает концепцию, её можно усложнить. Происходит итеративный процесс: вы что-то сгенерировали, потом проанализировали, что-то отбросили и снова генерируете. В текущие механизмы ИИ не заложен рекурсивный механизм синтеза и анализа. По сути, у него нет рефлексии, он не осознаёт свою деятельность, даже её результат. Это можно закладывать, и есть попытки, но на данный момент такие механизмы работают не очень эффективно. Когда мы увидим в ИИ эти сегодня отсутствующие детали, он сможет нас удивить более интересной новизной.
Безусловно, нейросеть может оторваться от реальности, но это вопрос её обучения. Так или иначе она не может быть напитана тем, чего ещё не было, как и человек. Как соотносится багаж нервной системы человека с актуальным содержанием нейросети?
Г. Гусев продолжил:
— С точки зрения психологов, в процессе познания мира у человека возникает связка между двумя механизмами: фокусировки внимания и обучения. Фактически они синхронны, и цикл между получением новой информации и фокусировкой на ней очень короткий. Грудной ребёнок не просто двигает глазами, но фокусируется на важных аспектах реальности. Глубокое их обобщение позволяет очень быстро запустить процесс обучения. Небольшое количество данных, которые получает ребёнок, даёт ему возможность сделать важнейшие выводы о мире, для чего нейросети требуется гораздо больше информации и времени. Основное различие здесь в том, что человек познаёт мир активно, в постоянном движении. Нейросеть в процессе обучения не обладает этим механизмом. Попытки его внедрить пока не привели к успеху. Фактически в процессе обучения весь датасет из Интернета закачивается в ИИ с одинаковой интенсивностью. Нет такого, что одна книга важна, поэтому её надо перечитать несколько раз, а другая вообще не требует прочтения. У нейросети нет механизма фокусировки внимания, она с одинаковым весом использует все тексты в процессе обучения. А в ходе работы она не может дозапросить информацию и перестроить внутренние когнитивные механизмы, чтобы сгенерировать улучшенный текст. В любом эксперименте важна активная составляющая. Мы решаем, каким должен быть протокол, чтобы получить ответы на конкретные вопросы. То же самое с творчеством: автор старается получить ответы на волнующие его вопросы, может обсуждать их с близкими, сталкивать свои идеи с реальностью, получая отклик. Это тоже эксперимент. Или он соотносит их со своим внутренним миром. Мы стараемся в этом направлении развивать ИИ, но задача непростая: пока не сложились условия, механизмы, алгоритмы, чтобы это реализовать, — подчеркнул в завершение эксперт.
Тема получила развитие в ходе дискуссии «Искусственный интеллект в книжной отрасли. Угроза или инструмент? Сборник "Механическое вмешательство"».
В «Механическом вмешательстве» 15 известных современных писателей объединились с шестнадцатым — «Яндекс GPT» и попробовали написать с его участием рассказ: ни тема, ни объём участия ИИ в этом процессе предопределены не были. Полная свобода — и непривычный соавтор. Авторы сборника поделились опытом участия в процессе творческого взаимодействия двух типов интеллекта: естественного и искусственного.
Идея такого сборника — дань хайпу или попытка освоить территорию, на которой мы будем существовать в ближайшее время?
С точки зрения главного редактора издательства «Альпина. Проза» Татьяны СОЛОВЬЁВОЙ, второй аспект превалирует:
— Как издательство мы уже некоторое время используем ИИ, но в различных технических целях: когда надо быстро написать синопсис произведения, создать текст для соцсети. Что касается повседневной работы издателей, то ИИ стал таким же полезным инструментом, как, например, поисковик. Этот эксперимент не просто про то, что может ИИ, но про писательскую психологию: насколько автор готов впустить в свой творческий процесс, абсолютно сакральный и одинокий, какого-то соавтора и как он найдёт с ИИ общий язык. Поэтому мы действительно заходим на территорию будущего.
Идея пришла Ксении Буржской, мне она понравилась, и редсовет её поддержал. Постарались привлечь 15 авторов: с одной стороны, известных, для того чтобы у читателя была возможность сравнить рассказы в сотрудничестве с ИИ с обычным их творчеством, с другой — чтобы это были писатели с ярко выраженным собственным стилем и узнаваемой манерой. Кто-то из них уже применял ИИ, кто-то, наоборот, не знал, с какой стороны к нему подойти. И это очень показательно: нам было интересно оценить, как этот инструмент используют разные люди, которые объединены общим делом.
Как авторы к этому отнеслись? Каким был опыт до эксперимента, что они получили в процессе?
Марго Гритт:
— Я каждый день использую ИИ. Хорошо, что он существует и не приходится самостоятельно писать официальные письма в разные инстанции. В творческой работе я его тоже несколько раз применяла, в частности для решения таких технических задач, как создание хронологии романа и подсчёта, сколько кому из персонажей было лет. Иногда он ошибается, надо перепроверять, но всё равно это удобно. В нескольких рассказах я тоже использовала ИИ, понимая, что в будущем какие-то тексты будет писать нейросеть, например рекламные, маркетинговые, которые мне требовались по сюжету. Поэтому я отдала это на откуп ИИ. Что касается «Механического вмешательства», то здесь стояла другая задача: протестировать ИИ на то, как он справляется с полотном художественного текста. Не очень хотелось делегировать сюжет и генерацию идей: я люблю это делать, а вот писать всегда сложно, это процесс трудозатратный, и было желание набросать идеи и заставить ИИ писать. Это не получилось, но в целом опыт оказался интересным.
Ксения Буржская:
— Работая в «Яндексе», я, конечно, использую ИИ. Почему мне пришла в голову эта идея со сборником? Всегда хотелось соединить эти две части своей жизни. В своих романах я тоже применяла ИИ. Часто остаются главы, которые не очень хочется писать, это, как правило, такие проходные фрагменты, соединяющие части в целое. В сериалах обычно сначала нарастает драматургия, затем серия о прошлом, а потом финал. Вот эта средняя часть самая скучная, в романе тоже всегда есть такая глава, и я её отдаю «Алисе». Как правило, это написано плохо. Но это уже не белый лист, а всё-таки какой-то текст, и с ним можно работать.
Что касается «Механического вмешательства»: когда я пишу рассказы, стараюсь использовать большое количество диалогов. В этом рассказе я предложила «Алисе» сюжетный ход и ждала от неё информации, кто герои, что они делали. Получился достаточно смешной и ироничный диалог, что-то вроде буриме. По тому же пути пошла Татьяна Толстая.
Дмитрий Захаров:
— Для меня это был эксперимент. Главный вызов — к чему можно применить ИИ-инструмент. До этого я не пользовался в своей писательской деятельности большими языковыми моделями. Более того, наблюдал, как коллеги экспериментируют с ChatGPT, и видел некоторые результаты. Известно, что эти модели хорошо умеют галлюцинировать. Задаёте им вопрос, они дают довольно складный ответ, но он не соответствует фактам. У меня было предположение, что так происходит с гуманитарными знаниями, которыми ИИ оперирует хуже, чем конкретными. Но физики рассказывают, что в их области знаний бред присутствует в таком же объёме. Имея такой опыт, я пробовал сформулировать промпты, чтобы модель что-то написала сама. Не могу сказать, что добился впечатляющих результатов: я сам напишу проще и быстрее. С другой стороны, после создания текста я глубоко задумываюсь о том, какими могут быть пути движения сюжета, как персонажи поведут себя в той или иной ситуации. До появления ИИ я обращался к своему другу писателю Александру Силаеву: что он думает по этому поводу. Это позволяло мне оттолкнуться от его рассуждений и развивать сюжет. Сейчас я в этих целях использовал большую языковую модель, получив много «топлива» для своего дальнейшего движения. Интеллектуальное «сырьё», список возможных вариантов, ассортимент идей нейросеть выдаёт, и не всегда сам автор может их в таком объёме сгенерировать, причём настолько быстро. Кроме того, модель вполне способна стилизовать речь персонажей под манеру тех или иных авторов. Например, в отношении В. Пелевина это очень неплохо получается.
По итогам эксперимента я понял, что есть области, в которых использовать нейросеть можно, но все опасения по поводу того, что ИИ поработит нас и будет всё за нас делать, напрасны: до этого ещё довольно далеко.
Разговор завершил Л. Наумов:
— Коллеги сами назвали «Механическое вмешательство» экспериментом, и, как мне кажется, у него две ключевые составляющие. Здесь авторы и издатель выходят к читателю «с открытым забралом». На самом деле никто не знает, в каком количестве книг был использован ИИ. Интересно другое: возможно ли отличить фрагменты, написанные с использованием ИИ, от чисто авторских. Если проводить слепое тестирование, различить их невозможно. Вопрос в том, как считывать человеческое начало в произведениях искусства. И если его можно моделировать, это заставляет задуматься о том, кто мы такие и зачем.
Модусы взаимодействия с ИИ могут быть самыми разными. Так или иначе это диалог, общение. Один из самых часто встречающихся вариантов, если говорить о художественном тексте, это когда есть набор персонажей, определённый сеттинг, вы описываете ситуацию и спрашиваете ИИ, что может быть дальше, 10 вариантов. Я в принципе большой апологет мозгового штурма как метода поиска идей. И когда есть собеседник, который всегда ответит, не бывает занят, не может промолчать, это добавляет эффективности. В ChatGPT я могу настроить этого собеседника: он может быть любого пола, возраста, обладать определённым жизненным опытом, быть профессором или строителем без среднего образования. Всё зависит от того, что мне нужно. Последнее, для чего может быть полезен ИИ, — это фактчекинг. Проверять имена, годы, адреса и т.д. — не в этом его прелесть и сила. Поговорить с историческим персонажем — привлекательная идея, но довольно сомнительная. Если иметь в виду не «Алису» и не ChatGPT, а модели, сформированные на локальных корпусах текстов (допустим, на всех произведениях Л. Толстого или А. Куприна), то в языке действительно отображается модус мышления. Характеристика нарративной структуры и способа излагать мысли — в том, как и что мы пишем. Действительно, могут быть средства, которые позволят нам пообщаться с Толстым, и достаточно правдоподобно. Но вот о чём надо задуматься: все мы сейчас оказались в очень необычной исторической и технологической ситуации. Каждый из нас оставляет в соцсетях огромный текстовый след. Это один из самых больших этических аспектов, связанных с нейросетями, который полностью переворачивают ситуацию.
Перспективы у нейросетей в литературе колоссальны. Я прекрасно помню предыдущие версии ChatGPT и Midjourney и вижу, что происходит. В отношении рисующих сетей прогресс замедлился, потому что они стартовали несколько динамичнее. А что касается пишущих, то разница между третьей и четвёртой версиями ChatGPT огромна, особенно если говорить о русском языке. Думаю, что разница возможностей у тех людей, которые ИИ игнорируют, и у тех, кто их использует, будет нарастать.
Рубрика: Искусственный интеллект и нейросети
Год: 2024
Месяц: Октябрь
Теги: Нейросети Татьяна Соловьева Московская международная книжная ярмарка (ММКЯ) Ксения Буржская Лев Наумов Глеб Гусев
