«Животные в темные времена». Визуальное исследование о том, как нейросети стирают границы «человеческого»

С развитием искусственного интеллекта, способного самостоятельно писать и говорить, человек лишается монополии на речь. А язык, который всегда считался знаком отличия от не-людей и животных, перестает быть антропологическим признаком. В визуальном исследовании поэт и историк Станислав Львовский рассматривает, как размываются границы «человеческого» в эпоху нейросетевой революции. 

В серии псевдодокументальных нейрофотографий, созданных совместно с ИИ, художник конструирует образы «темных времен», представляя мрачные урбанистические пространства пограничного мира, в котором речью обладают и звери, и технологии, а человек утрачивает часть своей привычной уникальности. Публикуем галерею нейрофотографических работ вместе с развернутым комментарием художника Львовского о контекстах появления этого цикла и методах работы. 

Комментарий автора:

«Редакция попросила меня написать к этим двум сериям пояснение. Во-первых, о каких темных временах речь? Во-вторых, почему животные? И в третьих, причем здесь технологии AI, при помощи одной из которых были созданы эти изображения? (У меня есть для них даже специальное слово: нейрофотография)

Давайте я начну с темных времен, — хотя, честно говоря, нет никакой уверенности в том, что именно эти слова в марте 2024 года нуждаются в каких-то специальных пояснениях. С другой стороны, — пусть будут и пояснения, почему нет. 

Вынужденно покинув Берлин в 1933 году, после устроенного нацистами поджога Рейхстага, Бертольт Брехт поселился в Свендборге, на датском острове Фьюне. 

К 1938 году он уже пять лет живет в изгнании. 1938 год — это плотное в историческом смысле время, в нем все происходит: в марте вермахт переходит границу с Австрией, это аншлюс, который австрийцы в апреле одобряют задним числом на референдуме, — Австрии больше нет. В июле и августе СССР и Япония две недели ведут бои на озере Хасан. В конце сентября в Мюнхене Британия и Франция, в надежде избежать большой войны, подписывают с Германией и Италией соглашение, обязывающее Чехословакию уступить Гитлеру Судетскую область. Чешское правительство, тоже надеясь избежать худшего, соглашается. Проходит полгода — а вот уже и Чехословакии нет. В ночь с 9 на 10 ноября — Kristallnacht‌ в Германии и на „новых территориях“. В конце того же месяца в СССР назначение Берии новым главой НКВД после ареста Ежова. Берия подводит черту под самой кровавой фазой сталинского террора: за два предыдущих года было убито около 700 000 человек. В декабре в Германии испытывают первую в истории программируемую вычислительную машину, придуманную инженером Конрадом Цузе.

Брехт весь год работает над завершением третьей и последней написанной в эмиграции книги „Свендборгские стихотворения“: весной 1939 года она будет опубликована в Дании. К образу „темных времен“ Брехт обращается в ней по крайней мере трижды. Выше, в эпиграфе, процитированы две последние строчки стихотворения которое так и называется „В темные времена“, — и они прямо перекликаются с „Мотто“ из той же книги:

Так что короткий ответ на первый вопрос — речь идет о тех временах и о нынешних временах тоже, и еще о многих других. 

К счастью для читателя, ответы на второй и третий вопросы связаны, так что нет нужды отвечать на них по отдельности. Все равно выйдет длинно — и в надежде этого избежать, я попытаюсь сейчас зайти в ответ с черного хода.

Например, так: сначала я хотел позаимствовать название у одной известной книги, Les Damnés de la Terre, но оно плохо переводится. По-русски, чтобы сохранить отсылку к Интернационалу, пришлось бы сказать „Проклятьем заклеймённые“ — но у нас животные, и Землю потерять тоже нельзя. Так или иначе, эту идею названия пришлось по нескольким причинам отвергнуть. Но о трудностях перевода я заговорил не совсем вдруг. Эта цитата из Интернационала (она же название книги Фанона), относящаяся, конечно, к людям, а не к животным, хорошо описывает положение последних: животное — идеальный субалтерн. За отсутствием субъектности, животные помещены нами вне моральной сферы — и, несмотря на то, что, у них есть эмоции, — лишены нами какой-либо ценности, кроме ценности ресурса, неважно, материального или символического. Та часть мира, к которой многие из нас так или иначе принадлежат — назовем ее, например, совокупностью постхристианских обществ Запада, — так вот, эта часть мира тысячелетиями видит животное почти исключительно объектом. У животного нет сознания, поэтому жизнь его ему не принадлежит; животные созданы для человека и являются для него ресурсом.

Первородный грех при этом, как известно, совершил человек, впустив тем самым в мир зло и с ним — страдание. За страдание человека несет ответственность он сам: оно является следствием человеческого свободного выбора. Животные же страдают безвинно — точнее, в их страдании также виновен человек и он один — и не имеют возможности приблизить свое спасение, а вынуждены с надеждою ожидать», что человек освободит их „от рабства тлению“ (Рим. 8: 19-21).

Животное для человека — Другой, всюду сопровождающий его, вступающий с ним в общение и в отношения разного рода. Очень редко — в отношения вражды, редко — в отношения взаимной выгоды, иногда даже в отношения любви, но чаще всего — в отношения власти — в роли безмолвной жертвы. Этот Другой, испытывает эмоции, страдает и радуется, — но человек никогда не забывает о том, что животное ему — не ровня, и в иерархии существ оно всегда находится ниже самого последнего из людей. Этот чувствующий, но не понимающий Другой, лишен разума, но самое главное — он лишен языка. Идеальный субалтерн так надежно изолирован от речи, что нет ни смысла, ни даже возможности задаться вопросом о том, может ли он говорить.

Монополия на язык была до недавнего времени своего рода философским камнем, гарантирующим нашу способность с определенностью отличать человека от животных, — и не только от них. По ходу технологического развития все более заметной становилась необходимость отличения человека от совсем уже неодушевленных сущностей. Но Голем и азимовские роботы, будучи вымышленными, если у кого и вызывали беспокойство, то у философов и писателей. В реальности по-прежнему работал старый, как мир, критерий, позволивший нам когда-то выбросить за порог человеческого мира животных — потому что они не умели говорить. Просто понимать наши слова для этого недостаточно: чтобы уметь говорить, нужно осмысленно реагировать на наши реплики своими. Вести диалог, разговаривать. Никогда раньше, с начала времен, — с человеком никто Другой никогда не разговаривал. Или можно еще сказать, что человек на протяжении всей своей истории разговаривал только с самим собой.

А тут все изменилось, потому что мы отказались от монополии на язык — а точнее сказать, на речь. И теперь у нас есть нами же созданный технологический артефакт, который умеет разговаривать. Проблема в том, что мы совершенно точно знаем, что это не человек. До совсем недавнего момента речь всегда была для нас абсолютным, несомненным удостоверением принадлежности к человеческому роду. Этого Удостоверения Человека за подписью Природы с печатью Духа — его у нас больше нет (и вообще — нет). Твердая, как мы думали, земля под ногами вдруг сдвинулась, — и вот пошла трещина, и тут, а вон там еще одна, и еще — и вот мы уже плывем.

Это большое событие, и нас всех ждут большие перемены. Правда скорее всего, не те, о которых сейчас все говорят, — и не там, где мы ожидаем

*
Два слова о технических подробностях, предназначенные скорее для тех читателей, кто знаком с Midjourney, при помощи которого созданы эти изображения, — ну или с другими моделями.

Эти серии получены c использованием версий 5.2 и 6.0 и представляют собой результат многочисленных проб и ошибок с последующим отбором: вы видите примерно 1-1.5% от общего числа сгенерированных изображений. Процесс основан на сочетании и последующем варьировании, параллельном и последовательном, трех разновидностей входящих данных — а) текстовых и б) изобразительных промптов, а также в) параметров генерации Midjourney. В качестве изобразительных промптов использованы вернакуляры и профессиональные фотографии, находящиеся в общественном достоянии (Public domain). Общий подход, наверное, можно описать как не-телеологический: мне кажется, что самым интересным свойством Midjourney является то, как в нем работают разного типа случайности, — и возможность интуитивного управления соотношением между порядком (собственные 'предпочтениям' модели и 'линейные', простые параметры вроде aspect ratio) с хаосом (использование стохастического сэмплирования в процессе генерации)».