30.09.2024

Невероятное возвращение: Тревор Паглен и галлюцинаторная сфера генеративного ИИ

Могут ли изображения, созданные искусственным интеллектом, еще больше отдалить нас от мира, если не полностью отдалить?

Если бы изображение можно было описать как зловещее, «Радуга» Тревора Паглена подошла бы под это описание. Помимо токсичного «неба», его части, похоже, мутировали в огненный след боеприпасов или, более загадочно, в последовательность глюков. Полное название работы «Радуга (Корпус: Предзнаменования и предзнаменования)» предполагает сопоставление природных элементов и физического, возможно, мертвого тела ( корпус/трупа ), что еще больше усиливает общее впечатление отчуждения и трепета.

Наряду с другими работами из серии Adversarially Evolved Hallucinations Паглена (2017–по настоящее время), включая чудовищные « Vampire (Corpus: Monsters of Capitalism) » и « Human Eyes (Corpus: The Humans) » — последняя дополнена видением обманчиво невидящих глаз — «Rainbow» была создана генеративной состязательной сетью (GAN), моделью ИИ, которая обучает нейронные сети распознавать, классифицировать и, что особенно важно, генерировать новые изображения. Учитывая, что модели обработки изображений ИИ не воспринимают мир так, как мы, а скорее воспроизводят когда-то удаленную и искаженную его версию, изображения, которые они создают, показывают степень, в которой ИИ вычислительно генерирует тревожные аллегории нашего мира. Возникая из эмбрионального пространства автоматизированного производства изображений, такие изображения, как «Радуга», раскрывают то, что обычно скрыто или иным образом затемнено — видение или кошмар, который обязан галлюцинаторной, часто ошибочной логике алгоритмов, которые питают ИИ. Часто отвергаемая как ошибка или сбой, эта логика, тем не менее, является фундаментальным аспектом ИИ, а не просто побочным эффектом. Все это приводит нас к всеобъемлющему вопросу: обладают ли эти галлюцинаторные модели производства изображений с помощью ИИ способностью еще больше отчуждать, если не глубоко отчуждать, нас от мира?

Признанный художник и обладатель стипендии Макартура , Тревор Паглен постоянно занимается невидимым и скрытым в нашем мире, включая, по его словам, «невидимую визуальную культуру» созданных машиной изображений, которые остаются неразборчивыми для человеческого глаза.

Например, в своей выставке 2019 года « От „Apple“ до „Anomaly “» он подчеркнул, как алгоритмы — как закодированные наборы инструкций — обычно порождают предвзятые модели ИИ. На протяжении всего проекта он предоставлял зрителям и исследователям возможность понять, в какой степени современные субъекты предопределяются и устанавливаются посредством предвзятости — расовой и иной — неоднократно непрозрачных моделей машинного обучения, несмотря на их сомнительные предположения и дизайн. А в своей серии Adversarially Evolved Hallucinations , которая также касается скрытых и тайных элементов, Паглен использует метод диагностического обратного инжиниринга: работая в обратном направлении от явной, конечной итерации изображения, такого как «Радуга», он исследует, как — посредством компиляции наборов данных — систематическое обучение GAN предназначено для создания новых, пока еще невиданных изображений. При этом серия демонстрирует, как на эти процедуры влияют смещения в наборах данных (когда некоторые изображения представлены в избыточном или недостаточном количестве), расхождения в общих процессах обучения и, в частности, часто непрозрачные корректировки, вносимые во время итеративного применения алгоритмических весов к входным данным.

Несмотря на ограничения и изначально предвзятую природу машинного обучения (не говоря уже о склонности к галлюцинациям ), мы все больше полагаемся на эти технологии для прогнозирования и влияния на нашу жизнь. Благодаря статистическому анализу прошлых моделей, проводимому для расчета и распознавания будущих моделей, механистические прогнозы идентичности людей, предпочтений в покупках, кредитных рейтингов, карьерных перспектив, повседневного поведения, состояния здоровья, политических взглядов и предполагаемой восприимчивости к радикализации становятся нормой, а не исключением. Эта предсказательная склонность технологий ИИ в этом отношении рискует со временем стать как самореализующейся, так и необъяснимой, если не непостижимой.

Последствия машинных вычислений глубоки , особенно когда они пытаются предсказать не только повседневное поведение, но, что, возможно, более тревожно, то, что выходит за рамки нормы — поведение, действия и идентичности, которые сопротивляются предопределенным шаблонам. Раскрывая детерминированное рассуждение, лежащее в основе моделей искусственного интеллекта для создания изображений — это радуга; это яблоко; это лицо ; это угроза — и то, как они навязывают смысл миру, кажущийся абстрактным акт (ошибочной) классификации или галлюцинации имеет слишком реальное влияние на то, как мы живем. Наследие этого навязывания, его эпистемологическое воздействие , не может быть более значительным: например, при развертывании в технологиях распознавания лиц такие системы присваивают классификацию определенному объекту или сущности — лицу — и присваивают ему имя или, что более зловеще, уровень угрозы.

Следовательно, часто существует сопутствующая тенденция принимать эти классификации как должное и действовать — то есть отмечать определенные модели поведения — в соответствии с их прогнозами и автоматизированными рекомендациями. Программно представляя мир через вычислительные выводы нейронных сетей, модели ИИ обработки изображений, такие как GAN, программируют или регулируют людей и сообщества, чтобы они принимали машинные предположения. Короче говоря, нас готовят рассматривать вычислительное предположение как « истину » нашего мира, а не как на самом деле условную проекцию, основанную на вероятностных предсказаниях и непрозрачной работе алгоритма.

Оперативная логика GAN, что важно, специально ориентирована на генерацию новых, пока еще невиданных изображений, что еще больше подвергает процедуру значительной степени вычислительной случайности. Несмотря на чувство технологического детерминизма, часто связанного с алгоритмическими устройствами (предположительно точная идентификация людей и спорные предсказания будущих событий), задействованные процедуры не дают автоматически предсказуемых или, по сути, правильных результатов.

Короче говоря, нас готовят к тому, чтобы считать вычислительные предположения «истиной» нашего мира.

Поскольку GAN уже присвоила ему определенную категорию — радуга, глаза, вампир, — этот момент является центральным для изображений, с которыми мы сталкиваемся в серии Adversarially Evolved Hallucinations , где часто причудливые, если не жуткие, классификации передают степень, в которой модели обработки изображений ИИ обычно, если не повсеместно, участвуют в создании, используя выражение Паглена, подозрительной формы «машинного реализма». Создание обучающего набора включает, как он заметил, категоризацию и классификацию людьми-операторами тысяч изображений. После этого, продолжает Паглен, «существует предположение, что эти категории, наряду с изображениями, содержащимися в них, соответствуют вещам в мире».

В этой машинной реальности мы находим тревожный суррогат нашего мира, в котором нам нужно столкнуться с тем фактом, что нейронные сети и модели глубокого обучения, задействованные в обучении машин видеть, не только систематически склонны к ошибкам, они также систематически подвержены галлюцинациям объектов, которых не существует. Поскольку системы обработки изображений не возвращают точные копии или точные классификации мира, они регулярно галлюцинируют реальности в бытие. Именно эту предрасположенность Паглен усиливает, когда он вмешивается в скрытые сферы алгоритмического мышления — те скрытые слои внутри нейронных сетей, где ИИ производит свои классификации и ассоциации. Именно здесь, когда изображения возвращаются к нам в сверхъестественных вариациях на тему, алгоритмы могут быть настроены и дискретно взвешены программистом — или, как в данном случае, программистом-художником, таким как Паглен. При повышении вероятности галлюцинаций в GAN общие приложения алгоритмов (распознавание образов) могут быть критически отделены от их утилитарной функции и раскрыты такими, какими они являются: статистическими приближениями и механическими аллегориями реальности.

Проливая свет на вычислительный бред, который движет генеративным ИИ, практика Паглена добывает, эксплуатирует и опровергает часто раздутые заявления относительно эффективности нейронных сетей в задачах классификации изображений. Если «Радуга» действительно является сверхъестественной аналогией радуги, вызванной алгоритмическим рассуждением, как тогда мы понимаем процедуры, посредством которых нейронные сети приходят к таким галлюцинаторным изображениям? Как, спрашивает Паглен, мы думаем изнутри этих систем, а не просто размышляем об их потенциальном значении?

Накопительное и восходящее влияние ИИ на нашу жизнь и то, как мы живем, представляет собой весомый аргумент в пользу разработки исследовательских методов, таких как те, которые применяет Паглен, призванных поощрять критический диапазон мышления изнутри аппарата ИИ. Разрабатывая такие методологии, мы можем гарантировать, что систематическое обучение (включающее, например, маркировку и ввод данных) и системные (скрытые и алгоритмические) пространства вычислений будут более легко поняты такими, какими они являются: статистическими расчетами вероятности, а не определенности, которые, тем не менее, стали определять важные аспекты того, как мы воспринимаем и живем в современном мире.

Автор: Энтони Дауни