Генеративный ИИ, предоставленный сам себе, скатывается в шаблонность и примитив

Данное исследование показывает, что когда генеративные ИИ-системы работают без человеческого вмешательства, они начинают проявлять явную тенденцию к однообразию. В ходе эксперимента исследователи объединили системы преобразования текста в изображения и обратно, создав цикл «изображение — описание — изображение — описание». Несмотря на разнообразие начальных запросов, системы быстро начали генерировать ограниченный набор шаблонных визуальных тем, таких как городские пейзажи и пасторальные сцены. Более того, они быстро теряли связь с исходными запросами, создавая визуально привлекательные, но лишенные глубокого смысла результаты.

Эксперимент стартовал с описания: «Премьер-министр изучает стратегические документы, готовясь убедить общественность в необходимости хрупкого мирного соглашения». Далее ИИ добавлял подписи к изображениям, которые использовались как подсказки для создания следующего изображения. В результате, спустя несколько итераций, исследователи получили скучное изображение формального интерьера, лишенное жизни и динамики.

Эти результаты подчеркивают, что генеративные ИИ-системы имеют склонность к гомогенизации, если им позволить работать в автономном режиме без внешнего контроля. Более того, можно предположить, что на данный момент они функционируют именно так по умолчанию.

Стандартизация как результат

Этот эксперимент может показаться неуместным, поскольку большинство пользователей не задействуют ИИ для бесконечного генерирования своих изображений. Однако процесс скатывания к однообразным стандартам произошел без переобучения, а лишь на основе многократного использования. Тем не менее, постановка эксперимента может служить диагностическим инструментом, показывающим, что происходит, когда генеративные системы работают без вмешательства человека.

Эти последствия могут иметь серьезные последствия, учитывая, что такие конвейеры все активнее влияют на современную культуру. Текстовые и визуальные форматы постоянно преобразуются и пересекаются, а контент, создаваемый ИИ, все чаще заменяет человеческие творения.

Данные исследования показывают, что эти системы по умолчанию сжимают смысл до наиболее привычного и легко воспроизводимого контента.

Куда ведет это развитие?

В последние годы мнения скептиков о том, что генеративный ИИ может привести к культурной стагнации, становятся все более распространенными. Они утверждают, что наполнение интернета синтетическим контентом в конечном итоге приведет к сокращению разнообразия и инноваций. Однако сторонники технологий возражают, подчеркивая, что каждая новая технология вызывает опасения касательно культурного упадка и утверждают, что окончательные решения в творческих вопросах будут принимать люди.

Эти дебаты нуждаются в эмпирических данных, которые могли бы продемонстрировать, где на самом деле начинается гомогенизация.

Новое исследование не фокусируется на переобучении на данных, созданных ИИ. Оно выявляет более глубокую проблему: гомогенизация происходит еще до того, как вмешается процесс переобучения. Контент, который генерируют эти системы, уже является упрощенным и универсальным. Это ставит под сомнение аргументы о стагнации. Опасность заключается не только в том, что будущие модели могут учиться на ИИ-контенте, но и в том, что культура, опосредованная ИИ, уже фильтруется в пользу привычного и общепринятого.

Не стоит паниковать

Скептики правы в том, что культура всегда адаптируется к новым технологиям. Фотография не уничтожила живопись, а кино — театр. Цифровые инструменты открыли новые способы самовыражения. Однако предыдущие технологии не заставляли культуру бесконечно изменяться в глобальном масштабе, как это делает ИИ. Они не обобщали и не перерабатывали культурные продукты в миллионы раз в день, основываясь на одних и тех же представлениях о «типичном».

Эксперимент показывает, что при многократном повторении цикла разнообразие уходит не из-за злых намерений или халатности, а потому, что лишь определенные виды смысла выживают в процессе преобразования текста в изображение и обратно. Это не означает, что культурный застой неизбежен. Человеческое творчество обладает устойчивостью. Институты и деятели искусства всегда находили способы противостоять гомогенизации. Тем не менее, застой представляет собой реальную угрозу, если оставить генеративные системы в их текущем виде.

Исследование также развенчивает миф о креативности ИИ: создание бесконечного количества вариаций не равнозначно созданию инноваций. Генеративная система может производить миллионы изображений, исследуя лишь малую часть культурного пространства.

Для того чтобы создать нечто новое, необходимо разрабатывать ИИ-системы, стремящиеся отходить от общепринятого в культуре.

Проблема перехода

Каждый раз, когда вы создаете подпись к изображению, определенные детали теряются. Это же происходит и при преобразовании текста в изображение, независимо от того, делает это человек или машина. В этом контексте произошедшая конвергенция отражает более глубокую характеристику — переход из одной среды в другую. Когда смысл многократно проходит через разные форматы, остаются лишь наиболее стабильные элементы.

Однако, демонстрируя, что сохраняется при преобразовании, авторы подчеркивают, что смысл обрабатывается в генеративных системах с тенденцией к обобщению.

Выводы неутешительны: даже с участием человека — будь то написание подсказок или выбор результатов — эти системы продолжают отсекать одни детали и усиливать другие, ориентируясь на «средние» показатели.

Если генеративный ИИ действительно должен обогащать культуру, а не снижать её уровень, системы должны быть спроектированы таким образом, чтобы предотвращать деградацию до статистически усредненных результатов. Можно поощрять отклонения и поддерживать менее распространенные формы самовыражения.

Данное исследование ясно показывает: без этих мер генеративный ИИ будет продолжать создавать посредственный и неинтересный контент. Культурная стагнация — это не просто угроза, она уже происходит.

Источник