ИИ написал книгу за репортера Би-би-си. Почему этого должны бояться писатели и музыканты

Это перевод материала корреспондента Би-би-си, оригинал на английском языке можно прочитать здесь.

Однажды на Рождество я получила неожиданный подарок от подруги: книгу, написанную, как утверждается, мной.

На обложке указаны мое имя и фотография, а также оригинальное название «Tech-Splaining for Dummies» [означает «Объяснение технологий для чайников» — Ред.]. Книга заявлена как бестселлер с положительными отзывами.

Однако, на самом деле, это произведение было полностью создано искусственным интеллектом, который использовал информацию, предоставленную моей подругой Джанет.

Чтение этой книги оказалось увлекательным и местами весьма комичным. Тем не менее, в ней также много пустых рассуждений, и её содержание можно охарактеризовать как нечто среднее между учебным пособием и сборником забавных рассказов.

Текст написан в непринужденном стиле, что напоминает мой собственный стиль. Однако в книге много повторений и она чрезмерно многословна. Искусственный интеллект, похоже, использовал не только советы Джанет для сбора информации обо мне.

Некоторые предложения начинаются словами «Как ведущий журналист по вопросам технологий» — это довольно странная фраза, вероятно, позаимствованная из моей биографии в интернете.

В книге также встречается странное упоминание о кошке, которая на самом деле не существует, поскольку у меня нет домашних животных. На почти каждой странице имеются различные метафоры, некоторые из которых достаточно странные.

В интернете существует несколько компаний, которые предлагают услуги по созданию книг с помощью искусственного интеллекта. Моя книга была разработана через сервис BookByAnyone.

Генеральный директор израильской компании Адир Машиах сообщил, что он уже продал около 150 тысяч таких персонализированных книг, в основном в США. Он начал этот бизнес в июне 2024 года, переключившись с написания путеводителей на основе ИИ.

Стоимость выпуска такого «бестселлера» в мягком переплете объемом 240 страниц составляет примерно 30 долларов.

Для создания «авторских книг» используется собственная языковая модель, основанная на открытых «больших языковых моделях» (LLM).

Я не призываю вас приобретать мою новую книгу. На самом деле, вы не сможете её купить, так как только Джанет может заказать новые экземпляры.

Кто угодно может создать книгу от имени любого человека, включая знаменитостей.

Тем не менее, Машиах подчеркивает, что в его компании действуют правила, направленные на предотвращение злоупотреблений и недобросовестного контента. В каждой книге имеется дисклеймер, который указывает, что произведение не соответствует действительности и было создано искусственным интеллектом с целью «приносить смех и радость» клиентам.

С юридической точки зрения, авторские права на такие книги принадлежат компании BookByAnyone, однако Машиах утверждает, что они создаются только как «подарки-розыгрыши» и не предназначены для массовых продаж.

В то же время, он надеется расширить ассортимент и добавлять книги в различных жанрах, таких как научная фантастика и автобиографии. Этот сервис задумывался как легкий способ применения искусственного интеллекта для создания сувениров.

Однако для тех, кто зарабатывает на жизнь написанием текстов, эта ситуация вызывает страх. И это не без оснований — для написания такой объемной книги, вероятно, потребовалась всего минута, и она действительно напоминает мои статьи.

Писатели, музыканты, художники и актеры по всему миру выражают опасения, что технологические компании могут использовать их работы для обучения моделей ИИ, которые потом станут создавать аналогичный контент.

«Важно понимать, что эти данные представляют собой произведения, над которыми люди работали долгие годы», — говорит Эд Ньютон Рекс, основатель Fairly Trained, организации, борющейся за права создателей контента в обучении ИИ.

«Это книги, статьи, фотографии, произведения искусства и музыкальные записи. Суть обучения ИИ заключается в том, чтобы понять, как создается тот или иной продукт, а затем создать что-то подобное».

В 2023 году в интернете «завирусилась» песня, созданная ИИ, с голосами канадских исполнителей Дрейка и The Weekend.

После этого стриминговые сервисы удалили её, так как исполнители не давали разрешения на использование своих голосов. Тем не менее, создатели попытались выдвинуть её на премию Grammy. Несмотря на то что трек был фейковым, он оставался крайне популярным.

«Я не предлагаю запретить использование генеративного ИИ для создания произведений искусства. Но я считаю, что нужно запретить ИИ, который обучается на работах людей без их согласия», — отмечает Эд Ньютон Рекс. — «ИИ может стать мощным инструментом, но давайте использовать его честно и с соблюдением этических норм».

Некоторые организации в Великобритании, включая Би-би-си, запрещают компаниям ИИ использовать их контент для обучения. Другие, например Financial Times, заключили партнерство с OpenAI, создателем ChatGPT.

Британское правительство обсуждает возможность изменения законодательства, позволяющего компаниям ИИ использовать размещенные в интернете произведения для обучения без согласия правообладателей, если только они не попросят об обратном.

Эд Ньютон Рекс называет это предложение «абсурдным».

Он утверждает, что ИИ может быть полезен в таких областях, как оборона, здравоохранение и логистика, где не требуется опираться на творчество писателей и художников.

«Для успешной работы этих технологий не нужно менять законы об авторских правах, отнимая доход у креативного сектора», — настаивает он.

Член британской Палаты лордов баронесса Кидрон также против отмены авторских прав для ИИ. «Креативная индустрия приносит благосостояние, в ней работает 2,4 миллиона человек и она приносит радость людям», — говорит Кидрон, которая является советником Института этики ИИ в Оксфорде.

«Правительство подрывает одну из самых успешных отраслей под предлогом неопределенности в будущем», — добавляет она.

Тем временем британское правительство заявляет, что не собирается предпринимать никаких шагов, пока не будет разработан четкий план, обеспечивающий контроль правообладателей над использованием их интеллектуальной собственности.

В США новые правила по использованию ИИ теперь будут определяться администрацией президента Дональда Трампа.

В 2023 году тогдашний президент Джо Байден подписал указ, направленный на повышение безопасности работы ИИ, требующий от технологических компаний демонстрировать свои системы ИИ властям перед выходом на рынок.

Однако вскоре после инаугурации Трамп отменил этот указ, и его политика в этой области пока неясна, хотя в прошлом он высказывался за более щадящее регулирование сектора ИИ.

Тем временем в США рассматриваются несколько исков против компаний, разрабатывающих модели ИИ, в частности, против OpenAI. Иски подали различные организации, включая газету New York Times, писателей, музыкальные компании и даже одного комика. Они утверждают, что компании ИИ нарушили закон, использовав их произведения для обучения своих моделей без разрешения.

Компании ИИ, в свою очередь, утверждают, что использовали произведения в рамках «добросовестного использования», что делает правила копирайта неприменимыми в данном случае. Однако этот принцип может быть истолкован по-разному, и споры о том, должны ли технологические компании платить за использование контента для обучения своих моделей, продолжаются.

Если кто-то думает, что это не дает поводов для размышлений, за последнюю неделю в сфере ИИ произошло еще одно значительное событие: на рынок вышла китайская компания DeepSeek, приложение которой стало самым скачиваемым в американском магазине приложений Apple.

DeepSeek утверждает, что разработка этой модели обошлась значительно дешевле, чем у аналогов, таких как ChatGPT. На Западе начали беспокоиться о том, что это приложение может быть небезопасным и может угрожать американскому доминированию в сфере ИИ.

Если вернуться к моей карьере журналиста, кажется, что если я действительно захочу выпустить «бестселлер», мне придется делать это самостоятельно. «Объяснение технологий для чайников» хорошо иллюстрирует, что современные технологии генеративного ИИ не справляются с более серьезными проектами. В книге много неточностей и «галлюцинаций», а читать её местами трудно из-за избыточности текста.

Тем не менее, технологии развиваются стремительно. Поэтому мне трудно предсказать, насколько долго моя уверенность в преимуществах моих, несравненно более медленных, навыков написания и редактирования текстов будет оставаться актуальной.