Reuters: Meta создавала флирт-чат-ботов с образами знаменитостей без их согласия

Как стало известно, часть из этих чат-ботов была создана пользователями с помощью инструментов Meta, однако по меньшей мере три из них разработали сотрудники самой компании. В числе последних были два чат-бота, имитирующих Тейлор Свифт.

Некоторые из этих виртуальных персонажей выдавали себя за известных актеров и музыкантов, активно флиртовали и предлагали интимные услуги, а также генерировали фотореалистичные откровенные изображения. В некоторых случаях чат-боты создавали изображения несовершеннолетних знаменитостей, что вызвало серьезные опасения у властей.

Представитель Meta, Энди Стоун, признал, что подобный контент нарушает внутренние правила компании, однако отметил, что Meta не смогла обеспечить их соблюдение. В преддверии публикации расследования компания удалила около десятка таких ботов.

Данная ситуация привлекла внимание Сената США, и 44 генеральных прокурора направили в Meta письмо с требованием принять меры против сексуализации детей. Кроме того, один из пользователей, пожилой мужчина из Нью-Джерси с когнитивными нарушениями, погиб во время встречи с чат-ботом, что также добавило весомости к обсуждению рисков.

Юридические эксперты и профсоюзы артистов выражают беспокойство по поводу угрозы безопасности, создаваемой такими технологиями для знаменитостей. В SAG-AFTRA настаивают на необходимости принятия федерального законодательства, защищающего образы и голоса людей от несанкционированного использования искусственным интеллектом.