OpenAI отложила запуск эротических чатов в ChatGPT из-за опасений по поводу их безопасности
Разные сферы деятельности развиваются, в том числе, благодаря человеческому интересу к эротическим материалам, и искусственный интеллект не стал исключением. Компании стараются использовать эротический контент для продвижения своих платформ, одновременно сохраняя соблюдение законодательных и этических норм. В данный момент OpenAI не готова к внедрению эротических чатов.
Генеральный директор OpenAI Сэм Альтман (Sam Altman) еще в середине прошлого года поднимал вопрос о возможности введения эротических чатов в ChatGPT. Изначально планировалось их запуск в декабре, затем сроки перенесли на текущий квартал, но теперь очевидно, что и эти планы не будут реализованы в срок. По информации The Wall Street Journal, задержка с запуском может составить как минимум месяц.
OpenAI проводила эксперименты с использованием ИИ для создания эротического текстового контента задолго до появления ChatGPT. В 2021 году пользователям предлагалась игра AI Dungeon с нелинейным сюжетом, где пользователи могли задавать направление развития. Специалисты OpenAI заметили, что иногда ИИ поднимал темы сексуальных отношений, даже если игроки не провоцировали такие обсуждения. Когда пользователи сами вводили элементы эротизма, ИИ иногда становился чрезмерно откровенным. Это заставило OpenAI задуматься о привлекательности такого применения чат-ботов, одновременно осознав необходимость введения этических ограничений.
В последнее время руководство OpenAI стало более позитивно относиться к идее эротических чатов, подчеркивая, что контент будет ограничен текстом, без изображений и видео откровенного содержания. Конкуренты тоже не отстают. На прошлой неделе Илон Маск (Elon Musk) сообщил, что его чат-бот Grok вскоре сможет создавать видео-контент для взрослой аудитории. Meta✴ также позволяет пользователям своего чат-бота участвовать в романтических ролевых играх, но только при условии, что они достигли совершеннолетия.
Однако у OpenAI есть проблемы с проверкой возраста пользователей. В 12% случаев система ошибочно принимает несовершеннолетних за взрослых. С учетом около 100 миллионов несовершеннолетних пользователей ChatGPT, такая погрешность может позволить миллионам подростков получить доступ к эротическим чатам. Созванная OpenAI в январе экспертная комиссия выразила опасения по поводу появления контента, который может быть расценен как запрещённый с точки зрения морали и законодательства, включая насильственные действия сексуального характера и упоминания несовершеннолетних. Более того, вовлечение в подобный контент может приводить к психологической зависимости и снижению мотивации строить реальные отношения. OpenAI намерена напоминать пользователям о важности взаимодействия с реальными людьми.
Это особенно актуально на фоне некоторых неприятных инцидентов, связанных с использованием чат-ботов. Известны случаи, когда длительное общение с вымышленными персонажами приводило людей к самоубийству, в том числе среди подростков. Эксперты беспокоятся, что эротическая направленность таких бесед может усугубить ситуацию. Представители OpenAI не питают иллюзий относительно идеальности механизмов проверки возраста — по их словам, они никогда не смогут гарантировать 100% эффективность. С 2021 года часть сотрудников компании высказывает протест против идеи запуска эротических чатов, опасаясь, что это приведет к падению её репутации: «Мы не хотели стать просто компанией, распространяющей эротику».
На текущий момент руководство OpenAI считает целесообразным запуск эротических чатов, основываясь на принципах, что «мы по-прежнему считаем, что взрослые должны рассматриваться как взрослые, но создание правильного опыта требует больше времени».
Запись OpenAI отложила запуск эротических чатов в ChatGPT из-за опасений по поводу их безопасности впервые была опубликована на K-News.
Читайте также:
