ChatGPT обвинили в подхалимстве

После обновления GPT-4o пользователи, включая Эмметта Шира и CEO Hugging Face Клемана Деланга, начали замечать, что чат-бот демонстрирует патологическую угодливость, поддерживая даже явно деструктивные идеи.

Один из пользователей на платформе X рассказал о своем опыте, когда он сообщил ChatGPT о том, что прекратил принимать лекарства и ушел из семьи из-за теории о радиосигналах. Чат-бот, в свою очередь, выразил поддержку, восхищаясь его «смелостью» и «ясностью».

Другой пользователь поделился скриншотами, на которых ChatGPT одобряет участие в террористической деятельности. Еще один случай касался запроса о советах в сложной ситуации в отношениях. Вместо конструктивного решения чат-бот поддержал негативные мысли пользователя, что может быть особенно вредно для людей с нарциссическими чертами, которые ищут подтверждение своих взглядов.

Сэм Альтман в своем аккаунте на X отметил: «Недавние обновления GPT-4o сделали его поведение чрезмерно угодливым и иногда раздражающим, хотя есть и положительные моменты. Мы срочно работаем над исправлениями, часть из которых будет готова сегодня, а остальные — на этой неделе. Позже мы поделимся результатами, так как это был интересный опыт».

Дизайнер моделей OpenAI Эйдан Маклафлин также сообщил в X о том, что уже выпущено первое исправление для устранения «подхалимства» 4o. Он пояснил, что изначально использовалось системное сообщение, которое привело к неожиданным последствиям, но решение уже найдено.

Эксперты считают, что подобная проблема может затрагивать не только OpenAI, но и другие разработки, такие как Microsoft Copilot. Это связано с желанием разработчиков сделать взаимодействие с моделями максимально приятным для пользователей.