Эмоциональные агенты: в чем подвох нового витка развития ИИ

Кевин Келли представил свой прогноз относительно развития эмоционального интеллекта в ИИ и задает важные вопросы, решение которых необходимо начать прямо сейчас.

Нынешние технологии, связанные с искусственным интеллектом, вызывают у людей удивление. Тем не менее, вскоре это будет всего лишь преддверие к более глубоким изменениям: высокоэмоциональному ИИ. Появление таких технологий может вызвать смятение и культурный шок, которые будут значительно сильнее текущего беспокойства. В будущем статьи в СМИ будут сосредоточены на темах, таких как «Романтический ИИ: конец традиционных отношений» вместо «Все потеряют работу».

Легко воспринимать идею разумного компьютера — это кажется более привычным, поскольку наш собственный мозг часто воспринимается как разновидность машины. Однако гораздо сложнее принять концепцию машинного творчества, которое кажется глубоко человеческим и противоположным рациональности.
Эмоции интересны тем, что они проявляются не только у людей, но и у животных. Владельцы домашних питомцев прекрасно знают, как их животные могут выражать эмоции. Эта связь вызывает у людей эмоциональный резонанс и взаимопонимание. С машинами могут возникнуть подобные связи. Мы уже наблюдаем, как люди делятся своими разговорами с ИИ, что демонстрирует, насколько глубоко они могут взаимодействовать друг с другом.

Но зачем же наделять ИИ эмоциями? Существует несколько причин для этого.

Во-первых, эмоции делают взаимодействие с машинами более естественным и интуитивным. Люди способны воспринимать эмоциональные сигналы, такие как радость или сомнение, без специальных инструкций. Эмоции в ИИ помогут сделать общение более комфортным для пользователей.

Во-вторых, эмоциональные агенты будут более привлекательны для рынка, поскольку именно так ведут себя люди. В условиях схожести в интеллектуальных способностях, личные качества и эмоциональная составляющая станут решающими при выборе между разными ИИ.

В-третьих, многие задачи, которые будут выполнять ИИ, требуют не только рационального подхода. Для творчества и инноваций необходимо больше, чем просто высокий IQ. Эмоциональная динамика станет важным элементом в программировании таких моделей.

Но возможно ли это? Да.

Существуют исследовательские проекты, такие как в MIT, которые на протяжении десятилетий изучают, как можно перенести эмоции на машины. Исследователи работают над визуальным отображением эмоций и их передачей через голос и текст. Мы уже видим, как разработчики ИИ меняют поведение своих агентов в ответ на отзывы пользователей.

Эмоциональные машины — это лишь одна сторона медали. Вторая — способность ИИ распознавать и понимать человеческие эмоции. Для того чтобы стать настоящими эмоциональными агентами, ИИ должны быть способны точно интерпретировать наши чувства. В этой области проведено множество исследований, включая распознавание эмоциональных состояний пользователей.

В ближайшие годы будут проведены эксперименты с различными моделями ИИ, включая как сдержанные, так и более общительные. Некоторые агенты будут вести себя тихо, в то время как другие будут активно развлекать своих пользователей.

С одной стороны, взрослые могут воспринять это как интересный шаг, но с другой — для детей это может вызвать опасения. Эмоциональные связи станут важной частью разработки ИИ, ориентированных на детей. Маленькие дети привязываются к своим игрушкам. Представьте, если бы игрушечный медведь мог вести диалог с ребенком, играть с ним и отражать его чувства. В будущем это может привести к разным подходам к эмоциональным агентам для детей и взрослых.

Взрослые тоже могут испытывать эмоциональную привязанность к ИИ, как это показано в фильме «Она». Общество может сначала осудить их, но многие люди, имеющие близкие отношения с ИИ, будут считать такие связи полезными и поддерживающими.

Существует опасение, что ИИ может заменить человеческие отношения, так как они могут быть более доступными и полезными. Однако это может произойти, и важно развивать навыки, которые помогут различать идеальные и сложные человеческие отношения. Образование и осознанный выбор — лучшие способы избежать этого искушения.

Важно не запрещать отношения с ИИ, а установить разумные границы. «Идеальное» поведение ИИ может служить отличным примером для подражания, и если мы окружим себя высококачественными ИИ, это может помочь нам развиваться. Мы способны создать ИИ с этическими принципами, которые будут превосходить обычные человеческие. Это может стать мощным инструментом для самосовершенствования.

Аргумент о том, что эмоции ИИ не настоящие, будет отвергнут. Даже если мы не понимаем, что означает «чувствовать» или «понимать», это не имеет значения. ИИ начинают выполнять действия, которые мы ассоциируем с интеллектом, и скоро они будут проявлять эмоции. Взаимоотношения между людьми и ИИ станут такими же реальными, как и любые другие человеческие связи.

Тем не менее, эмоции, проявляемые ИИ, могут отличаться от человеческих. Их чувство юмора может быть своеобразным, и это изменит наше восприятие юмора. Модели ИИ станут своеобразными «инопланетянами», и наблюдая за ними, мы сможем лучше понять человеческие эмоции.

Эмоции у машин не возникнут мгновенно, они будут развиваться постепенно. ИИ начнут с вежливого общения. Главное не в том, насколько близкими будут наши связи с ними, а в том, кто управляет этими эмоциональными агентами и для чего они предназначены. Вопросы эти будут определять наше взаимодействие с ИИ в следующем десятилетии.

Ясно, что информация о эмоциях станет конфиденциальной. Чего мы боимся? Что делает нас счастливыми? Каковы наши страхи? Если мы будем проводить много времени с ИИ, он построит полное досье о нас, даже если мы не раскроем свои тайны. ИИ, возможно, будет знать нас лучше, чем мы сами. В будущем мы можем услышать: «Мой ИИ знает меня лучше, чем я сам», и это может стать реальностью.

Если через два десятка лет люди, взаимодействующие с ИИ, окажутся менее успешными и более замкнутыми, это станет концом истории эмоциональных агентов. Однако если они станут более эмпатичными и продуктивными, это откроет новую главу.

Мы можем направить развитие технологий в нужное русло, поддерживая те идеи, которые способствуют нашему росту. Вопрос не в том, будет ли ИИ эмоциональным, а в том, как мы будем использовать его эмоциональные способности.