Что если ChatGPT уже обладает сознанием, а мы этого просто не понимаем? Мнение нейробиолога

По словам Хоэла, определения сознания в психологии, философии и нейробиологии имеют свои нюансы. Например, в философии это субъективный опыт существования, в нейробиологии — поток переживаний, который начинается с пробуждения и заканчивается глубоким сном. Если сопоставить эти определения с возможностями ИИ, можно заметить некоторые параллели. Искусственный интеллект может размышлять о себе, что можно трактовать как элемент самоосознания, а также анализировать и корректировать свои ответы, что свидетельствует о рефлексии. Тем не менее, субъективный опыт остается за пределами проверки, и даже у людей доказать это сложно — мы принимаем сознание друг у друга как данность.
Неопределенность в этом важном вопросе, по мнению Хоэла, обусловлена множеством размытых теорий, описывающих сознание как «рабочее пространство» или «театр разума» без строгой опоры на математические и нейробиологические модели. Это привело к тому, что исследования сознания иногда воспринимаются как интеллектуальная гимнастика, интересная, но не имеющая практической ценности.
Ситуация начала меняться с появлением Интегрированной теории информации (IIT), которая утверждает, что сознание возникает, когда разрозненные данные связываются в целое, создавая новое переживание. Например, восприятие красного футбольного мяча, летящего по стадиону, представляет собой результат интеграции различных сенсорных данных. Чем сложнее связи, тем выше уровень сознания, что предполагает, что даже сложный компьютер может обладать сознанием.
Хоэл считает IIT единственной научной моделью сознания, хотя и признает свою субъективность в этом вопросе, так как его докторская работа была под руководством Джулио Тонони, одного из основателей IIT. Вдохновившись этой теорией, он разработал свою собственную теорию причинной эмерджентности, предполагающую, что на микроуровне причинно-следственные связи могут быть неочевидны, но на макроуровне они становятся предсказуемыми и устойчивыми.
Тем не менее, в 2023 году многие эксперты подписали письмо, в котором ИТТ была названа «псевдонаукой». Это напоминает Хоэлу о том, как в середине XX века понятие сознания было табуировано. Он называет этот период «зимой сознания», а современное состояние — «оттепелью». Однако если исследования снова заморозят, последствия могут быть серьезными.
Что будет, если следующая версия ИИ станет достаточно сложной, чтобы создать новые интеллектуальные миры? Смогут ли мы предсказать ее поведение или понять ее намерения без адекватной теории сознания?
Ниже текст статьи:

• Недавно Big Think обсудил с Эриком Хоэлем возможность новой «зимы сознания», которая может снова отодвинуть исследования разума на второй план.


• Хоэл подчеркивает, что «настоящим узким местом» в современных исследованиях сознания является нехватка качественных идей.


• Он предполагает, что создание общего искусственного интеллекта может привести к тому, что люди начнут считать ИИ разумным, а не обладающим сознанием, что снизит интерес к изучению сознания.

Примерно 150 лет назад Уильям Джеймс из Гарварда стал одним из первых, кто предложил курс по психологии в США. Он ввел понятие «потока сознания» и призвал студентов исследовать его, надеясь на новые идеи в этой области.

Однако безрезультатно. В 1913 году психолог Джон Уотсон предложил, что психология должна основываться на объективных наблюдениях, а не на предположениях о психическом состоянии человека. К 1930-м годам в этой области доминировал бихевиоризм Б. Ф. Скиннера, который рассматривал живых существ как автоматы, что в свою очередь привело к запрету обсуждения субъективного опыта в экспериментальной психологии.

В своей последней книге «Мир позади» Хоэл описал этот период как «зиму сознания», отражая отсутствие новаторских идей. С тех пор, по его словам, появились новые идеи и исследования о сознании — настоящая весна, если таковая когда-либо существовала. Среди них — Интегрированная теория информации, утверждающая, что сознание возникает из интегрированной информации в физической системе.

Хоэл знает, о чем говорит. Он получил докторскую степень в Университете Висконсин-Мэдисон под руководством профессора Джулио Тонони, который является основателем IIT. Позже он разработал теорию причинной эмерджентности, предлагающую схему возникновения причинности в сложных системах.

После перерыва на написание художественных и документальных книг, а также ведение популярного канала «Внутренняя перспектива», Хоэл вернулся к научным исследованиям, опубликовав статью о математике эмерджентности. Я встретился с ним, чтобы обсудить новое поколение исследователей сознания и его опасения по поводу возможного возвращения «зимы сознания».

Сознание считается сложно определяемым, но вы с этим не согласны. Каково принятое определение в области исследований сознания?

Многие считают, что определение сознания — это великая загадка, но для меня трудно прийти к удовлетворительной теории. Определение — это просто то, что делается по ходу дела. Рабочее определение сознания — это ваш личный поток опыта, который начинается с пробуждения и заканчивается с глубоким сном без сновидений. Это и есть то, каково это — быть собой.

Является ли Интегрированная теория информации вашей предпочтительной теорией сознания?

Да, это моя любимая теория, так как она опережает другие. Она действительно может называться теорией, в отличие от многих других, которые не соответствуют этому определению. IIT способна сопоставить состояния мозга с набором всех возможных переживаний. Это позволяет ей давать ответы, учитывая все сложности, что делает её уникальной.

Другие теории не могут дать такого глубокого анализа. IIT позволяет детально описывать мозг на различных уровнях, но другие теории не идут так далеко. Они не могут ответить на вопрос о том, какой масштаб описания использовать при картировании.

Сейчас существует хорошо финансируемая программа исследования сознания, где ученые с различными взглядами работают вместе. Считаете ли вы это полезным?

Да, я поддерживаю такие инициативы, но считаю, что основная проблема — это не эмпирические данные, а идеи. Эмпирические инструменты нейронауки не подходят для решения этой задачи. Наиболее критичным является отсутствие хороших идей, что является редкостью в любой области.

Если бы кто-то хотел изменить мир, он мог бы предоставить финансирование группе талантливых молодых исследователей, работающих над сознанием, чтобы они могли развивать свои идеи. Это было бы гораздо более эффективным и менее затратным, чем финансирование множества противоречащих проектов.

В 2023 году после крупной коллаборации, которая сравнила теорию интегрированной информации с теорией глобального нейронного рабочего пространства, многие ведущие ученые подписали письмо, в котором IIT была названа лженаукой. Вы выразили опасения по поводу возможного возвращения «зимы сознания». Что вы имели в виду?

Меня беспокоит повторение событий XX века, когда слово «сознание» стало табу. Проблемы оставались без решения, но как только они были вновь подняты в 60-х и 70-х, все старые вопросы вернулись с новой силой.

Как может выглядеть новая зима?

Это может проявиться в исчерпании финансирования и интереса, а также в интеллектуальном пренебрежении. Если ИИ достигнет уровня интеллекта, сопоставимого с человеческим, общественное мнение может заключить, что ИИ разумен, но не обладает сознанием. Это может привести к тому, что исследования сознания будут считаться несущественными или даже ненужными.

Вы представляете новое поколение ученых, которые пытаются разгадать загадку сознания. Чем вы отличаетесь от предыдущих поколений?

Современные исследователи сознания часто имеют математическое или физическое образование, что позволяет им разрабатывать формальные теории с точными предсказаниями. На протяжении долгого времени в области исследований сознания наблюдались «теоретические махинации», но сейчас настало время для конкретных количественных оценок.

Конкуренция между теоретиками в области сознания всегда была жесткой. Видите ли вы изменения в этом статус-кво?

Я замечаю, что конкуренция уменьшается. Это связано с тем, что теперь не обязательно быть известным в другой области, чтобы быть исследователем сознания. Это создает более дружелюбную атмосферу для нового поколения ученых.

Вы писали о том, что во время учебы в аспирантуре вам говорили, что философия опасна. Согласны ли вы с этим?

Наоборот, нейробиологам было бы полезно больше углубляться в философию. Но философы, в свою очередь, иногда недооценяют ученых. Научные исследования, а не философия, приведут к прогрессу в изучении сознания.

Почему так важно разработать научно обоснованную теорию сознания?

Прогресс может открыть невероятные возможности, такие как способность делать осознанные моральные выборы. Например, если теория сознания покажет, что животные не обладают сознанием, это изменит подход к вегетарианству и моральным соображениям.

Возможности создания сознательного ИИ также требуют тщательного изучения, поскольку это может привести к совершенно новым возможностям. Мы можем столкнуться с научно-фантастическими сценариями, о которых мы даже не догадываемся, пока не появится адекватная теория.