Китайская комната. Эксперимент, опровергающий существование искусственного разума

Сёрл создал гипотезу, в которой не владеющий китайским языком человек оказывается запертым в комнате, заваленной иероглифами. Внутри у него есть книга с инструкциями. Люди снаружи передают ему иероглифы, которые он не может понять, но, следуя инструкциям, он выдаёт иероглифы в ответ на поставленные вопросы. Это создает иллюзию того, что внутри находится человек, который понимает китайский язык.

Эксперимент демонстрирует, что современные компьютеры могут создавать видимость интеллекта, но не обладают истинным пониманием. Они просто следуют заданным алгоритмам, что приводит к иллюзии осмысленного взаимодействия.

Интеллект включает в себя способность к осмыслению и управлению этим осмыслением на основе памяти, мышления, воображения и восприятия.

Научное сообщество пришло к трем ключевым выводам:

• 
  Компьютеры способны лишь следовать синтаксическим правилам, не понимая смыслов и семантики, что не позволяет им делать осмысленные выводы.
  


• 
  Человеческий разум не может быть упрощен до уровня вычислительной машины или системы обработки информации, так как он формируется биологическими процессами.
  


• 
  Формальные вычисления с символами не способны порождать мысль.
  

Эти выводы были сделаны на протяжении многих лет, однако основа была заложена мысленным экспериментом Сёрла. До него существовал аналогичный эксперимент, предложенный советским писателем Анатолием Мицкевичем, в котором группа студентов, действуя как один компьютер, выполняла двоичные вычисления, передавая результаты друг другу. В итоге они смогли перевести фразу с португальского на русский, но, опять же, не осмысляя свои действия.

Мы доказали, что даже наиболее сложная имитация машинного мышления не является настоящим процессом мышления, который представляет собой высшую форму жизни. А.Мицкевич

Таким образом, можно утверждать, что семантика не может быть выведена из синтаксиса. Смысл и образ осознаются лишь живым разумом.


Можно возразить, что с тех пор, как был проведён эксперимент, технологии значительно продвинулись вперёд и концепция китайской комнаты устарела. Однако разработчики языковых моделей для нейросетей подчеркивают, что искусственный интеллект обладает функциональным, но не осознанным пониманием, и между имитацией понимания и реальным пониманием существует значительная разница.

Например, если задать вопрос ChatGPT о его принципах работы и способности к пониманию, ответ будет таков:

ChatGPT опирается на статистические вероятности и алгоритмы нейросетей, но не формирует намерений, убеждений или личного понимания. Он не способен к осмыслению или рефлексии, а лишь предсказывает вероятные последовательности текста.

Работает с формальными структурами, а не с их значениями.

ChatGPT предсказывает наиболее вероятные последовательности слов на основе статистики, а не на глубоком понимании концепций.

Он не может осмысливать реальный мир и субъективные смыслы, как это делает человек.

Модель не обладает самосознанием и рефлексией.

У ChatGPT отсутствуют внутренние диалоги, эмоции или намерения.

Он не задает вопросов о своем существовании или значении генерируемой информации.

Нет опыта и восприятия реальности.

Несмотря на отсутствие подлинного понимания, ChatGPT успешно генерирует осмысленный текст, потому что:

Использует контекст и связи между понятиями.

Генерирует ответы, которые соответствуют предыдущим репликам.

Иногда способен строить аргументы и анализировать идеи, создавая иллюзию понимания.

Таким образом, становится очевидным, что термины «интеллект» и «разум» не совсем подходят для описания компьютерных алгоритмов, поскольку они относятся к характеристикам живых существ. Современный искусственный интеллект на самом деле представляет собой автоматизированный процесс обработки информации. Тем не менее, постоянно усложняющиеся алгоритмы нейросетей, возможно, однажды приведут к сценарию, напоминающему фильм «Терминатор», где роботы захватили мир. Что подчеркивает вероятность такого развития событий, так это недавняя ситуация с вирусом, который действовал по заданным параметрам, не обладая при этом осознанием.