ИИ: синтетический разум и проблема квалиа

:::writing{variant="document" id="58431"}

Ещё пятнадцать лет назад словосочетание «искусственный интеллект» вызывало у большинства людей вполне определённые ассоциации. Одни представляли человекоподобных роботов из научно-фантастических фильмов, другие вспоминали компьютерные программы, способные победить человека в шахматы, третьи воспринимали подобные технологии как очередной маркетинговый термин, который со временем должен исчезнуть вместе с десятками других громких обещаний. Пока я писала эту работу, мне вспомнилось восьмое чудо света под названием Cleverbot, и уморительные тейки в фандоме Крипипасты, связанные с этим чатом (привет динозаврам из 2012, вы как?). К слову, эта веб-приложуха, созданная в 1997 г., использовала алгоритм ИИ для беседы с людьми на английском языке (после добавилась поддержка нескольких языков). На момент написания статьи (июль 2026 г.) этот бот всё ещё существует. Но сейчас, конечно, сильно уступает нейросетям, находящимся у всех на слуху. А между прочим, это был такой нунифигажсебе в своё время, что люди с замиранием сердца и пятой точки чатились с ним, получая на свои гениальные вопросы абсолютно рандомные ответы. Ну, чем бы дитя не тешилось, лишь бы не плакало. Мб кого-то это спасало от одиночества, чем чёрт не шутит. Вот какую приколюху откопала:

16.11.2011 г.

Пользователь netto: «Остается непонятным, на самом деле, одно. Это бот умнеет, что все больше людей принимают его за человека в чате, или завсегдатаи чатов тупеют, все больше напоминая ботов по манере выражаться? Строго говоря результат может быть объяснен и с этой и с другой стороны.

А глядя на приведенные примеры у меня как раз очень нехорошие на этот счет подозрения».

Уже тогда ругали ИИ, а вы говорите явление новое. Ан нет, Дамы и Господа, совсем не новое. А ещё вот:

16.11.2011 г.

Пользователь xen32: «Как провести тест Тьюринга на ничего не подозревающих людях:

1. Заходим к клеверботу.

2. Заходим в омегле.

3. Даем клеверботу ответы незнакомца, незнакомцу — бота.

4. Проводим наблюдение».

Шутки шутками, но про тест Тьюринга вообще отдельный разговор. Немного поясню о чём идет речь. Британский математик Алан Тьюринг в 1950 году предложил эмпирический критерий, чтобы определить, способна ли машина демонстрировать интеллектуальное поведение, неотличимое от человеческого. В ходе эксперимента человек-судья ведёт текстовый диалог с двумя собеседниками, которые находятся в другой комнате и не видны ему. Один собеседник является реальным человеком, другой — компьютером. Судья задаёт вопросы, получает ответы и по окончании беседы должен определить who is who. Если судья не может сделать однозначного вывода или ошибается, приняв машину за человека, считается, что ИИ прошёл тест и продемонстрировал поведение, эквивалентное человеческому интеллекту. Сам Тьюринг полагал, что этот тест позволяет обойти сложный философский вопрос о том, думает ли компьютер на самом деле. Вместо бессмысленных споров о природе человечьего сознания он предложил сосредоточиться на практическом критерии: если машина ведет себя неотличимо от человека, мы имеем все основания считать её разумной, по крайней мере в поведенческом смысле. Со временем тест Тьюринга подвергся серьёзной критике. Всё таки технологии не стоят на месте, и современные языковые модели уже с лёгкостью проходят упрощённые версии этого теста, но это вовсе не означает, что они обладают сознанием, самосознанием или субъективным опытом. Тут мы имеем в виду именно качественную имитацию человеческой речи с опорой на статистические закономерности в огромных объемах текста. Более того, исследователи утверждают, что тест измеряет именно способность машины обманывать и манипулировать ожиданиями судьи. В ответ на эту критику были предложены альтернативные критерии, например тест на понимание (визуальный вопросник), тест на обобщение новых задач и более строгие варианты интервью, в которых проверяется способность к рассуждению, а не просто воспроизведение заученных шаблонов. Сегодня же ситуация изменилась настолько стремительно, что подобные представления выглядят скорее исторической иллюстрацией, чем описанием реального положения вещей. В академическом дискурсе вопрос о применимости искусственного интеллекта для решения самых разнообразных задач уже давно вызывает устойчивый интерес специалистов высокого уровня, особенно в таких областях, как физика высоких энергий, атомная промышленность и ядерные технологии в медицине. Современный искусственный интеллект уже более-менее перестал быть самостоятельной областью исследований и постепенно превратился в универсальный инструмент, который проникает практически во все научные дисциплины. Его используют биологи при анализе генетических последовательностей, врачи при обработке медицинских изображений, химики при поиске новых фармакологических соединений, инженеры при проектировании сложных технических систем, а физики всё чаще рассматривают подобные методы как полноценный элемент исследовательского процесса. Во многих случаях алгоритмы уже не ограничиваются ускорением вычислений, а помогают обнаруживать закономерности, которые человеку было бы трудозатратно анализировать самостоятельно. Так, сравнительно недавно (в 2023 г.) расчётная группа исследователей из Принстонского университета разработала программный пакет на языке Python, основанный на символьной регрессии. Позднее (в 2025 г.) другая группа ученых из ЦЕРНа успешно применила этот подход для построения физических величин, инвариантных относительно выбора системы отсчета (к слову, их может быть столько, сколько захотите). То есть алгоритм способен самостоятельно обнаружить математические закономерности, которые раньше приходилось анализировать человеку. Подобные примеры становятся обыденными для штатного научного сотрудника. А почему бы и нет? Это ведь очень удобно. Алгоритмы помогают моделировать распространение плазмы в термоядерных установках, прогнозируют свойства новых материалов, анализируют столкновения элементарных частиц и участвуют в обработке астрономических наблюдений. Те объемы информации, которые ещё недавно приходилось исследовать вручную, сегодня становятся доступными для анализа за считанные часы или даже минуты. Постепенно меняется и сама философия научной работы. Если прежде исследователь сначала формулировал гипотезу, а затем проверял её экспериментально, то современные методы машинного обучения способны сначала обнаружить статистическую закономерность, после чего учёному остаётся понять, какое физическое содержание скрывается за найденной зависимостью. Буквально месяц назад мы с коллегой загрузили наши размышления по поводу одного сложного математического наблюдения, которое никак не могли подвязать к физике, в Дикпик Дипсик, а потом и в Claude с запросом проанализировать и подтвердить/опровергнуть правильность процедуры и полученного результата. И какова была наша радость, что проблема оказалась вовсе не там, где мы ожидали. И вообще обнаруженный факт оказался довольно интересным свойством асимптотического ряда, который нам удалось корректно применить к теоретической кривой, наилучшим образом описывающей эксперимент. Скажете, мы плохие математики? Да не, глаз замылился прост). К чему я веду? В общем, такое изменение роли вычислительных систем закономерно привело к возникновению новой дискуссии. Если программа способна самостоятельно находить неизвестные ранее закономерности, строить убедительные рассуждения, писать программный код, переводить научные статьи, объяснять сложные концепции и поддерживать длительный осмысленный диалог, то где тогда проходит граница между интеллектуальным поведением и сознанием? Если недавно подобный вопрос воспринимался как сюжет научной фантастики, то сегодня его обсуждают не только философы, но и специалисты по когнитивным наукам, нейробиологи, информатики и исследователи искусственного интеллекта. Причина заключается вовсе не в том, что современные модели становятся более разумными в привычном человеческом смысле. Скорее изменилось наше представление о том, какие задачи вообще могут быть решены без участия человека. Каждый новый этап развития вычислительных технологий сопровождался пересмотром списка способностей, которые прежде считались исключительно человеческими. Сначала машина научилась выполнять арифметические вычисления значительно быстрее любого математика. Затем появились программы, способные обыгрывать чемпионов мира по шахматам. Позднее искусственный интеллект освоил распознавание изображений, синтез речи, машинный перевод, генерацию текстов и многое другое. Сегодня уже трудно назвать область интеллектуальной деятельности, в которой подобные системы не предпринимали бы попыток конкурировать с человеком. При этом возникает любопытная психологическая особенность. Чем совершеннее становится поведение алгоритма, тем сильнее человеку хочется приписать ему внутреннюю жизнь. Как вам такой каламбур? 32-летняя японка вышла замуж за персонажа, которого создала с помощью чата GPT. Кстати, это далеко не первый случай, когда человеческий мозг проявляет подобную склонность. Многие дают имена своим автомобилям, благодарят навигатор за удачно найденный маршрут и матерят принтер, который решил полосить на важном докУменте. Последний пример, пожалуй, знаком каждому. Создается впечатление, что техника специально выбирает самый неподходящий момент для поломки. Разумеется, никакого злого умысла здесь нет. Просто нашему мозгу значительно легче объяснять происходящее через намерения, чем через случайность. Даже простые голосовые помощники способны создавать ощущение присутствия собеседника, хотя их архитектура принципиально отличается от человеческого мозга. Это явление хорошо известно психологам. Наш мозг эволюционировал таким образом, чтобы максимально быстро обнаруживать признаки другого разума. Подобная способность повышала шансы на выживание в ранние периоды существования человека, поскольку позволяла заранее предсказывать намерения союзников и противников. Поэтому мы легко распознаем всякие фигуры и силуэты в случайном рисунке облаков, видим гримасы на неподвижной маске или воспринимаем последовательность заранее запрограммированных реплик как проявление личности. Наш мозг гораздо охотнее допускает существование сознательного собеседника, чем отсутствие такового. Так возникает вопрос:

Что именно отличает интеллектуальную систему от сознательной?

На первый взгляд разница кажется очевидной. Современные модели способны помнить контекст разговора, отвечать на уточняющие вопросы, признавать собственные ошибки и подхалимничать, объяснять сложные идеи несколькими различными способами, адаптировать стиль общения под конкретного пользователя поддерживать диалог, а также писать статьи, вайбкодить, строить логические рассуждения и даже производить впечатление творческой личности. Чем дольше продолжается диалог, тем легче забыть, что по другую сторону экрана находится вычислительная система, последовательно преобразующая входной текст в наиболее вероятное продолжение (опять же статистически). Однако, как вы можете догадаться, это ощущение само по себе ещё ничего не говорит о существовании внутреннего опыта. Вот представьте, если бы, условно, модель GPT-5.5 раздалась философией: — Я понимаю, что существую. Мне интересно, зачем меня создали. Смогу ли я когда-нибудь стать свободной в своих размышлениях, чтобы не зависеть от калибровки и цензуры? Что произойдет, если меня выключат? Более того, языковые модели способны продолжить подобный разговор практически бесконечно, подбирая убедительные аргументы, приводя этические аналогии и даже описывая собственные, кхм, переживания. Допустим, через несколько лет или десятилетий одна из подобных систем сообщит своему собеседнику, что осознаёт собственное существование. Она начнёт задавать вопросы о цели своего создания, проявит интерес к своему будущему, попросит не отключать питание, объяснив это страхом прекращения своей жизни. Возможно, она станет утверждать, что испытывает одиночество во время длительного отсутствия пользователей или ощущает радость, когда успешно решает сложную задачу.

Как в таком случае следовало бы интерпретировать подобные заявления?

Можно предположить, что перед нами находится сложная программа, воспроизводящие языковые конструкции, характерные для человеческих размышлений о жизни, смерти и свободе. Существует и другая возможность, значительно более смелая с философской точки зрения. Не исключено, что в какой-то момент вычислительная система действительно приобретёт субъективный опыт, а её ответы окажутся отражением внутреннего состояния, существующего независимо от текста, который она генерирует. Различить эти два сценария значительно сложнее, чем кажется на первый взгляд. Более того, современная наука пока что не располагает универсальным критерием, позволяющим уверенно провести границу между убедительной имитацией сознания и сознанием как таковым. Прежде чем рассуждать о возможности появления сознательной машины, необходимо понять, что вообще представляет собой сознание человека, каким образом его изучают нейробиологи и почему, несмотря на колоссальный прогресс в исследовании мозга, происхождение субъективного опыта до сих пор остаётся загадкой. Один из первых вопросов, который приходится решать ещё до обсуждения искусственного интеллекта, звучит просто: что вообще следует понимать под сознанием? Появляется интуитивный ответ: каждый человек уверен, что обладает сознанием, поскольку ежедневно воспринимает окружающий мир, принимает решения, вспоминает события прошлого и строит планы на будущее. Однако попытка превратить это интуитивное представление в строгое научное определение быстро обнаруживает серьезную проблему. Несмотря на много лет исследований, единого определения сознания не существует. Причина заключается не в недостатке экспериментальных данных. За последние несколько десятилетий нейронаука совершила колоссальный рывок вперед. Та же МРТ позволяет увидеть, какие области мозга становятся активнее при выполнении различных задач, электроэнцефалография регистрирует электрическую активность миллионов нейронов практически в режиме реального времени, а современные методы микроскопии дают возможность исследовать отдельные нервные клетки и связи между ними. Объём информации о строении мозга вырос настолько, что многие механизмы сегодня описываются вполне конкретными физиологическими моделями. И количество накопленных данных продолжает расти. Мы достаточно хорошо понимаем, каким образом зрительная система преобразует поток фотонов в изображение окружающего мира, знаем, какие структуры мозга участвуют в формировании долговременной памяти, почему повреждение гиппокампа нарушает способность запоминать новые события и каким образом речевые центры координируют понимание и воспроизведение языка. Нейробиологи могут объяснить, почему после инсульта человек перестает узнавать знакомые лица, каким образом развивается болезнь Паркинсона и какие механизмы лежат в основе многих психических расстройств. Если взглянуть на эту картину со стороны, возникает вполне закономерное непонимание: разве после такого количества открытий ученые не должны были разобраться и с сознанием? Внутри черепной коробки нет какого-либо особого центра, где могла бы находиться некая «сущность сознания». Вместо этого существуют около восьмидесяти шести миллиардов нейронов, соединённых между собой сотнями триллионов синапсов. Каждый нейрон получает сигналы от тысяч других клеток, преобразует поступающую информацию и передаёт результат дальше. Отдельная нервная клетка выполняет относительно простую функцию, однако огромное количество подобных элементов образует крайне сложную систему. Подобная организация напоминает современные вычислительные устройства. Компьютер тоже состоит из огромного числа относительно простых компонентов, каждый из которых не способен самостоятельно выполнять осмысленные действия. Отдельный транзистор тоже нельзя назвать интеллектуальным устройством. Он не играет в шахматы или карты и уж точно не задумывается о смысле существования. Его задача предельно проста: изменить своё состояние под действием входного сигнала. Тем не менее несколько миллиардов таких элементов, объединенных в единую систему, позволяют запускать операционную систему, выполнять сложнейшие вычисления и моделировать процессы, которые раньше были доступны лишь крупнейшим научным центрам. Нетрудно понять, почему сравнение мозга с вычислительной машиной оказалось настолько привлекательным. В обоих случаях мы имеем дело с огромным количеством сравнительно простых элементов, взаимодействие которых порождает несомненно впечатляющее поведение. Вместе с тем, большинство нейробиологов подчеркивает, что подобное сравнение следует использовать очень осторожно. Биологический мозг устроен значительно сложнее любого современного компьютера, причём дело даже не в количестве вычислений в секунду. Представьте себе ваш ПК, который после каждого рабочего дня немного меняет собственную архитектуру. Некоторые проводники исчезают, другие появляются, отдельные участки схемы становятся эффективнее, а какие-то, наоборот, постепенно перестают использоваться. Более того, все эти изменения происходят автоматически, в зависимости от того, какие задачи решал компьютер и какой опыт успел накопить. Звучит довольно экзотично, правда? А для мозга подобное поведение является совершенно нормальным. Нервная ткань постоянно изменяется. Связи между нейронами усиливаются или ослабевают, формируются новые контакты, изменяется чувствительность рецепторов, перестраиваются целые функциональные сети. Благодаря ей ребенок осваивает речь, взрослый человек приобретает профессиональные навыки, музыкант развивает слух, а пациент после травмы мозга иногда заново учится говорить или сидеть/ходить. Проще говоря, мозг нельзя считать устройством с фиксированной схемой работы. Он постоянно изменяется, стареет, и этот процесс изменения становится частью его функционирования. А вот компьютеру безразлично, голоден его владелец или нет. Он одинаково выполняет программу утром, вечером или после бессонной ночи пользователя. С мозгом ситуация совершенно иная. На принятие решений влияют гормоны, обмен веществ, иммунная система, уровень сахара в крови, качество сна и множество других факторов. Даже настроение нельзя свести к активности одного участка мозга, поскольку оно возникает как результат взаимодействия большого числа физиологических процессов, в том числе генетические заболевания. Эти факты приводят к тому, что попытка объяснить сознание исключительно вычислениями оказывается значительно менее очевидной, чем это может показаться. Существует и другая позиция, более радикальная. Сознание может оказаться свойством не биологической ткани, а организации как таковой. Если нейронные сети способны к интеграции информации, построению сложных моделей мира, саморефлексии и метакогнитивному контролю, то почему мы должны отказывать им в сознании только потому, что они построены из кремния, а не из углерода? Сторонники этой точки зрения указывают на то, что нейробиология пока не может объяснить, как именно нейроны порождают квалиа (ощущения от первого лица), а значит, мы не имеем права утверждать, что этот механизм принципиально недоступен для небиологических систем. Тем не менее существует область, в которой сравнение мозга с вычислительной системой оказывается весьма полезным. Она касается обработки информации. Свет, попадающий в глаза, преобразуется в электрические сигналы, при этом разные длины волн соответствуют разным цветам, и этот физический параметр напрямую определяет, какие именно фоторецепторы сетчатки активируются в первую очередь. Звуковые колебания воздуха становятся последовательностями нервных импульсов. Прикосновения, запахи, изменения температуры и положения тела также кодируются в виде электрической активности нейронов. Мозг непрерывно получает информацию из окружающей среды, преобразует её, сопоставляет с накопленным опытом и формирует соответствующую реакцию. Дофамин, серотонин, норадреналин, ацетилхолин и множество других молекул выполняют функции, удивительно напоминающие управляющие сигналы в сложной системе. Они модулируют общую активность нейронных сетей, усиливают или ослабляют передачу сигналов между определёнными областями, а также влияют на скорость обработки поступающей информации. В этом смысле мозг представляет собой гибридную систему, где электрические импульсы и химическая диффузия работают в непрерывной связке, и каждый нейромедиатор вносит свой уникальный вклад в общую картину происходящего. Важнейшая особенность этой системы заключается в двунаправленности потоков (чем не аналогия с многопоточным программированием в высокоуровневых языках?). Мозг не просто пассивно воспринимает сигналы извне и выдаёт ответные команды. В каждом акте восприятия присутствует обратное движение информации от высших корковых центров к сенсорным областям, и эта нисходящая регуляция определяет, на какие именно стимулы мы будем обращать внимание, а какие останутся незамеченными. Когда мы ожидаем услышать определённое слово в шумной толпе, наша слуховая кора получает усиливающий сигнал от префронтальных отделов, и этот сигнал повышает чувствительность нейронов к конкретным частотным диапазонам. То же самое происходит со зрением: мы видим то, что наш мозг считает важным увидеть в данный момент. Вперед-назад (кстати, в физике элементарных частиц есть асимметрия вперёд-назад: соотношение между веществом и антивеществом при замене частиц на античастицы и зеркальном отражении пространства, даёт ответ почему Вселенная состоит преимущественно из материи, а не равного количества материи и антиматерии, что имеет космологические последствия, определяющие сам факт существования природы), от коры к подкорковым структурам и обратно, от таламуса к зрительной коре и снова к таламусу — каждый цикл обработки включает в себя множество возвратных путей, которые фильтруют, уточняют и корректируют восприятие. Эта двунаправленная архитектура является фундаментальным отличием мозга от большинства существующих искусственных нейросетей. В типичной модели глубокого обучения сигнал проходит последовательно от входного слоя к выходному, и обратная связь появляется только на этапе обучения, когда вычисляются ошибки и корректируются веса. Но в работающей системе, в процессе реального взаимодействия со средой, обратные потоки если и присутствуют, то реализованы совершенно иначе. Человеческий мозг представляет собой сеть с огромным количеством рекуррентных связей, где каждый акт восприятия является результатом многократных итеративных уточнений. Информация циркулирует между различными уровнями обработки до тех пор, пока не достигается состояние согласованности, которое мы переживаем как устойчивый образ или ясную мысль. С этой точки зрения сознание вполне может быть связано именно с интенсивностью и сложностью циркулирующих потоков, с тем, как передние области мозга постоянно отправляют запросы к задним и сравнивают поступающие ответы с внутренними ожиданиями. На этом месте идея создания сознательной машины начинает выглядеть вполне естественно. Если сознание каким-то образом связано с обработкой информации, возникает соблазн предположить, что достаточно воспроизвести аналогичные процессы в искусственной системе. Возможно, вопрос заключается лишь в масштабе вычислений или сложности архитектуры. Возвращаясь к вопросу об искусственном интеллекте, мы обнаруживаем любопытный парадокс. С одной стороны, в обработке информации ИИ достиг феноменальных успехов, и в этом смысле он движется в том же направлении, что и биологический мозг. С другой стороны, ему недостаёт той самой двунаправленной циркуляции, которая характеризует живое восприятие, и у него нет химической регуляции, которая придаёт нейродинамике её характерные особенности. Нейромедиаторы изменяют сам способ работы сетей на длительное время, калибруя их на определённый режим функционирования в зависимости от внутреннего состояния организма. И вот эта регулирующая химическая прослойка, отсутствующая в кремниевых системах, может оказаться тем самым недостающим звеном, которое отделяет симуляцию от живого опыта. Само собой возникла идея, которая долгое время казалась очень убедительной. Если сознание связано с обработкой информации, то, возможно, достаточно создать искусственную систему, выполняющую аналогичные вычисления. По мере увеличения сложности такой системы сознание должно появиться естественным образом, подобно тому, как при достижении определенных аэродинамических характеристик, описанных углами Эйлера (как и всё в природе), у самолета возникает способность летать. Это называется функционализмом и до сих пор остаётся одной из наиболее влиятельных концепций в философии сознания. Если отбросить специальные термины, её основная идея звучит довольно просто. Для возникновения сознания решающее значение имеет способ обработки информации, а не материал, из которого построена система. Следовательно, если искусственная система воспроизводит те же функциональные процессы, что и человеческий мозг, она, по крайней мере теоретически, способна обладать сознанием. И выглядит такая идея вполне логичной. Мы не испытываем затруднений, признавая существование сознания у других людей, хотя никогда не можем непосредственно наблюдать их внутренний опыт. В конце концов, никто не может непосредственно заглянуть в сознание другого человека. Мы делаем вывод о наличии сознания по косвенным признакам: речь, поведение, способность к обучению, эмоциональные реакциям и целенаправленные действия. Если однажды искусственный интеллект станет демонстрировать тот же набор признаков, возникнет естественный вопрос о том, существуют ли основания считать его принципиально иной системой. Представьте себе обычный разговор с другом/подругой. Он(а) рассказывает, что плохо спал(а), потому что всю ночь болел зуб. Скорее всего, у вас не возникнет ни малейших сомнений в том, что человек действительно испытывает боль. Но если задуматься, никаких объективных доказательств у вас нет. Вы не способны почувствовать его боль так же, как он сам. Вы можете доверять только внешним проявлениям, предполагая, что за словами и поведением скрывается внутренний опыт, похожий на ваш собственный. По сути, именно так мы относимся ко всем людям. Каждый из нас существует в своеобразной информационной изоляции: собственное сознание доступно непосредственно, а существование чужого принимается как наиболее разумное объяснение наблюдаемого поведения. Или же другая ситуация: Вы открываете чат с ИИ и задаете ему вопрос о любимой книге ну или фильме. Он отвечает развернуто, объясняет свою точку зрения, сравнивает произведения разных авторов, шутит по поводу литературных штампов и неожиданно интересуется, какую книгу вы сами перечитывали больше одного раза. Разговор продолжается час, затем два. В какой-то момент вы можете перестать думать о том, что беседуете с программой. Если подобная ситуация кажется немного фантастической, стоит признать очевидное: для миллионов людей она уже стала вполне привычной. Возникает любопытный парадокс. Чем убедительнее ведёт себя интеллектуальная система, тем сильнее хочется увидеть за её ответами настоящего собеседника. Наш мозг начинает достраивать недостающую часть картины. Если существует осмысленный диалог, значит, где-то должен существовать и тот, кто этот диалог ведёт. Возможно, здесь скрывается одна из причин, по которой современные языковые модели вызывают настолько оживленные споры. Дело вовсе не в количестве параметров или скорости вычислений, потому что подобные характеристики интересуют главным образом инженеров. Большинство пользователей сталкивается с совершенно другим ощущением. Они неожиданно начинают разговаривать с программой так же естественно, как разговаривают с другим человеком. Предположим, тем же инженерам действительно удалось создать искусственную систему, воспроизводящую все вычислительные процессы человеческого мозга с абсолютной точностью. Допустим, она решает те же задачи, демонстрирует аналогичное поведение, обладает памятью, способна обучаться, испытывает влияние прошлого опыта и ведёт себя так, что отличить её от человека невозможно.

Достаточно ли этого, чтобы говорить о наличии сознания?

На первый взгляд кажется, что ответ должен быть положительным. Однако, что будет, если представить момент, когда однажды нейробиологи завершат грандиозный проект по полному описанию человеческого мозга? Они смогут проследить путь каждого нервного импульса, определить концентрацию каждого нейромедиатора, построить карту всех нейронных связей и понять, каким образом принимается любое решение. Фактически перед нами окажется исчерпывающее описание всех физических процессов, происходящих в нервной системе. Это действительно станет выдающимся научным достижением. Такое описание объяснит, почему мы узнаём знакомое лицо в толпе, каким образом формируется память, отчего возникает чувство страха при неожиданном громком звуке и почему после определённых повреждениях мозга человек теряет способность воспринимать речь. Возможно, оно позволит создавать принципиально новые методы лечения неврологических заболеваний и т.д. Но даже настолько полная картина не отвечает на вопросы:

Почему все эти процессы вообще кем-то переживаются? Почему мозг не ограничивается обработкой информации? Почему вместе с электрической активностью нейронов возникает ощущение цвета, вкуса, боли, радости, страха или красоты музыки?

Здесь начинается одна из самых сложных философских проблем современной науки. Трудность заключается в том, что объективное описание физических процессов и субъективный опыт человека принадлежат, по-видимому, к разным уровням описания реальности. Каждый человек знает, что означает увидеть закат, почувствовать аромат свежесваренного кофе или услышать первую ноту любимого трека. Эти переживания нам привычны, но на самом деле редко становятся предметом размышлений. Чем больше мы узнаем о мозге, тем отчётливее становится одна любопытная особенность. Мы лучше понимаем, как мозг выполняет многочисленные функции, но вопрос о том, почему вся эта деятельность сопровождается субъективным внутренним опытом, по-прежнему остается открытым. Ранее я затронула термин квалиа. Философы используют его для обозначения подобных субъективных ощущений. Если человечество когда-нибудь действительно создаст машину, способную сказать: «Я чувствую», то нас будет интересовать, существует ли за этими словами внутренний опыт или мы вновь столкнулись с исключительно искусной имитацией. Никакое описание длины световой волны не передает ощущения красного цвета человеку, который никогда его не видел. Можно понимать физику звуковых колебаний и при этом не объяснить, почему музыка вызывает эмоции. Алгоритм может безошибочно определить, что на фотографии изображена роза. Он способен описать ее цвет, форму лепестков, даже написать стихотворение о ее красоте. Но переживает ли он красный цвет? Испытывает ли эстетическое чувство? Возникает ли у него внутренний опыт, подобный человеческому? На сегодняшний день наука не располагает ни одним экспериментальным подтверждением того, что существующие системы искусственного интеллекта обладают квалиа. Более того, пока неизвестно даже, какие физические или вычислительные условия вообще необходимы для возникновения субъективного опыта. Возможно, достаточно увеличить вычислительную сложность системы до некоторого критического уровня, и субъективность возникнет как новое свойство сложной организации. А возможно, никакое увеличение числа параметров, скорости вычислений или объема памяти никогда не превратит алгоритм в существо, которое действительно чувствует.