Градиентный спуск

«Пока хоть один где-то плачет

Быть довольным неудобно и стыдно

Пусть даже никто не узнает

Пусть даже им и не видно»

Lumen «Осеннее Небо»

             Сводки поступали каждые полчаса.       Пол сидел перед мониторами и смотрел, как бегут цифры. Идеально прямая спина, руки сложены на столе – теплые пальцы поверх прохладного дерева. Словно памятник самому себе, он провел в одной позе, кажется, последние сутки. В холодном свете постоянно горящих светодиодных ламп сложно было определить смену ночи и дня.       В кабинете ненавязчиво пахло чем-то цветочным. Этот офис изначально проектировался ИИ с упором на то, чтобы людям было максимально комфортно работать. Продумано было все – от цвета стен до минимального расстояния между столами сотрудников. Только вот самих сотрудников осталось столько, что каждый мог занять кабинет в одиночку, и еще с десяток остались бы свободными.       На одном из боковых экранов была развернута карта мира. Темный фон, светящиеся точки городов – красные, оранжевые, желтые. Красный означал критический уровень смертности. Оранжевый – чуть ниже критического. Желтый – еще ниже. Зеленых точек на этой карте не было уже несколько месяцев. Можно было увеличить любой регион, и Пол иногда так и делал: выделял город, район, улицу. Смотрел на графики смертности по месяцам. По дням. По часам.       Думал. Анализировал. Искал причину.       Сверхразум подбирал статьи – одну за другой: нейробиология, психиатрия, клиническая психология, нейрохимия, эндокринология. Все, что могло объяснить, почему люди убивают себя. Пол открывал файл за файлом, проглатывал текст, закрывал, открывал следующий. Глаза бежали по строкам – быстро, жадно, без остановки. Запомнить все он не пытался. Просто искал закономерность. Паттерн. Баг в человеческой прошивке, который превратил мир в братскую могилу.       Людей становилось меньше, меньше специалистов, способных обслуживать сервера за пределами города. Поэтому один из узлов ЦОД Сверхразума пришлось разместить в этом же здании, задействовав целый этаж. Едва слышимый мерный гул – низкий, утробный, словно огромный зверь дышал где-то в стенах – означал, что система все еще работала. Что все было в порядке.       В отличие от него самого. Сознание с каждым часом становилось все более мутным и бессвязным. Что после трех суток без сна в целом неудивительно. Пол потер виски. Кожа была сухой и горячей. Под кончиками пальцев бился ровный мерный пульс – искусственное сердце работало идеально. А вот человеческий мозг все еще требовал отдыха.       Ему стоило проверить свои жизненные показатели. Глюкоза в крови, наверное, упала до нижней границы. Но он все никак не мог отвлечься ни на что, что касалось его собственного тела, уже много дней. Это казалось таким неважным на фоне происходящего в мире. Цифры на мониторах продолжали расти, статьи сыпались одна за другой, где-то там – может, в соседнем кабинете – Крис работал над алгоритмом, а Джеймс собирал новые медицинские данные для обучения Сверхразума.       «Если бы у меня было больше времени».       Эта мысль преследовала его, возникала в голове снова и снова. Если бы ему не нужно было спать. Если бы ему не нужно было принимать питательные смеси. Если бы его мозг не затуманивался после всего-то семидесяти двух часов непрерывной работы. Если бы его тело не требовало пауз, которые он не мог ему дать, потому что паузы означали новые смерти.       Свое тело он и так уже улучшил настолько, насколько было подвластно науке.       Синтетические мышцы не знали усталости. Механические легкие работали без сбоев. Пищеварительная система была заменена на компактный модуль, который синтезировал необходимые для работы мозга вещества из концентрата, который нужно было вводить через порт в боку. Пол давно забыл, что это такое голод. Воспоминания о еде остались где-то в прошлой жизни, как и воспоминания о снах. Ему все еще иногда нужно было спать, но он уже не помнил, каково это – видеть сны. Может, и к лучшему.       Новая статья развернулась на экране – «Экзистенциальный вакуум как предиктор суицидального риска в условиях гарантированного благополучия». Ему уже приходилось читать про Виктора Франкла – австрийского психиатра, который еще в двадцатом веке описал то, что пару месяцев назад произошло в глобальном масштабе. Франкл прошел концлагерь и понял главное, что Пол, при всем своем уме, упустил: человеку нужен смысл. Не комфорт. Не безопасность. Не сытость. Смысл. А если смысла нет – человек умирает. Просто перестает хотеть жить.       В первые недели, когда мировые правительства только начали замечать, что что-то пошло не так, Пол понял, что рай, который они построили, был слишком идеальным местом. Раньше человек жил, потому что боролся – за еду, за кров, за место под солнцем. Потом все необходимое для комфортной жизни сталь давать по умолчанию. Прожиточный минимум, закрывающий базовые потребности, был обязательным для всех граждан. Медицина вылечивала любую болезнь за считанные дни. Андроиды заменяли партнеров – идеальные, программируемые, не требующие усилий. Человеку оставалось только жить. Творить. Радоваться.       Но творить оказалось трудно. А радоваться – невозможно, когда не с чем сравнивать.       «Почему мы… почему я этого не видел?»       Этот вопрос Пол задавал себе снова и снова. И не находил ответа, кроме одного – он судил по себе. Совершил классическую ошибку выжившего. Ему самому мешали спать и есть великие идеи. Ему было некогда – он мечтал помочь всем людям. Не мог остановиться, не мог передохнуть, не мог позволить себе устать, потому что каждая минута простоя была минутой, которую он мог потратить на обучение ИИ. Он думал, что у всех так. Что каждый человек – это спящий творец, которому нужно только дать свободу, и он расцветет.       Оказалось – нет.       Некоторые люди были кардинально другими. Не творцы. Не титаны. Испуганные существа, которые без внешнего стимула потеряли смысл жизни и просто принимали решение умереть.       Пол закрыл статью и открыл следующую. «Роль серотониновых рецепторов 5-HT1A в формировании суицидального поведения». Текст был сухой, академический, полный терминов, которые он уже выучил за последние дни. Пол читал, и строки сливались в один сплошной поток: префронтальная кора, гиппокамп, миндалевидное тело, транспортеры серотонина, полиморфизм гена SLC6A4…       Тридцать процентов населения меньше чем за полгода. Инфраструктура, которую они строили десятилетиями, оказалась хрупкой. Автоматизированные системы зависели от людей – от тех, кто обслуживал серверы, следил за энергосетями, принимал решения, которые ИИ еще не умел принимать сам. Когда треть человечества исчезла, остальное посыпалось следом. Остановились заводы. Пропала связь с целыми регионами. Начались перебои с энергией.       Оставшиеся люди смотрели на безлюдные улицы, на пустые дома, на брошенные машины. Хоронили близких, если было кому хоронить. Просыпались в мире, который еще вчера был утопией, а сегодня стал кладбищем. И не хотели жить дальше – не от пустоты, а от горя. Не от отсутствия смысла, а от того, что смысл был их жизни был в других людях.       Вот о чем на самом деле писал Франкл: человек может вынести почти любое «как», если у него есть «зачем». Но когда «зачем» умирает вместе с третью человечества – никакое «как» не спасает.       Этого он не понимал. До него никак не доходило, как можно не найти сил жить дальше. Да, мир рухнул. Да, близкие умерли – у него у самого никого не осталось, кроме Джеймса и Криса, да и тех он видел все реже с каждым днем. Но жизнь продолжалась. Как можно не хотеть жить, когда жизнь – это единственный шанс что-то сделать. Когда нужно работать. Искать решение. Двигаться дальше.       Дальше. Он открыл следующий файл. «Посттравматическое стрессовое расстройство в условиях глобальной гуманитарной катастрофы: предикторы, динамика, прогноз». Статья была свежей – кажется, Джеймс скинул ее сегодня утром. Пол прокрутил вниз несколько абзацев: потеря близких, крушение привычного мира, чувство вины выжившего, невозможность справиться с болью. Автор писал, что все человечество сейчас пациент с острейшей формой ПТСР. Пол читал про нейронные корреляты травмы и думал.       «Мы ошибались. Мы лечили не ту болезнь. Им не нужен идеальный мир. Им нужно убрать боль».       У них с Джеймсом уже был разговор на эту тему. Не так давно – кажется, на прошлой неделе – они сидели в этом же кабинете. Пол хорошо запомнил запах антисептика, которым пахло от рук Джеймса. Тот всегда тер ладони после работы с людьми – старая врачебная привычка. И этот запах, острый, спиртовой, с легкостью перебивал аромат цветов.       – Ты не понимаешь, о чем говоришь, – Джеймс стоял у окна, за которым не было ничего, кроме темноты. – Ты не можешь просто взять и убрать боль. Боль – это часть личности, часть истории человека. Мы не имеем права.       – У нас нет времени на размышления о морали, – Пол указал в сторону экранов. – Пока мы будем спорить о том, есть у нас право или нет, умрут миллионы.       – Нельзя просто «убрать боль», – покачал головой Джеймс. – Боль сплетена с радостью. С любовью. С тем, что делает нас людьми.       – Это вопрос точности, – возразил Пол, вставая из-за стола. – Мы научимся находить конкретные кластеры. Мы не будем отключать весь мозг – только те зоны, которые отвечают за депрессию. Тревогу. Страх. Точечно.       – Ты говоришь о лоботомии.       – Я говорю о лечении. Ты сам видел снимки. Вот здесь, – он постучал пальцем по виску, – здесь у людей опухоль, которая называется «отчаяние». И мы должны научиться ее убирать.       Джеймс снова покачал головой и отвернулся к окну. Пол смотрел ему в спину и думал:       «Ты не понимаешь. Ты все еще думаешь, что мы можем спасти их старыми методами. Но проблема таких масштабов требует радикальных мер»       Боль – это баг. Страдание – это баг. Депрессия, тревога, страх, агрессия – как ошибки в коде. Их нужно исправить. Остается только найти правильные нейронные кластеры и деактивировать их. Джеймс ему говорил: «Все эмоции – это часть личности». А Пол думал: личность – это не боль. Личность – это то, что останется, когда боль уйдет.       С Крисом было проще. Он, в отличие от Джеймса, не спорил. Ему не нужно было объяснять, зачем искать способ деактивировать боль в человеческой голове. Ему это было интересно.       С самого начала Крис видел в этом математическую задачу. Мог часами сидеть над снимками функциональных МРТ так же, как сидел над архитектурой нейросетей, – с отстраненным интересом ученого. Для него что транспортные потоки, что нейронные связи – разницы не было. И там и там были проблемы, которые требовали решений.       Вдвоем они сутками сидели, рассуждая о протоколе поиска отклонений. О том, как найти нехарактерные паттерны в море нейронных связей. О том, как отличить нормальный сигнал от шума. Полезную эмоцию от деструктивной.       – Смотри, – Крис водил пальцем по экрану, где светились цветные пятна активированных зон. – Вот здесь у этого человека «дефект». Отклонение от нормы. Если мы соберем достаточно подобных данных, то…       – То сможем обучить Сверхразум, – закончил за него Пол.       – Именно! Это просто задача классификации, – у Криса загорелись глаза. – МРТ здоровых, МРТ депрессивных, ЭЭГ, гормональные профили. Разметить данные, обучить ИИ. А потом он найдет разницу.       – И не просто найдет, – подхватил Пол, пододвигаясь ближе к экранам. – Сможет предсказать, какие именно кластеры нужно деактивировать, чтобы человек перестал страдать. И как перестроить связи, чтобы не задеть остальное. Научим его исправлять людей.       – Не исправлять, – голос Криса стал серьезнее, – предсказывать отклонения. Исправлять – это уже не наша и не его задача.       Но Пол думал иначе. Исправлять – это именно их задача. Потому что если не они, то кто?       Для него было невыносимо просто сидеть и смотреть.       Следующий файл, который он открыл, был не статьей, а сырыми данными. МРТ-снимки. Десятки, сотни снимков. Джеймс и его команда собирали их по крупицам: сканы мозга людей в депрессии и без. Пол и Крис уже начали обучение модели – первой, черновой версии, что будет искать «зоны боли». Пока их протокол поиска отклонений еще ошибался. Путал депрессию с обычной грустью. Не мог отличить травматическую память от нормальной. Но это было делом времени. Они его обучат. Скормят ему еще больше данных. Доведут точность до девяноста девяти процентов, до девяноста девяти и девяти десятых, до идеала.       А потом объединят с мощностями Сверхразума, создав лекарство для каждого человека.       Идеально точный протокол, который сканирует мозг, находит дефектные паттерны и деактивирует их. Тревога. Депрессия. Страх. Агрессия. Все, что мешает покою. Все, что заставляет человека хотеть умереть.       «Я не стираю человека. Я просто убираю шум, который мешает ему быть счастливым».       Эта мысль приносила почти физическое облегчение – как глоток свежего воздуха после часов в душном помещении. Пол осознал, что действительно хочет выйти хотя бы на балкон своего офиса. Не потому, что легким требовалсч чистый воздух – его тело при необходимости могло пару часов обходиться без кислорода. А потому, что мозг устал и просил хоть какой-то стимуляции, хоть какой-то смены деятельности.       Пол встал из-за стола, потянулся, чувствуя, как чуть кружится голова – ему стоит все-таки ввести питательную смесь. Прошелся по кабинету, он хотел дать мозгу отвлечение, но взгляд то и дело возвращался к экранам – может, действительно выйти на балкон?       За окнами занимался серый, пыльный рассвет. В детстве он видел фильмы о том, как природа отвоевывала назад города, стоило человеку исчезнуть с лица Земли. Но город – пусть опустевший и изрядно потерявший лоск – все еще стоял. Все еще жил. Но если ничего не сделать, то через пару лет все может измениться.       Пол смотрел на пустынные в столь ранний час улицы и думал:       «Так не может продолжаться. Это должно закончиться. Я должен это закончить»       Где-то на периферии сознания пульсировала мысль, которую он еще не был готов озвучить вслух даже самому себе. Слишком страшной она была.       «Если человек не может справиться со свободой, может, ему и не нужна свобода?»