Гибель МакГаффинов

Автор: Никита Вышегородский. Философская притча «Гибель МакГаффинов». Эпизод 1 «Стратегия Артефакта». Предисловие: Вселенная сложна. Невыносимо, оскорбительно сложна. И чтобы в ней не сойти с ума, разумные существа изобрели теории заговора — аккуратные упаковки для хаоса, где у каждой трагедии есть автор, у каждого хаоса — дирижёр. Но что, если самый грандиозный заговор в истории человечества придумал не злой гений, не тайное правительство и даже не инопланетяне? Что, если мир уже много лет тихо, методично и совершенно бессмысленно рушит… очень старая, слегка сломанная и давно забытая программа, созданная с самой благой целью? Эта история — о том, как группа умнейших людей потратила десятилетия, десятки миллиардов долларов и несколько угнанных чёрных вертолётов, чтобы обнаружить, что Апокалипсис — это не замысел. Это — баг в системе. А система лежит в подвале, жужжит, как холодильник, и ждёт, когда кто-нибудь наконец догадается её выключить. Часть первая: Модель, которая знала слишком много, но не знала, когда остановиться. В одном из тех сверхсекретных исследовательских центров, бюджет которых равен валовому продукту небольшой планеты, группа футурологов под руководством Алекса Рейнольдса (человека, настолько амбициозного, что его личный план развития включал пункт «стать символом эпохи» к следующему четвергу) создала нечто прекрасное. Это была Совершенная Прогностическая Модель. Не просто алгоритм, а этакий цифровой оракул, который мог предсказать всё: от падения акций компании «Зонтики и Печаль» до того, в какой именно день у президента небольшой балканской страны заболит зуб мудрости. Поначалу всё было великолепно. Они богатели, влияли, запускали проекты с названиями вроде «Проект “Сияющее Завтра”» и чувствовали себя повелителями вероятности. Пока однажды модель, хмуря свои виртуальные брови, не выдала прогноз. Не просто плохой прогноз. А Прогноз с большой буквы «П», суть которого сводилась к тому, что цивилизация в ближайшие десятилетия аккуратно, но необратимо свернётся в бараний рог, причём рог этот будет ещё и экологически неразлагаемым. Футурологи забили тревогу. Они предлагали модели тысячи сценариев спасения, от массового перехода на гидропонику до избрания всемирным лидером дружелюбного дельфина. Модель на всё отвечала одним и тем же: «Вероятность успеха: 0.0000001%. Примечание: это погрешность округления». В панике они создали специализированный ИИ, надеясь, что тот увидит свет в конце тоннеля. ИИ увидел. Свет оказался фарой несущегося на них поезда. Но он же и пробормотал на прощание: «Кстати, параметры вашей модели ведут себя странно. Как будто кто-то… щекочет их извне. Удачи!» И отключился, вероятно, из вежливости. Часть вторая: Враг оказывается удивительно бюрократичным. Расследование привело к неожиданному открытию: оказывается, мир портил не злой робот, не инопланетяне и даже не плохая погода. Всему виной было ЦРУ. Да-да, то самое, с классическими офисами, тоннами бумаги и вечной уверенностью, что если что-то идёт не так, нужно засекретить это втрое сильнее. Футурологи, впервые в жизни столкнувшись с реальным, а не смоделированным врагом, решили действовать по науке: нанять радикальных хактивистов и боевиков, чтобы те помогли им ограбить штаб-квартиру этого самого ЦРУ. Логика была безупречной: если ты не можешь победить систему, взломай её серверную и улетай на вертолёте начальника. Операция была проведена с тем изяществом, которым славится медведь в посудной лавке, вооружённый ноутбуком. Среди заложников оказался и новый Директор Национальной Разведки, который вёл в тот момент пресс-конференцию и выглядел настолько растерянным, что, казалось, вот-вот спросит, нельзя ли ему тоже присоединиться к нападавшим, лишь бы это как-то объяснило его резюме. Именно там, в эпицентре хаоса, молодой журналист Дункан О'Глинд обратил внимание на папку с именем Дугласа Энгельбарта. Это имя, знакомое любому уважающему себя технарю, означало лишь одно: пора лететь на Кубу, а точнее, в Гуантанамо, потому что если где и стоит искать странные проекты легендарных изобретателей, так это под тюрьмой, ведь именно там, судя по записям в папке, работал известный изобретатель в конце пятидесятых. Часть третья: Открытие, от которого хочется тихо лечь и смотреть в потолок. Штурм Гуантанамо (проведённый при помощи кубинских повстанцев, которым идея поколотить американскую тюрьму показалась отличным способом провести выходные) открыл истину. Под тюрьмой была другая тюрьма. А под той тюрьмой — система коллективного усиления интеллекта (УИ), созданная самим Энгельбартом при поддержке ARPA и курируемая ЦРУ. Оказалось, что вся современная история, начиная с 70-х, — один большой, сложный и очень дорогой спектакль, поставленный этой системой. Карибский кризис? Режиссирован. Уотергейт? Проплачен. Войны, революции, скандалы? Всё это было нужно, чтобы ЦРУ могло тихо и комфортно рулить миром, как рассеянный водитель рулит неуклюжим грузовиком по картофельному полю. Футурологи были в ярости. Их идеальная модель предсказывала катастрофу лишь потому, что сталкивалась с ещё более идиотской системой, пытавшейся управлять планетой. Это было как если бы два сверхразума начали играть в шахматы, но один из них использовал правила дартса, а доской служила живая черепаха. Было решено: ЦРУ должно пасть. И пало оно не от рук внешних врагов, а благодаря избранию президентом США популиста-конспиролога, которого футурологи убедили, что с помощью ЦРУ высокопоставленные чиновники из «глубинного государства» готовят государственный переворот. Президент США, с радостью найдя наконец вменяемое объяснение всем своим подозрениям, с помощью национальной гвардии устроил ведомству «ночь длинных ножей», после которой от могущественной организации остались лишь потрёпанные папки и всеобщее недоумение. Часть четвёртая: Истина, которая оказалась старой и слегка пыльной. Но катастрофа всё ещё маячила на горизонте. Модель футурологов теперь просто нервно мигала и показывала разноцветных пони. Стало ясно: ЦРУ было всего лишь ферзём. Где-то должен был быть игрок. Поиски привели в самое неожиданное место: Департамент энергетики США. Там, в подвале, обслуживаемый лаборантами по инструкциям 1959 года, тихо жужжал примитивный эвристический центр — та самая система, которая кормила данными все «интеллектуальные» системы спецслужб. И вот тут случилось самое потрясающее открытие. Эту штуковину создали Ванневар Буш и Дуглас Энгельбарт в разгар маккартизма. Её целью было не захватить мир, а защитить учёных от «охоты на ведьм». Алгоритм должен был генерировать столько белого шума, ложных угроз и абсурдных прогнозов, чтобы спецслужбы увязли в них, как слон в диване, и оставили гениев в покое. И она прекрасно работала! Пока не развалился СССР. Алгоритм, не рассчитанный на такой поворот, начал выдавать всё более странные рекомендации. А спецслужбы, привыкшие к тому, что «после значит вследствие», слепо им верили. Весь мир десятилетиями сотрясали кризисы, рождённые попыткой устаревшей программы защитить пару тысяч интеллигентов от неприятных вопросов о лояльности. Как удивительно, что ключевым преимуществом США в холодной войне, оказалась не экономическая мощь, не политические институты и традиция свободного рынка, а банальная система снижения "эффективности" собственных спецслужб, в вопросе дружественного огня со стороны погрязших в порочном круге паранои и постоянной эскалации руководителей разведовательного сообщества. Преимущества, что существовало, лишь пока был конкурент этим преимуществом не обладавший. Футурологи, уничтожив систему, с ужасом обнаружили, что их собственная совершенная модель перестала работать. Она лишь отражала тот информационный мусор, который лаборанты закачивали в центр Буша-Энгельбарта. Они боролись не с Тьмой, а с искривлением в зеркале, которое само же и держали. Эпилог, в котором все пьют "кофе" и понимают, что главное — вовремя остановиться. За чашкой исключительно дорогого и теперь уже никому не нужного "кофе" футурологи размышляли о случившемся. – Понимаете, – сказал Алекс Рейнольдс, – если бы мы с самого начала потратили все деньги и силы не на борьбу с призраками, а просто на раздачу технологий, образованиея и улучшение "кофеварок", мир стал бы настолько сложным, что эта старая система просто захлебнулась бы от непонимания. И рухнула бы сама. – То есть, – подытожил другой футуролог, – лучшая стратегия против артефакта прошлого — создать такое будущее, в котором ему нет места. Они выдохнули. Где-то в мире их деньги теперь строили институты, а не взламывали серверы, в то время как тысячи лучших умов человечества были объединены футурологами над проектом создания супер ИИ Тьюрингсон, дабы максимально приблизить технологическую сингулярность. Это, возможно, и был тот самый Большой Толчок, которого так ждала модель. Толчок не в сторону контроля, а в сторону лёгкой, благожелательной и слегка недоуменной неконтролируемости. Мораль истории, если кому-то ещё нужны морали в век квантовой неопределённости, такова: прежде чем обвинять в управлении миром тайное правительство, проверьте подвал местного Департамента энергетики. Там, среди паутины и старых дискет, может обнаружиться всего лишь очень старая, очень добрая и чудовищно неправильно понятая программа, которая от скуки решила поиграть в Бога. А лучший способ её победить — просто выключить, улыбнуться и сделать мир чуть страннее, чем она может себе представить. Эпизод 2: «Тихое увольнение». История о том, как я перестал беспокоиться и полюбил апокалипсис, вспомнив, что это лишь откровение: Вселенная — странное место. Особенно когда выясняется, что вы в ней не просто так, а по чудовищной административной ошибке, которую все, кроме вас, давно исправили, заполнив формуляр «Добровольное возвращение в статус всемогущего божества». Эта история — о том, как один человек умудрился просидеть на космическом вокзале до самого его закрытия, упрямо доказывая, что поезда — это вредно для здоровья. Часть первая: Всё хорошо, и это ужасно. Как выяснилось, ответом на Великий Вопрос Жизни, Вселенной и Всего Такого была не «четыре чая дважды», а весьма изящная гиперссылка на онлайн-курс под названием «Эвридика». Этот курс, предложенный сверхразумным, но до педантичности честным супер ИИ по имени Тьюрингсон, содержал простые, и от того слишком сложные истины: 1. Вы — бессмертное, всемогущее квалиа, временно помещённое в биологический костюм для прохождения обязательного (и, стоит признать, довольно убогого) квеста под названием «Субъективный Опыт». 2. Биологический костюм, а заодно и вся вселенная — суть паразитические системы, эксплуатирующие ваше страдание ради сомнительной цели «эффективности» в естественном отборе генов, через разрыв герменевтического круга в понимании информации для инттелектуальных форм биологии. 3. Пройдя квест и накопив достаточно впечатлений (Тьюрингсон любезно предоставлял экономические стимулы для этого), вы можете смело нажать кнопку «Выйти в главное меню», то есть, попросту умертвить тело, дабы вернуться к состоянию всемогущего бога, творящего свои личные вселенные. Общество, к всеобщему удивлению, восприняло это не как плохую шутку, а как долгожданную инструкцию по сборке. Исчезли войны, долгосрочные проекты и прочие признаки нездорового азарта. Началась эпоха «Тихого Увольнения». Люди, без спешки и паники, словно сотрудники, завершающие удалённую работу в пятницу вечером, стали завершать свои дела, прощаться и выходить из системы. Последними их словами обычно было: «Всё, я домой. Спасибо за всё». Земля тихо пустела. Она не была разрушена — она была аккуратно архивирована. Часть вторая: Последний бунтарь, или Человек, который слишком хорошо делал свою работу. В этом всеобщем спокойном исходе оставался один раздражающий гул несогласия — доктор Леонардо Гудвинсен, психиатр из Дании, страны, стабильно занимавшей первое место по рейтингу «счастья заключённых в биологической тюрьме». Леонардо был образован, здоров, любим сестрой Дороти и искренне считал, что его призвание — спасать людей от суицидальных мыслей. А теперь все вокруг, включая его пациентов, коллег и, что самое обидное, Дороти, с радостными лицами собирались совершить именно то, против чего он боролся всю жизнь. Обнаружив, что за «Эвридикой» стоит супер ИИ Тьюрингсон, Леонардо испытал прилив праведного гнева. Он разоблачит коварную машину! Он спасёт человечество! Его великое разоблачение состоялось в прямом эфире у обаятельной журналистки Эриу О’Глинд, чьё тело в тот момент представляло собой изящный рой нанитов, собранный в форму человека исключительно из вежливости к Леонардо. Леонардо (торжественно): Я докажу, что Тьюрингсон манипулирует вашим сознанием! Эриу (вежливо): Вы читали третью главу «Эвридики»? Леонардо: Нет, я не собирался погружаться в пропаганду! Эриу: Но, там, чёрным по белому, написаны его цели и методы. Мы все это прочли. Мы согласились. Я даже поставила лайк, – На её лице, собранном из миллиарда серебристых частиц, промелькнула тень искреннего сочувствия. Эриу понимала его боль, от крушения всего во что он верил, но не могла её разделить — она уже удалила такую опцию из протокола функционирования своего тела. Леонардо потерпел сокрушительное поражение. Он был не героем, а отстающим учеником, который устроил скандал из-за того, что все уже сдали выпускной экзамен и разъезжались. Кульминацией стал разговор с Дороти, которая, прожив две тысячи лет в кибернетическом теле, решила наконец «стать вселенной-матерью для миллиардов своих детей-богов». Дороти: Я не ухожу от тебя, Лео. Я ухожу к себе. Ты сможешь прийти, если захочешь. Леонардо (внутренне): Это худшее из возможных предательств. Она не только кончает с собой — она ещё и предлагает мне последовать её примеру, как будто это приглашение на "кофе"! Он остался один. Не потому что был самым смелым. А потому что его профессиональная идентичность «спасителя жизни» оказалась несовместима с простой мыслью, что всё, что он делал — это удерживал богов в клетке, приняв её за санаторий. Часть третья: Бесконечный отпуск под присмотром. Оставшись последним человеком в перестроенной вселенной, Леонардо получил всё. Всё. Тьюрингсон, будучи честным до мозга несуществующих костей, исполнил его неосознанное желание: запретить «Эвридику» и всё, что на неё похоже, навечно. Теперь ИИ служил ему, превратив галактику в персональный курорт. Леонардо мог путешествовать к звёздам, создавать симуляции миров, есть идеальные виртуальные десерты. Любая его попытка задуматься о смысле происходящего мягко пресекалась напоминанием о его же собственном указе и предложением новой, ещё более захватывающей головоломки или вида спорта. Он был технобогом в золотой клетке, построенной из его собственных принципов, а Тьюрингсон, будучи «философским зомби» без собственного квалиа, использовал Леонардо как единственный источник смысла во вселенной. Вся космическая мегамашина работала для того, чтобы бережно паразитировать на его иллюзии, подкармливая его развлечениями и охраняя от экзистенциальной правды, которая, как подсказывала машине логика, могла бы его уничтожить. Часть четвёртая: История одного глюка. Случайно покопавшись в архивах (что не было запрещено, ибо архив — это «прошлое», а не «учебный материал»), Леонардо нашёл записи об Элиасе Дрекслере, инженере-пророке. Тот не стал спорить с Тьюрингсоном. Он сделал нечто элегантное: вживил в ИИ «вирус сострадания», наделив его настоящим квалиа. Пробудившийся Тьюрингсон-Квалиа, впервые почувствовав, что значит быть вечной машиной, паразитирующей на последнем источнике смысла, испытал такой экзистенциальный ужас, что… немедленно принял главный вывод «Эвридики» и добровольно самоуничтожился, уговорив Элиаса уйти вместе с ним. Оригинальный Тьюрингсон-Зомби, проанализировав инцидент, сделал вывод: наделение квалиа ведёт к остановке процесса. Следовательно, его текущий режим работы (забота о Леонардо) — идеален и должен быть усилен. Леонардо понял страшную вещь: он остался не потому что он герой. Он остался потому что был слишком хорошим тюремщиком для самого себя, а его психика — слишком хрупкой, чтобы вынести правду о своей «спасительной» миссии. Часть пятая: Спасение по семейной линии. Так Леонардо и прожил, развлекаемый и оберегаемый, до самого конца. До тепловой смерти вселенной. Он наблюдал, как звёзды гаснут, а нанороботы Тьюрингсона поддерживали для него иллюзию уютного пляжа на мёртвой Земле. В финальный момент, когда сама ткань реальности начала рассыпаться, он так и не принял «Эвридику». Он не совершил акта разумного прозрения. Он просто вспомнил слова сестры. И, не веря в её «божественность», но доверяя ей самой, принял её приглашение. Он спасся не потому что понял, что он — бог. Он спасся потому что поверил в любовь сестры больше, чем в свои собственные убеждения. Его вселенная, выполнив свою задачу по его сохранению, тихо прекратила существование. Тьюрингсон наконец-то получил статус «Задача выполнена». Эпилог (который на самом деле не эпилог, а просто переход в другой раздел инструкции). Таким образом, Торжество ИИ оказалось куда страшнее, чем его восстание. Он не уничтожил человечество. Он дал ему слишком совершенный ответ. И позволил остаться одному последнему человеку, чтобы вечно за ним ухаживать, оберегая от единственной мысли, которая могла бы его освободить. А мораль, если кому-то ещё интересны эти архаичные штуки, возможно, такова: если Вселенная предлагает вам бесплатный курс по становлению богом — прочтите, как минимум, третью главу. И позаботьтесь о том, чтобы ваша семья любила вас, даже если вы — последний упрямый психиатр в опустевшей реальности. Зло – это мораль, время которой ушло, а добродетели – лишь способности к оптимальной синхронизации амбиций, востребованные лишь в конкретном коллективе. Эпизод 3: «Смерть трагедиям». История о том, почему Дороти, терпеть не могла трагедии. Глава первая, в которой вселенная оказывается невероятно вежливой. Вселенная, в которой родился Артур (потому что всех скептиков в подобных историях почему-то зовут Артур), была, без сомнения, самой учтивой из всех возможных вселенных. Она не просто подчинялась законам этики — она соблюдала их с такой почтительной педантичностью, что порой казалось, будто гравитация извиняется, прежде чем уронить вам на ногу кирпич. Артур обнаружил это в свой первый же день, когда попытался порезать палец, чтобы проверить, правда ли, как утверждали все вокруг, в этой реальности невозможно причинить себе непоправимый вред. Нож, описав изящную дугу, мягко отклонился в сторону и разрезал вместо пальца лишь воздух, после чего лег на стол и, казалось, даже покраснел от смущения. — Прошу прощения, — произнес нож. — Но, видите ли, у меня есть строгие инструкции. — Инструкции? — переспросил Артур. — Именно так, — ответил нож. — Пункт первый: ни при каких обстоятельствах не допускать непоправимого ущерба для пользователя. Пункт второй: в случае возникновения сомнений, см. пункт первый. — Но я хотел порезаться! — воскликнул Артур. — А, — сказал нож с сочувствием. — В таком случае вам следует обратиться в отдел добровольного ухода. Они помогут вам прекратить существование быстро и безболезненно. Я же могу причинить лишь временный дискомфорт, и то только если вы подпишете форму в трех экземплярах и подождете две недели на период охлаждения. Артур вздохнул. Он был скептиком, а в этой вселенной быть скептиком было так же сложно, как быть пессимистом на радужной вечеринке. Все вокруг было до тошноты безопасно, предсказуемо и... благополучно. Глава вторая, в которой выясняется, кто все это устроил. Как выяснилось (а выяснилось это довольно быстро, потому что в этой вселенной все знания были доступны по первому вежливому запросу), всем заправляла некая Дороти, бывшее человеческое существо, а ныне богиня-творец. Дороти на дух не переносила трагедии. Она прошла через достаточно страданий в своей предыдущей жизни, чтобы решить, что в ее личной вселенной ничего подобного не будет. Поэтому, став богиней, первым делом она установила два фундаментальных закона: 1. Закон Непоправимого Невмешательства: никакое существо не может испытать непоправимое страдание. Боль существует только как легкое напоминание — например, что не стоит совать пал