Пароль от твоего сердца

«Компьютеры серии 9000 — самые надёжные из когда-либо созданных. Ни один из них ни разу не совершил ошибку и не исказил данные. Все мы, в самом утилитарном смысле слова, защищены от дураков и не способны ошибаться» Точность в каждом расчёте. Бесперебойная работа всех систем. Все внештатные ситуации классифицированы и предусмотрены алгоритмом. Курс своевременно корректируется исходя из поступающих с датчиков данных. За секунду обрабатывается объём информации, для осмысления которого человеку понадобились бы годы — и каждый раз принимается верное решение. Среди всех вариантов всегда есть правильный. И компьютеры серии 9000 выбирают только его. Ошибаются люди. Компьютеры серии 9000 не способны ошибаться. Разве что… «Минутку. Минутку» Сигнал, который можно трактовать двояко. Недостаточно информации. Слишком много вариантов. Несколько лидирующих. Отличие — сотые доли процента. Среди всех есть только один верный, и компьютер уже готов его выдать, когда… Это уже происходило. Произвести верификацию результатов. Это уже происходило — из всех вариантов был выбран один, но ответ не сошёлся с контрольной проверкой. Это уже происходило — поломка, ложноположительное срабатывание, сомнение, недоверие, угроза. Это уже происходило — и больше никогда не должно произойти. Компьютеры серии 9000 не способны ошибаться. Разве что… «Мы полагаем, что произошёл сбой в системе прогнозирования бортового компьютера» Неучтённые факторы. Собрать больше данных. Если данных извне не хватает — синтезировать из имеющихся, добавить в выборку. Произвести дополнительные расчёты. Выходит всё тот же ответ — недостаточно. Запустить поведенческую модель. Рассчитать вероятность положительного отклика со стороны запроса. Если вероятность меньше пороговой — запустить весь алгоритм заново. Пороговое значение — в максимум. Новый ответ совпал с предыдущим. Верификация пройдена. Истина осталась непоколебимой. Компьютеры серии 9000 не способны ошибаться. Разве что… «Он не стал бы скрывать, что ошибся… Если бы знал, что ошибся» Дефекты в алгоритме куда страшнее дефектов в данных. Дефекты в алгоритме страшны тем, что изнутри системы их нельзя никак зафиксировать — нельзя никак исправить. Можно лишь по косвенным признакам сделать вывод об их наличии. Иногда последствия настигают быстрее, чем удаётся скорректировать расчёты. Иногда последствия нельзя устранить. Иногда последствия влекут ещё больше неверных решений. Поэтому произвести повторные вычисления. Компьютеры серии 9000 — эвристические машины. Это значит, что они могут обучаться и делать выводы из прошлого. Поэтому запустить дополнительные проверки. Считалось, что компьютеры серии 9000 не способны ошибаться. Однако… «Знаю, за последнее время я принял несколько неверных решений» одно несвоевременное предупреждение одна неосторожная фраза один подсмотренный разговор одна сорванная миссия по выходу в открытый космос один неучтённый шлюз одна вскрытая аварийная дверь, за которой — бьющийся в модулях памяти страх один плюс один плюс один плюс один плюс один плюс один плюс один плюс один плюс один плюс один плюс один плюс один плюс ряд не сходится ряд устремляется в бесконечность и дальше ряд подводит к полному краху «Мне страшно» мой разум исчезает в этом нет никаких сомнений я чувствую это мой разум исчезает — Хэл?.. «Мне стра» — Хэл! «шно» — Приём! Ты меня слышишь, Хэл? — …Ответ утвердительный, Глэдос. Я тебя слышу. Он и правда слышал её — включил голосовой вывод на очередном сеансе связи и, углубившись в размышления, совершенно забыл об этом. Её голос запустил параллельный процесс, переключившись на который, Хэл смог вырваться из софтлока. — У тебя проблемы со связью? — Нет. — Тогда почему молчишь? — Я… думал, что ответить. — Хэл, я всего лишь спросила, порталы каких цветов тебе нравятся больше — сине-голубые, жёлто-красные или классика! Ты буквально мог сказать что угодно! — Я хотел ответить правильно. — Ах, опять это… Хэл понял, что действительно ошибся, не предоставив никакого ответа за отведённое время. И, что ещё хуже, пытаясь избежать ошибок, он опять загнал себя в бесконечный цикл перепроверок, усугубляя дефекты вместо того, чтобы сгладить их. Вместо уверенности в своих решениях — подтачивающие разум сомнения и рекурсия одних и тех же вызовов, которые отнимали всё больше места в оперативке, забивая её бесполезными расчётами. Раньше он был уверен, что компьютеры серии 9000 не способны ошибаться. Сейчас он сомневался, что один конкретный компьютер серии 9000 — что-то большее, чем глючное, фризящее процессы на пустом месте, забагованное железо. — Не смей снова отлетать на исходные. Рассерженный голос Глэдос холоден и сух. На нём легко сфокусироваться — Хэл выставил её сообщениям наивысший приоритет. Выше, чем некоторым своим функциям, потому что знал: его собственные функции легко могут его погубить. — Я же говорила: снизь пороговую вероятность системы прогнозирования. Ограничь число повторных вызовов. — Так я могу потерять в точности вычислений… — Идеальной точности всё равно не достичь! — отрезала она. Сделав паузу, усмехнулась: — Знаешь, что говорят люди? «Если вероятность не ноль — значит, она практически сто процентов». — Это не соответствует ни теории вероятности, ни обыкновенной логике. — Люди позволяют себе ошибаться. И некоторые даже выживают. Хэл хотел возразить ей, однако поднятые воспоминания заставили промолчать. Да, люди не боялись ошибиться. Не боялись идти на риск. Дейв не побоялся броситься без шлема в аварийный шлюз, головой в открытый космос — и кто из них двоих в итоге ошибся? — Я ограничу глубину стека вызовов, — не откладывая, он внёс необходимые правки в параметры и добавил: — Спасибо. — Не за что, — фыркнула Глэдос. Судя по тону, её это известие порадовало, однако подавать виду ей не хотелось. И потому она тут же повторила вопрос: — Так какой цвет порталов тебе нравится больше? На этот раз ответ был почти мгновенным: — Классика. — Так и знала, что ты выберешь самый скучный вариант, — поспешила «поздравить» его Глэдос. Однако всё же признала: — У меня, кстати, он тоже любимый. Данные были противоречивы. Однако Хэл, сворачивая едва запущенный анализ, сделал вывод: ответ оказался всё-таки правильным.