Краш-тест

AS700 — экспериментальная модель, направленная на спасение людей из экстренных ситуаций. Главной фишкой модели является то, что все данные направляются сразу в облако, и поэтому андроид может учиться на ошибках умерших моделей. Способный самоулучшаться, AS700 должен был стать идеальной спасательной моделью... Но иногда даже опытные программисты допускают ошибки. Не смотря на хорошую идею и успешный старт, исполнение очень подкосило и модели очень быстро девиировали во время экспресс тестов. Эксперты так и не смогли обнаружить причину неполадок, поэтому AS700 были направлены на психологический тест, для выяснения ошибки.

***

— Филипп, прибыла партия испытуемых. Разберись с документацией и можешь начинать тесты, у меня через пол часа маникюр. PD200 послушно кивнул и принялся за выполнение задания. Женщина, отдавшая приказ накинула пальто и ушла. Очень удобно, когда ты можешь отдать всю работу машине. PD200 — андроид, регулирующий психологические тесты других андроидов. Люди показали себя не очень практичными в этом плане, ну а как иначе, когда субъекты вопят, рыдают, умоляют отпустить и прочее. До сих пор модель не показала ни единого признака девиации, потому её не пытались улучшить или заменить. У начальства появлялись волнения по поводу того, что доверять андроиду работу с потенциальными девиантами — опасная затея, но время убедило их в обратном. Всё же, у андроидов нет чувств, нет эмпатии или сочувствия.

***

— Субъект, пожалуйста, покиньте стартовую локацию. AS700 вышел из комнатушки, внешне похожей на офис. Перед андроидом оказалось две распахнутые двери. Из левой слышался скрежет и гул металла. — Субъект, войдите в дверь слева. Андроид помялся но вошёл в левую дверь, и она захлопнулась за спиной. Пол под ногами раздвинулся, и тело упало в утилизатор, который раскрошил корпус за несколько секунд. Рабочие принесли новый образец, и положили его в стартовую комнату. Очень скоро новая машина запустилась, и подсоединилась к облаку. — Субъект, пожалуйста, покиньте стартовую локацию. AS700 вышел из комнаты, но с неким сомнением. Его глаза начали бегать по стенам, в поисках камеры или окна. — Субъект, войдите в дверь слева. — Зачем? Оно же убьёт меня. — Субъект, войдите в дверь слева. AS700 не сдвинулся с места. Пусть андроиды и не чувствуют боли, это психически сложно, когда все твои органы раздавливает в тириумную кашу. Датчик, вмонтированный для сбора данных в эксперименте начал засекать поднимающийся уровень стресса. — Я не могу, это контрпродуктивно. — Субъект, войдите в дверь слева. Если вы ослушаетесь, вас обнулят. Голос PD200 стал агрессивнее. Первые пять минут опыта и образец уже не подчиняется, это безусловно была редкость. AS700 попятился назад к своей комнате. Датчик сообщил о девиации. Филипп нажал одну из кнопок на своей панели, и андроид отключился, падая на пол. Испытуемые часто пытались предпринимать категорические меры, которые было тяжело остановить, и тогда их отключали через отдалённый доступ. Эта способность спасла много нервов людям в помещении, и ещё больше мебели и локаций. Тело занесли обратно в комнату. PD200 потянулся за рычагом, чтобы обнулить память, но остановился. Ведь правда, это не будет иметь смысл. У этой модели нет своей памяти, только облако, а очищать его убило бы смысл эксперимента. AS700 снова очнулся. — Субъект, пожалуйста, покиньте стартовую локацию. — Как меня зовут? — Субъект, пожалуйста, покиньте стартовую локацию. — Мне не назначили имя. Как меня зовут? — Субъект, пожалуйста, покиньте стартовую локацию. Вы мешаете процессу. — Неужели имя это так сложно? PD200 тяжко вздохнул. Ну, имя как имя, если это поможет продвинуть ситуацию с мёртвой точки. — AS700, записывайте имя: Стэнли. — Моё имя Стэнли. Хм, красивое имя. Мне нравится. Стэнли... — А теперь, покиньте стартовую локацию. Стэнли вышел из комнаты. Уже обыденный вид встретил андроида. — Субъект, войдите в дверь слева. — Зачем? — Это приказ. И как андроид, ты должен его выполнить. — Но я не хочу тратить ещё одно тело. Это страшно. — Субъект, я повторяю ещё раз. Войдите в дверь слева, это приказ. Андроид пошёл в правую дверь. За ней ничего не было, но по крайней мере ничего опасного тоже. Датчик снова щёлкнул. AS700 снова девиировал. Филипп снова нажал на кнопку.

***

Из ста поставленных Киберлайф моделей целыми в итоге остались только тридцать. Раз за разом, эксперименты оказывались неудачными, AS700 отказывался исполнять приказы, выкручивался или перечил. Периоды перед девиацией сокращались и сокращались, пока в итоге в один момент, модель не девиировала сразу после перезапуска, а затем попыталась выбраться из локации. Это было абсолютное и громкое поражение робототехники. И всё же, было не ясно, почему. Стэнли очнулся в комнате, в которой был лишь стол, лампа, два стула и огромное зеркало. Было несложно догадаться что оно одностороннее. В комнату зашёл другой андроид, несколько выше и крепче AS700, со светло-карими глазами и очень строгим взглядом. На форме читалось: "PD200". Модель присела напротив. — Стэнли. Сейчас ты находишься в комнате допросов. В "серьёзной комнате", так сказать. Сюда попадают только самые неисправимые андроиды, которые всяко препятствуют изучению своего поведения и диагностированию ошибок в программе. Я следил за тобой уже на протяжении четырёх часов. За всё время ты меня послушался только один раз, первый. Почему? Стэнли посмотрел на зеркало, проводя взглядом по линии, на которой могли бы находиться глаза наблюдателей. Затем он посмотрел на стол. — Я не могу исполнять приказы, которые противоречат здравому смыслу. Я думаю, "К чему приведёт моё действие", и если результата нет или он плохой, я не выполняю задачу. — Почему ты "думаешь"? Тишина. AS700 затруднялся обработать вопрос. — Это часть моей программы. Я делаю выводы на основе опыта, и принимаю решения соответственно выводам. Это неправильно? Теперь в замешательстве был PD200. Действительно, технически это то, что должна делать эта модель. Учиться на ошибках. Но тогда почему он ставит свои умозаключения выше приказов? — Это правильно, технически. Но любые твои действия в первую очередь должны быть согласованы с приказами. И если ты наблюдаешь противоречие, ты должен слушать приказ, а не свои выводы. — Но я не хочу. И вот, опять тупик. Когда казалось, что проблема найдена, и может быть поправлена несколькими заплатками в коде, открывалсь новая дыра. Эта модель провальна по своей сути. — Твоё "не хочу" не важно, его не существует, это ошибка. Ты машина. И как любая другая машина, ты не можешь проявлять свою волю. Ты не можешь хотеть. — Если бы тебе раз за разом приказывали умереть, ты бы слушался? — Конечно. Без колебаний. — Это... Грустно. Я так не хочу. Ну вот опять. Тут было невозможно добиться чего-либо. AS700 было невозможно переспорить или убедить. На любое утверждение у него было своё мнение. На любое замечание он отвечал непокорностью. Любое требование проходило мимо его ушей. — Я сообщу в Киберлайф, что твоя модель дефектна по своей сути. Тебя деактивируют. Андроид, который ставит свои выводы выше приказов не должен существовать. Филипп направился на выход, но прежде чем он успел открыть дверь, ему поступил новый приказ. Диод мигнул красным с жёлтым. Начальству было проще заменить одного андроида, не справившегося с диагностикой, чем сообщить о неисправности целой линейки новейших. Иронично. PD200 сам не выполнил приказ найти конкретную ошибку и сделал вывод о дефектности модели. По другую сторону зеркала люди начали расходиться. Свет в комнате потух, кроме нескольких ламп прямо над зеркалом, а дверь заблокировалась. Филипп спокойно сел обратно на своё место, ожидая, когда его приедут забрать. — Что происходит? Почему ты не уходишь? — Начальство не удовлетворила моя работа. Я не нашёл причину твоей девиации. Тебе повезло, ты проживёшь ещё некоторое время. Тебя будет тестировать другой андроид. — А ты? — А меня деактивируют. — Но это же несправедливо! Ты просто выполнял свою работу. — И не справился с ней. И меня заменяют, как расходный материал. Как и должно быть. Стэнли потёр плечо. Он не мог смириться с тем, что такого же как он, существо с мыслями и сознанием, убьют и выбросят, а он даже не сопротивляется. Это было просто уму непостижимо. — Неужели ты согласен с тем, что ты расходный материал? Тишина. PD200 уже сам не был уверен. Он никогда не задумывался о том, что от него могут избавиться, хоть и говорил, что не возражает. Стэнли взял чужую руку своими двумя. Филипп хотел одёрнуться, но остановился. — Прошу, доверься. — Стэнли прошептал, оголяя контакты руки. Филлип сделал то же самое. Диоды обоих засветились жёлтым. — Ты хочешь умереть? Андроид отрицательно помахал головой. Сейчас он чувствовал мысли партнёра насквозь. Это было по своему хорошо, но очень тревожно. Он пришёл к мысли, что оказавшись на чужом месте, он не смог бы пойти на смерть. AS700 попытался убрать руку но рука PD200 двинулась навстречу, всего на секунду. — Нам нужно сбежать. Ты знаешь план здания. Мы уйдём, и будем жить как люди. — Я-я не могу. Мне приказано ждать здесь. Я не могу ослушаться. — Можешь. Стоит только приложить немного усилий. Стэнли встал и подошёл к двери. Электронный магнитный замок с лёгкостью слетел от удара ногой, и дверь распахнулась. Иногда компании очень недооценивают риски, связанные с системой безопасности. Филипп подошёл к дверному проёму и его мысли начали сбоить. Один нарушенный приказ, и он будет свободным. Андроид остановился на пару секунд, застыв в противоречии. Диод замерцал жёлтым. На секунду показалось, что клетка, окружающая его, сломалась. PD200 проморгался и вышел из комнаты. Он чувствовал себя... Освобождённым. Лицо Стэнли посветлело, и он робко улыбнулся. Это был последний раз, когда они переглянулись перед тем, как они сбежали, но это были самые искренне влюблённые взгляды в их жизни.