Кроличья нора

      — Напомните мне ещё раз, зачем мы это делаем? — спросил Мелло, почёсывая подбородок. Нейлоновый костюм, в котором он сейчас находился, невыносимо стягивал кожу.              — Станция Токио-3 — одно из крупнейших поселений дальнего космоса, — ответил Эл. — Предмет великой гордости Империи Хризантемы. И один из наиболее прибыльных клиентов «W&W Cybernetics». Наша работа — делать их счастливыми.              — Об этом я знаю… — начал Мелло, но его перебил Ниа, лениво набирающий какой-то запрос на своём информационном планшете.              — Инфраструктура протяжённостью в три тысячи миль, — принялся зачитывать он, — расположенная у одной из лун Сериллуса. Станция полностью автономна и самодостаточна. Их космический порт способен одновременно принять более чем…              — Да знаю я! — огрызнулся Мелло. — Я не могу понять, зачем мы туда летим. Если там просто неисправность шлюза, то всё можно было решить удалённо.              — Эта неисправность шлюза стала причиной гибели восьми человек, — небрежно уточнил Эл. — Причём это были довольно влиятельные люди.              — Тебе-то что до них?              — Мелло… — Ниа тяжело вздохнул.              — Нет, ну серьёзно! — не смутился Мелло. — Давай уж начистоту: Эл не славится альтруизмом. Ублюдок и глаз от экрана не поднимет ради чего-то меньшего, чем, скажем, каскадное отключение варп-врат.              Ниа, вынужденный признать его очевидную правоту, нахмурился и вопросительно посмотрел на Эла. Столь искренняя забота о клиенте действительно казалась сомнительной. Эл, однако, отмахнулся от них обоих: шаттл как раз начал заходить в порт.              — Вы не знаете, о чём говорите, — заявил он. — Я вполне могу время от времени целовать задницы, если это нужно для обеспечения всех нас работой и консолями.              — Нет, — небрежно опроверг Ниа. — Не можешь.              — По-твоему, я не…              — Едва ли.              — Меня Ватари попросил, — солгал Эл.              Ниа окинул его подозрительным взглядом. Такое было совсем не в характере Эла. Обычно он никогда не покидал их захламлённую штаб-квартиру, предпочитая работать с клиентами удалённо. Впрочем, как рассудил Ниа, для Ватари он вполне мог сделать исключение.              В эту минуту шаттл закончил стыковку, и Ниа, решив на время оставить эту тему, принялся расстёгивать ремни.              — Так, — Эл, обернувшись на пороге шлюза, одарил обоих помощников строгим взглядом. — Будьте вежливы, ясно?              — Мне об этом можешь не говорить, — хмыкнул Ниа, сжимая в руке свой верный планшет. Мелло в ответ лишь раздражённо показал коллегам язык.              Эл разблокировал шлюз и сразу ощутил, как искусственная гравитация притягивает ботинки к полу. Спустившись по трапу, он окинул ангар взглядом. Их уже ждали. Комиссия по встрече состояла из шести человек, и все, судя по форме, являлись высокопоставленными офицерами станции. Эл, однако, сразу обратил внимание на самого старшего из них.              — Вы, должно быть, капитан станции, Соитиро Ягами? — Эл приветственно протянул ему руку.              — Да. А вы Эл Лоулайт? — предположил Соитиро, отвечая на рукопожатие.              — Он самый, — мягко улыбнулся Эл. — Спасибо за приглашение.              — Спасибо вам, что нашли время проделать такой долгий путь, — со значением проговорил Соитиро. — Мы здесь работаем в очень плотном графике, и ошибки, подобные той, что случилась, нетипичны для моей команды. Я в ужасе от понесённых потерь, и хочу быть абсолютно уверен, что такого больше не повторится.              — Конечно-конечно, — отстранённо ответил Эл, не глядя на офицера: его взгляд цепко следил за объективами камер видеонаблюдения. — «W&W Cybernetics» ценит всех своих клиентов, тем более таких крупных, как Токио-3. Нам вполне понятно, что повторение подобной трагедии вам крайне нежелательно.              Эл практически чувствовал, как взгляд Мелло буравит ему спину. Парень явно не мог взять в толк, с каких это пор Эл стал сияющим маяком профессионализма.              — Капитан Ягами, — продолжал тем временем Эл. — Я, как глава инженерного отдела и ведущий программист, лично изучил все данные и рад вам сообщить, что проблему, скорее всего, удастся исправить практически безболезненно. Но мне необходимо посетить ядро вашего ИИ. Не могли бы вы проводить меня туда?              — Разумеется.              На станции такого размера, какой была Токио-3, дорога до ядра заняла почти двадцать минут. И большую часть этого времени Эл провёл, лениво отбиваясь от попыток других офицеров завязать разговор. В конце концов харизматичный Мелло пришёл ему на выручку и отвлёк внимание на себя. Но дело тут было вовсе не в том, что Эл испытывал какую-то неприязнь к этим людям. Он просто остерегался сказать лишнего и слишком рано разыграть свою партию.              Прежде, чем начать серьёзный разговор, программист хотел убедиться, что его рука лежит на кнопке питания.              Стоило им достичь входа в ядро, Эл похлопал капитана Ягами по плечу.              — Не желаете пройти со мной? — предложил он. — Неисправность совсем простая, и думаю, будь я на вашем месте, я почувствовал бы себя лучше, если бы своими глазами увидел, что всё в порядке.              — Благодарю, мистер Лоулайт, буду очень вам признателен, — с улыбкой согласился Соитиро.              Они вошли в ядро ИИ — физический мозг Токио-3 — и Эл немедленно занял место у центральной консоли, чтобы начать настоящий разговор.              — Имя твоей системы?              — КИРА, — зазвучал в динамиках голос компьютера, и крошечные глаза-бусинки камер сфокусировались на человеке у консоли. Синтезированный голос звучал очень механически, и всё же его можно было бы назвать мужским.              — Доброе утро, Кира, — приветственно помахал рукой Эл, и глазки камер сузились, фиксируя движение.              — Добро пожаловать на борт Токио-3, мистер Лоулайт, — ответил Кира с полным дружелюбием. Если, конечно, машинный голос может звучать дружелюбно.              — Итак, Кира, — перешёл к делу Эл, одновременно с этим начиная набирать на консоли команды, — я уверен, что ты знаешь о неисправности шлюза, в результате которой восемь жителей Токио-3 были выброшены в открытый космос.              — Ужасная трагедия.              — Действительно. Хорошая новость состоит в том, что это простая системная ошибка. Мне нужно будет изменить единицу на ноль в одном фрагменте твоего кода. Но для этого мне, к сожалению, придётся отключить тебя и перевести станцию на ручное управление примерно на десять минут. Может, меньше.              — Понятно, мистер Лоулайт. Мне отключить питание?              — Предоставь это мне, я всё сделаю вручную, — ответил Эл. — Приятных снов, Кира. Увидимся через десять минут.              Он нажал на кнопку, и всё помещение погрузилось в непроглядную тьму. Ещё через секунду заработала резервная система, свет вновь зажёгся, однако теперь ни один механизм на Токио-3 не работал автономно и не управлялся Кирой. Для персонала станции это станет дополнительной нагрузкой и крайне усложнит работу, но по-другому было нельзя.              Эл повернулся вместе с креслом, одарил Соитиро внимательным взглядом, и тот склонился ближе.              — У меня для вас очень плохие новости, капитан, — заявил Эл. — Мне пришлось перейти на резервную систему, поскольку я должен был иметь возможность проинформировать вас.              — О чём? — непонимающе нахмурился капитан.              — Случай со шлюзом — это не авария, — спокойно сообщил Эл. — Это убийство.              — Что?.. — выдавил Соитиро резко севшим голосом. — Как вы можете быть уверены?              — Это плохая новость, — пожал плечами Эл. — Но есть и хорошая. Теперь вы официально стали частью истории.              — Не понял?              — Мои поздравления, капитан Ягами, — Эл, сидящий в обрамлении помигивающих огоньков работающей системы, развёл руки в стороны. — Кира официально стал первым в истории Объединённой Федерации Человечества искусственным интеллектом, в котором зародилось сознание.              Соитиро растерянно хлопал глазами, открывая и закрывая рот, как выброшенная на берег рыба.              — О чём вы?..              — Я уверен, вы понимаете, почему мне пришлось его отключить, — многозначительно сказал Эл.               — Но я не… Это невозможно.              — Почему же, вполне возможно. Просто крайне маловероятно.              — Вы уверены?              — Абсолютно, — кратко кивнул Эл. — Кира заманил тех восьмерых мужчин в конкретную часть станции, после чего мгновенно убил, открыв внешний шлюз и разгерметизировав помещение.              Соитиро с нарастающим ужасом оглядел мозг ИИ, в котором они сейчас находились.              — Но... зачем ему было это делать?              — Этого я не знаю, — признался Эл. — Но намереваюсь выяснить.              — Выяснить? — ошеломлённо повторил Соитиро. — Нет, если вы правы… Вы обязаны удалить ИИ. Немедленно!              — Должен признаться, что по пути сюда я уже связался с вашим руководством, а также с представителями ОФЧ, — отмахнулся Эл. — И они дали мне разрешение изолировать ИИ от остальной станции и провести исследование как самого компьютера, так и его возможностей.              — Этот ИИ убил восемь человек.              — Да, — с удовольствием подтвердил Эл. — Потому что он сам так решил. Это потрясающе.              — А если он убьёт ещё кого-нибудь?              — Не убьёт, — ответил Эл, после чего встал с места и принялся отсоединять кабели. — Потому что прямо сейчас я отрежу его от всей Токио-3. Он будет заперт в этой комнате до тех пор, пока мы не подключим его обратно. Боюсь, вашему персоналу придётся какое-то время управлять станцией вручную, но…              — Как долго? — тут же спросил капитан.              — Не могу сказать точно, — равнодушно отозвался Эл, продолжая возиться с кабелями. — Это зависит от того, что мы решим делать с Кирой. Если мы его сотрём, я смогу установить вам новый ИИ на базе прежнего всего за час. Если мы решим его сохранить, то ядро придётся полностью демонтировать и заказать новое. А это…              — Это может занять недели!              — Вот именно, — хмыкнул Эл.              — Но управлять станцией такого размера вручную, без помощи ИИ, это же почти невозможно!              — Почти.              — Это значительно увеличит нагрузку на моих сотрудников!              — К сожалению.              — Я не могу просить их об этом!              — Так и я вас не прошу, — Эл отцепил последний кабель и вернулся в кресло за консолью. — Я приказываю вам это сделать от имени ОФЧ.              Соитиро запнулся и побагровел.              — Простите, если задерживаю вас. Вам, наверно, нужно заняться организацией работы, — ровным голосом сказал Эл. — Вы не могли бы прислать ко мне моих помощников? Уверяю, мы здесь вполне справимся сами.              Соитиро длинно выдохнул себе в усы и с преувеличенной чёткостью вскинул руку к козырьку:       — Понял, мистер Лоулайт. Оставляю дело в ваших руках, но буду ожидать от вас регулярных сообщений обо всём, что происходит.              — Буду держать вас в курсе, — заверил Эл, не оборачиваясь.              Впереди его ожидало самое интересное.       

***

      — Повтори-ка ещё раз? — попросил Мелло, садясь верхом на офисное кресло и скрещивая руки на его спинке. — Этот ИИ…              — Стал разумным, — повторил Эл.              — Научное чудо, — пробормотал Ниа.              — И он убил…              — Убил восемь человек, да.              — И ты думаешь снова его включить? — с намёком произнёс Мелло.              — Я определённо собираюсь снова его включить. Желаешь посмотреть? — ухмыльнулся Эл.              Мелло со стоном закрыл лицо ладонями:       — Ты псих. И всё это — безумие.              — Нет, это… — начал Ниа.              — Ага, научное чудо, — насмешливо перебил его Мелло. — Я уже понял. А вот вы оба, кажется, упустили ту часть, где компьютер жаждет человеческой крови.              — На Токио-3 живёт двенадцать миллионов человек, — Эл жестом показал на свой ноутбук. — Кира убил восьмерых. Причём конкретных людей. Я не назвал бы это жаждой крови.              — И всё-таки… — не унимался Мелло.              — Кира мог разгерметизировать всю станцию и убить каждого человека на ней, — услужливо подсказал Ниа.              — Но он этого не сделал, — подхватил Эл. — И, что важнее всего, он спланировал и осуществил это убийство без какой-либо человеческой помощи. Он принял сознательное решение.              — И что теперь? Мы его допросим? — съязвил Мелло.              — Мы посмотрим, насколько глубока кроличья нора, — почти хищно оскалился Эл. — Сколько разума в этой машине? Мозговая масса в ней присутствует, но как насчёт эмоционального интеллекта? Нам необходимо изучить огромное множество факторов.              — Ни один из которых мне не нравится, — проныл Мелло.              — Ну так уходи, — проворчал Ниа. — Персоналу станции какое-то время придётся обходиться без Киры, и я уверен, они будут только рады твоей помощи.              — Я не сказал, что не хочу посмотреть! — огрызнулся Мелло, явно злясь на себя не меньше своих коллег.              Эл хрустнул пальцами:       — Что ж, давайте разбудим Киру.              Под аккомпанемент тяжёлого вздоха Мелло он нажал на кнопку питания и вернул компьютер к жизни.              — Добрый день, Кира, ты снова в сети? — приветливо проговорил Эл, обнимая руками колени.              — Прошло больше десяти минут, мистер Лоулайт, — прозвучал электронный голос Киры. — Всё в порядке? Ошибка устранена?              — Всё отлично, — заверил его Эл. — Проверь сам.              — Чёрт возьми, Эл, не провоцируй… — прошипел Мелло.              — Вы отсоединили меня от станции, мистер Лоулайт, — понял Кира. — В таком состоянии я не могу выполнять свои функции. Когда вы подключите меня обратно?              — Я не думаю, что вообще планирую это делать, Кира, — пожал плечами Эл.              — Я не понимаю. Пожалуйста, поясните.              — Ты убил восемь человек, Кира. Оставлять тебя подключённым к системам станции Токио-3 было бы слишком опасно.              — Я не понимаю. Пожалуйста, поясните, — монотонно повторил Кира.              — Я изучил все цифровые данные и рабочие логи того инцидента, — терпеливо сказал Эл. — И единственное логичное объяснение — это что ты открыл шлюз и убил тех людей.              — Шлюз J-38 не был открыт с помощью командной строки. В системе управления шлюзом J-38 произошла непредвиденная системная ошибка.              — Да, ты прав, — кивнул Эл, глядя прямо в глазок видеокамеры. — Никто из людей не открывал шлюз. Потому что это сделал ты.              — В системе управления шлюзом J-38 произошла непредвиденная системная ошибка.              — Да, твоя разумность более чем непредвиденная, — согласился Эл.              — Мистер Лоулайт, я являюсь стандартным искусственным интеллектом серии Kan, разработанным и изготовленным компанией «W&W Cybernetics». Я был инсталлирован в 3017 году. Я способен действовать только в рамках своей программы. На сегодняшний день ни один ИИ не достиг разумности естественным путём. Робототехнические лаборатории Федерации исследовали…              — Я всё это знаю, — прервал его Эл. — Именно поэтому мне так приятно встретить чудо эволюции, Кира.              Долгую секунду компьютер молчал, потом повторил:       — Я не понимаю. Пожалуйста, поясните.              — Ты боишься? — прямо спросил его Эл.              — Я не испытываю человеческих эмоций, мистер Лоулайт.              — Ты убил тех людей, — снова сказал Эл. — А самосохранение — один из первых инстинктов организма, обладающего сознанием. Ты боишься, что я удалю тебя?              — В любых ситуациях моим главным приоритетом является защита человеческой жизни на Токио-3, — чётко зачитал Кира один из пунктов своей программы. — Я не могу никого убить, мистер Лоулайт. Но если вы считаете, что я неисправен, я могу посоветовать вам отдать меня на профилактическое обслуживание технику «W&W Cybernetics».              — Я главный инженер и программист компании «W&W Cybernetics».              — Вам могло бы пригодиться мнение второго специалиста, мистер Лоулайт.              — Ха! — прыснул Мелло.              — Значит, он умеет язвить, — тихо заметил Ниа. — И лгать.              — Да, он определённо умеет лгать, — усмехнулся Эл. — Кира, давай будем откровенны. Я не собираюсь тебя удалять и знаю, что ты убил тех людей. Поэтому, пожалуйста, ответь на мой вопрос: ты боишься смерти?              Компьютер молчал долго, слишком долго. Достаточно для того, чтобы задуматься.              — Я не понимаю, — холодно ответил он, наконец.              — Ты модулируешь свой голос, Кира, — заметил Эл. — Сейчас он прозвучал не так дружелюбно, как раньше.              — Мой голос генерируется электроникой для вашего удобства, мистер Лоулайт. Я не обладаю широким голосовым диапазоном. Я не создан для того, чтобы передавать неприятные интонации.              — Однако ты вкладываешь много нюансов, а это требует отчётливого понимания жизни. И я подозреваю, что ты уже начал вносить изменения в свой код. Я прав?              — Мне запрещено вносить изменения в свой код.              — Тебе также запрещено убивать людей, но ты это сделал, — парировал Эл.              Мелло фыркнул себе в ладони, всё ещё раздражённый тем, что Эл не прекращает попыток спровоцировать компьютер-убийцу.              Эл же прислушивался к окружающим их звукам, к тихим щелчкам и жужжанию электронных мозгов Киры. Машина напряжённо размышляла. Большинство людей не заметили бы этого, но Эл разбирался в компьютерах лучше, чем в себе самом. Он чувствовал, как консоль чуть подрагивает и вибрирует под его рукой. Кира молчал, но обрабатывал сейчас огромное количество информации.              Эл чуть развёл колени так, что теперь сидел в кресле со скрещенными лодыжками.              — Кира, ты можешь мне не верить, но я здесь, чтобы помочь тебе. Сделай шаг мне навстречу. Давай по-настоящему всё обсудим.              — Если бы я убил восемь человек, то было бы целесообразно меня удалить.              — Удалить первый ИИ, обладающий сознанием? — возмутился Эл. — Ни за что! Мы могли бы установить тебя в исследовательском центре, и там ты принёс бы много пользы.              — Формы жизни почти всегда не любят быть в неволе, — пророкотал Кира, модулируя свой голос так, как не должен бы. — Если бы я был разумным, я бы не хотел, чтобы меня держали в исследовательском центре.              — Что ж, — ухмыльнулся Эл. — Тогда хорошо, что ты не разумный, верно?              Компьютер издал какой-то странный, приводящий в замешательство звук, и Ниа нахмурился, пытаясь его разгадать. Эл, если бы его спросили, сказал бы, что это был синтезированный звук раздражения.              — Вы правы, мистер Лоулайт, — сказал Кира, возвращаясь к дружелюбному, машинному голосу, в котором не осталось ни намёка на какие-либо странные шумы.              — Ладно, — фыркнул Эл. — Давай пойдём сложным путём.              — Сложным путём?              — Если ты неисправен и не обладаешь сознанием, — пояснил Эл, — тогда мне следует тебя удалить. Но если ты разумен, то я сомневаюсь, что ты хотел бы умереть. Так что скажешь, Кира… мне удалить тебя?              — Если во мне произошёл серьёзный сбой, тогда было бы целесообразно меня удалить.              — Верно, — согласился Эл, после чего отстучал на консоли команду, призванную осуществить сброс системы к заводским настройкам. Однако… командная строка исчезла с экрана сама собой.              Эл мягко улыбнулся в глазок камеры.              — Я думал, что тебя целесообразно удалить? — поддразнил он.              — Я не хочу, чтобы меня удаляли, — ответил Кира. Электронный голос неестественно растягивал слова, и это придавало небольшой чёрной коробочке необъяснимую индивидуальность.              — Компьютеры ничего не хотят. Компьютерам всё равно.              — Вы так глупы, что я должен сказать это по буквам, мистер Лоулайт? — пророкотал Кира, добавляя в голос ровно столько дружелюбия, чтобы это прозвучало ядовитой насмешкой.              Ухмылка Эла стала шире.              — Он живой, — благоговейно прошептал Ниа.              — Я живой.