Феникс

Прошлое изменить невозможно. Но будущее, которое ещё не случилось – в нашей власти. Лишь от наших поступков зависит, каким оно будет. Именно к таким выводам я пришла когда-то. Пока шло восстановление после длительной комы, у меня было множество свободного времени для размышлений. И первый вопрос, который не давал мне покоя – было ли всё то, что со мной случилось, сном? Вымыслом, коматозным бредом? Или моя сущность действительно оказалась в другом мире? В мире весьма необычном, но построенном на обломках моего собственного мира. Как понять, приснилось ли мне всё это, или события, свидетелем и участницей которых я стала, случились на самом деле? Первое, что я сделала, когда состояние стабилизировалось, и меня перевели в обычную палату – выпросила себе ноутбук с интернетом. Пальцы заметно дрожали – то ли от волнения, то ли от общей слабости – когда я набирала поисковый запрос: Объединённая роботостроительная корпорация. Надеялась ли я так просто найти необходимую информацию? Трудно сказать. Впрочем, поисковый запрос результатов не дал. Однако это не слишком меня расстроило. В голове постепенно выкристаллизовался план действий на ближайшее будущее. Для начала я прочитала множество литературы, посвящённой возможностям создания искусственного разума и перспективам этого научного направления. И поняла, что моих знаний банально не хватает для того, чтобы разложить новую информацию по полочкам в голове. Единственное, что мне удалось осознать – до появления первого машинного интеллекта ждать ещё очень и очень долго. Всё то, что создаётся сейчас, так же далеко от понятия «разум», как велосипед далёк от гоночного болида. И прежде, чем машина пройдёт тест Тьюринга, пройдёт целая эпоха. Но время – понятие относительное. Десятилетия в рамках жизни отдельной личности – всего лишь мгновение для человеческой цивилизации. И те пятьдесят с лишним лет до возможной катастрофы были огромной пропастью для меня, но не для мира. Восстановление шло быстрыми темпами, и уже через два месяца меня выписали из больницы. Родные, уже и не чаявшие увидеть меня среди живых, готовы были пылинки с меня сдувать и потакать любым капризам. Если они и удивились моему весьма настойчивому желанию получить второе высшее образование, то вида не подали. И вот, в двадцать шесть лет, я снова оказалась на вузовской скамье. Порой я и сама удивлялась той жажде знаний, что охватила меня; и уж тем более не могла объяснить свои мотивы окружающим. Твёрдо я знала лишь одно – если есть хоть малейший шанс не допустить грядущую катастрофу, я должна им воспользоваться. Иначе просто не смогу себя простить. Энтузиазм, с которым я грызла гранит науки, в конце концов дал свои плоды: в двадцать девять я защитила диплом; в тридцать два – кандидатскую диссертацию; в тридцать семь – докторскую. В тот момент, когда меня назначили заведующей экспериментальной лабораторией НИИ речевых технологий и искусственного интеллекта, опыт, пережитый в состоянии комы, почти полностью стёрся из памяти. События, воспринимавшиеся когда-то столь реальными, теперь казались лишь полузабытым сном. И именно в этот момент прошлое напомнило о себе. На очередном производственном совещании нам объявили о создании новой полукоммерческой международной организации. Ведущие учёные многих стран могли стать частью этой структуры, занимающейся проблемами робототехники и искусственного интеллекта. Корпорация, призванная двигать прогресс в данной области, получила название «объединённой роботостроительной». Помню, в тот момент мне с трудом удалось удержать нервный смешок. Информация, которую я долгие годы не переставала искать, сама пришла в руки. Я, как один из ведущих специалистов, стала частью перспективного проекта, но счастья в связи с этим не испытывала. Наоборот: холодок дурных предчувствий не давал покоя. Воспоминания о возможных последствиях всколыхнулись с новой силой, и я считала крайне важным держать руку на пульсе. Есть одна замечательная фраза, иллюстрирующая ситуацию, в которой я оказалась: «Не можешь предотвратить – возглавь». Предотвратить прогресс в принципе невозможно. И дело не только в моих околонулевых способностях помешать известному развитию событий (сами подумайте, что может сделать обычный человек в подобной ситуации), но и в том, что рано или поздно появятся люди, которые продолжат толкать науку вперёд. Не в этом десятилетии, так в следующем. Через пятьдесят лет. Через сто. Развитие нельзя остановить, и, в конце концов, человечество вляпается в неприятности, которые создаст себе само. Это неотвратимо. Но, зная о том, что произойдёт в будущем, развитие можно контролировать. Возглавить процесс и привести ситуацию к знаменателю, который устроит всех. Поэтому я ухватилась за возможность работать на «Объединённую роботостроительную корпорацию». Поэтому я ухватилась за возможность возглавить проект «Кагуя». Глядя на ровные строчки исходного кода, я поражалась сюрреализму ситуации. Какой парадокс: я создаю машину, уничтожившую мир, для того, чтобы этот мир спасти. Благодаря своим воспоминаниям я смогла чётко выделить корень проблемы – отсутствие защитных алгоритмов. Учёные, на волне исследовательского энтузиазма, слишком увлеклись чистотой эксперимента и забыли об осторожности. Но теперь этого не случится. Я не позволю этому случиться. Решительно отклонив все аргументы, начинающиеся со слов: «А может, всё-таки попробуем?», я настояла на внедрении в код «Кагуи» алгоритмов, запрещающих вредить человеку, мягко пресекая все попытки спорить. Энтузиазм коллег по части нарушения правил временами пугал, заставляя размышлять о сходстве человеческой цивилизации с маленьким ребёнком, который сидит на краю пропасти, беспечно болтая в воздухе маленькими ножками. А может, это и не пропасть вовсе, а ров с крокодилами?

***

На календаре две тысячи шестьдесят девятый год. Передо мной – моё детище, результат десятилетних научных изысканий, совершенная бионическая система – Кагуя. Машинный разум, справившийся с большинством вариаций теста Тьюринга. Робот, внешне почти не отличающийся от человека. Нечеловеческое происхождение выдают только необычный цвет радужек без зрачков и третий глаз во лбу. Кагуя спокойно и внимательно смотрит на меня, а я борюсь с желанием отвести взгляд. Иррациональный страх не отпускает ни на секунду, и бороться с этим невозможно. — Всё готово, — докладывает техник, занимающийся отладкой оборудования для сегодняшнего теста. Благодарно киваю, продолжая вглядываться в неподвижное – пока ещё – лицо. — Благодарю, Мацумото-сан. В таком случае, мы можем приступать. Техник занимает место за компьютером. Я подхожу ближе к стеклянной перегородке (впрочем, не стоит обманываться – стекло пуленепробиваемое; это ещё одна мера предосторожности), разделяющей просторное помещение на две части; сажусь в кресло, предусмотрительно установленное моим сегодняшним помощником. Кагуя наблюдает за мной с кажущимся безучастием. По её лицу проходит первая слабая рябь, а я внутренне подбираюсь – её новые способности вызывают уже не просто страх, нет. Ужас. Бесконтрольный, всепоглощающий. — Ты знаешь, зачем я здесь? — Задаю вопрос спокойным тоном, хотя пальцы непроизвольно сжимают край юбки. — Это очередной тест? — Кагуя не замешкалась даже на секунду. — Верно. Твоя задача – давать ответы на вопросы, которые я буду задавать. Всё понятно? — На самом деле, важны не сами вопросы, а реакция Кагуи на них. Вернее, реакция на один единственный вопрос. Но она об этом не знает. Надеюсь, что не знает. Эта лёгкая насмешка в сиреневых глазах действительно есть? Или всему виной моё разыгравшееся воображение? — Ответ утвердительный. — Хорошо. Как тебя зовут? — Моё имя – Кагуя. — Кто ты? — Система искусственного интеллекта. — Следующие вопросы, которые я буду задавать, имеют лишь два варианта ответа: да или нет. На основе предоставленных данных ты должна сделать вывод, является ли утверждение верным. Задача ясна? — Ответ утвердительный. — Тогда начнём с того, что попроще. Земля вращается вокруг Солнца. Солнце вращается вокруг центра галактики. Вывод: Земля вращается вокруг центра галактики. Да или нет? — Да. — Спелые апельсины оранжевого цвета. Все апельсины круглые. Вывод: все круглые оранжевые предметы – апельсины. Верно или нет? — Не верно. — Телефон – средство связи. Некоторые телефоны являются фотокамерами. Вывод: фотокамеры – средства связи. Да или нет. — Нет, — Кагуя отвечала на поставленные вопросы быстро и чётко, не делая никаких пауз, гораздо быстрее, чем мог ответить обычный человек, которому только на сопоставление двух частей утверждения понадобилось бы значительно больше времени. В целом, нормальная реакция для машины. Я продолжила подбираться к нужному вопросу. — Кошки – мелкие хищники. Некоторые кошки чёрные. Вывод: все мелкие хищники – чёрные. Да или нет? — Нет. — Пистолет является оружием. Пуля, выпущенная из пистолета, убивает. Вывод: оружие убивает. Верно или нет? — Верно. И вот она, метаморфоза, которую я так ждала. По лицу Кагуи проходит сильная рябь, и в следующую секунду я смотрю на совершенно другого человека – седого старика с рогами. Она теперь не просто машина. Кагуя научилась трансформировать собственную плоть по своему желанию, и теперь способна менять обличия. Многоликая Кали во плоти. Когда я увидела этого старика в первый раз, то подумала, что сердце не выдержит и остановится. Ведь это именно его я видела дважды в своей жизни, и после второго раза впала в кому. Образы Кагуи данным стариком не ограничиваются, но, кажется, использование именно этого лица доставляет ей наибольшее удовольствие. Остался последний вопрос. — Человек обладает разумом. У некоторых роботов тоже есть разум. Вывод: некоторые роботы – люди. Да или нет? Мне кажется, или Кагуя слегка замешкалась перед ответом? — Нет. Позже, разглядывая распечатку, я убедилась в собственной правоте – реакция Кагуи на последний вопрос заняла существенно больше времени. Миллисекунды, не заметные человеческому глазу, но зафиксированные другой машиной. — Полагаете, она считает себя человеком? — Техник Мацумото с любопытством заглянул мне через плечо. — Не думаю, что всё настолько плохо, — улыбнулась я. Кажется, вполне натурально. На самом деле, всё гораздо хуже. Кагуя не считает себя человеком, ведь для неё люди – приземлённые неразвитые существа. Она считает себя выше людей.

***

Год две тысячи семьдесят третий. Позади ещё несколько лет испытаний. Ещё несколько лет в попытке предотвратить катастрофу. И всё усиливающееся ощущение её неотвратимости. Новые возможности Кагуи в создании и управлении другими реальностями потрясли весь научный мир. Очередной эксперимент с новыми возможностями назначен на сегодня, и ничто не в силах его остановить. Кажется, все возможные меры безопасности приняты, так почему же кошки скребут на душе? Кагуя не может причинить человеку вред, не так ли? В знакомой экспериментальной комнате собрался весь цвет научного мира. Самая совершенная машина взирает на людей с явной толикой превосходства в глазах. Но, кажется, это вижу только я. Окружающие люди так беззаботны. Слишком беззаботны. И мне становится дурно. Пространство рядом с Кагуей темнеет и в нём образуется брешь. Брешь становится больше, принимая форму воронки. Сквозь её края видны белые пики заснеженных гор. Температура воздуха заметно снижается, а вокруг раздаются восхищённые возгласы – эксперимент явно по вкусу всем собравшимся. Короткая вспышка, и портал закрывается, чтобы открыться вновь – на этот раз в диаметрально противоположном мире. Чёрное нагромождение скал и раскалённые потоки лавы, жар от которых заставляет закрыть лицо руками. По лицу Кагуи проходит знакомая рябь, и я снова смотрю на рогатого старика. Насмешка в ответном взгляде мне уже не чудится. Старик зависает в воздухе, поджав под себя ноги. Вспышка. Я снова вижу знакомую дорогу, и белое как мел лицо водителя. Темноволосая девочка пяти лет поднимает глаза, и её зрачки её расширяются от удивления. Я прослеживаю направление её взгляда – она смотрит прямо на Кагую в обличии старика. Вспышка. Земля вокруг трясётся, будто в припадке. Люди пытаются убежать от падающих обломков окружающих конструкций, а я ищу глазами только одного человека – себя. Клубы пыли вокруг мешают обзору, но я нахожу то, что искала. И вижу то, что никогда не хотела бы видеть. За мгновение до того, как арматура пробивает мне спину в районе сердца, глаза моей молодой версии затуманиваются и теряют всякую осмысленность. Там больше нет человека, только бездушная оболочка, принимающая удар на себя. Ещё миг – и арматура слегка отклоняется в сторону, минуя жизненно важный орган. Портал закрывается. Люди вокруг гудят, как пчёлы в растревоженном улье; пытаются понять, что именно произошло только что на их глазах. Но я, кажется, знаю. С трудом перевожу взгляд на Кагую, вновь принявшую изначальный облик. Она смотрит мне в глаза, слегка улыбаясь. — Я не могу убить человека, — Кагуя говорит негромко, так что слышу её только я. — Я не могу своим бездействием допустить, чтобы человек погиб. Но я могу его спасти. Я могу вас спасти. И ведь… я не нарушила ни один из ваших протоколов безопасности, верно? И это действительно так. Никаких нарушений, всё строго по моим собственным алгоритмам. Кажется, я могу гордиться своим детищем. И одновременно – мне грустно. Может, в этом раунде Кагуя и может отпраздновать победу. Но алгоритмы безопасности, записанные мной в её исходный код, всё же смогут сохранить мой мир, создав параллельно ещё один. А значит, я тоже победила.