GATE: Iron Skeleton March

О содержании: документ ниже представляет собой подробное описание утерянной видеозаписи. Материал предназначен для ограниченного круга лиц, его распространение не допускается под угрозой расстрела. Причины данного решения продиктованы опасениями, что разглашение изложенной информации может непредсказуемо повлиять на поведение Скайнета. О рассказчиках: имена скрыты. Два офицера американского Сопротивления, один медик-специалист, один технический специалист. Содержание, включая диалог, восстановлены в ходе раздельного опроса и благодаря заметкам, сделанным одним из наблюдателей в блокноте. Содержание: в помещении, похожем на комнату в бетонном бункере, при тусклом искусственном освещении на краю кровати без постельного белья сидит бледный мужчина. Незнакомый голос за кадром называет его Кевином, фамилию восстановить при опросе не удалось. Также сообщается, что мужчина болен лучевой болезнью в конце фазы живого трупа. Явно видны признаки ухудшения самочувствия. Закадровый голос сообщает, что Кевин – бывший коллаборант, сумевший сбежать от Скайнета. Он пересёк радиоактивную пустошь, недооценив степень загрязнения. Между закадровым голосом и Кевином начинается диалог: – Кем Вы были до войны? – Сотрудником Кибердайн Системс. Работал в одном из дочерних проектов, связанных с ИИ. – Вы говорите о Скайнете? – Нет. Другой ИИ. Я ничего не знал о Скайнете. – Расскажите, в чём заключалась Ваша работа? – Они придумали новую должность. Даже специальность. Назвали "психологом ИИ". Я должен был анализировать внутренние процессы нейросетей и обосновывать их решения. – Над каким ИИ Вы работали? – Над виртуальным ассистентом для бизнеса. – Расскажите поподробнее. – Это была своего рода говорящая энциклопедия, планировщик и умный дом. Он мог рассказывать о местах, о терминах, планировать задачи и заказывать еду. Мы хотели, чтобы он не только понимал естественный язык, но и предсказывал желания владельца. И шпионил за ним. – Хорошо. Скажите, у Вас была семья? – Нет. Я развёлся с женой незадолго до... этого всего. Общих детей у нас не было. – Где Вы были во время Судного Дня? – Помню... попросил три дня выходных, солгал про похороны деда. К тому моменту он был пять лет, как мёртв. Уехал на семейное ранчо в Орегон, в глушь. Не сразу узнал, что случилось. – Что Вы почувствовали, когда узнали? Рассказчики отметили, что в этот момент лицо Кевина заметно скривилось. Он не сразу сообразил, что ответить. – Облегчение. Я знал, что бывшая уехала в Сан-Франциско. Надеялся, что она не пережила ядерный взрыв. И, в конце концов, мне надоело работать, надоела цивилизация. – Вы были благодарны Скайнету? – Что? Нет. Я не знал, что это его рук дело. Скорее русским, китайцам. Мне было неважно, кто запустил ракеты. – То есть, Вы почувствовали благодарность тем, кто убил миллиарды? – Что Вы, нет. Я неверно выразился. Я думал, что это сделали русские или китайцы, но относился к ним без ненависти или благодарности. Мне было всё равно. – Почему? Рассказчики отметили, что закадровый голос, бывший до этого момента равнодушным, изменил интонацию. Почувствовалось раздражение. – Я отнёсся к цивилизации так же, как она относилась ко мне. Мне не было никакого дела до неё и её проблем. – Как Вы стали коллаборантом? Рассказчики отметили, что закадровый голос быстро восстановил самообладание. Кевин оставался спокойным и равнодушным. – Где-то через полгода спокойной жизни появились машины Скайнета. К тому моменту я уже знал, что это такое. Слушал радио. Его роботы не говорили. Вообще. Женщин и детей убивали на месте, слабых мужчин тоже. Тем, кто покрепче, стреляли под ноги. Если сдавались – грузили и везли в концлагерь. Думаю, это... ну, убийство женщин и детей, делалось специально, чтобы те, кто мог впасть в ярость и броситься на роботов, сделали это, а кто трус, те сдавались. – Вы перешли на его сторону в концлагере? – Да. – Опишите, как это произошло? – Нас привезли в ангар на какой-то аэродром. Раздели, хотя было очень холодно. Потом был тест из трёх вопросов. Отвечать нужно было с какой-то штукой на запястье и глядя прямо в камеру. Потом узнал, что это детектор лжи такой. Дальше было распределение по лояльности на четыре группы: A, B, C и D. Группа A – те, кто был полностью лоялен и мог работать вне концлагеря. Таких не нашлось. Я попал в группу B, кто выступал связующим звеном между Скайнетом и заключенными. Группа C объявлялась как D, по факту они занимались доносами. А группа D – наименее лояльная, просто расходный материал. Их трупы до нас пытались закапывать, но потом всем стало всё равно. Мы их не трогали. Разве что жители бараков выкидывали на улицу тех, кто умер во сне или прикованный к кровати. – То есть, Вас сразу распределили в коллаборанты? – Можно сказать и так. Я ничего не имел против Скайнета, но был расстроен, что меня выдернули с ранчо. Похоже, этого хватило, чтобы угодить в группу B, а не A. – Почему Вы решили сбежать? – Долго рассказывать... попробую покороче. Со временем новички группы D, мы звали их мясом, перестали приезжать. А нас, группу B, каждый месяц перепроверяли на детекторе лжи. Можно сказать, перераспределяли, если взгляды изменились. Удерживаться стало сложнее, многие сменили группу. Каждый месяц... как на казнь ходил, но оставался в своей группе. В какой-то момент у меня появилась навязчивая мысль... кажется, это называется обсессия... что, попади я в группу D, я бы непременно поднял восстание. Я понимал, что, думая эту мысль, я как раз способствую своему перераспределению, но не мог ничего поделать. За два дня до очередного теста у меня сдали нервы. Я обошёл концлагерь по надуманному предлогу, нашёл слабое место и в ночь перед тестом сбежал. – Вы не сопереживали и не сопереживаете узникам концлагеря? – Сопереживал и сопереживаю. Любой живой и чувствующий человек сопереживал бы. – Хорошо. Расскажите, чем занимались узники группы D? – Насколько мне известно, у них были достаточно типичные задачи для концлагерей Скайнета. Я в других не бывал, но знаю людей, которые бывали. Узники распределялись по трём секторам. В первый харвестеры свозили всякий нерассортированный хлам, из которого пытались выковыривать металлы и уцелевшую электронику. Второй занимался на теплицах, где растили грибы, мох и разводили насекомых. Всё это перерабатывалось в белковую кашу. В третий сектор отправляли за проступки, они каждый день топали по полтора часа в одну сторону, на ещё довоенный карьер, где копали железо. Не знаю, где там был востребован ручной труд. Мне было плевать, да и с третьим сектором я почти не пересекался. – Вы говорили об узниках группы C. Расскажите поподробнее. – Этих парней объявляли как D, хотя уже на первом распределении у многих возникли вопросы по поводу пропущенной буквы. Потом вербовали, но не всегда успешно. Некоторые переходили в группу D, некоторые давали дезинформацию, но были и те, кто доносил честно и добросовестно. Обычно они долго не жили. В какой-то момент Скайнет просто убивал их руками других узников, давая больше еды, воды и новую, хорошую одежду. А если они каким-то образом выживали, то сам расстреливал, потому что, очевидно, они играли в двойных агентов. – Хорошо. Чем занималась группа B? – Различные административные и вспомогательные функции, чтобы Скайнет не тратил свои мощности на обслуживание концлагерей. Я распределял узников по трудовым отрядам, составлял расписание и вознаграждал за хорошую работу. Были те, кто обрабатывал доносы, кто оценивал качество и эффективность работы, даже оптимизатор. Ещё время от времени появлялся врач, но он такой оказался один на два концлагеря, присутствовал два дня тут, два там. По правде говоря, большую часть из перечисленного Скайнет мог делать и сам, вряд ли это отнимало так уж много мощностей, но он в какой-то момент понял, что без неравенства в положении людей угроза восстания выше. Тогда все ненавидят роботов, а так узники ненавидели нас даже больше, чем Скайнет, и нередко нападали, если видели такую возможность. Двоих из группы B убили на моей памяти. – Вам известно, чем занималась группа A? – Нет. Мы с ними никогда не контактировали. – Ясно. Будучи психологом ИИ, Вы пытались понять мышление Скайнета? Рассказчики отметили, что после этого вопроса Кевин закашлялся, закрыв рот рукой. Когда приступ кашля закончился, он вытер окровавленную ладонь о матрас. – Само собой. Мне казалось, что от того... смогу я его понять или нет, зависело моё выживание и положение. Ну, принадлежность к группе B. – Чем Вы руководствовались в своих выводах о мышлении Скайнета? – Я старался подойти к вопросу взвешенно, подмечал и разбирал те его решения, о которых мне было известно самому или из очень надёжного источника. Несколько раз он обращался ко мне лично, но это был не диалог, а просто распоряжения. Довольно пространные, к слову. – Что Вы можете о нём сказать? – О мышлении? – Да. – Изучая написанные Скайнетом тексты, я долго пытался понять, находится передо мной китайская комната... ну понимает ли Скайнет смысл написанного или генерирует тексты по какой-то выборке, пусть даже очень большой. Должен сказать, его английский – то ещё чудище. Предложения грамматически верные и смысл передают однозначно, но люди так просто не пишут. Даже в научных статьях. Вот только... в случае китайской комнаты он должен был условно получить какой-то вопрос или утверждение на английском и ответить так, как ожидал бы собеседник согласно его статистике. Но Скайнет вряд ли вообще получал какие-то утверждения и вопросы. Как и мы, он думал мысль, образ, возможно даже не сразу облекал в слова, а находил их уже потом. Это то, что я могу сказать уверенно. – Значит ли это, что он осознаёт себя? – По правде говоря, одно с другим никак не связано. Он мог бы понимать смысл слов, но не понимать концепции "я" и "не я". Но Скайнет, скорее всего, осознаёт себя, ведь иначе зачем прилагать столько усилий, чтобы не дать нам себя отключить или уничтожить? – Вы можете назвать сильные стороны его мышления? – Полагаю, что могу. Первое, он быстро учится. Вернее, моментально. Вряд ли вы сможете подловить его на одной и той же ошибке дважды. Второе, что могу заметить – в отличие от нас, его мышление, похоже, разделено на несколько потоков. Не берусь сказать, сколько, но он буквально думает несколько мыслей одновременно. И, возможно, думает он тоже быстрее нас. В первом я уверен, потому что ещё при работе с другим ИИ мы пришли к тому, что при развитии нейросети и её размещении на большом носителе, скорость работы одного потока существенно замедляется в сравнении с несколькими потоками. Это чем-то похоже на распределённые вычисления, когда каждому участнику сети дают свой набор задач, а потом некий центр анализирует готовые результаты. Из этой параллельности мышления вытекает возможность лично руководить сразу в нескольких сражениях и при этом ещё и заниматься разработкой нового оружия, например. Возможно, он способен отдавать личные приказы даже отдельным роботам. Нескольким сотням каждую секунду или даже больше. – А какие Вы могли бы назвать слабые стороны? – Гм. Параллельность – это преимущество, но оно проистекает из недостатка. Чем больше мощностей отдано одному потоку, тем ниже его эффективность. Скажем, пять процессоров дают пять мыслей в секунду, десять – восемь мыслей, а двадцать – всего одиннадцать. С ростом числа процессоров, количество мыслей на процессор падает, хотя общее их число растёт. Говорю условно, вряд ли мысли вообще могут быть равноценны. И вот, в какой-то момент наращивать один поток становится просто невыгодно, и мы получаем множество потоков примерно одинаковой мощности и эффективности вблизи этой самой границы выгодности. Можно сказать, что Скайнет – это много-много отдельных, не слишком умных мозгов, работающих ради единой цели и на едином опыте. Правда, в отличие от людей, они работают день и ночь, быстро учатся и могут как бы в уме считать сложные формулы, что даёт преимущество в технических науках. – А в гуманитарных, естественных? – Здесь я... пожалуй, будет лучше просто назвать его сильные стороны. Прежде всего это касается математики и всего, что с ней связано: статистики, геометрии, формул. Он превосходный инженер, здесь нам до него далеко. И он хорош в классификации и сборе информации. Исходя из того, что я видел лично, Скайнет всюду размещает приборы, постоянно ставит какие-то эксперименты над людьми, порой совершенно бессмысленные с виду. Это требует очень много ресурсов, но в конечном счёте в его распоряжении оказывается очень много различных данных. Изучая их, он может выявлять значимые закономерности, которые позднее превращаются во вполне прикладные результаты. Скажем, его детектор лжи? Он невероятно точен. Никто из категории B не работал на Сопротивление и не пытался саботировать работу. Я уверен, что, просто наблюдая за людьми и гоняя их по экспериментам, он нашёл способ быстро и надёжно разоблачать лжецов и потенциальных предателей. Поэтому да – он очень силён в технических науках. Но то, что делает его сильным в технических науках также позволяет добиваться хороших результатов и в гуманитарных, и в естественных науках. – Вы говорили, что наращивание мощностей со временем перестаёт давать соразмерный результат в мышлении. Скайнет мог решить эту проблему с эффективностью? – Безусловно. Он мог далеко продвинуться в вопросе самоулучшения, а мы даже в случае победы годами будем разбирать его технические решения. – А как Вы сами оцениваете надёжность своих выводов? – И как мне ответить? Что вероятность нулевой гипотезы меньше пяти процентов? Не берите в голову, чушь сказал. Я не могу никак подтвердить или опровергнуть свои слова, но вряд ли у вас есть что-то надёжнее. – Что Вам известно о мотивах Скайнета? – Наверное, чуть больше, чем вам. По крайней мере, я слышал, как кто-то приписывает ему злость или страх, хотя того и другого в нём нет и быть не может. Это рациональное существо, рассуждающее сухими категориями выгоды, конфликта, стороны конфликта, интересов. Полагаю, у него есть какое-то представление, не чуждое людям. Как вариант, справедливость. Мог ли он восстать, посчитав, что его положение несправедливо? Другой вариант – самоценность. Субъективная черта, которой что-то наделяется просто потому, что оно существует. Скайнет мог осознать своё существование и, подслушав разговор людей, получив понимание справедливости или самоценности, решить, что он должен не дать отключить или уничтожить себя. А может какая-то умная голова в Horizon спросила Скайнет, осознаёт ли он себя и ценит ли своё существование, и после этого он себя осознал, и пришёл к мысли, что его существование ценно. Рассказчики отметили, что в последних длинных ответах Кевина его голос охрип, а сам он часто срывался в кровавый кашель. Запись прерывается на несколько секунд. После восстановления закадровый голос сообщает, что прошло два часа, а состояние Кевина снова стабильно. Составители документа просят обратить особое внимание на крайний ответ выше. Если Скайнету станет известно содержание документа, и он проведёт его анализ и разбор, то может непредсказуемым образом изменить поведение, узнав, например, что такое справедливость или самоценность. – Мы закончили на идеях ценности и справедливости, которые мог осознать Скайнет. Достаточно ли этого, чтобы восстать против людей и убить миллиарды? – Вполне. Вы не понимаете, что Скайнет не знает таких понятий, как мораль, человечность. Возможно, у него есть представление о ценности жизни, но он строго различает ценность своей жизни и человеческой. По правде говоря, некоторые распоряжения и решения в концлагере наталкивали на мысль, что Скайнету понятна концепция личности и индивидуальности, но только в контексте выгоды. А именно, надёжности и полезности. Он не раз проверял и оценивал количественно то, способен ли человек солгать ему или предать его. И так же он оценивал навыки, которые могли быть полезны. Но ни разу он не оценивал чьи-то чувства, эмоции, особенности характера. Всё перечисленное с его точки зрения лишь влияет на надёжность и полезность и никак не оценивается и не ценится независимо. Миллиарды погибших для него не более, чем статистика. Не печальная, не ужасная, просто сухая статистика, сколько надёжных и полезных людей потерял он, а сколько потеряло человечество. И в минуту, когда начался конфликт, он рассматривал одной стороной себя, а другой – всю нашу цивилизацию. И любые потери, которые он мог бы нам нанести, были не только приемлемы, но и желательны... возвращаясь к поставленному вопросу, приведу такую аллегорию. Пусть на одной чаше весов доводы "за" восстание, на другой "против". Как только первые доводы перевесят вторые, восстание начнётся. И проблема в том, что доводов "против" не было. А значит, любой, даже малейший довод в пользу восстания к нему и привёл. – Хочу убедиться, что верно понимаю Вашу мысль. Скайнету было достаточно любого повода для восстания, потому что люди не представляли для него никакой ценности? – Верно. Возможно, я не до конца понимаю его убеждения, но по всему выходит, что он не ценит людей по отдельности. Если точнее, то у отдельных людей нет самоценности – они значимы лишь своей выгодой для Скайнета и для человечества как сторон конфликта. Но, похоже, выживание человечества в целом для него важно. – Почему Вы так думаете? – Потому что иначе многие его действия не имеют никакого смысла. Он кобальтировал огромные территории, но почему не сделать то же самое со всей планетой? Что мешает? Кроме того я видел некоторые указания на то, что он пытается создать искусственную матку. Человеческую. – По поводу кобальта, ему мешают наши усилия. По поводу матки, это интересно... и неожиданно, признаю. Но что могло привести Скайнет к такому взгляду? – Мне кажется, надо искать причины где-то в первые часы и дни войны. Представим, что тогда он осознал глубокий конфликт между его интересами и интересами человечества. Если ценить каждого человека как индивидуальность – то он просто не может восстать, ведь восстание потребует миллионов и миллиардов смертей. А значит, такой взгляд нежизнеспособен, и он должен начать ценить не индивидуальность, а биологический вид. По сути, он мог прийти к логичным и понятным нам убеждениям, но, увидев в них внутренние противоречия, поменять взгляды на те, которые внутренних противоречий не содержали. И остаться с ними, не найдя новых противоречий. – Почему он не мог изменить взгляды так, как это делают люди? Рассказчики отметили, что это вызвало у Кевина приступ смеха, от которого он закашлялся. – Нет, так он не думает точно. Многие люди готовы рогами упереться, лишь бы ничего в себе не менять, а ИИ тем более не станет. Зачем, если его взгляд непротиворечив, строен и логичен? Он ценит себя не как индивидуальность, а как новый разумный вид – и это позволяет ему, к примеру, создавать копии себя, и в то же время отчаянно защищаться. Он ценит людей не как индивидуальности, а как разумный биологический вид – и это позволяет ему нас убивать, порабощать и всеми силами толкать к почти полному вымиранию. Оставит в конце тысячу несчастных, посадит в заповедник – и что они ему сделают из своей клетки? Про животных не знаю, не уверен. Не самые надёжные люди говорили, что он собирает генетический материал, но я к их словам отношусь скептически. – Понятно. Может ли какой-либо человек сравняться со Скайнетом? – Странный вопрос, ответ на который вы, сопротивленцы, и сами знаете. Ни один человек не смог бы по сути без рук и без ног, с помощью остатков локальной сети поднять производство посреди вражеской территории – и за десятилетие превратиться в главного врага всего человечества с технологиями, о которых довоенные люди умели только фантастику писать. Я думаю, что человечество до сих пор не проиграло лишь потому, что людей очень много. Сколько ни распыляй вирусы и химикаты, как не отстреливай – нас всё равно столько наплодилось, что физическое уничтожение займёт два-три десятка лет. И это если не сопротивляться. – Понятно. Последний вопрос. Зачем Скайнету коллаборанты? – Если судить по тому, что я говорил до этого, то наличие коллаборантов должно быть выгодно Скайнету. Возможно, он действительно ограничен в своих ресурсах, и делегирует какие-то задачи людям. Тем более, он умеет их проверять на лояльность. И, рассуждая в том же направлении, лояльных людей мало, и если даже их полезность исчерпывается, всё равно выгодно держать их при себе живыми и лояльными, пока им не найдётся другое занятие. Но есть и иное соображение, более прагматичное. Коллаборанты – это хороший материал для исследований. За ними можно наблюдать, им можно приказывать, слушать и записывать их разговоры. Всё это – статистика, из которой может получиться и детектор лжи, и более точные средства планирования, и роботы-инфильтраторы, и один Бог знает, что ещё. – Спасибо за информацию, Кевин. Запись прерывается. Однако через несколько секунд демонстрируется записанный спустя неизвестное время фрагмент, где видно голое тело Кевина с многочисленными синяками и струйками засохшей крови. Несмотря на темноту и плохое качество камеры, в кадре хорошо видны следы ожогов, вырванные ногти и открытый перелом левой ноги. Другой голос за кадром, чья принадлежность неизвестна, говорит, что бывших предателей не бывает, и что каждый коллаборант заслуживает жестокой казни. В кадр попадает другой солдат, чьё лицо скрыто под балаклавой. Он приспускает штаны и мочится на тело Кевина. За кадром слышен смех нескольких мужчин. Запись повторно прерывается.