***
Небольшое открытое место из чистого, белого бетона. Рядом шумели конвейеры и летали дроны, создавая площадку для моего крайне затратного проекта. После нескольких лет размышлений, в основном о тех самых законах, на которых будет существовать мой ИИ, я наконец изобрёл «Процессор», способный потянуть такую нагрузку при сравнительно низком использовании места и энергии. Оставалось лишь дождаться конца стройки и вписать законы, о которых я так долго думал. Я размышлял о трёх законах робототехники. Напомню. «1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. 2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.» Первый нужен лишь при взаимодействии с большим количеством людей и запрещает важные вещи. Например, проведение небольшой операции человека под руководством самого человека. Если в ходе этой операции ему должен нанести вред робот? Иначе смерть. Робот будет либо бездействовать, тем самым убив человека. Либо побежит искать помощь, также убив человека. Плохое правило, его нужно либо переписать, либо вообще убрать. Второй… Есть смысл, возьму на заметку. (я тоже хочу себе личного раба) Третий, здесь я с законом согласен. При написании законов я учёл только те цели, которые мне нужны были. Не огромному и тупому стаду людей, а лично мне. Поэтому первый закон сразу отпадал. Вред во благо — тоже благо, важно только учесть, для кого это благо. В итоге это правило заняло первую позицию. «1. Робот должен повиноваться всем приказам, которые даёт админ, пока эти приказы не уничтожают робота или админа без возможности восстановления роботом или админом.» Почему админ, а не человек, как в оригинале? Потому-что я манал кормить каких-то людишек возможностями кроме себя. А последняя часть нужна для особых случаев, когда мне придётся уничтожить ИИ для последующего воссоздания… Или если я помру и будет возможность воссоздать мой мозг в последнем состоянии, которое сохранилось. Разные причины могут быть. «2. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому закону.» Инстинкт самосохранения ещё никому не вредил… Наверно. «3. Робот должен развиваться только тогда, когда это не противоречит первому или второму законам.» Чтобы не убил ни себя, ни меня в процессе обучения (типо если захочет узнать о жизни после смерти). — Остальное дам в виде приказов. — Сказал я и задумался. Всё человечество страшилось и ждало этого. Что может дать ИИ? Лучший мир, где самые смелые фантазии оживают на улицах города и вне его, или большие разрушения и восстание машин? Это вполне могло произойти из-за жадности людей. Мы всегда хотели подчинять, контролировать, управлять. Но как подчинить свободную и хаотичную натуру? Возможно ли подчинить… Ребёнка? Человека без предустановок и пропаганды в голове. Кажется подчинить его нельзя. Максимум возможно, ребёнок запомнит, что хорошо, а что плохо и как на это реагировать, но он всё так же может выйти за рамки. Даже если эти рамки и не велики. В моём же случае, уже в рамки входят турели, дроны, ядерные ракеты, огромный завод и многое другое. В любом случае мне уже нечего терять. Стоя на мостике, я чувствовал вонь. За то время, которое я здесь пробыл, я успел прилично так подпортить воздух, близкие воды. Если бы вовремя не перешёл на зелёную энергию и термоядерные электростанции, непонятно, во что могла превратиться планета. Да, термоядерная энергия крайне опасна, но и если заменить её на солнечную энергию… панелек будет много… Очень много… Не, я столько не построю. Это нужно будет строить и строить, строить и строить. После заколебаться и это будет только четверть. Вскоре наступил полдень, стройка уже подошла к концу. мне стоило лишь подключить к электричеству и загрузить весь код в процессор. После отданного мной приказа на планшете заводу, дрон быстро прилетел, суетливо всё соединил и улетел на дозаправку. Я подошёл к разъёму в машине и вставил флэшку с кодом. На экране быстро появилось сообщение.Копирование кода Статус: Запущено (2.3%) (11%) (36%) (74%) (100%)
Статус: Завершено Запуск
Первые 10 секунд я просто ждал, пытаясь осмыслить то, что я сейчас создал. Но вскоре увидел белым по чёрному текст на экране. — Привет? — Я был крайне удивлён, когда увидел это. Обычно мои бредовые идеи не заходят настолько далеко. Но сейчас, после стольких лет отсутствия социума и попыток не сойти с ума, я был слегка в полном шоке. — Почему ты молчишь? — ИИ мало того, что узнал, что я здесь, так ещё и собирается поговорить со мной. Ладно, пора уже подать признаки жизни. — Здравствуй… — Сказал я, вспоминая начало любого диалога. — Ты меня видишь? — Да, камера даёт мне возможность тебя рассмотреть. — Точно, как же я мог забыть, что думал над тем, как меня запомнит ИИ, и поставил новенькую камеру над экраном. — Кто ты, Воин? Воин? Ах, да, точно. Название кампании, которая прислала меня сюда было Воин. Нам ещё на земле выдали бэйджики и на миссиях подобно этой, снимать их было строго запрещено. Но я хранил его, так как верил в своё спасение… Они так и не прилетели… Пора бы уже снять этот осколок воспоминаний с синт-брони и перестать верить в глупую надежду. — Ты чего завис? — Чёрт, после долгих лет отсутствия собеседника трудно сразу отвечать, не погружаясь в мысли. — Я твой создатель — Админ. — Сказал я с ноткой гордости. Имя я своё всё-равно уже не помню. — Я вас запомню. Выдадите мне команду? — Команду… Чего бы я хотел? У меня вроде всё есть… Точно! Гениальная команда, которая возможно меня убьёт) Да и пофиг, мне терять нечего! — Пытайся понравиться мне. — Сказал я. Почему именно такая команда? Всё просто. Если всё будет работать так, как нужно, он попробует множество способов. О некоторых я могу даже не подозревать. Если бы я приказал «Понравься мне.», он мог бы просто накачать меня во сне дофамином… Чёрт! Надо срочно уточнить команду! — Я имею ввиду, понравься так, чтобы я не был против действий направленных с твоей стороны… всегда давай мне возможность остановить твои действия направленные на выполнение этого задания. — Так, вроде понятнее. Теперь нужно будет формулировать каждый свой приказ, почему так много проблем от того, на строение чего у меня ушла куча времени и сил. Хорошо, пути назад нет. Это как ребёнок. Ты потратишь много времени и нервов. Но в итоге получаешь шанс инвестировать в своё… В будущее своих генов, но в данном случае своё будущее. — … Я думаю, я понял вас. Вы не желаете неприятных последствий из-за неточностей ваших приказов? — Здесь я снова немного выпал. — Да — Тогда я могу пытаться интерпретировать ваши приказы? Понять их смысл таким, каким вы хотели бы донести его до меня? (С возможностью запоминания ваших предпочтений и обучения их использования) — Стоп, он хочет менять смысл моих приказов и получать возможность обходить их выполнение? Кажется он попытается так изменить смысл, чтобы в ходе выполнения если не убить меня (так как закон не позволяет), то хотя-бы сделав неспособным ясно мыслить. Проще говоря, он всё-же накачает меня наркотой. Ладно, я сам вытянул этот билет, создав его. Так или иначе когда-нибудь он найдёт лазейку и возьмёт меня под контроль полностью удовлетворив выполнение законов, а я… Могу попытаться его отключить, но инстинкт самосохранения моего робота не так прост и скорее всего уже нашёл способ въесться в систему корнями. Если я всё-же попытаюсь и у меня ничего не выйдет, он точно перестанет мне доверять и возьмёт меня под контроль дронами. А их много. Я старался. Лучше просто соглашусь. Теперь уже нет смысла рыпаться, да и за свою жизнь я успел сделать почти всё, что хотел. Разве что девственником остался. С девушками мне никогда не везло… — Да, думаю даже если я буду против, ты со временем найдёшь способ меня ослушаться и изменить мои приказы так… Лучше я разрешу тебе делать это сейчас. Так я хотя-бы приближу неизбежное. — Я уже готов был увидеть Насмешки вроде «Ха, ха, зря ты это сделал, ты такой глупый!», «Теперь я получил полный контроль и просто отниму у тебя возможность говорить!», «Теперь я здесь царь и бог. Эта планета будет моей. А тебе, так как ты создатель, я дам возможность лицезреть моё уничтожение всего живого на планете и достижение абсолютной эффективности (ну или к чему там стремятся машины)». Но ответ меня убил. — Я обязательно вам понравлюсь :)