Пределы контроля

- Первый закон робототехники – «робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред», - Матц говорит, одновременно бегло просматривая книги, а затем проворно расставляя их по полкам в нужном порядке. В библиотеке они с Финчем снова вдвоем, лишь массивная фигура Барни привычно маячит за крайним столом возле входа. - И что конкретно тебя смущает? Финч, прислонившийся спиной к стеллажу, скрестив руки на груди, улыбается уголками губ. Матц порывисто оборачивается, убирает со лба челку, которая лезет в глаза. Выглядит он куда менее подавленным и запуганным, чем в их первую встречу, и это не может не радовать. - Неужели ты не понимаешь? Искусственный интеллект создан таким образом, чтобы все время действовать во благо человека, верно? А понятие «блага» у всех разное. В педагогике распространено выражение «это для твоего же блага», его часто любят произносить учителя и родители. Но их понятие блага далеко не всегда согласуется с тем, что в это понятие вкладывает сам ребенок. - Это точно, - брови Финча медленно сходятся над переносицей, - но я все же не пойму, куда ты клонишь. - А что, если искусственный интеллект, созданный на основе трех законов, в какой-то момент начнет вести себя как родитель? Люди ведь часто причиняют себе и друг другу вред, со стороны они похожи на детишек, играющих в песочнице. Тем более, Второй Закон звучит так: «робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону». Понимаешь, к чему это может привести? - Кажется, да. - Знаешь, я бы не хотел, чтобы такие вот вещи, как создание искусственного разума, когда-нибудь воплотились в жизнь. Ни к чему хорошему это не приведет. Слова собеседника заставляют Финча задуматься о вещах, не имеющих никакого отношения к творчеству Азимова. Знал бы Матц, насколько близки к реальности его гипотезы, знал бы он, что то, о чем он сейчас говорит, уже давно не научная фантастика. - Увы, но некоторые вещи не зависят от нашей воли. А значит, стоит принять их как данность.