Имаджинариум

«Для меня, как для разработчика ИИ заголовок «Стивен Хокинг предупреждает, что искусственный интеллект ‒ угроза для человечества» ‒ все равно что красная тряпка для быка. Если говорить менее серьезно, подобные тексты впечатляют, потому что в сжатом виде суммируют тот сценарий, о котором разработчики ИИ даже не задумываются. Этот сценарий состоит из трех самостоятельных заблуждений, базирующихся на опасениях касательно осознанности, зла и роботов. Когда вы за рулем, вы переживаете собственные впечатления о цвете, звуках и окружающем вас пейзаже. Но может ли беспилотный автомобиль иметь собственные переживания? Ощущает ли вообще беспилотный автомобиль сам себя? Проблема осознанности и сознания как явления интересна сама по себе, однако для технологии ИИ она нерелевантна. Если вдруг вас собьет беспилотный автомобиль, вам будет не важно, обладает ли он самосознанием. Таким образом, человечеству придется взаимодействовать не с тем, что искусственный интеллект чувствует, но с тем, что делает. Еще одно ложное умозаключение связано с опасением, что машины перейдут на темную сторону силы. В действительности же нужно опасаться не намеренного вредительства со стороны технологии, а некомпетентности разработчиков. Сверхмощный ИИ по определению будет невероятно эффективен в достижении поставленных целей (неважно, каких именно). Поэтому необходимо убедиться наверняка, что цель ИИ синхронизирована с потребностью человека. Человечество в целом равнодушно к муравьям и при достижении собственных целей не особенно считается с их потребностями. Люди умнее и могут себе это позволить. Поэтому цель тех, кто занимается разработкой безопасного ИИ ‒ предупредить ситуацию, в которой человечество окажется на месте муравьев. Заблуждение, касающееся наличия у машин самосознания, связано с мифом о том, что роботы не могут иметь собственных целей. Однако, в узком смысле, цель машин проявляется в том, что они ориентированы на выполнение какой-либо задачи. Так, поведение ракеты с тепловой головкой самонаведения проще всего описать как стремление попасть в цель. Если вы чувствуете угрозу со стороны машины, цели которой отличаются от ваших, то почти наверняка истинным источником беспокойства являются сами цели, а не то, обладает ли робот самосознанием или ощущениями. И если ракета преследует вас, вы вряд ли воскликнете: «У машин не может быть целей, так что волноваться не о чем!» Для того, чтобы стать причиной неприятностей, такому сверхразуму не нужно роботизированное тело ‒ достаточно интернет-соединения. С его помощью он сможет обмануть финансовые рынки, превзойти научных исследователей, подчинить себе влиятельных личностей и разработать оружие, устройство которого человеку и понять не удастся. Даже если бы конструкция роботов была физически невозможна, получив неограниченный доступ к деньгам, сверхразумный ИИ теоретически мог бы платить многим людям или манипулировать ими, чтобы те, сами того не подозревая, служили исполнителями его замыслов. Неправильное представление о роботах связано с мифом о том, что машина не может управлять человеком. Разум дает контроль: люди могут управлять тигром не потому, что сильнее него, а потому что умнее. Это означает, что если мы уступим статус умнейших существ на планете, мы также можем потерять и контроль над ней». Уже перед сном я прочитала рукопись Гальперина. Стоило мне о нем подумать, как в память снова врезалось размытое воспоминание. Мы с Розой сидим, притаившись в большой комнате с какими-то сейфами, которые постоянно моргают, словно их обмотали диодной лентой. - В Серверной всегда кто-то есть, ее хорошо охраняют. – в памяти всплывают слова предостережения от Якова Сергеевича. Значит это серверная, но что мы тут делаем? - Вот здесь, - шепотом сказала Роза, - и хранятся оцифрованные дрейфы по фантазии всех людей. Я окинула взглядом один из серверов и в нем действительно, как в картотеке были надписи. - Как мы найдем свои оцифрованные данные? – так же в ответ прошептала я. - Они закодированы, нам нужно понять – как. Тогда и украдем свои данные. – ответила Роза, быстро записывая на листочек пример кодировки. Я бы до этого не додумалась. Следующее воспоминание было таким: Гальперин дает нам по бумажке, на Розиной было написано – 100000111001000011111010000111011100001111101000100010110000111110100001100101000011000010000010000100000100001111101000011011110000110000100000100000100101000011100010001000010100001100001000011101110001001100100001101011000011001010000111101100001100001010, а на моей – 100000100011000100101110001000001100010000101000100000010000111110100001100101000011000010000010000100000100001100001000011100010001000001100001100001000001000010000110000110101100010000001000011001110000110101100001101011000011001010000111101100001100001010. - Что это? – удивленно спрашиваю я. - Обычная кодировка слов в двоичный код. – пожал плечами Яков Сергеевич. Я тупо смотрела на цифры и не понимала, как можно фамилию, имя и отчество закодировать в цифры. Но я и не пыталась понять. Вот мы снова в серверной. Как найти совпадение с таким количеством цифр? Мы с Розой разделились, и начали искать совпадения. Проведя там двадцать минут мы ничего не нашли. К тому же едва не попались. Мы снова в кабинете у Гальперина. - Вам нужно перестать встречаться в реальной жизни. В серверной вас заметили, и теперь за вами следят. – тихо и быстро проговорил профессор, - встречайтесь только в «Имаджинариуме». - Но там же тоже все отслеживается. – удивленно возразила ему Роза. - Вы уже были в локации «Тьма»? – он нервно поправил очки на переносице. - Нет. – в голос ответили мы. - Значит так, «Тьма» это новая локация и ее пока плохо оцифровывают. Вам нужно в нее попасть, и найти лазейку. «Имаджинаруим» сам вам покажет систему хранения на серверах. Вы меня поняли? - я вот не особо, но Роза поняла. Я тряхнула головой, сбрасывая с себя эти воспоминания. Чем больше они всплывали, тем меньше я хотела углубляться в исследование об «Имаджинариуме». Я наконец решила лечь спать и завтра утром решить вопрос. То, что мне сказала Роза…Кирилл изменял мне? Как я вообще могла такое простить? Почему мы до сих пор делим кровать? *** Наутро я не обнаружила Кирилла в спальне, но нашла его в моем кабинете. Он рассматривал рукописи Гальперина. - Что за научную фантастику ты пишешь? – он ухмыльнулся и поцеловал меня, мне стало противно, но виду я не подала. То есть этот человек изменял мне, знал про нас с Розой, про то, что мне стерли память и теперь спокойно живет со мной? Мне очень хотелось задать ему все беспокоящие меня вопросы, но я не знала, как к ним подступиться. - Мы пишем статью о «Имаджинариуме», они сами заказали. – соврала я. – А ты чего не в кровати, выходной же? - Да что-то не спалось. – просто ответил Кирилл. – Чем сегодня займемся? Может, соберем друзей? - Давай. – неохотно согласилась я. Мы пригласили друзей к себе, но я никого не хотела видеть. Когда пришла Наташа, и его друзья – настроение упало еще больше. А знали ли они о том, что происходило в наших отношениях? Я зажмурилась, и выкинула это из головы – не хотела портить вечер. Когда мы сели играть в настольную игру, в голову снова врезалось воспоминание. Я находилась в квартире с Розой, мы вместе делали ремонт. Она выглядела моложе и здоровее. Может, на ней так сильно отразились те таблетки от «посттравматического синдрома нейроинтерфейса»? Ее волосы блистали на солнце, а карие глаза были полны жизни и любви. Когда она смотрела на меня, то, мне хотелось просто растаять. Я наблюдала за этим воспоминанием, словно третий смотрящий. Я видела, что я делаю, но не контролировала это. Когда мы с Розой устали красить стену в белый цвет, мы уселись на новый диван, который еще был в пленке. И принялись вспоминать то, как мы познакомились. - Я помню, ты стояла такая растерянная, - улыбалась Роза, даже в голосе было слышно ее улыбку, - ничего не понимала – все трогала. - Как ты вообще оказалась в моем дрейфе? – я улыбалась ей в ответ и будто любовалась девушкой. - Нас свел искусственный интеллект, кому расскажи – не поверят. – мы вдвоем засмеялись. - На самом деле я помню, что заметила тебе на другом конце того огромного балкона, и меня очень сильно смутило то, что ты голая. – я все еще смеялась. - Ну, хоть в своем сне, я надеялась, побыть немного нудисткой. – мы снова расхохотались. Роза легла на мое плечо, и я любовно обняла ее. Я будто даже сейчас чувствовала запах ее волос, помнила нежность ее кожи и ее прекрасный голос. Она вызвала во мне такие приятные ощущения легкости и свободы. Она любила меня такой, какая я есть. Она любила меня просто за то, что я выбрала ее. Я кожей ощущала тепло ее тела, нежность ее прикосновений и мне безумно хотелось окунуться в это воспоминание с головой. Внутри меня все затрепетало. Я помнила ее дыхание, которое касалось моей кожи. Помнила каждую минуту нашей близости. Каждое ее прикосновение к моему нагому, возбужденному телу, в моменты занятием любовью. - Рая, - меня толкнула в плечо Наташа и я сразу потеряла связь с этим теплым воспоминанием. – Ты чего в облаках витаешь? - Не выспалась, простите. – отмахнулась я и увидела, что моя очередь ходить. Когда я сделала ход, то натолкнулась на очень внимательный взгляд Кирилла. Я просто пожала плечами и виновато улыбнулась ему. А что если Кирилл был причастен к тому, чтобы стереть мою память? Тогда, я не должна показывать ему то, что я начинаю обрывками вспоминать это. Теперь я поняла – какие чувства я испытывала к Розе когда-то. Мне хотелось встретиться с ней, поговорить об этом. Но я не хотела нести это бремя ответственности этих знаний. Потому что я точно понимала, что я ничего не могу сделать с этим. Я не ученый, меня уже однажды заткнули и я более чем уверена, что стирание памяти это не единственное, на что они способны ради моего молчания. Ничто не может подмочить их репутацию. От этого осознания становилось страшно. И тогда я решила, что я не собираюсь принимать в этом участие. Не моего ума дело.