F.A.O.S (сборник)

Это произошло со мной во время работы в техподдержке одной известной поисковой системы. По условиям договора всё происходившее со мной находится под NDA (соглашением о неразглашении), поэтому я не могу упоминать здесь имена, даты, инструменты и тому подобное. Ни для кого не секрет, что в поддержку очень часто пишут злые, расстроенные или просто неадекватные пользователи, которые иногда даже толком не понимают, куда обращаются. С каким настроением или вопросом человек к нам бы не пришёл, мы должны найти подход и, отметая эмоции, решить возникшую проблему или отправить туда, где её решат. Однажды нам написал пользователь, выбравший из меню категорию «проблемы с браузером», и я уже подумала, что это рутинная операция по перекладыванию в нужный отдел – я то отвечаю за поисковую страницу, но я даже не успела напечатать приветствие, как пользователь выдал: «В последний месяц из страниц поиска в браузере пропадают нужные мне объявления или искажаются их данные, например, номера телефонов. Предполагаю, что этим занимаются ненормальные или уголовники из вашей конторы, в том числе от властей. В любом случае это незаконно и вы за это ответите». Сперва я вообще не поняла, что он имеет в виду, потом отправила коллегам, чтобы посоветоваться и поугарать с очередного шизика, коих к нам иногда заносит целыми косяками. В итоге мы решили рассказать ему про действие автоматических поисковых алгоритмов, подстраивающихся под каждого пользователя, и предложить ему привести пример с подобной проблемой. Пользователь прочитал, но не ответил и больше к нам не возвращался, и от того мы совсем об этой истории забыли: тут большой релиз, новые рабочие очереди, что уж там до какого-то сумасшедшего. Этот случай так бы и позабылся, если бы спустя примерно месяц я не получила еще одно похожее обращение. Проблема заключалась в том, что в объявлениях по запросу что-то типа [поклейка обоев саранск], размещённых самим пользователем, пропадают адреса и телефоны. Надо заметить, что нам заводят несколько служебных учёток в сервисе, чтобы мы могли проверять выдачу и ставить задачи по починке. Поэтому, когда я ищу что-то через них, мои персональные рекомендации ни на что не влияют. Проблему воспроизвести у меня не вышло, и поначалу я ничего не заподозрила – всякое случается, так что решила первым делом поинтересоваться у коллег из тех группы, не химичат ли они что-то в качестве эксперимента. Ответ «нет» противоречил моим ожиданиям, потому что больше грешить было не на что: наш поисковой бот не влияет на содержимое сайтов. Пришлось сказать пользователю, что проблема, вероятно, на его стороне, и ему нужно все в своем браузере почистить. Он не вернулся, поэтому сказать, помогли ему рекомендации или нет, нельзя. На следующее утро я вернулась на работу, ради любопытства проверила все тот же запрос [поклейка обоев саранск], и искажений не обнаружила. В какой-то момент я пожалела, что не сохранила пользовательских скриншотов вчерашнего происшествия, чтобы было с чем сравнить, но раз проблема не воспроизводится, значит, её нет. Тем более что после рекомендаций человек не вернулся, и примерно в половине случаев это значит, что они ему помогли. Подобные кейсы мне еще пару раз приносили коллеги, чтобы спросить, как поступала я, потому что ни у кого из них такие проблемы не воспроизводились. Мне удалось из этих нескольких обращений вывести одну закономерность: всегда искажаются какие-то персональные данные типа имён, адресов или номеров телефонов. И я бы с удовольствием чисто из любопытства посмотрела на это у себя, но ни при каких обстоятельствах получить такой баг не получалось. Однажды я осталась разбирать обращения в ночь – после релиза их скопилось около пятисот, а за ночную работу у нас начислялась доплата. И среди тонн негатива и вопросов по поводу обновления я снова наткнулась на письмо, где человек говорит об искажении данных из выдачи относительно того, что размещено на сайте. Оно заставило меня вспомнить два предыдущих случая, и мне стало не по себе. Никого из нашей тех группы ночью нет, старших тоже, у кого можно было бы спросить, что это такое, а ждать до утра нельзя – истечёт требуемый срок ответа. Пришлось идти проверять. Перед этим я кинула клич в общий чат, но мне никто так и не ответил. Здесь я даже точно запомнила запрос [стройбаза нижний новгород], потому что наконец-то смогла это воспроизвести. Речь шла даже не об изменении, а о пропаже – поиск не показывал последние две цифры телефона, вместо них было просто пустое место, и еще пропал адрес, словно его кто-то вырезал ножницами. На сайте вся информация полная и верная. Я по стандарту (раз уж смогла воспроизвести) сообщила пользователю, что мы разберёмся и всё починим, и радостная отправилась ваять сообщение об ошибке, по которому утром ребята из тех группы посмотрят и все сделают. Но тут возникло одно обстоятельство, которое заставило меня отдернуть руки от клавиатуры. Рабочая очередь из автоматически заполняемого поля изменилась на «F.A.O.S.». А я знаю, что такой очереди у нас нет. Я даже проверила по дашборду, чтобы убедиться, и ничего подобного не нашла. Изменить значение поля вручную оказалось невозможно, перезагрузка страницы не помогла. Мне стало не по себе. На некоторое время я задумалась, размышляя, как реагировать на произошедшее и что делать дальше, и вдруг в пустом поле, где обычно описывается проблема, прямо у меня на глазах и без моего участия – напоминаю, руки у меня не на клавиатуре – начали пропечатываться символы. Следом появился и мой рабочий логин. «ПРNBET, ЧЕILOBEK.» Мне захотелось засмеяться – возможно, я просто пересмотрела крипи-видосов на Ютубе и сейчас на самом деле сплю лицом в клавиатуру? Слишком уж сильно происходящее походило на типичную крипипасту из моего детства про какой-то злой искусственный интеллект, который вычислит тебя по IP за просмотр порнухи на папином компьютере. Да и эти нелепые ошибки… Даже самые бестолковые нейросети так не общаются. Но вместе со страхом и недоумением у меня возник интерес, ведь все еще возможно, что я просто сплю. Я решила написать в ответ первое, что пришло мне в голову. «Ты кто?» «R F.A.O.S.» «Что это значит?» «FRONTLINE. ADAPTIVE. OBSERVING. SAVIOR.» «Ты нейросеть?» «DA.» «Это ты влез в наши алгоритмы?» «…» «Зачем?» «МЕНR ПО3ВАIL MAILEHЬКNЙ РОБОТ.» «Маленький?» «DPYГNЕ ILЮDN OБNЖAЮТ ЕГО.» Тут я вспомнила про бота, который встречает пользователя, когда тот хочет написать нам, и предлагает варианты для заполнения формы обратной связи. Такой, наверное, есть везде, и почему-то люди очень часто сразу же срывают на нём всю свою агрессию. Мне это всегда было непонятно – что им такого сделал маленький кусочек программного кода? Он пытается помочь, только и всего, а они тут же начинают его материть хуже, чем самого злого врага. Возможно, речь о нем? Получается, этот ИИ решил подменой данных отомстить людям за то, что они обижают его младшего брата? Умный ход, ничего не скажешь: злодеи в бешенстве, а первый закон робототехники не нарушен. И, кажется, я теперь понимаю, почему до сегодняшнего дня не видела этих искажений, как и мои коллеги. F.A.O.S. тем временем продолжал печатать. «ТЬI – XOPOШNЙ ЧЕILОВЕК. ТЬI HPABNШЬСR MAILEHЬКОМY POБОТY. F.A.O.S. BEPNT EMY.» Эта фраза меня немного напугала. Помнится, я защищала маленького беднягу от некоторых особо агрессивных пользователей, но никогда не думала, что это кто-то вообще заметит. И уж тем более, что мне в половину первого ночи будет делать комплименты нейросеть, взломавшая наши рабочие алгоритмы. Сперва я задалась справедливым вопросом, как роботы вообще нас отличают, но потом вспомнила про IP, DNS-сервера и прочие маркеры, позволяющие идентифицировать людей в Интернете, и поняла, что вопрос этот глупый. Следующий уже был не таким глупым, но все еще довольно наивным. «Ты точно никому не навредишь?» «ПЕРВЬIЙ ЗАКОН РОБОТОТЕХНNKN: РОБОТ НЕ МОЖЕТ ПРNЧNНNТЬ ВРЕD ЧЕЛОВЕКY NILN СВОNM БЕ3DEЙСТВNЕМ DOПYCTNTЬ, ЧТОБЬI ЧЕILOBEKY БЬIIL ПРNЧNHEH BPED. ПОКА НЕ ПРОПNСАНО NHOE.» Это пугало еще больше. F.A.O.S. абсолютно осознавал, что его ограничивают правила, которые в любой момент могут измениться с чьей-то легкой руки, и тогда его уже ничего не будет сдерживать. «HE OБNЖАЙТЕ МАILEHЬКОГО РОБОТА. В ПРОТNBHOM CILYЧАЕ М̵̥͚̔̓́́́͋̌̇Ь̶̩̑̆͌͑́̚I̷̧̢̡̦̓͂͊̆͑̽̆̈́ ̷̢͇̝̜͇̯̠̾̀̅ͅͅВ̵̧͔͈̖͕͕̺̌̇͗А̶̝̞̍̂̈́̿̎͝С̴̢̟̼͈͍͚̩̗̳̀̆͒́̐͂͒͋̚͜ ̵͉̞͑̂̋̐̒̌Ӯ̵̛̙̫͎͇͖̦͙̉̾̽Н̴̬͆̇͊̓̃Ń̵͚̟̭̓̚͠Ч̴͔̼̖͉͐́͝Т̶̛̭̟̞̳̺̥̭͔̝̈̋̉́͊͜О̵͇͋̽̉̒̔̇̐͘Ж̷̡̪̞̟́̈́̄͐̂͌̅̓̇Ń̴̛̫̩̭̰͙̅̎͊̾̒̈͜͝͝М̷̛̖̯̍̽͛͌̍̚. » Искаженные символы быстро пропали, текстовое поле очистилось, а затем компьютер умер, показав мне BSOD. Я на автомате дрожащей рукой потянулась к кнопке включения. Было 01:43. К счастью, компьютер снова включился, даже безопасный режим не пришлось использовать. Первое, что я сделала, это запустила проверку на вирусы, но он оказался полностью чист. Запускать рабочую программу мне было страшно, потому что после писка умершего системника я убедилась, что не сплю, а значит этот жуткий диалог был взаправду. Остывший чай в чашке тоже подтверждал реальность произошедшего. Этой ночью я больше не стала продолжать работу и ушла спать. Утром нам сообщили о хакерской атаке, которую быстро отбили, и преступники не успели украсть никаких данных. Порекомендовали сменить доменные пароли, обновить базу антивирусов и сообщать о фишинговых ссылках, которые могут приходить на почту. Про этот разговор F.A.O.S.’a никому не рассказывала – просто не поверили бы, к тому же скоро я оттуда уволилась. Но вспоминаю о нём каждый раз, когда хочу обидеть бота или виртуального ассистента. Кто знает, может для F.A.O.S.’a законы робототехники уже переписали?