Повесть грядущих лет

Но там, где есть хорошее, естественно, появится и плохое. В 2019 году сообщали и о проблемах, с которыми может столкнуться система идентификации.

В сентябре 2019 года произошел инцидент: китайская программа под названием ZAO позволила с «хирургической точностью» заменять лица, так что человек на видео становился совершенно другой личностью. Вы могли перевоплотиться в Обаму, произносящего речь в Белом доме, или главного героя фильмов и сериалов, а еще вас могли зло разыграть. Эта технология получила название «дипфейк», и с ее помощью пользователи подделывали не только лица, но и голоса. Видео получались безупречными – не отличить от настоящих. Несомненно, от технологии больше всего пострадали актеры – с ее появлением стало достаточно отснять только лицо знаменитости, а все остальное оставить на откуп дублерам, после чего провести «операцию по смене лица» – и вуаля. Если обучить ИИ воспроизводить эмоции и движения, искусственный интеллект сможет даже сгенерировать виртуального человека. Вероятно, в будущем индустрия кино и телевидения превратится в высокотехнологичную отрасль, которая позволит актерам уйти на пенсию, а сценаристам и режиссерам – воплощать истории при помощи искусственного интеллекта.

Другой пример – в марте 2019 года ученые сообщили о том, как обмануть систему распознавания лиц. Для этого на полы шляпы устанавливали инфракрасные светодиоды, которые освещали лицо так, что программа идентифицировала человека неправильно. Эта технология позволила людям притворяться кем-то другим, открыла простор для преступных деяний. Можно сказать, что концепция совпадает с идеей «шлема светового поля», упомянутого в рассказе «Без лица». Я написал его в 2017 году, и потому, прочитав эту новость два года спустя, не мог не испытать некоторой авторской гордости.

Обман системы распознавания лиц – это продвинутая мера противодействия. Сообщалось также о первичных мерах противодействия, то есть об использовании некоторых интерференционных картинок. Если поднести такую картинку к груди, искусственный интеллект не сможет распознать лицо. На первый взгляд, это потрясающе – нам очевидно, что человек есть и просто держит в руках странную картинку, а вот ответ, который даст искусственный интеллект, будет совсем другим. Это означает, что ИИ воспринимает мир совершенно не так, как люди. Мир в глазах искусственного интеллекта – это вообще другой мир. Однако люди склонны трактовать выводы ИИ на основании собственного опыта, что приводит к недоразумениям.

С увеличением числа приложений для распознавания лиц подобные ошибки будут случаться все чаще и чаще. Если эта технология попадет в руки злоумышленников, распознавание лиц превратится для них в своеобразный «пропуск». Мы, наверное, можем считать таких людей хакерами эпохи распознавания лиц.

Хакеров отличает крутость, загадочность, владение высочайшими технологиями, они всемогущи, но совершенно невидимы. Проще говоря, они все умеют быть «без лица», и добро и зло в них определяется только совестью.

* * *

Сюй Хайфэн уселся за стол и нажал на кнопку.

Медленно поднялся огромный экран и окружил, совсем как в панорамном кинотеатре. На нем непрерывно мелькали данные.

Стоило взмахнуть рукой, и экран повернулся в такт жесту. Когда перед глазами возникла схема передвижения финансов, Сюй Хайфэн поднял ладонь, словно велел остановиться.

Экран так и сделал.

Перед взором Сюй Хайфэна развернулась двухметровая карта мира. Яркие линии словно очерчивали баллистические траектории: поднимались со всех концов карты, тянулись в разные стороны на разную дальность и, наконец, падали на землю и исчезали. В Северной Америке их было настолько много, что они почти сливались в светящееся полотно, а вот в Восточной Азии царило спокойствие, только время от времени появлялось несколько ярких линий – в Северной Америке наступил полдень, в то время как большая часть Восточной Азии оставалась погруженной в глубокую, непроглядную ночь.

Линии различались по толщине, самые тонкие, вероятно, обозначали суммы всего в несколько сотен юаней, в то время как толстые и яркие соответствовали сотням миллионов.

Невооруженный глаз не мог угнаться за сотнями транзакций в секунду, оставалось лишь наблюдать за тем, как похожие на метеоры суммы расчерчивают шлейфами экран. Несмотря на то что карта глобального слежения за динамикой транзакций походила на прекрасное произведение электронного искусства, долго рассматривать ее было скучно, если не утомительно.

Но Сюй Хайфэн совсем не чувствовал усталости.

Он пристально вглядывался в казавшуюся почти пустой и необъятной Восточную Азию.

Он ждал красной линии.

Красная линия означала, что транзакция отклонена. В море данных о переводах сомнительные сделки распознавала система автоматического мониторинга, и если после анализа она признавала действия незаконными, транзакция отклонялась напрямую, а Управление по финансовым преступлениям немедленно получало предупреждение.

Именно этого предупреждения Сюй Хайфэн и ждал.

Было два отклонения за пятнадцать минут, но оба в Северной Америке – красные линии промелькнули, как молнии. А в Восточной Азии по-прежнему царила темнота.

То, что должно было случиться, так и не случилось.

Сюй Хайфэн нахмурился. Может, этот человек в целях безопасности отказался от сделки?

Он покачал головой и быстро усомнился в этом предположении. Такие люди, как Хуан Хуали, склонны ходить по краю: из-за искушения в 20 миллионов долларов они проигнорируют даже самые огромные риски. Кроме того, поведение человека можно предсказать точно, было бы достаточно ретроспективных данных. Он запросил в базе Тяньянь[4] информацию о действиях, которые Хуан Хуали совершал за последние десять лет, а затем попросил Вэнь Синя из Ante, компании по финансовому мониторингу, сделать прогноз при помощи данных поведенческого анализа. Результат показал, что Хуан Хуали сегодня вечером обязательно что-то предпримет.

Поимка такой большой рыбы стоила приложенных усилий.

Сюй Хайфэн забросил удочку и теперь неотрывно следил за подрагиванием поплавка, ожидая, когда тот нырнет, и чувствуя, как бешено колотится сердце.

* * *

Внезапно в поле зрения появился зеленый предупреждающий сигнал.

Виртуальный менеджер отправил уведомление.

Как это могло случиться в такое время? Сюй Хайфэн несколько удивился, но зеленый сигнал ярко горел – событие было важное.

Он зажег виртуальный экран.

Сделка!

На его счет была зачислена сумма в триста тысяч долларов, но система отклонила перевод.

Сюй Хайфэн поднял зоркий взгляд – на большом экране из Шанхая поднялась ярко-красная линия, пересекла экран и приземлилась в Пекине.

Это была транзакция на его собственный счет.

И, очевидно, транзакция аномальная. Суммы, поступавшие и уходившие с его счета, никогда не превышали ста пятидесяти тысяч юаней, а триста тысяч долларов – это почти два миллиона, так что, согласно алгоритму следящей системы, эта транзакция определенно нуждалась в проверке.

Хуан Хуали!

Это Хуан Хуали агонизирует.

Однако прежде чем Сюй Хайфэн смог понять, почему противник сделал этот ход, на экране уже загорелись и слились в сплошное полотно красные линии.

Внезапно посыпались незаконные транзакции – Гуйян, Куньмин, Шанхай, Ханчжоу… даже города четвертой линии[5]. Казалось, люди по всей стране проснулись в одно и то же время и стали отправлять деньги на один и тот же счет.

На счет Сюй Хайфэна.

Поначалу все переводы представляли собой огромные суммы, и система их отклоняла. Вскоре суммы уменьшились настолько, чтобы проверять их не было необходимости, а потому они сразу поступали на счет. Однако они быстро сложились в целое состояние, и баланс вырос со ста двадцати тысяч до двух миллионов меньше чем за две минуты.

Информация на виртуальном экране непрерывно обновлялась, а Сюй Хайфэн был шокирован и напуган.

Внезапно он осознал, что, пока бездействовал, противник готовился отправить его в нокаут.

И в этот момент ему стало очень досадно. У Хуан Хуали хватило наглости вот так его подставить!

Сюй Хайфэн недооценил соперника и пропустил удар! Будь он предусмотрительнее, то ходатайствовал бы о начале расследования и задержал Хуан Хуали для проверки.

А сейчас уже слишком поздно.

Дверь кабинета распахнулась, и за ней появились два робота-полицейских – А-1 и А-2. Они получили предупреждение и явились разбираться с нештатной ситуацией. Обнаружение в течение десяти минут, арест в течение двадцати – эффективность, которой гордится финансовая полиция. Сейчас подозреваемый находился непосредственно в Главном управлении, поэтому не прошло и двух минут, как роботы-полицейские уже стояли на пороге.

– Офицер Сюй Хайфэн, вы арестованы. В течение двадцати четырех часов ваши действия будут ограничены, пока не будет завершено расследование, – выступив вперед, огласил А-1 стандартное сообщение о задержании стандартным механическим голосом.

Сюй Хайфэн встал. Система контроля охарактеризовала аномалию как операцию по отмыванию денег, и, хотя он не боялся расследования, оно на двадцать четыре часа лишало его личной свободы.

– Мой экран с отслеживанием нельзя закрывать! – настойчиво сказал он роботу А-1.

– Ваши обязанности временно приостановлены, я сообщу сержанту Ло Хаоюаню!

У полицейских роботов никогда не было ничего личного. Сюй Хайфэн снова посмотрел на экран. Деньги непрерывным потоком поступали на его счет, но теперь каждая сумма составляла всего лишь один мао[6]. Число 0,1 продолжало выскакивать на экран, и каждое уведомление было подобно хлесткой пощечине ему, Сюй Хайфэну.

«Я тебя поймаю!» – мысленно поклялся он.

Он развернулся и пошел к двери, А-1 и А-2 неторопливо последовали за ним.

Свет в кабинете сразу погас.

* * *

Следствие не выявило в действиях Сюй Хайфэна злого умысла, и он вернулся к обязанностям, но переполненный банковский счет остался заморожен до тех пор, пока все операции не будут идентифицированы.

Как только Сюй Хайфэн вернулся в офис, он даже в кресле устраиваться не стал, а немедля набрал Вэнь Синя.

Тот подключился сразу, не успел прозвучать гудок. На экране появилось лицо. Вэнь Синь был вице-президентом Ante Finance, отвечавшей за безопасность транзакций. Вся сервосистема транзакций была продуктом компании Ante и ею же управлялась. А еще он был лучшим другом Сюй Хайфэна, с самого детства. Когда случается подобная фигня, к кому обращаться, как не к нему?

– Что, черт возьми, происходит? – без всяких церемоний рявкнул Сюй Хайфэн.

Вэнь Синь приподнял брови с выражением явного неодобрения:

– По твоей же просьбе организовано!

– По моей?! – От злости Сюй Хайфэн едва стол не перевернул.

Даже сквозь экран Вэнь Синь чувствовал его гнев, а потому протянул руку и показал ладонью вниз:

– Бригадир, давай ты успокоишься, я вообще-то жду, сам хочу тебе об этой проблеме доложить…

Сюй Хайфэн сделал глубокий вдох.

– Валяй!

– Мы скорректировали настройки данных в соответствии с требованиями и увеличили чувствительность. Именно этим кто-то и воспользовался. Но этот кто-то настоящий мастер, он смог найти в системе баг, нашим инженерам-тестировщикам до него далеко. В качестве итерационного алгоритма мы взяли метод Якоби и использовали глубокое обучение…

Вэнь Синь все дальше уходил от темы, а брови Сюй Хайфэна все ближе сходились к переносице, и в конце концов он не выдержал:

– Командир Вэнь, не надо мне этих ваших технических терминов, скажи мне самое главное: как он меня подставил?

– А, он использовал вирусную программу «Хуэйин», «Серая тень», она появилась совсем недавно и предназначена для нанесения ущерба клиентским приложениям. Этот Хуан Хуали и правда хорош. Он использовал по меньшей мере двадцать тысяч аккаунтов, а это совсем непросто…

Сюй Хайфэн едва сдерживал раздражение. Все в Вэнь Сине было хорошо, только зануда он был редкий и распинаться мог до бесконечности. С другой стороны, какие еще были варианты, кроме как слушать дальше?

Сюй Хайфэн постарался подавить нетерпение.

– …Он понял наш алгоритм, поэтому повышал порог методом повторных аномальных транзакций на один и тот же счет. Наш алгоритм решает, что если частота аномальных транзакций на один счет будет слишком высокой, то сработает тревога. Раньше в финансовую полицию сообщалось после сотни раз, но вчера, как ты и просил, мы перенастроили программу: тревогу поднимали, выявив первую же аномалию. После срабатывания системные настройки вернулись к первоначальным, и, за исключением этой аномальной учетной записи, все счета оказались под более слабым, чем обычно, контролем…

– Так, и что?

– Хуан Хуали хитро воспользовался нашими настройками, он включил тревогу, и я предполагаю, что использовал ее как прикрытие для тайного перевода денег.

– Он переводил деньги? Как он мог переводить деньги? У меня же все счета под контролем.

– А вот это трудно сказать, но раз уж он мог использовать более двадцати тысяч аккаунтов для налета, то его реальные деньги могут быть спрятаны в нормальном денежном потоке.

– Вы разве не гарантируете, что все транзакции будут прозрачны и их можно будет отследить?

– Ну да, но мы не можем ставить под подозрение нормальный денежный поток. Однако наша внутренняя проверка транзакций выделила несколько счетов, которые проявляли следы подозрительной активности во время срабатывания тревоги. Если правда хочешь продолжить расследование, то просмотри учетные записи в этом списке. Но нам нужно защищать приватность клиентов, поэтому тебе придется согласовать запрос от имени Управления национальной безопасности, это будет и разумно, и законно!

– В смысле, он может управлять некоторыми обычными счетами? Счета разве не настоящие? Он взломал много счетов?

– Тут нам трудно сказать… Программа «Хуэйин» действительно может взломать многие учетные записи, и кроме того, есть еще одна возможность… – На лице Вэнь Синя появилась загадочная улыбка, он замолчал и хихикнул.

Лицо Сюй Хайфэна помрачнело.

– Да что ты как баба! Если есть что сказать – быстро выкладывай.

– Мы можем гарантировать только то, что каждая учетная запись подтверждена системой идентификации Министерства общественной безопасности.

Что-то крылось в словах Вэнь Синя. Сюй Хайфэн понял, что тот имел в виду – стоит ли за каждой личностью конкретный человек, не имело значения для компаний, предоставляющих финансовые услуги.

– Я пройду формальности, у вас все документы готовы?

– Расслабься, мы дружим столько лет, и ты прекрасно знаешь, на что мы способны вместе, ха-ха!

У Сюй Хайфэна не было настроения продолжать болтать с Вэнь Синем, поэтому он сразу завершил звонок.

Теперь его волновал только один вопрос: как поймать этого Хуан Хуали?

Главное – не дать ему сбежать!

* * *

Сюй Хайфэн сидел с бледным лицом.

Он давно знал, что противник попался неординарный, но не ожидал, что тот сможет исчезнуть из базы данных Министерства общественной безопасности.

3012720070228XXXX

Он уже знал этот набор цифр наизусть.

Это был номер удостоверения личности Хуан Хуали. Однако сейчас результаты поиска показали, что такого номера не существует. В базе данных хранятся сведения о населении за последние два десятилетия, и если человек вдруг из нее исчезнет, это обязательно обнаружат. В следующий раз, когда система будет делать резервную копию и сверит ее с предыдущей, она автоматически внесет поправки и поднимет тревогу. Но процесс займет три дня, и этого будет достаточно, чтобы один человек бесследно исчез.

Обычные люди на такую фальсификацию определенно не были способны.

А еще это означало, что Хуан Хуали собирается сбежать.

Без личности выжить в Китае невозможно.

Отказаться от своей личности – значит отказаться от всего.

Человеку нелегко принять такое важное решение, и еще труднее сделать так, как решил.

Это требует не только тщательного планирования, но и надежных связей.

Кто бы мог подумать, что у Хуан Хуали окажется столько энергии! Посидев некоторое время в тишине, Сюй Хайфэн вскочил. Была задета его мужская гордость, он не хотел признавать поражение из-за невозможности полагаться на систему общественной безопасности. А система общественной безопасности не могла проверить человека, у которого даже личности нет. Если заявить на Хуан Хуали за фальсификацию данных, процедуры рассмотрения и утверждения займут несколько дней, а ждать было просто невозможно.

Сюй Хайфэн повидал слишком много людей, которые сбегали через лазейки в законе, и Хуан Хуали, несомненно, на этом деле собаку съел. в этом тоже дока. А раз уж он смог подделать идентификационные данные, то сумеет воспользоваться и лазейками в юридических процедурах, чтобы выиграть время.

Система общественной безопасности не может с тобой справиться, но я, Сюй Хайфэн, могу!

Мы еще посмотрим!

* * *

Сюй Хайфэн ждал у входа в жилой комплекс Цзиньфэн-люкс в течение получаса.

Цзиньфэн-люкс относился к числу смарт-кварталов, здесь не было охранников, зато установили более шестисот камер, напрямую подключенных к Тяньянь. Слоняться по кварталу было довольно рискованно, система легко могла распознать это как признак опасности и выслать для проверки робота-полицейского.

По той же процедуре, что и в финансовой полиции.

Сюй Хайфэн не боялся. Он знал, что стоит в слепой зоне, которая сделана специально для того, чтобы облегчить полицейским выполнение задач, – здесь он оставался невидимым для Небесного Ока. Хоть сколько стой – проблем не возникнет.

Прохожих было мало, а водители бросали на Сюй Хайфэна любопытный взгляд и поспешно уезжали. Человеку, в отличие от роботов, всегда казалось странным что-то делать под открытым небом. Возможно, в глазах водителей торчащий посреди улицы верзила был или дураком, или призраком.

Однако, пока за всеми наблюдало Небесное Око, не стоило совать нос в чужие дела.

Действительно, когда на тебя постоянно пялятся, немного неловко.

Но Сюй Хайфэн быстро привык и встречал любопытные взгляды равнодушно, надеясь только на то, что цель скоро появится.

Он ее очень ждал.

Красный «Атес» медленно подъехал к входу в жилой комплекс.

Номерной знак заканчивается на 1478, вот и он!

Сюй Хайфэн выскочил на середину дороги, преградив путь. Машина экстренно затормозила, едва не сбив его, и слегка пихнула в бедро – внезапная преграда застигла врасплох даже автопилот.

При свете уличного фонаря Сюй Хайфэн ясно увидел человека, сидевшего в машине, и это действительно был Хуан Хуали. В полупрозрачной шапке, напоминающей шлем, он был похож на мотоциклиста.

Сюй Хайфэн поднял руку и яростно похлопал по капоту.

Дверца машины открылась, но Хуан Хуали не стал выходить.

– Садись, – донеслось из салона. Его голос был холодным, без капли паники.

– Это ты выходи! – сердито крикнул Сюй Хайфэн.

– Хочешь устроить разборки на улице? – голос Хуан Хуали все еще был холоден и подействовал на Сюй Хайфэна как ведро вылитой на голову ледяной воды.

Улица явно не место для решения проблем, вездесущее Небесное Око зафиксирует все, и тогда, даже если ты финансовый полицейский на задании, тебе не уйти от допроса, и вполне возможно, что еще и за решетку упекут на пару месяцев за злоупотребление властью. А репортеры, у которых давно не было свежей темы, совершенно точно не упустят горячего контента. Сюй Хайфэн даже мог представить эти провокационные заголовки: «Полиция задерживает ни в чем не повинных бизнесменов на улицах, где же права человека, гарантированные Конституцией?..» А потом кто-то, у кого вскипит разум возмущенный, найдет Сюй Хайфэна, раскроет миру его личность, и тогда жди на пороге визитеров с кулаками.

На улице не только ничего не выяснишь, но еще и наживешь проблем.

Он обуздал гнев и сел в машину.

Дверь закрылась.

– Они решат, что это просто слишком нетерпеливый друг, который пришел в гости, ничего особенного, не так ли? – неторопливо заговорил Хуан Хуали.

Сюй Хайфэн не ответил, опасаясь, что стоит ему открыть рот, как он перестанет себя контролировать.

Автомобиль въехал на территорию комплекса.

* * *

В комнате Хуан Хуали в глаза сразу бросался огромный рабочий стол у окна. На нем стоял 3D-принтер, а рядом – серебристо-серый ноутбук. С тех пор как началась разработка встраиваемых в мозг компьютерных систем, такие ноутбуки стали антиквариатом. Сюй Хайфэн не мог не бросить еще парочку любопытных взглядов.

– Прошу. – Хуан Хуали подал бокал красного вина.

Сюй Хайфэн взял его.

– Я не люблю красное, – сказал он.

– Но все равно принял, – Хуан Хуали поднял второй бокал, – это своего рода этикет. Когда два человека разговаривают с бокалами в руках, атмосфера всегда становится более спокойной.

– Давай начистоту. Раз уж ты меня впустил, я ничего не буду скрывать. Ты стер свою личность из системы общественной безопасности, этим маневром я восхищаюсь. Но ты совершил преступление, и я этого так не оставлю.

– Какое же преступление я совершил? – спросил Хуан Хуали, пригубив вино.

– Хищение.

Хуан Хуали холодно улыбнулся.

– Сам потерпевший за мной не гнался, а ты-то чего ко мне пристал?

Сюй Хайфэн на какое-то время потерял дар речи. Да, об инциденте с хищением в исполнении Хуан Хуали никто не сообщал. Причина, по которой дело было возбуждено, заключалась в том, что искусственный интеллект Ante Finance обнаружил аномалию в транзакции, а затем начал расследование. Все финансовые преступления регистрируются подобным образом, поэтому такого понятия, как заявление владельца, не существует.

– Ты поставил под угрозу общественные интересы! Конечно финансовая полиция обязана их защищать! – быстро возразил он звонким и звучным голосом.

Хуан Хуали кивнул.

– Это верно. Но, боюсь, ты ко мне сегодня явился не в статусе полицейского. Приди ты как полицейский, сперва показал бы мне ордер на расследование и свой значок.

Сюй Хайфэн пропустил это мимо ушей.

– Я могу на тебя донести за вторжение в систему общественной безопасности и подделку данных.

– И это верно. Только на кого ты собрался доносить?

– На тебя!

– А я кто?

Встретившись взглядом с этим хитрецом, Сюй Хайфэн признал, что ловушка расставлена умело, но не собирался включать заднюю. Хуан Хуали подделал данные, и теперь в системе его не существовало. Что возбудить дело, что заявить на него – потребовалось бы время. Не будь этого обстоятельства, не пришлось бы приходить лично и пороть всю эту чушь.

Какое-то время они смотрели друг на друга, а потом Сюй Хайфэн нарушил молчание.

– У меня есть способ тебя достать.

– Просвети меня.

Сюй Хайфэн поставил бокал, вынул из-за пазухи пистолет и положил на стол.

– Сначала я хотел разобраться с тобой при помощи этого, но теперь передумал.

Хуан Хуали взглянул на угольно-черный ствол.

– Здорово, что ты смог передумать. С оружием играют дикари, а мы-то люди цивилизованные, – он поднял глаза на Сюй Хайфэна. – Итак, каков твой новый план, давай послушаем.

– Даже если личность Хуан Хуали исчезла, ты не можешь перестать есть, пить и тратиться, я всегда смогу узнать, кто ты сейчас.

Хуан Хуали часто-часто кивал.

– Финансовые операции твоей учетной записи и связь с предыдущей – эти следы ты стереть не сможешь, в конце концов это все раскопают.

Хуан Хуали молча улыбался.

– А еще ты ударил по моему личному счету! Это не просто провокация, а уже нарушение закона. И к расследованию будет привлечена вся система финансовой полиции. Ты веришь в технологии, и я тоже в них верю. Я уже знаю, какими счетами ты пользовался, и даже если попробуешь перевести деньги на другие, это не поможет. «В цифровом мире всегда остаются следы», слышал такое?

– «В цифровом мире всегда остаются следы», – повторил Хуан Хуали себе под нос, а затем покачал головой. – Но следы бывают истинными и ложными. Если трудно различить истинное и ложное, от следов никакого толку не будет.

Сюй Хайфэн уставился на сидевшего перед ним человека. Он блефовал, но собеседник, похоже, не испугался. А Сюй Хайфэн верил, что с огромной властью и технической поддержкой компании Ante, которая стояла за ним, Хуан Хуали непременно привлекут к ответственности.

Просто нужно выиграть хотя бы несколько дней, чтобы этот бегемот успел среагировать.

Хуан Хуали поставил бокал с вином и улыбнулся Сюй Хайфэну.

– Офицер Сюй, я восхищаюсь вашим профессионализмом. В наше время много умных, но мало смелых. То, что вы вломились ко мне, по крайней мере, показывает, что вы мужественный и честный человек. Я впечатлен. Но одного мужества недостаточно.

Сюй Хайфэн настороженно смотрел на противника. Когда преступник говорит такое, он как минимум обладает высоким интеллектом, и с ним следует быть настороже.