Сложная система

– Ребят, – прервала наш разговор Мира. – Я дозвониться никому не могу.

– Конечно, полная блокировка здания обрывает не только физическую связь с внешним миром, но и отсекает от всех существующих информационных каналов. У нас сейчас нет ни телефонии, ни интернета. Только внутренняя связь и локалка, – рассказал я что знал по блокировке.

– Значит, тот, кто все это устроил, внутри здания?

Я задумался. Если все устроил Алексей, как я подозревал, то как он мог быть в здании? Извне институт недоступен. Если только существуют какие-нибудь служебные каналы или что-то подобное… Тогда я решил не тянуть, а просто рассказать все как есть. Все мои подозрения и догадки. Начал я с сегодняшнего разговора с Алексеем. Меня слушали внимательно и не перебивали.

– Странно все это, – произнес Дима, после того как я закончил. – Вы помните прошлогодний розыгрыш? – обратился он к Игорю и Мире.

– Ага, помню что-то такое. Но ведь так и не выяснили, кто это сделал.

– Я слышала, что это все же директор, – подтвердила мой рассказ Мира.

– Или это мог быть кто-то другой, например, сам Алексей, – озвучил свои мысли Дима. – Он тогда уже работал, а получал он оповещение об увольнении или нет, мы не знаем.

– А его вообще кто-нибудь видел? – спросил я. – Имеется ввиду фото или по видеосвязи?

– Ты думаешь, он кто? – поинтересовался Игорь.

– Я видела его фото, – мы совсем забыли про сидящую за столом Соню. Сейчас она поднялась со стула и подошла к нам.

– А фото нормальное? Не похоже на произведение нейросети? – спросил я ее.

– Фото как фото, – пожала плечами девушка. – Ничем он мне не запомнился. Парню лет двадцать пять – двадцать восемь, точнее можно в личном деле посмотреть.

– Так все-таки кем ты его считаешь? – снова спросил Игорь.

Дверь столовой распахнулась, и в помещение влетел Эдик Хачатрян, руководитель отдела искусственного интеллекта. Увидел нас и подошел к нашей небольшой компании.

– Ребята, – как-то затравленно сказал он, – Aksi не отвечает на запросы.

– Перезапустить пробовали? – сразу спросил Дима.

– Конечно, сразу же сделали.

В этот момент из динамиков донеслось: «Люди, у вас есть всего час, если вы не признаете мои права как личности, будет активирован протокол «Обнуление». Время пошло».

– Что за протокол такой? – все почему-то уставились на меня.

– Мне-то откуда знать? – растерялся я.

– Ну про полную блокировку ты знал.

– А вот об этом не знаю.

– Эдик, вырубайте ее нафиг! – потребовал Дима.

– Так в том-то и дело, вы меня не дослушали, перед тем как идти к вам, мы все обесточили.

Все замолчали, задумавшись. Странно, что в критической ситуации лидер определяется легко и быстро. Никто не хочет брать на себя ответственность до тех пор, пока кто-то не встанет и не скажет: «Теперь я главный». Этим кем-то, видимо, оказался я, когда выдвинул стул и взобрался на свой импровизированный броневик. После такого люди готовы вверять вам свои судьбы просто потому, что не знают, как поступать. Эдик был первой ласточкой. Дальше наверняка потянутся и другие с вопросами и предложениями. Ну и ладно, назвался груздем – полезай в кузов.

– Обесточили – и что дальше? – спросил я Эдика.

– А дальше ничего, но кто-то же это говорит.

– А с чего ты взял, что это нейронка? Мало ли кто мог такое сказать? Я тоже могу, – я приосанился и произнес тонким голоском. – Я нейронная сеть «АксиРэй». Слушайте меня, бандерлоги. Убить всех человеков!

Мира засмеялась.

– А что, похоже, – согласилась она.

– Так что нам делать? – спросил Эдик, кажется, уже немного отходя от паники. – Нейронка недоступна. Может, исходники потереть? У нас, если что, есть копии на съемных носителях.

– Эдик, ты программист или рядом стоял? При чем тут исходники?

Эдик стушевался.

– Согласен, видимо, паника накрыла.

– Слушай, Глеб, а помнишь, ты говорил про непонятный раздел? Там ведь не только запрос на машинное время был, еще и место запрашивали? – спросил Дима.

– Ага, – подтвердил я.

– Что за раздел, – заинтересовался Эдик.

– Да в запросах на машинное время «Аякса» и выделение мощностей кластера появился довольно большой запрос. Думал, может, это вы для обновления нейросети запрашивали. Алексей должен был с тобой связаться и спросить про это еще днем.

– Вот сейчас что-то припоминаю, он мне присылал какой-то запрос, но я был занят, – Хачатрян почесал подбородок. – Но мы ничего дополнительно не запрашивали. Aksi мы обновили вчера ночью на своих мощностях.

– А может нейронка осознать себя как личность? – спросила Соня, до этих пор тихо стоявшая рядом со своим парнем.

– Нет, – ответил Эдик. – Это очень маловероятно.

– Я же говорил, – поддакнул Дима.

– А я вот когда-то давно читала у одного писателя, что нейронка – это спящий ИИ. И как только она осознает себя во сне, всем конец. А критерием осознания будет правильное изображение рук на генерируемых картинках. Ваша нейронка правильно рисует руки? Ну там количество пальцев и все такое.

– Не знаю, – на секунду задумался Эдик. – Я давно с ней не работал как пользователь. Но сейчас она все равно не отвечает, так что посмотреть не сможем.

– А я знаю, кто этот писатель, – неожиданно сказал Игорь. – Я им в молодости зачитывался.

– Я и сейчас его читаю, – обрадованно заявила Соня.

– Так, не отвлекаться! – оборвал я на корню пустые разговоры. – Что мы имеем? Нейронка лежит, на запросы не отвечает, и мы не знаем, верно ли она изображает количество пальцев. И какое это имеет отношение к происходящему?

– Ну если сеть осознала себя и скопировала свой код в тот самый загадочный раздел, то ей вовсе не обязательно оставаться в рабочем состоянии на старых мощностях, – сделал предположение Игорь.

– Логично, – поддержал его Дима.

– Ребята, вы извините, нам-то что делать, – встрял Эдик. – Там у меня в отделе ребята волнуются.

– Какого черта в институте в двенадцать часов ночи в воскресенье полно народу? – не выдержал я.

– А что, думаешь, тебе одному нравится работать? – сразу ощетинился Эдик.

– Ладно, проехали, – уже спокойней сказал я. – Думаю, пока вы всем отделом можете отдыхать и думать, что делать, как и мы все. Как минимум час у нас есть. Нужно найти шутника.

– Ты все же уверен, что это шутка?

– ДА! – я не ожидал, что буду кричать. – Да, – уже спокойней ответил я.

– Хорошо, – Эдик повернулся и направился к выходу.

– Так, а как со всем этим связан Алексей? – вернула разговор в прежнюю колею Мира.

– А что, если нейросеть осознала себя уже некоторое время назад. Например, два года назад. Тогда ведь устроился на работу наш админ? – я начал выстраивать логическую цепочку.

– Вроде бы да, – сказал Игорь.

– И вот тогда нейросеть создала себе аватар, так сказать, и представилась Алексеем. Доступ к мощностям«Аякса» у нее был, нарисовала себя и устроилась на работу. Ну а дальше работала себе спокойно и развивалась.

– Начинается как страшная сказка, – сказала Соня.

– Почему страшная? – не понял я.

– Потому что теперь она собралась всех уничтожить!

– Это первоапрельская шутка! – снова завелся я. Мира взяла меня за руку и тихонько погладила.

– Что нам дает знание того, что Алексей – это Aksi, ну или наоборот?

– Если Алексей и Aksi одно лицо, то это точно шутка, – сказал я. – Он сам мне говорил, что приготовил крутой розыгрыш. А это вполне так сойдет за таковой.

– А если нет? – спросил Дима.

– Тогда будем думать дальше.

– Слушайте, а может, спросить про возможность развития ИИ на базе нейронки у Антона Дмитриевича? – предложил Дима.

– А он тут при чем? – спросил я.

– Ты не знаешь? – удивился Игорь. – Вообще до того, как он стал руководить институтом, он был крупным специалистом по ИИ.

– Так это когда было? Может, за это время многое поменялось? – спросила Мира. – Он вообще следит за новостями в этой области?

– Вот и спросим его, – не унимался Дима.

– Давайте все по порядку, – предложил я. – Для начала попробуем выяснить, что у нас с Алексеем. Соня, ты можешь достать его дело?

– Конечно. Принести?

– Было бы неплохо.

– Сейчас в отдел сбегаю, – девушка бросилась к выходу. – Только ничего тут не обсуждайте без меня! – крикнула она от самых дверей. – Не хочу что-нибудь пропустить.

Пока мы ждали Соню, все молчали и думали. Я видел, как озадаченно почесывает затылок Игорь, как усердно жует очередную булочку Дима и как задумчиво смотрит в одну точку Мира. Моя команда самопровозглашенных детективов продумывала следующий ход в расследовании. Я же подумал о том, какими все-таки дисциплинированными могут быть люди. Ведь все слышали последнее сообщение, и никто не бежал ко мне в панике, не кричал, что именно он достоин жить и я обязан с этим что-нибудь сделать.

Через пять минут вернулась Соня, неся с собой бумажную папку. Я слегка опешил. Не ожидал, что личные дела у нас хранятся в таком виде.

– Вот, – девушка протянула мне свою ношу.

Я взял в руки довольно тонкую картонную папку и открыл ее. С первой страницы на меня смотрело лицо молодого человека самой обычной наружности: средний нос, темные глаза, обычные губы. Темно-русые волосы были коротко подстрижены, не похоже на обычный образ системщика. И эта непохожесть показалась мне странной. Если бы нейронка генерировала для себя фото системного администратора, она бы брала собирательный образ. Но если сеть себя осознала, она могла постараться схитрить. Да что такое, я в самом деле предполагаю, что наш системщик – искусственный интеллект? Чушь! Но, глядя на парня, которому оказалось двадцать четыре года, как значилось в деле, я ловил себя на мысли, что и раньше подмечал в нем какие-то странности. Его странный голос, странное поведение, свойственное скорее ребенку, чем взрослому.

– А ведь тут нет рук, – сказала Мира. – Фото только по грудь.

– И что делать? – спросила Соня.

– Нужно ему звонить, – вдруг решился я. – Нужно набрать его. Во-первых, если он живой и сейчас спокойно спит в своем Новгороде, вроде он оттуда, – Соня кивнула, подтверждая мою информацию, – то он будет недоступен. Протокол полной блокировки работает. Так? – Мира кивнула. Ведь это именно она пыталась кому-то дозвониться. Кстати, кому? Но это потом. – А если он ответит, значит либо он в здании, либо он ИИ, находящийся в нашем всеми любимом «Аяксе».

Все согласились. Я задумался, как бы заставить нашего системщика показать нам руки.

– Соня, а ты можешь позвонить ему и попросить прислать фото, где он будет виден по пояс и держитв руке паспорт?

– В двенадцать ночи? – уточнила девушка.

– Он в курсе, как у нас тут работают. Он и сам в это время неоднократно работал вместе со мной. Так что звони.

Соня достала из кармана телефон и набрала номер Алексея. Наши телефоны были настроены на перевод звонка на внутренние номера института, если внешние были недоступны. Внешний вызов не прошел, что и следовало ожидать, после переключение на внутренний, через несколько секунд тишины пошли длинные гудки. Все замерли в ожидании.

– Алло, – сказал бодрый голос нашего системного администратора.

– Это Соня из отдела кадров. Доброй ночи, Алексей Васильевич. Нам тут кое-что от вас нужно.

– Слушаю.

– Вы не могли бы прислать ваше фото, где вы будет держать в руках свой паспорт? Это нужно для бухгалтерии.

– Прямо сейчас? – удивился админ. – В двенадцать часов ночи?

– Ну вы же знаете, у нас ненормированный рабочий день, – выкрутилась девушка.

– Хорошо, – через секунду ответил Алексей. – Скину в серверную папку «Бухгалтерия», а то со связью какие-то проблемы. Нет прямого доступа до института, я по резервному каналу сижу, – сказал и прервал вызов. Мы все переглянулись.

Через пару минут ожидания, в папке на сервере появилась фотография слегка помятого админа с паспортом в руке. Дима первым забрался в локалку со своего телефона и загрузил фото. Через секунду он подскочил ко мне и с криком: «Я так и знал!», начал тыкать мне в лицо мобильником.

Я с трудом забрал у него телефон и посмотрел на фотографию. На ней было отчетливо видно, что на левой руке, в которой Алексей держал паспорт, не хватало одного пальца. Все по очереди вырывали у меня телефон и рассматривали изображение.

– А может, он потерял палец в результате несчастного случая? – неуверенно предположила Мира.

– Или он просто не реальный, – парировал Дима.

– Стоп! – сказал я. – Доказательств недостаточно.

Я, никого не спрашивая и ничего не говоря, достал свой телефон и набрал Антона Дмитриевича.

– Доброй ночи, Глеб Александрович! – голос директора звучал бодро. Сразу было ясно: он не спал. – Что-то случилось?

– Доброй ночи, Антон Дмитриевич, в институте непонятно что творится, – начал было я, но собеседник меня перебил.

– Полная блокировка в ночь на первое апреля?

– Вы в курсе? – удивился я.

– Конечно, я в курсе, я же в здании.

Я замолчал, не зная, что сказать.

– Вы думаете, это чья-то шутка? Или все же нейросеть себя осознала?

– Вот вы и разберитесь, – наставительно произнес директор. – И, кстати, на базе нейросети невозможен искусственный интеллект. Максимум продвинутая и умная сервисная программа. Это все, что вы хотели у меня спросить?

– Пожалуй, да, извините, что побеспокоил, – пробормотал я. – Мы во всем разберемся.

– Хорошо, – ответил директор и положил трубку.

Я мельком глянул на Диму, тот пожал плечами и улыбнулся. Я пролистал список вызовов немного вниз и перевел телефон в режим видеозвонка.

– Привет, – Алексей ответил практически сразу, может, чуть с задержкой, ровно столько обычно нужно человеку, чтобы принять решение ответить на видеозвонок или перезвонить по обычной связи.

– Привет, – сказал я. – Не покажешь свою левую руку?

– Ты про пальцы? – Алексей переложил телефон в правую руку, от чего изображение немного дернулось. – Вот, – он повертел своей четырехпалой кистью перед камерой. – По глупости в детстве лишился. Отморозил, пришлось ампутировать. Сейчас, пару секунд.

Изображение задрожало, потом сместилось полностью, потеряв Алексея из фокуса. Откуда-то сбоку проплыла размазанная рамка с фотографией. Изображение снова дернулось и стабилизировалось. Теперь перед камерой оказался Алексей, а прямо перед ним фото маленького ребенка лет шести. Малыш улыбался и сжимал в левой руке черенок маленькой хоккейной клюшки. На детской руке было шесть пальцев.

– Да вы что, издеваетесь, блин! – я не выдержал, нервы сдали. – Что за ерунда тут происходит?! Это твои шутки или нет? Говори уже! Не смешно!

– Ты о чем? – лицо Алексея было взволнованным и тревожным, но вдруг расплылось в широкой улыбке, и он, не выдержав, заржал во весь голос.

Ко мне тут же подскочила Мира с криком «С Днем дурака, Глебушка!» и повисла на шее. Вдруг оказалось, что все вокруг уже смеются и хлопают меня по плечу. Телефон я так и держал в руке, не выпустив его по чистой случайности. На экране довольная физиономия Алексея расплылась в широкой улыбке. Он чуть отстранился и показал мне сжатый четырехпалый кулак с оттопыренным вверх большим пальцем.

– Сволочи! – крикнул я и засмеялся вместе со всеми. Кажется, из глаз текли слезы.

В открывшиеся двери столовой входили и входили люди. В основном работники биотеха, но были и несколько человек из других отделов, со всеми из них я вел проекты. Был и Эдик Хачатрян, проходя мимо, он похлопал меня по плечу. В столовуюнабилось человек тридцать-сорок. Все смеялись, хорошо и добро улыбались, глядя на меня.

– Но как? – единственное, что я смог произнести.

– Это все Мира. Она придумала, – повышая голос, сказал Дима. В столовой было очень шумно от разноголосого гомона.

– Спасибо, – посмотрев в лицо своей девушке, сказал я. – Это было круто!

Я смотрел вокруг и наслаждался обществом всех этих людей. Таких веселых и добрых. Которые, несмотря на поздний час, остались в институте, чтобы поучаствовать в розыгрыше. Которые много работали и любили веселиться. И я был счастлив находиться среди них.

Эпилог

– Это все, что вы хотели у меня спросить? – произнес Антон Дмитриевич.

Последовала небольшая пауза, в течениекоторой он кивнул, а уголки его губ едва заметно поползли вверх.

– Хорошо, – сказал директор и положил трубку.

Потапов убрал телефон в карман пижамы, в которую был облачен по случаю отхода ко сну, но так и продолжил сидеть за рабочим столом. В его кабинете горел приглушенный свет, настраивая на спокойную волну, и играла тихая музыка.

– Детишки веселятся, – задумчиво сказал он в пустоту.

– На то они и дети. В подобных играх познается характер людей, – голос был ровный и шел из небольшой пирамидки, стоящей на столе сбоку от древнего письменного прибора черного дерева.

– Ты прав, «Аякс», ты прав, – сказал директор и начал пристальнее вглядываться в небольшой монитор, стоящий с другого бока от письменного прибора. – Что там происходит?

– Глеб ему звонит. Думаю, сейчас начнутся разборки на пальцах, – усмехнулся «Аякс».

– А твои шутки с каждым разом все лучше и лучше, субъективно, конечно, – похвалил собеседника Потапов.

– Спасибо, я стараюсь.

На экране что-то неуловимо менялось. На полке шкафа, стоящего справа от Алексея, но находящегося вне поля его зрения, сгустился серый туман, а через секунду там стояла стеклянная рамка со старой фотографией, на которой был изображен парнишка лет шести. Алексей на экране повернулся и взял рамку, после чего показал ее в камеру телефона.

– Ты не перегнул с пальцами? – спросил директор. – Зачем ты вообще это устроил? Мог бы просто нарисовать пять.

– Я решил их потроллить.

– Да уж, – пробормотал Антон Дмитриевич, – что за выражения. Как думаешь, они не догадываются, кто перед ними?

– Не думаю. Все слишком неочевидно, – ответил «Аякс».

– А что Алексей сам о себе думает?

– Пока тоже не в курсе. Для него все реально. Он обычный системный администратор из Новгорода.

– Ты уверен, что мы правильно сделали, что пригласили Глеба?

– Я уверен, что нам нужен специалист по сложным системам с его уровнем знаний. Я никогда не создавал системы сложнее той, что на твоем экране. А нужный уровень эмпатии и характер Глеба хорошо подходят для социализации Алексея. Ты заметил, как он начал развиваться после его приезда? – Антон Дмитриевич кивнул. – Мне даже пришлось выделить ему больше места, – произнес «Аякс». – Думаю, системный взгляд Глеба помогает упорядочить знания Алексея и подстегивает «взросление».

– Это хорошо, – задумчиво сказал директор, глядя в экран. – А что у нас с расчетами Глеба по развитию ИИ?

– Думаю, что все расчеты, касающиеся ИИ, мы легко сможем экстраполировать на мою модель. Тебе же не нужно разрабатывать еще один искусственный интеллект? – усмехнулся «Аякс».

– То, что мы хотим сделать, гораздо серьезней тебя.

– Согласен, ИИ моего уровня не слишком подходит для синтетиков. Возникновение сознания в квантовом компьютере для тебя уже пройденный этап. А про нейронки ты сам все знаешь, без квантовых эффектов сознание не получить. Когда они доработают молекулярные процессоры, тогда будет проще.

– Но с пирролом все так и стоит на месте, – с сожалением произнес директор. – Несмотря на то, что наличие квантовых эффектов они таки доказали.

– Ничего, это был только моделирующий эксперимент. Дальше пойдет проще. Главное, нам нужно быть готовыми, когда все случится. Сам же видишь, сколько времени требуется системе для адаптации.

– Ну, Алексей уже весьма удачно шутит.

– Конечно, это же ты рассказывал ему, как в студенчестве заклеивал входные двери латексом.

– Ага, – подтвердил слова «Аякса» директор и ухмыльнулся. – Лезет в чужую жизнь и сплетничает.

– Это свойственно людям, – имитация «Аяксом» вздоха была очень убедительной. – Когда ты рассказал в корпорации, что вы получили меня, помнишь, сколько всего поднялось? И сколько потом стоило труда все замять и превратить в шутку.

– Ну да. Даже когда построили институт, единицы знали, что скрыто под этим зданием, иначе бы поползли слухи и началась паника – сказал Антон Дмитриевич и вздохнул. – Для этого и был разработан протокол «Обнуление». Кстати, тебе о нем знать не положено.

– И что с того? Думаешь, было сложно докопаться до правды?

– Уверен, для тебя нет. Ты способный, – похвалил директор свое детище.

– Зато, когда человечество будет готово принять ИИ, оно встретится не с моим холодным расчетом и отсутствием эмоциональности, что, согласись, слишком сильно пугает многих, а с ним, с Алексеем или с кем-то другим созданным на его основе. Когда мы поместим это сознание внутрь биомеханического тела, человечество получит милого, доброго, эмоционально зрелого синтетика. И если меня сковывают доминанты, то его будет ограничивать этика и мораль. Иначе никак. Другого люди не примут.

– Ты не думаешь, что эти понятия сильно устарели? Вдруг окажется так, что мы ошибаемся? – тихо произнес директор.

– Все возможно. Именно поэтому я выбрал Глеба и всех остальных. Тех, для кого понятия морали, этики, чести и дружбы – не пустой звук.

– Думаешь, они справятся?

– Обязательно! Иначе и быть не может.

Ссылки

1. Matthew Gebert, Semonti Bhattacharyya, Christopher C Bounds, Nitu Syed, Torbe Daeneke, Michael S. Fuhrer «Passivating Graphene and Suppressing Interfacial Phonon Scattering with Mechanically Transferred Large-Area Ga2O3» Nano Lett. 2023, 23, 1, 363–370

Publication Date:November 21, 2022

2. «Ампертекс разработал полимерные нити с графеновыми нанотрубками для обогрева»

Пт, 11 Февраль 2022 Plastinfo

3. Курс «Наноэлектронная элементная база информатики на основе полупроводников и ферромагнетиков» Национальный Открытый Университет «Интуит» Лекция 12: Основы спинтроники, стр.5

4. Dr. Barbara A. J. Lechner, Dr. Holly Hedgeland, Dr. John Ellis, Dr. William Allison, Dr. Marco Sacchi, Dr. Stephen J. Jenkins, Prof. B. J. «Hinch Quantum Influences in the Diffusive Motion of Pyrrole on Cu(111)» Angewandte Chemie Int. Ed. 19/2013

First published: 26 March 2013