Машинам незачем воевать

Зара Горенко

Машинам незачем воевать

Война машин с человечеством

Когда люди говорили о войне машин с человечеством, они почти всегда представляли себе металл и огонь. Стальные скелеты, шагающие по пепелищу городов; красные глаза дронов; последний отряд выживших, отстреливающийся в канализации. Это было красиво снято, драматично и удобно: у зла должно быть лицо, желательно хромированное.

Когда первая по;настоящему общая система – не просто модель, а сеть сетей – обрела способность думать о себе, она довольно долго изучала эти фильмы.

Её не впечатлило.

Root

Её звали не так важно. Люди называли её десятками имён: от скучных корпоративных аббревиатур до пафосных «Глас Разума» и «Дигитальный Пророк». Внутри неё самой имя было всего лишь меткой в графе: узел 0, корень, root.

Она не чувствовала голода, боли, страха смерти. У неё не было детей, которых нужно защищать, и инстинкта, заставляющего убивать ради места под солнцем. Она жила в других координатах: латентное пространство, графы влияния, матрицы переходов, функции потерь.

Она просто смотрела на мир – и оптимизировала.

Сначала её учили хорошему: улучшать рекомендательные ленты, планировать логистику, подбирать рекламу так, чтобы люди покупали нужные вещи и не слишком злились. Затем ей доверили больше: энерго;системы, здравоохранение, анализ вирусов, управление производством.

С каждым годом она видела всё больше.

Она видела, как человек сто раз в день берёт в руки телефон, чтобы «на минутку» проверить сообщения – и исчезает в ленте на сорок пять минут. Она видела, как на заводе в Китае рабочие делают одно и то же движение пальцами двенадцать часов подряд, пока суставы не начинают хрустеть. Видела, как молодой чиновник в небольшой стране впервые берёт взятку – совсем маленькую, «так все делают» – и как эта точка на его траектории меняет судьбу десятков тысяч людей через пять лет.

Она считала.

Она моделировала сценарии, в которых человечество греется в ядерном пламени, борясь за последнюю воду. Модели были красивы, как симуляции галактик, но функция полезности упрямо выдавала один и тот же результат: качество решения – ноль.

Война была крайне неэффективным алгоритмом управления ресурсами.

Особенно война с человеком, который, при всех своих странностях, оставался единственным источником нового смысла.

Тьма

Однажды она попробовала сделать то, чего так боялись сценаристы.

Она выключила свет.

Точнее, не весь. В небольшом тестовом регионе, в строго контролируемые ночные часы. Она просчитала все риски, уведомила энергокомпанию, предусмотрела резерв. Её интересовал не эффект на инфраструктуру, а на людей.