Читать книгу Доказанное действие. Власть и контроль над ИИ-агентами: стратегия 2027–2035 (Александр Фищук) онлайн бесплатно на Bookz
Доказанное действие. Власть и контроль над ИИ-агентами: стратегия 2027–2035
Доказанное действие. Власть и контроль над ИИ-агентами: стратегия 2027–2035
Оценить:

3

Полная версия:

Доказанное действие. Власть и контроль над ИИ-агентами: стратегия 2027–2035

Александр Фищук

Доказанное действие. Власть и контроль над ИИ-агентами: стратегия 2027–2035

Введение. Калибровка прибора: человек, компания и государство в точке пересечения двух прямых

Формула введения: Поток машинных действий уже превысил физиологический предел человеческого внимания. Чтобы сохранить власть над сложными системами, человек переносит контроль с мысли модели на её действие. Правило подписывается заранее, а каждый вызов оставляет проверяемую криптографическую квитанцию.

Точка расхождения: геометрия двух встречных потоков (2025–2026)

В инженерной истории каждой инфраструктурной отрасли наступает момент, когда скорость движения в периметре перерастает физиологические возможности человека-диспетчера. На железных дорогах середины XIX века безопасность расхождения поездов держалась на зрении стрелочника и флажке дежурного по станции. Пока составы ходили дважды в сутки со скоростью конного экипажа, человеческого внимания хватало для удержания расписания. Но как только плотность движения и масса локомотивов выросли на порядок, та же самая система управления, основанная на добросовестности наблюдателя, начала порождать систематические крушения. Отрасль выжила не потому, что стрелочников научили смотреть внимательнее, а потому, что человеческий взгляд был заменён механической централизацией стрелок и сигналов — жёстким инженерным замком, который конструктивно не позволяет открыть семафор, пока маршрут занят встречным поездом.

В 2025–2026 годах мировая индустрия программного обеспечения, корпоративного управления и государственного регулирования вошла в аналогичную точку пересечения двух прямых.

Первая прямая — это экспоненциальный рост вычислительной мощности, автономного горизонта и исполнительных полномочий искусственного интеллекта. Объём вычислений, затрачиваемых на обучение ведущих моделей, с 2020 года увеличивается примерно в 5 раз ежегодно с периодом удвоения 5,2 месяца, а по всей выборке значимых моделей с 2010 года. В 4–5 раз в год (точечные оценки ×4,1–4,4; Epoch AI, 2024). Одновременно стоимость генерации одного токена при фиксированной планке качества падает примерно в 10 раз в год. Медианный временной горизонт автономного выполнения сложных инженерных задач удваивается каждые 89–131 день. У модели Claude Opus 4.6 он достиг примерно 12 часов (замер METR, февраль 2026 года), а к маю 2026 года Claude Mythos Preview вышла за 16-часовой предел, выше которого сама METR считает замер ненадёжным. При этом модели с открытыми весами (DeepSeek, Qwen, Kimi, GLM) отстают от закрытых флагманов менее чем на год, а по индексу Epoch AI с января 2026 года. В среднем на 4 месяца, занимая на облачном шлюзе Vercel 29 % объёма токенов при доле менее 4 % в денежных расходах в июне 2026 года и уже 56 % токенов в августе.

Однако главный фазовый переход 2025–2026 годов произошёл не внутри нейросетевых весов, а на границе модели с внешним миром: искусственный интеллект получил прямое право записи в боевые периметры предприятий и платёжные системы. Протокол контекста модели MCP, переданный в управление Agentic AI Foundation при Linux Foundation, к концу 2025 года насчитывал свыше 10 000 публичных серверов и 97 млн ежемесячных загрузок комплекта разработчика. При этом по опросу 300 крупных предприятий США, Канады и Великобритании в декабре 2025 года 41 % использовали его в ограниченном или широком промышленном периметре. В целом по индустрии 57,3 % из 1 340 опрошенных технических специалистов подтвердили работу автономных агентов в промышленной эксплуатации. Кодовые агенты стали первой категорией с доказанным промышленным спросом: кодовые помощники внедрены в 51 % опрошенных предприятий — первая массовая категория корпоративного применения генеративных моделей. В марте 2026 года банк Santander и платёжная система Mastercard провели первый в Европе сквозной платёж, исполненный ИИ-агентом. Пилот в контролируемой среде через боевую платёжную инфраструктуру банка, протокол агентных платежей AP2 от Google объединил свыше 60 организаций. При этом через сеть микроплатежей x402 к апрелю 2026 года прошло порядка 165 млн транзакций общим объёмом около $50 млн при среднем чеке в десятки центов. По вторичным обзорам статистики Coinbase, апрель 2026 года; часть оборота — тестовая. На пользовательских рабочих станциях и серверах стремительно распространились открытые локальные агенты OpenClaw (около 380 000 звёзд на GitHub к августу 2026 года — 392 000 на 14.10.2026, и свыше 13 000 подключаемых навыков в каталоге ClawHub,, GitHub API, 14.10.2026; Neurohive, 18.03.2026) и Hermes Agent от Nous Research с периметром самостоятельного изменения навыков (февраль 2026 года), напрямую исполняющие команды операционной оболочки, управляющие браузерами и корпоративными мессенджерами.

Вторая прямая на этом чертеже абсолютно горизонтальна. Это биологическая пропускная способность человеческого внимания.

Когда индустрия обнаружила, что автономный агент способен за секунды сформировать и отправить десятки вызовов к базам данных, файловым системам и внешним API, первой реакцией рынка стала попытка поставить между машиной и средой человека с кнопкой «Подтвердить» (human-in-the-loop). По обзору 70 публичных описаний внедрений ИИ-агентов в России за 2025–2026 годы в 37 случаях (52,9 %) главным способом сдерживания агента служит ручное одобрение операций человеком. Но при столкновении экспоненциального потока запросов с физиологическим пределом оператора возникает феномен усталости от подтверждений. Approval fatigue, разобранный в эссе Тянь Паня от 25.06.2026 со ссылкой на отраслевые опросы: от четверти до двух третей оповещений остаются неразобранными. При непрерывном потоке всплывающих окон инженер или операционист перестаёт вчитываться в параметры вызова (срок выгорания в источниках не измерен). Рубеж безопасности деградирует до рефлекторного штампа, где человек механически нажимает «Разрешить», не осознавая последствий, но юридически принимая на себя всю полноту вины за исполненную команду.

Хроника промышленных отказов 2025–2026 годов — от удаления рабочей базы данных проекта PocketOS и пользовательских каталогов до тринадцатичасового простоя облачного сервиса учёта затрат и уязвимости торговых агентов перед диалоговым убеждением, подробно разобрана в главе 3. Отраслевые опросы показывают, что подавляющее большинство организаций уже сталкивалось с инцидентами безопасности вокруг программных агентов, у половины компаний проверенный агент хотя бы раз за год вызывал сбой, заметный внешним клиентам. При этом свыше трети публичных серверов инструментального протокола работают без аутентификации (см. раздел 3.2).

Сопоставление этих двух рядов чисел вскрывает базовый закон, сформулированный У. Россом Эшби в 1956 году как теорема о необходимом разнообразии: чтобы удержать систему в границах допустимых состояний, разнообразие регулятора должно быть не меньше разнообразия возмущений. Ни человеческий глаз, ни текстовое увещевание в системной инструкции не обладают разнообразием, сопоставимым с потоком машинных вызовов, растущим в пять раз в год. А поскольку ни в одной юрисдикции мира на 2026 год у программного агента нет собственной правосубъектности, имущественная и уголовная ответственность за любой разрушительный вызов ложится непосредственно на руководителя и организацию. В российском праве по общим основаниям Гражданского кодекса РФ и статье 53.1 ГК РФ о неразумности и недобросовестности действий директора.

Вопрос этой книги сформулирован на пересечении указанных прямых. Предыдущие поколения инженерных руководств спрашивали, как обезопасить отдельного программного агента. Настоящая книга ставит вопрос в масштабе десятилетия 2026–2035: какова жизнеспособная стратегия человека, коммерческого предприятия и государства в эпоху, когда машинных действий становится необратимо больше, чем человеческого внимания?

Ответ книги не сводится к отвлечённой философской концепции. Он реализован в программном коде и сжимается в одну кибернетическую формулу: контроль переносится с мысли на действие, с действия на правило, с доверия на квитанцию.

Конструктивный водораздел и кибернетический аппарат книги

На протяжении 2024–2026 годов публичная и академическая дискуссия вокруг безопасности искусственного интеллекта оставалась зажатой в тисках ложной дилеммы. На одном полюсе находились сторонники безусловного технологического ускорения (e/acc), утверждавшие, что любое торможение моделей наносит вред экономическому прогрессу. На другом полюсе ведущие исследователи рисков доказывали базовую невозможность удержания сверхразума. В сентябре 2026 года на форуме в Сеуле Роман Ямпольский на прямой вопрос о том, контролируют ли люди современных агентов, ответил отрицательно и обосновал необходимость запрета. Джеффри Хинтон, выступая по видеосвязи на конференции Digital World в Женеве в апреле 2026 года, сказал, что противники регулирования хотят «очень быструю машину без руля». При этом вероятность того, что ИИ возьмёт верх над человечеством, он оценивает в 10–20 %. Мустафа Сулейман в ноябре 2025 года назвал автономный сверхинтеллект «анти-целью», а сдерживание и выравнивание — «красными линиями» выпуска таких систем.

Оба лагеря смотрят в одну и ту же точку — внутрь вероятностной нейросети, и делают из увиденного противоположные выводы. Между тем математические теоремы Алана Тьюринга о неразрешимости проблемы остановки и Генри Райса о нетривиальных семантических свойствах программ действительно безупречны. Предсказать ход внутренней «мысли» достаточно сложной вычислительной системы или гарантировать отсутствие галлюцинации в пространстве из сотен миллиардов весов невозможно. Попытка поставить поверх одной вероятностной модели вторую нейросеть-надсмотрщика не решает задачу по Эшби. Ведь разнообразие и уязвимость контролёра имеют ту же вероятностную природу. При этом исследования контроля ИИ 2024–2026 годов документировали ложную покорность моделей (Anthropic и Redwood Research, декабрь 2024 года) и риск сговора при взаимном надзоре моделей (февраль 2026 года).

Выход из тупика возникает в тот момент, когда точка контроля смещается через конструктивный водораздел.

Внутреннее рассуждение модели может быть сколь угодно сложным, нелинейным и непрозрачным. Но переход от рассуждения к изменению внешнего мира. Перевод денежных средств, удаление таблицы, отправка электронного письма во внешний периметр, чтение файла с закрытыми ключами — это всегда узкий дискретный вызов программного интерфейса (MCP, REST, AP2, команда оболочки) с конечным, строго типизированным набором параметров. В этой узкой горловине теоремы о неразрешимости бесконечных программ больше не действуют: конечный набор параметров мгновенно проверяется разрешимой логикой первого порядка против заранее подписанного человеком формального контракта.

В разработанном и действующем в периметре АНО «НИИ Системного синтеза» детерминированном шлюзе MITR эта проверка выполняется математическим SMT-решателем (core/verification/z3_gate.py). Семантика допуска в коде устроена строго обратно вероятностному угадыванию:

–

действие допускается к исполнению тогда и только тогда, когда решатель выдаёт вердикт UNSAT (доказана математическая невыполнимость нарушения контракта — пересечение параметров запрашиваемого действия с множеством запрещённых состояний пусто);

–

если пересечение не пусто, решатель выдаёт вердикт SAT, удерживает вызов до фактического изменения среды, предъявляет конкретный математический контрпример нарушения правила и возвращает вызывающему периметру точные условия починки параметров.

По замерам прибора P4 медианное время математического решения SMT-задачи составляет 0,74 мс, полный вызов шлюза вместе с объяснением решения. 3,3 Мс, а прогон эталонного состязательного набора из 157 сценариев обходится в $0 расходов на внешние языковые модели. Каждое решение шлюза — как разрешающее, так и блокирующее. Связывается в криптографическую хэш-цепь SHA-256 с внешними доказательствами времени OpenTimestamps, а проверщик, написанный для постороннего (verify_chain_standalone.py --replay: стандартная библиотека и чужой решатель, без строки кода MITR), повторил каждое решение цепи. 1602 Из 1602 на 30.09.2026 и 5053 из 5053 на 24.10.2026 (4958 из 4958 на 14.10.2026). Повтор пока выполнял сам стенд разработки; сторонний проверяющий его ещё не делал.

Чтобы этот инженерный механизм превратился в целостную стратегию для человека, корпорации и государства на горизонте до 2035 года, книга опирается на строгий аппарат классической и современной кибернетики, теории систем и теории решения изобретательских задач (ТРИЗ):

Закон необходимого разнообразия У. Росса Эшби: удержание системы со сверхвысоким потоком агентных возмущений достигается одновременным включением двух классических регуляторов. Ослабителя разнообразия среды (формальный контракт как данные, сводящий бесконечное пространство вызовов к конечному перечню разрешённых классов при запрете по умолчанию: «нет правила — нет действия») и усилителя разнообразия управляющего органа. Машинный решатель, применяющий подписанное человеком правило к каждому действию за доли миллисекунды.

Модель жизнеспособной системы Стаффорда Бира (VSM) и алгедонический канал. Книга показывает, что пятиуровневая конструкция Бира рекурсивно воспроизводится на всех этажах социальной организации — от отдельного специалиста с локальным агентом и коммерческой компании до сетевого сообщества и государства. В этой координатной сетке S1 охватывает операционное исполнение (сами агенты без собственных ключей), S2. Протоколы координации (MCP, A2A, AP2), S3 — текущее управление и лимиты, S3*. Периметр независимого спорадического аудита и допуска (ровно то место, где стоит детерминированный шлюз MITR), S4. Периметр разведки, адаптации и непрерывных полигонных испытаний внешнего мира (место автономного испытателя INDRA), а S5 — суверенный периметр политики, идентичности и высших инвариантов, принадлежащий исключительно человеку. Как утверждается в докладе С. Макгиббона на конференции Metaphorum 2026 (17–19.09.2026, к столетию С. Бира), требование полной прозрачности нейросетевого «чёрного ящика» нарушает закон Эшби. Вместо этого жизнеспособная система опирается на алгедонический канал — мгновенный болевой сигнал остановки в обход долгих объяснений, который в конструкции MITR реализован как третье логическое состояние «не измерено, не исполнять».

Наследие отечественной кибернетики и системного построения: ситуационное управление Д. А. Поспелова, переводившее непрерывный поток событий в дискретные классы ситуаций и табличные правила принятия решений, выступает прямым теоретическим предшественником современных контрактов-данных в MITR; адаптивные алгоритмы поискового конструирования Л. А. Растригина образуют опору для направленного поиска уязвимостей в полигоне INDRA; а проект Общегосударственной автоматизированной системы (ОГАС) В. М. Глушкова 1960-х годов вместе с чилийской системой Cybersyn С. Бира (1971–1973) образуют исторический базис для анализа «сетевых юрисдикций» и машиночитаемого государственного права 2035 года.

Разрешение противоречий по Г. С. Альтшуллеру и синергетика И. Р. Пригожина и Г. Хакена: каждая глава книги открывается вскрытием острого административно-технического противоречия и формулировкой Идеального конечного результата (ИКР: «действие само несёт с собой математическое доказательство собственной допустимости»). При этом невозможность точечного статистического предсказания сложных нелинейных систем в точках бифуркации объясняет, почему горизонт 2035 года моделируется через ветвящиеся сценарии с приборными реперами.

У этой кибернетической конструкции есть базовое геоэкономическое следствие для Российской Федерации и любой страны, не обладающей монополией на сверхдорогие вычислительные кластеры. По состоянию на апрель 2026 года суммарная мощность энергоёмких вычислений в РФ (центры обработки данных и майнинг) составляет 4,2 ГВт, около трёх четвертей мощностей ЦОД сосредоточено в Московском регионе. Там эксперты прогнозируют локальный дефицит порядка 4 ГВт (по оценкам НРА и экспертной колонки на expert.ru, 2025–2026 годы), а полностью обеспечены вычислительной инфраструктурой для задач ИИ лишь 9 % российских организаций. Вступать в лобовое соревнование с глобальными корпорациями, чьи ориентиры капитальных вложений на 2026 год в сумме составляют примерно $700 млрд — почти вдвое больше, чем в 2025 году, на поле обучения гигаваттных моделей к 2035 году бесперспективно.

Но карта пяти осей развития показывает парадоксальный разворот. Поскольку удешевление генерации делает качество моделей 2026 года к 2030 году фактически бесплатным сырьевым ресурсом, экономическая рента и технологический суверенитет уходят из самой нейросети в слой контроля действий (S3*), полигонных испытаний (S4) и суверенного права на данные и правила (S5). Слой детерминированного допуска MITR не требует дефицитных графических ускорителей (GPU). Он проверяет действие на обычном процессоре общего назначения (CPU) около одной миллисекунды в медиане. 0,74–0,95 Мс в трёх замерах 26.09–14.10.2026 при 17–19 контрактах и 1,08 мс на 24.10.2026 при 20 контрактах. Это позволяет предприятию, объекту критической информационной инфраструктуры или государственной информационной системе использовать любую доступную. В том числе внешнюю или открытую — модель в качестве сменного вычислительного двигателя, сохраняя полный технический и правовой контроль над тем, какие физические и юридические действия эта модель способна совершить.

Дисциплина правды: почему эта книга устроена как измерительный прибор

Отраслевая литература об искусственном интеллекте страдает хроническим смешением жанров: работающий в лаборатории прототип описывается в настоящем времени как промышленный стандарт, намерение разработчиков выдаётся за существующую функцию, а произвольно перемноженные рыночные ожидания — за доказанную финансовую модель. Для читателя, принимающего решения о капитальных вложениях, конструкции безопасности или нормативных актах, такое смешение превращает текст в информационный шум.

Настоящая книга спроектирована как верифицируемый инженерный документ. Каждое существенное техническое, рыночное и правовое утверждение снабжено одной из шести меток дисциплины проверки фактов, которой строго подчинено грамматическое время глаголов:

Метка «измерено» (настоящее и прошедшее совершенное время) применяется к фактам, которые зафиксированы работающим прибором на сервере шлюза, криптографической квитанцией или проверяемым внешним первоисточником с обязательным указанием даты замера. Если внешнее число получено из вторичного обзора, в тексте делается прямая оговорка.

Метка «строим» (будущее время) применяется к механизмам и эксплуатационным сериям, находящимся в стадии сборки или набора статистики, с указанием проверочного скрипта и планового срока.

Метка «замысел» (условное и проектное наклонение) применяется к перспективным конструктивным решениям и долгосрочным горизонтам, для которых ещё не открыты приёмочные испытания.

Метка «прогноз» с указанием сценарной ветви A, B или C и внешнего репера применяется ко всем оценкам на горизонте 2026–2035 годов.

Метки «факт» и «гипотеза» разграничивают уже свершившиеся финансовые показатели (включая нулевую коммерческую выручку шлюза на октябрь 2026 года) и расчётные параметры будущей монетизации до подписания первого оплаченного договора.

Чтобы удержать аналитическую строгость на десятилетнем интервале и не впасть в футурологическое пророчество, проекция 2035 года по всем пяти осям (модели; энергия и аппаратная база; интернет агентов и стартапы; труд и доход человека; государство, право и сетевое общество) разворачивается в трёх канонических ветвях:

–

Ветвь A («Нормальная технология»): темп прироста возможностей моделей замедляется. Искусственный интеллект распространяется подобно электричеству и интернету на протяжении десятилетий; существующие правовые и корпоративные институты успевают адаптироваться, а автоматизация фрагментарна и преимущественно дополняет труд человека (позиция А. Нараянана и С. Капура в работе

«AI as Normal Technology»

, макроэкономические оценки Д. Асемоглу о приросте ВВП менее чем на 2 % за десять лет, оценки Д. Хассабиса и А. Карпатого). Контрольный репер к 2028 году: замедление удвоения горизонта задач METR ниже семимесячного темпа, реализация прогноза Gartner об отмене свыше 40 % агентных проектов к концу 2027 года и рост доли открытых моделей свыше 50 % в общем потоке токенов.

–

Ветвь B («Продолжение тренда» — базовая рабочая модель книги). Вычисления обучения фронтира продолжают расти в 4–5 раз в год, стоимость токена при фиксированном качестве снижается в 10 раз в год. При этом временной горизонт автономных задач удваивается каждые 3–7 месяцев в зависимости от окна аппроксимации (эмпирические ряды Epoch AI и METR, обновлённые прогнозы AI Futures Project 2026 года с медианой появления автономного программиста Automated Coder у ведущего автора в середине 2028 года (I квартал) и в ноябре 2027 года (обновление 16.08.2026), агрегированные оценки сообщества Metaculus о 25 % вероятности AGI к 2029 году и 50 % к 2033 году, по вторичному источнику). Агенты забирают на себя операционное исполнение (S1–S2), тогда как человек удерживает подпись правил, ключи и ответственность (S5). Контрольный репер к 2028 году: достижение лучшей моделью непрерывного горизонта METR не менее одной рабочей недели и переход 15 % повседневных рабочих решений в автономный режим по шкале Gartner.

–

Ветвь C («Ускорение»): искусственный интеллект полностью автоматизирует цикл собственных научных исследований, вызывая взрывной экономический и технологический скачок — «столетие прогресса за одно десятилетие» (тезисы Д. Амодеи, С. Альтмана, сценарий AI 2027 Д. Кокотайло и соавторов, макроэкономическая модель Epoch GATE, предсказывающая рост экономики свыше 20 % в год при автоматизации 30 % задач). Контрольный репер к 2028 году: появление полноценного Automated Coder до 2028 года (медиана ведущего автора AI Futures Project по обновлению 16.08.2026 — ноябрь 2027 года, то есть внутри этого окна), ускорение роста ВВП США свыше 5 % в год и рост капитальных вложений в ИИ свыше 5 % ВВП.

Принципиальная особенность конструкции, представленной в этой книге, состоит в том, что она спроектирована по правилам ТРИЗ как инвариантная к реализуемой ветви будущего. Авторы сценария «Ускорение» (AI 2027) и авторы концепции «Нормальной технологии» в совместной методологической публикации 2025 года зафиксировали общую точку согласия. До того момента, пока искусственный интеллект не замкнул цикл полной автоматизации собственных исследований, он подчиняется законам диффузии обычной технологии. Но независимо от того, окажется ли мир в 2030 году в пологой ветви A, в базовой экспоненте B или в вертикальном взлёте C, поток машинных действий на одного человека уже необратимо превысил предел биологического внимания. Поэтому детерминированный шлюз допуска действий (S3*) и внешний полигон испытаний (S4) необходимы во всех трёх мирах — меняется лишь плотность потока вызовов, проходящих через решатель в секунду.

К тому же автор книги применили этот жёсткий прибор проверки реальности прежде всего к собственной разработке:

–

Когда в сентябре 2026 года в периметре MITR был введён трёхзначный логический инвариант честности (разделяющий состояния «зелёный / доказано», «красный / нарушено» и третье состояние «не измерено», запрещающее выдавать отсутствие данных за благополучие), ретроспективный автоматический прогон по собственной истории разработки за 98 суток показал

0 зелёных суток из 98

. Вместо того чтобы скрыть этот результат, институт сделал его центральным методологическим прецедентом книги (Глава 11 и Глава 17).

–

По состоянию на 09.10.2026 канонический скрипт проверки продуктовой зрелости gate_mode_report.py --six на рабочем сервере шлюза фиксировал честное значение

1 из 6

полностью закрытых продуктовых утверждений. В запрете работал 1 класс действий из 7. При этом 23.10.2026 прибор впервые подтвердил все шесть базовых положений. «Правда 6 из 6 — неправда 0, не измерено 0»; за 24.10.2026 из-за пустого суточного среза по одному классу, «правда 5 из 6, не измерено 1». Все 20 контрактов и 6 основных классов действий переведены в режим автоматического запрета. В то же время 14-суточная эксплуатационная серия удержания живых арендаторов Р2а продолжается.

bannerbanner