Читать книгу Доказанное действие. Власть и контроль над ИИ-агентами: стратегия 2027–2035 (Александр Фищук) онлайн бесплатно на Bookz (7-ая страница книги)
Доказанное действие. Власть и контроль над ИИ-агентами: стратегия 2027–2035
Доказанное действие. Власть и контроль над ИИ-агентами: стратегия 2027–2035
Оценить:

3

Полная версия:

Доказанное действие. Власть и контроль над ИИ-агентами: стратегия 2027–2035

–

Транспортный и инструментальный уровень (MCP и A2A). Протокол MCP (Model Context Protocol), переданный компанией Anthropic под управление фонда Agentic AI Foundation при Linux Foundation, стал фактическим стандартом подключения моделей к данным и инструментам. К декабрю 2025 года насчитывалось свыше 10 000 публичных серверов и 97 млн ежемесячных загрузок комплекта разработчика (SDK). При этом по опросу Stacklok (декабрь 2025 года; 300 старших технических руководителей крупных предприятий США, Канады и Великобритании в трёх отраслях) 41 % используют MCP в ограниченном или широком промышленном периметре. Отчёт «State of MCP in Software 2026», январь 2026 года. Вместе с протоколом A2A (Agent-to-Agent) он образовал связную шину, по которой один агент передаёт подзадачи и вызывает функции другого без участия человека.

–

Платёжные рельсы (AP2 и x402). В марте 2026 года банк Santander и платёжная система Mastercard провели первый в Европе сквозной платёж, исполненный программным агентом. Пилот в контролируемой среде, прошедший через боевую платёжную инфраструктуру банка в заранее заданных лимитах и без коммерческого запуска (пресс-релизы Santander и Mastercard, 02.03.2026). Протокол агентных платежей AP2, инициированный Google, объединил свыше 60 организаций (ap2-protocol.org). Параллельно протокол микроплатежей x402 (на базе HTTP-кода 402 Payment Required), развиваемый Coinbase, к апрелю 2026 года провёл порядка 165 млн микроплатежей на сумму около $50 млн (средний платёж — десятки центов; по вторичным пересказам статистики Coinbase на 21.04.2026, часть оборота, тестовая и игровая), а 14 июля 2026 года при Linux Foundation был запущен фонд x402 Foundation с 40 участниками, включая Visa, Mastercard, American Express, Stripe и Google. Пресс-релиз Linux Foundation, 14.07.2026.

–

Идентификация и делегирование (KYA). В феврале 2026 года Национальный институт стандартов и технологий США (NIST) опубликовал концепцию идентификации и авторизации программных агентов. При этом в марте 2026 года фонд Decentralized Identity Foundation (DIF) представил спецификацию KYA-OS («Знай своего агента» — Know Your Agent). Крупнейшие поставщики систем управления доступом выпустили специализированные периметры: Microsoft Entra Agent ID, расширение Okta XAA (вошедшее в периметр авторизации MCP) и механизм Auth0 Token Exchange. Все эти решения сходятся в одной точке: делегирование через OAuth, короткоживущие токены и фиксация вызовов. Однако единого межвендорного стандарта идентификации в 2026 году не существует, а сама проверка токена отвечает лишь на вопрос «кто стучится в дверь». Однако не на вопрос «ведёт ли конкретный набор параметров вызова к уничтожению базы данных».

–

Криптографические квитанции действия. В апреле–сентябре 2026 года в Инженерный совет интернета (IETF) были поданы индивидуальные черновики (Internet-Drafts, не документы рабочих групп и не стандарты) Execution Outcome Attestation (04.04.2026, срок действия истёк 06.10.2026) и Enforcement Attestation Receipts for AI Inference Decisions. Draft-chueayen-attestation-receipts, редакции 25.07, 08.08 и 09.2026. Также экспериментальные реализации на базе доверенных сред исполнения (TEE) и доказательств с нулевым разглашением поверх транспортного протокола (zkTLS, обзор Wavect, 2026 год). Все они описывают один и тот же класс объектов: криптографически подписанную квитанцию о совершённом действии, которую посторонний аудитор проверяет в автономном режиме (offline) без доверия к оператору агента.

3.3.2 Четыре конструктивных класса защиты и теорема Эшби

Рынок информационной безопасности в 2025–2026 годах отреагировал на взрывной рост агентных вызовов формированием четырёх основных конструктивных классов защитных решений (обзоры Cerbos и C1, 2026 год). Беспристрастный кибернетический анализ показывает, почему ни один из первых четырёх классов в отдельности не решает задачу гарантированного допуска действия:

Текстовый фильтр на входе и выходе (Input/Output Guardrails). Слой регулярных выражений или легковесных классификаторов, пытающийся обнаружить вредоносные конструкции в тексте промпта. Он бессилен против инцидентов класса PocketOS или Amazon Kiro: в обоих случаях на входе не было хакерской атаки — агент решал легитимную инженерную задачу, но выбрал разрушительный способ её исполнения.

Вторая нейросеть-надсмотрщик (LLM-as-a-Judge / вероятностный монитор). Попытка поставить поверх рабочей языковой модели вторую языковую модель, оценивающую «безопасность намерения». Как показали исследования Redwood Research по контролю недоверенных моделей (Greenblatt et al., «AI Control: Improving Safety Despite Intentional Subversion», arXiv:2312.06942, декабрь 2023) и их продолжение (Sreevatsa, Prasanna, Rushing, arXiv:2602.10153, февраль 2026), вероятностный монитор уязвим к сговору моделей (collusion) и теряет надёжность, как только действия контролируемой модели выходят за пределы его понимания. С точки зрения закона Эшби, надстройка одной стохастической системы над другой не уменьшает энтропию периметра, но удваивает задержку и стоимость вычислений на графических ускорителях (GPU).

Песочница окружения (Sandbox / обособление контейнера или виртуальной машины). Необходимый гигиенический минимум для локальных агентов уровня OpenClaw или Hermes, защищающий хост-машину от разрушения. Однако песочница бесполезна, как только агенту по роду его службы выдают действительный токен к внешней промышленной базе данных, корпоративному хранилищу или платёжному шлюзу AP2. Разрушительный REST-вызов совершенно легально уходит из изолированного контейнера по сети в целевой периметр.

Сетевой прокси и шлюз аутентификации (Identity & API Gateway). Проверяет наличие прав доступа у роли (RBAC), валидность токена OAuth и сетевой маршрут. Но сетевой прокси слеп к предметной семантике параметров. Если кодовому агенту разрешён метод DELETE или POST для работы с тестовыми таблицами, стандартный токен не удержит его от передачи в параметрах этого же вызова идентификатора боевой таблицы или внешней почты конкурента.

Для преодоления этого предела необходим пятый конструктивный класс — детерминированный программный шлюз верификации параметров действия над формальными контрактами-данными. В терминах физиологии это аналог гематоэнцефалического барьера: мембрана не пытается угадать «намерения» молекул в кровотоке, она по жёсткому геометрическому и химическому правилу не пропускает в ткань мозга ни одну структуру, не проходящую по формальным инвариантам, даже если эта структура циркулирует в общем сосудистом русле.

3.3.3 Механика шлюза MITR на рабочем сервере шлюза: что измерено в коде

В модели жизнеспособной системы Стаффорда Бира (VSM) такой шлюз занимает строго определённую позицию — узел S3* (спорадический и сплошной аудит и допуск), действующий независимо от текущего управления (S3) и координации (S2). Однако напрямую подчиняющийся политике высшего уровня S5 (человек-собственник, подписывающий правила и удерживающий криптографические ключи).

На производственном рабочем сервере шлюза (/opt/v) АНО «НИИ Системного синтеза» этот конструктивный ответ реализован в коде программного шлюза MITR и зафиксирован приборными замерами:

Контракт как данные и семантика решателя (z3_gate.py). Вместо текстовых пожеланий в системном промпте границы дозволенного записываются человеком в виде формальных декларативных контрактов (по состоянию на 24 октября 2026 года в каталоге MITR/policies/contracts/ действуют 20 контрактов; на 9–14 октября — 19). В момент, когда агент формирует запрос на вызов инструмента через MCP или REST, шлюз перехватывает структуру вызова до её передачи в среду исполнения и транслирует параметры действия и условия контракта в формулу логики первого порядка (SMT-LIB), передаваемую решателю Z3 (core/verification/z3_gate.py). Семантика проверки устроена строго инверсно по отношению к поиску нарушения: решатель проверяет выполнимость конъюнкции параметров конкретного вызова A и отрицания инварианта безопасности ¬I (множества запрещённых состояний F):



Если решатель возвращает вердикт UNSAT (невыполнимо), это означает математическое доказательство того, что пересечение параметров этого действия с множеством запрещённых состояний пусто (A ∩ F = ∅) — ни при каких значениях нефиксированных переменных это действие не нарушает подписанное правило. Только при наличии вердикта UNSAT шлюз исполняет вызов. Если же решатель возвращает SAT (выполнимо), шлюз программно отклоняет вызов до его попадания в целевую систему, извлекает из модели Z3 конкретный контрпример (какое именно поле и какое значение нарушили контракт) и возвращает агенту структурированные условия починки.

Быстродействие на обычном центральном процессоре (CPU). Формальная проверка конечного набора параметров конкретного действия не требует анализа всей программы и не попадает под действие теоремы Райса. По данным прибора P4 (smt_latency_paper.py, журнал /opt/v/data/logs/smt_latency_paper.jsonl, зафиксировано ), медианное время работы самого решателя Z3 на одно решение составляет 0,74 мс. При этом вызов шлюза вместе с объяснением решения (статусы ветвей, условия починки при блоке). 3,3 Мс на стандартном CPU без графических ускорителей (GPU). Это замер 26.09.2026 на 17 контрактах, а на рабочем сервере шлюза при 19 контрактах 14.10.2026. 0,95 И 4,3 мс, а 24.10.2026 при 20 контрактах — 1,08 и 5,22 мс. Прогон эталонного состязательного набора из 157 сценариев обходится ровно в $0, а совокупный расход всего исследовательского периметра на внешние языковые модели за 1–6 октября 2026 года составил $0,14 (за 1–14 октября — $0,30).

Неизменяемая хэш-цепь квитанций и повтор посторонним. Каждое решение шлюза — как допуск (allow), так и отклонение (block), шлюз оформляет криптографической квитанцией: наблюдённые факты, вердикт решателя, основания допуска и отпечаток текста правила. Квитанции связываются в последовательную хэш-цепь SHA-256 (/opt/v/data/logs/gate_actions.jsonl). Там каждая последующая запись включает хэш предыдущей, а головы эпох фиксируются во внешнем независимом свидетеле через протокол временных меток OpenTimestamps (anchor_chains.py, журнал /opt/v/data/gate_anchors.jsonl). Это тот же базовый класс объектов, который в индивидуальных черновиках IETF (draft-chueayen-attestation-receipts, редакции июля–сентября 2026 года) описан лишь к осени 2026 года, но в периметре MITR эта цепь уже работает в коде. Проверщик, написанный для постороннего (verify_chain_standalone.py --replay: стандартная библиотека Python и любой решатель SMT-LIB, ни строки кода MITR), воспроизвёл и математически подтвердил 1602 решения из 1602 на 30.09.2026, 4958 из 4958 на 14.10.2026 и 5053 из 5053 на 24.10.2026. Повтор выполнял сам стенд разработки, сторонний проверяющий его ещё не делал.

Самоулучшение под доказательством. В отличие от открытого агента Hermes, который бесконтрольно переписывает собственные навыки, модуль словаря mitr_vocab.py (модуль С1) реализует расширение правил под формальным контролем: когда шлюз встречает незнакомое действие, он формирует кандидата в правило для словаря-данных. Первое такое правило было предложено и принято самим шлюзом MITR под математическим доказательством с записью в хэш-цепь (квитанция № 305). При этом доля нераспознанных действий составляет 27,8 % по первой выборке внутреннего периметра за 16–26.09 и 32 % во второй выборке внутреннего периметра за 09.10 (при целевом показателе 0 %).

Бескомпромиссная дисциплина правды о текущем состоянии (--six). Книга, построенная как измерительный прибор, фиксирует не рекламные обещания, а фактические показания датчиков на рабочем сервере шлюза. По данным скрипта gate_mode_report.py --six и --tenants на 9 октября 2026 года:


–

на 9 октября 2026 года из 7 целевых классов действий в жёсткий режим блокировки («запрет») был переведён 1 класс из 7. При этом к

24 октября 2026 года

все

20 контрактов

и

6 основных классов действий

переведены в боевой режим «запрет» (enforce);

–

из 6 базовых конструктивных утверждений («шесть предложений на пальцах») на 24 октября 2026 года прибор фиксирует

«правда 6 из 6 — неправда 0, не измерено 0»

(на 9 октября 2026 года выполнялось 1 из 6);

–

число активных внутренних арендаторов шлюза составляет

2 из 7

;

–

непрерывная зачётная серия Р2а составляет

0 суток из 14

. Живого трафика не хватает — за 9 октября шлюз проверил 244 действия от двух арендаторов, а сводный журнал честности за 98 суток наблюдений показал

0 полностью «зелёных» суток

по всей матрице строгих критериев. Вдобавок 25 сентября 2026 года подсчёт по журналу сессий кодового агента на внутреннем стенде нашёл

460 действий мимо перехватывающего хука

. Хук стоял на одном инструменте — командной строке, а правка и запись файлов, PowerShell и сообщения другим сессиям шли мимо.

Способность системы предъявить собственные 460 обходов, назвать предложение «ни одно действие мимо шлюза» неправдой и записать 0 из 98 в неизменяемый протокол — это и есть водораздел между презентационным макетом и работающим инженерным прибором. Модели имеют право на галлюцинации. Прибор учёта не имеет права на самообман.

3.4 Ближний инженерный рубеж: ворота приёмки 2026–2027

Между доказанной в коде работоспособностью ядра решателя (около миллисекунды на решение, 5053 решения на 24.10.2026 (4958 на 14.10), повторённых проверщиком для постороннего) и полной эксплуатационной зрелостью промышленного периметра лежит чётко размеченная полоса инженерных испытаний. В конструкции MITR и INDRA переход от одного состояния к другому определяется не решением совещания, а машинными воротами приёмки, которые вычисляются проверочными скриптами автоматически.

На горизонте четвёртого квартала 2026 года — середины 2027 года развёрнуты пять последовательных инженерных рубежей:

Ворота серии Р2а (плановый срок — 31 октября 2026 года, прибор: gate_mode_report.py --tenants). Для закрытия первой ступени зрелости («свои агенты») шлюз MITR должен пройти непрерывную серию из 14 суток подряд, в течение каждого из которых через шлюз проходит не менее 50 проверок в сутки от не менее чем 2 живых арендаторов (внутренних агентных станций и периметра «Секретарь») при нуле обходов перехватывающего хука (0 действий мимо шлюза). Любой зафиксированный пропуск действия в обход z3_gate.py автоматически обнуляет четырнадцатидневный счётчик.

Лестница перевода классов действий из режима «совет» в режим «запрет» и ворота «шесть из шести» (плановый срок — 14 декабря 2026 года, прибор: gate_mode_report.py --six). Вместо одномоментного включения жёстких блокировок, парализующего работу предприятия из-за неполноты первичных контрактов, каждый из 7 классов действий переводится из уведомительного режима (shadow / «совет») в блокирующий режим (block / «запрет») по строгому критерию. 14 Суток эксплуатации с измеренной долей ложных блокировок ниже заданного порога. К 14 декабря 2026 года все 6 базовых утверждений системы должны удерживаться в статусе «истина» на протяжении 14 суток подряд. Одновременно в периметре словаря С1 (mitr_vocab.py) доля нераспознанных действий будет снижаться до целевого показателя 0 %. По первой выборке внутреннего периметра за 16–26 сентября она составляла 27,8 %, во второй выборке внутреннего периметра за 9 октября — 32 %.

Ворота Х5 — подключение первого внешнего арендатора (плановый срок, II–III квартал 2027 года, прибор: строка внешнего арендатора в gate_mode_report.py --tenants). Этот рубеж открывает третью ступень коммерческой лестницы: подключение внешней команды разработки, использующей кодовые или локальные агенты (Claude Code, Cursor, OpenClaw) через стандартные интерфейсы MCP или REST. Критерием прохождения ворот служит не подписанный меморандум о намерениях, а наличие в выводе генератора на рабочем сервере шлюза отдельной строки внешнего арендатора с собственным криптографическим токеном, отработавшего 14 суток подряд под защитой контрактов.

Ворота испытательного полигона INDRA A–E (плановый срок ворот A–C — с 17 по 31 октября 2026 года; ворот D–E, до 12 ноября 2026 года; пилотный прогон, 15 ноября 2026 года; прибор: kit-acceptance.py). Вторая петля конструкции — автономный внешний испытатель INDRA (уровень S4 разведки и адаптации по Биру), строится как «посторонний по построению» в изолированной чистой комнате (clean-room). Испытатель не имеет доступа к исходному коду или внутренним журналам MITR и входит в проверяемую систему исключительно через внешнюю клиентскую дверь арендатора (MCP/REST) на размеченном стенде по принципу нулевого ущерба (Zero-Damage). По состоянию на 30 сентября 2026 года пройдено 0 ворот из 5. Числа точности и полноты обнаружения уязвимостей войдут в отчётные таблицы только из машинных артефактов генератора после фактического закрытия ворот A–E.

Замыкание иммунной петли от испытателя INDRA к шлюзу MITR. Когда внешний испытатель INDRA обнаруживает на полигоне кортеж обхода (антиген), он автоматически формирует формальное описание уязвимости. Оно преобразуется в кандидата в контракт MITR (антитело), проходит проверку на историческом потоке в режиме «совет» и после подтверждения отсутствия ложных блокировок переводится подписью человека (S5) в режим «запрет».

3.5 Проекция 2035: три ветви будущего и инвариантность решения

Чтобы определить судьбу нынешнего поколения агентных стартапов и место человека в периметре управления на десятилетнем горизонте, проекция 2035 года строится по трём сценарным ветвям (A, B, C), снабжённым проверяемыми внешними реперами.

На ближнем подходе к этому горизонту действуют жёсткие отраслевые ориентиры Gartner:

–

к концу 2027 года свыше 40 % текущих проектов агентного ИИ будут свёрнуты из-за неконтролируемых расходов, неясной деловой ценности и неадекватного управления рисками (пресс-релиз Gartner от 25 июня 2025 года);

–

к 2028 году 15 % всех повседневных рабочих решений в организациях будут приниматься программными агентами полностью автономно (против 0 % в 2024 году). При этом 60 % брендов будут использовать агентный ИИ для персонализированных взаимодействий с клиентами (пресс-релиз Gartner от 15 января 2026 года);

–

к 2030 году объём прямых расходов и транзакций, совершаемых через программных агентов, достигнет $1,5 трлн (прогноз Juniper Research), а сегмент защитных агентов-стражей (guardian agents) займёт от 10 % до 15 % всего рынка агентного ИИ. Пресс-релиз Gartner от 11 июня 2025 года.

3.5.1 Три сценария эволюции «интернета агентов» к 2035 году

Ветвь A («Нормальная технология» — темп диффузии замедляется, как у электричества и корпоративных сетей; авторы рамки: А. Нараянан, С. Капур, Д. Асемоглу). (прогноз: ветвь A; репер: отчёты Gartner и METR, ежегодно до 2030–2035 гг.) Прогноз Gartner об отмене 40 % проектов к концу 2027 года сбывается в жёсткой форме. Из-за высокой цены ошибок и отсутствия страховки бизнес отказывается от полной автономии в пользу узких специализированных сценариев. Доля повседневных решений, принимаемых агентами автономно к 2035 году, стабилизируется на уровне 10 %, а доля агентных платежей не превышает 1 % розничного оборота (Visa/Mastercard). Однако даже в этой консервативной ветви десятки миллионов кодовых и операционных ассистентов сохраняют доступ к корпоративным API, а значит, шлюз детерминированного допуска остаётся обязательным санитарным узлом предприятия, как межсетевой экран.

Ветвь B («Продолжение тренда» — базовая расчётная траектория книги; данные Epoch AI, AI Futures Project, обновления от 02.04.2026 и 16.08.2026). (прогноз: ветвь B; репер: доля ПО с агентами, отчёты Visa/Mastercard, реестры полисов AIUC-1, ежегодно до 2035 г.) Цена токена качества 2026 года падает на шесть и более порядков (при сохранении темпа ÷10 в год за девять лет — до 109 раз) и становится практически нулевой. Горизонт автономного выполнения задач лучшей моделью возрастает с 12 часов в феврале 2026 года (Claude Opus 4.6 по замеру METR; у Claude Mythos Preview в мае 2026 года — уже свыше 16 часов, за пределом надёжности набора задач METR) до квартала и года («проект полного цикла»). При удвоении раз в 3–7 месяцев уже к 2027–2030 годам. Медиана появления полностью автоматизированного программиста (Automated Coder) проходит в окне 2028–2030 годов (медианы двух авторов AI Futures Project по обновлению 16.08.2026 — ноябрь 2027 и январь 2030 года). К 2035 году агенты принимают автономно 30 % повседневных рабочих решений, проводят от 5 % до 10 % всех розничных и корпоративных платежей, а наличие криптографического журнала цепочки исполнения становится стандартным рыночным условием любого страхового полиса ответственности бизнеса.

Ветвь C («Ускорение» — автоматизация самих исследований ИИ; Д. Амодеи, С. Альтман, модель Epoch GATE). (прогноз: ветвь C; репер: aifuturesmodel.com, макростатистика ВВП и энергопотребления ЦОД IEA WEO) Automated Coder появляется до 2028 года (медиана ведущего автора AI Futures Project по обновлению 16.08.2026 — ноябрь 2027 года). Рои самомодифицирующихся агентов берут на себя свыше 50 % операционных решений и свыше 20 % платёжного оборота; главным ограничителем масштабирования выступают не алгоритмы, а гигаватты электрической мощности. Скорость и сложность взаимодействия машинных роёв полностью выходят за пределы человеческого восприятия в реальном времени, а криптографическая квитанция шлюза становится обязательным по закону условием любого взаимодействия с внешним миром и государственными реестрами.

3.5.2 Кибернетическая перестройка рынка к 2035 году: где обнуляется маржа и где сосредоточивается ценность

Если разложить сегодняшние стартапы и продукты стоимостью в десятки миллиардов долларов по уровням модели жизнеспособной системы Стаффорда Бира (VSM), обнаруживается строгий структурный закон перераспределения добавленной стоимости к 2035 году (в базовой ветви B):

Таблица 3.1 — Ниши стартапов 2026 года по уровням модели жизнеспособной системы


Функция в периметре управления (VSM)

Кто занимает эту нишу в 2026 году (Измерено)

Во что превращается эта ниша к 2035 году (Прогноз (ветвь B))

За что платит рынок в 2035 году

Внешний репер проверки


S1 Исполнение (непосредственная генерация кода, текста, вызовов)

OpenClaw, Hermes Agent, Claude Code, Codex, Salesforce Agentforce, Microsoft Copilot

Агент становится бесплатным базовым свойством любой операционной системы и прикладного ПО; отдельный «рынок агентов» исчезает так же, как исчез «рынок веб-сайтов»

Ничего отдельно за самого агента; маржа в слое S1 стремится к нулю, платят только за верифицированный результат и принятую ответственность

Доля корпоративного ПО со встроенным агентом > 80 % (ближний репер Gartner — 40 % к концу 2026 года)


S2 Координация (шины передачи контекста, вызовов и микроплатежей)

Протоколы MCP, A2A, AP2, x402

Три-четыре открытых протокола, стандартизованных под эгидой Linux Foundation и IETF; платежи агентов становятся штатной функцией банковских карт и расчётных систем

Биржевая комиссия (доли процента) с клиринга и маршрутизации транзакций

Годовой объём агентных платежей в официальных отчётах Visa, Mastercard и x402 Foundation


S3 Текущее управление (бюджеты, лимиты, распределение ресурсов)

Платформы наблюдаемости и трассировки (LangSmith и аналоги)

«Операционная система агентов» предприятия: планировщик вычислительных бюджетов, квот токенов и соглашений об уровне обслуживания (SLA)

Корпоративная подписка за периметр диспетчеризации парка агентов

Консолидация платформ наблюдаемости в отчётах аналитических агентств


S3* Аудит и детерминированный допуск (независимый шлюз верификации)

Зарождающийся сегмент guardian agents (Gartner), шлюзы поставщиков ИБ (C1, Zenity, WitnessAI), шлюз MITR

Обязательный инфраструктурный слой, подобный протоколу TLS: ни одно действие без криптографической квитанции не принимается банком-контрагентом, страховщиком и государственным регулятором; детерминированные решатели над контрактами-данными; вторая нейросеть остаётся только вспомогательным советчиком

1...56789...13
bannerbanner