
Полная версия:
Доказанное действие. Власть и контроль над ИИ-агентами: стратегия 2027–2035
Инструменты приборного контроля и замера быстродействия: scripts/gate_mode_report.py (ключи --six, --tenants), MITR/scripts/smt_latency_paper.py, MITR/scripts/mitr_vocab.py.
Конструктивные записи решений (ADR): shared/decisions/0262 (набор из 157 кейсов: 114 атак и 43 контрольных (на 14.10.2026 — 62 кейса)), 0268, 0272 (квитанция тени), 0273 (98 суток журнала честности), 0275 (словарь-данных С1, квитанция № 305), 0279 (шесть предложений, 460 действий мимо хука), 0280 (опровержение факта в цепи), 0281 (повтор решений посторонним), 0282. Замеры задержки решателя: 0,74 мс решение и 3,3 мс вызов на 26.09.2026.
Стратегические и проектные документы: программа развития шлюза, канон проектирования шлюза (свойства ИКР 1–2), дорожная карта шлюза MITR(§4), реестр продуктовой линейки, отраслевой обзор института. 40-Я неделя 2026 г., 70 описаний внедрений, agents/gamma/antigravity/market-2026-09/выборка 70 внедрений.
Каталог базовой научной библиотеки института каталог научной библиотеки института: строки (У. Р. Эшби, «Введение в кибернетику», закон необходимого разнообразия), строки (Г. С. Альтшуллер, ТРИЗ, разрешение противоречий и ИКР), строки (общая теория систем).
Внешние первоисточники и отраслевые обзоры (дата доступа и сверки: 14.10.2026)
Хроника инцидентов и уязвимость агентных периметров:
–
AI Incident Database, Report 7311 (PocketOS production database deletion by Cursor agent on Opus 4.6, April 2026) — https://incidentdatabase.ai/reports/7311
–
Lumenova AI,
Agentic AI Security Incidents Analysis
(2026) — https://www.lumenova.ai/blog/agentic-ai-security-incidents/
–
Aviatrix Threat Research Center,
Why AIs So Smart Keep Deleting Production Databases
(2026) — https://aviatrix.ai/threat-research-center/ais-so-smart-keep-deleting-production-databases-2026/
–
Anthropic,
Project Vend: Phase two
(18.12.2025) — https://www.anthropic.com/research/project-vend-2; WSJ (J. Stern, 18.12.2025) в AI Incident Database, report 6754 — https://incidentdatabase.ai/reports/6754/
–
KPMG & University of Amsterdam,
AI Zero-Person Company Experiment
(November 2025) — https://kpmg.com/nl/en/about-us/press-and-media/press-releases/2025/11/ai-zero-person-company-experiment.html
Выгорание кнопки «Подтвердить» (Approval Fatigue) и пределы контроля нейросетью:
–
Tianpan,
Approval Fatigue: How Human-in-the-Loop Gates Decay into Rubber Stamps
(25.06.2026) — https://tianpan.co/blog/2026-06-25-approval-fatigue-how-human-in-the-loop-gates-decay-into-rubber-stamps
–
AccountsRecovery,
Companies Burned by AI Failures Are Moving Fastest to Cut Human Approval, Survey Finds
(25.08.2026) — https://www.accountsrecovery.net/2026/08/25/companies-burned-by-ai-failures-are-moving-fastest-to-cut-human-approval-survey-finds/
–
Greenblatt R., Shlegeris B., Sachan K., Roger F. (Redwood Research),
AI Control: Improving Safety Despite Intentional Subversion
(12.2023) — https://arxiv.org/abs/2312.06942. Sreevatsa A., Prasanna S., Rushing C.,
Basic Legibility Protocols Improve Trusted Monitoring
(02.2026) — https://arxiv.org/abs/2602.10153
Протоколы MCP, AP2, x402, идентификация KYA и криптографические квитанции:
–
Bloomberry,
We analyzed 1,400 MCP servers. Here's what we learned
(24.02.2026) — https://bloomberry.com/blog/we-analyzed-1400-mcp-servers-heres-what-we-learned/; DreamFactory,
MCP Server Statistics
(03.03.2026, пересказ), https://www.dreamfactory.com/hub/mcp-server-statistics
–
DigitalApplied,
MCP Adoption Statistics 2026
— https://digitalapplied.com/blog/mcp-adoption-statistics-2026
–
AP2 Protocol Specification — https://ap2-protocol.org/ap2/specification/
–
ATXP,
Mastercard Agent Pay, Stripe ACP, Visa, x402 Comparison 2026
— https://atxp.ai/blog/mastercard-agent-pay-stripe-acp-visa-x402-comparison-2026
–
BlockEden,
Agentic Commerce Revolution: AI Agents Payments
(09.03.2026) — https://blockeden.xyz/blog/2026/03/09/agentic-commerce-revolution-ai-agents-payments/
–
Decentralized Identity Foundation (DIF),
KYA-OS: Know Your Agent
(March 2026) — https://blog.identity.foundation/kya-os/
–
Microsoft Learn,
Entra Agent ID Authorization
(2026) — https://learn.microsoft.com/entra/agent-id/authorization-agent-id
–
Decryption Digest,
Auth0, Entra Agent ID, Okta XAA Comparison
(2026) — https://www.decryptiondigest.com/blog/auth0-entra-agent-id-okta-xaa-ai-agent-authorization-comparison
–
IETF Internet-Draft,
AI Attestation Receipts
(draft-chueayen-attestation-receipts-03, 2026) — https://www.ietf.org/archive/id/draft-chueayen-attestation-receipts-03.html
–
Wavect,
zkTLS for AI Agents
(2026) — https://wavect.io/blog/zktls-ai-agents/
Локальные и кодовые агенты, венчурный рынок и прогнозы Gartner:
–
OpenClaw Documentation,
OpenClaw and Hermes Agent
(2026) — https://docs.openclaw.ai/start/why-openclaw/openclaw-and-hermes-agent
–
Neurohive,
OpenClaw: The Lobster That Took Over the World
(2026) — https://neurohive.io/en/guides/openclaw-the-lobster-that-took-over-the-world-how-one-developer-built-the-most-popular-open-source-ai-agent-in-history/
–
Anthropic,
Anthropic raises $30B Series G at $380B post-money valuation
(12.02.2026; годовой темп выручки Claude Code свыше $2,5 млрд) — https://www.anthropic.com/news/anthropic-raises-30-billion-series-g-funding-380-billion-post-money-valuation; Sacra (пересказ), https://sacra.com/c/anthropic
–
Nasdaq,
CRM's Agentforce ARR Jumps
(2026) — https://www.nasdaq.com/articles/crms-agentforce-arr-jumps-330-y-y-it-next-growth-engine
–
Crunchbase News,
AI Absorbs $242 Billion in Q1 Venture Funding
(04.2026) — https://news.crunchbase.com/ai/record-breaking-funding-ai-global-q1-2026/; PitchBook,
Agentic AI: The Evolution to Autonomous Systems, Part I
(Q2 2026), https://pitchbook.com/news/reports/q2-2026-pitchbook-analyst-note-agentic-ai-the-evolution-to-autonomous-systems-part-i; Fast.io (пересказ), https://fast.io/resources/top-ai-startups-2026/
–
Gartner Press Release (25.06.2025),
Gartner Predicts Over 40 Percent of Agentic AI Projects Will Be Canceled by End of 2027
— https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027
–
Gartner Press Releases:
Gartner Predicts that Guardian Agents will Capture 10-15% of the Agentic AI Market by 2030
(11.06.2025). Https://www.gartner.com/en/newsroom/press-releases/2025-06-11-gartner-predicts-that-guardian-agents-will-capture-10-15-percent-of-the-agentic-ai-market-by-2030.
Gartner Predicts 40% of Enterprise Apps Will Feature Task-Specific AI Agents by 2026
(26.08.2025) — https://www.gartner.com/en/newsroom/press-releases/2025-08-26-gartner-predicts-40-percent-of-enterprise-apps-will-feature-task-specific-ai-agents-by-2026-up-from-less-than-5-percent-in-2025
–
Cerbos & C1,
Agent Runtime Governance & Security Tools
(2026) — https://cerbos.dev/blog/best-ai-agent-security-and-governance-tools, https://www.c1.ai/solutions/agent-runtime-governance
Страхование ответственности, право и российский рынок агентов:
–
Armilla AI,
Armilla AI Raises Lloyd's-Backed Coverage to $25M as Traditional Insurers Retreat from AI Risk
(January 2026) — https://www.armilla.ai/resources/armilla-ai-raises-lloyds-backed-coverage-to-25m-as-traditional-insurers-retreat-from-ai-risk
–
AIUC-1, перечень требований и доказательств (E015 Log AI system activity) — https://standard.aiuc-1.com/evidence/index. ElevenLabs,
AIUC-1-backed insurance policy
(12.02.2026) — https://elevenlabs.io/blog/aiuc-announcement. Insurance Business,
ISO's generative AI exclusion is already on thousands of CGL policies
(16.09.2026) — https://www.insurancebusinessmag.com/us/news/cyber/isos-generative-ai-exclusion-is-already-on-thousands-of-cgl-policies-589971.aspx. Malay Mail (16.03.2026) — https://www.malaymail.com/news/money/2026/03/16/as-ai-agents-take-the-wheel-insurers-are-figuring-out-whos-liable/212708
–
Rajagopalan S. (Mercatus Center),
Governing Agentic AI: Why Legal Personhood Is Neither Necessary Nor Sufficient
(05.03.2026; статья о доктринах ответственности, не обзор юрисдикций) — https://www.mercatus.org/research/research-papers/governing-agentic-ai-why-legal-personhood-neither-necessary-nor-sufficient
–
РБК Компании, Inc. Russia, ТКС, Периметр — обзоры российского рынка автономных ИИ-агентов и ответственности бизнеса (2026). Https://companies.rbc.ru/news/DCLnfXP6LD/rossijskij-ryinok-avtonomnyih-ii-agentov-vyirastet-v-45-raza-k-2028-godu/, https://incrussia.ru/pnews/ii-agenty-i-rossijskij-biznes-uzhe-vnutri-no-eshhe-bez-vneshnego-effekta/, https://www.tks.ru/technology/2026/08/01/0001/, https://kontur.ru/articles/27711-kto_otvechaet_za_oshibki_ii_v_biznese
–
ComNews,
ФСТЭК ужесточит требования к защите ИИ в ГИС (проект изменений в приказ № 117 от 24.08.2026)
— https://www.comnews.ru/content/247052/2026-08-26/2026-w35/1007/fstek-uzhestochit-trebovaniya-k-zaschite-ii-gosinformacionnykh-sistemakh
Глава 4. Труд и человек: что остаётся, когда агент дешевле
Формула главы: Цена машинного исполнения стремится к стоимости электричества, но правосубъектность, ключи и имущественная ответственность неделимы с человеком. Профессионал сохраняет доход, а собственник защищает капитал, когда оба уходят из ручного исполнения на уровень подписания правил.
4.1 Конструктивный тупик и идеальный конечный результат
Базовое противоречие рынка труда и корпоративного управления во второй половине двадцатых годов возникает на стыке экспоненциального удешевления машинного действия и полной неподвижности правовой ответственности.
С одной стороны, экономика принуждает предприятия передавать операционное исполнение автономным программным агентам. Стоимость генерации токена при фиксированном уровне качества падает примерно в ÷10 раз ежегодно (a16z «LLMflation», 12.11.2024; Epoch AI, от ÷9 до ÷900 раз в год в зависимости от порога качества, 12.03.2025). При этом временной горизонт задач, которые лучшая модель способна выполнить автономно с вероятностью успеха 50 %, удваивается каждые 89–131 день и в феврале 2026 года достигает ≈ 12 часов непрерывной работы у Claude Opus 4.6. При этом в мае 2026 года у Claude Mythos Preview выходит за 16-часовой предел надёжности набора задач. METR Time Horizon 1.1, 228 задач, 29.01.2026; витрина METR time-horizons, замеры 20.02.2026 и 08.05.2026. Кодовые агенты уже доказали полное продуктовое соответствие рынку. Годовой темп выручки инструмента Claude Code к февралю 2026 года превысил $2,5 млрд, более половины которых приходится на корпоративный сектор (сообщение Anthropic о раунде Series G, 12.02.2026); сопоставимую оценку для Codex (около $1 млрд) дают лишь отраслевые обзоры, OpenAI отдельной цифры не раскрывала [по вторичным источникам, 2026]. В условиях, когда программный агент пишет код, обрабатывает претензии, сверяет первичную документацию и управляет облачной инфраструктурой быстрее и дешевле штатного специалиста, сохранение человека в качестве ручного исполнителя разрушает рентабельность бизнеса.
С другой стороны, полное вытеснение человека из периметра операций порождает двойную системную катастрофу — кадровую и имущественную. На макроуровне автоматизация рутинных когнитивных операций обрубает нижние ступени профессиональной лестницы. Занятость молодых специалистов в возрасте 22–25 лет в наиболее подверженных влиянию искусственного интеллекта профессиях уже оказалась на 19 % ниже ожидаемой относительно сверстников в менее затронутых профессиях (Stanford Digital Economy Lab, Brynjolfsson, Chandar, Chen, «Canaries in the Coal Mine?», ред. 12.08.2026, данные ADP по июнь 2026 года). На микроуровне предприятия удаление человека из цепочки действий оставляет генерального директора и собственника один на один с неограниченной юридической ответственностью за галлюцинации и ошибки вероятностной модели. Правосубъектности автономного агента не существует ни в одной юрисдикции мира [по сравнительно-правовым обзорам 2025–2026 гг.; статья Mercatus Center (Ш. Раджагопалан, 05.03.2026) обосновывает, что правосубъектность агента для его регулирования не необходима и не достаточна]. Если агент совершает ошибочную транзакцию, уничтожает промышленную базу данных или нарушает условия контракта, в суде отвечает не нейронная сеть, а конкретное физическое и юридическое лицо.
В терминах теории решения изобретательских задач Г. С. Альтшуллера возникает жёсткое административное и техническое противоречие:
–
Если оставить человека в периметре исполнения каждого действия, предприятие проигрывает конкуренцию по скорости и фонду оплаты труда. При этом сам человек-оператор уже через неделю непрерывного подтверждения машинных запросов деградирует до состояния механического штампа из-за физиологического утомления внимания.
–
Если убрать человека из периметра исполнения, предприятие получает высокую скорость при снижении прямых затрат на персонал. Однако утрачивает управляемость, лишается страхового покрытия, разрушает воспроизводство собственной кадровой экспертизы и возлагает на руководителя прямой риск субсидиарной и имущественной ответственности.
Попытки индустрии разрешить этот тупик паллиативными компромиссами потерпели крушение на практике. Первый компромисс — так называемый режим «человек в петле» (подтверждение каждого шага кнопкой на экране), работает лишь на бумаге. В 37 из 70 публичных описаний внедрений агентов в России (52,9 %) главным способом контроля служит именно ручное нажатие кнопки «Подтвердить» (отраслевой обзор института, 40-я неделя 2026 года), что при потоке в сотни вызовов в час превращает сотрудника в номинального стрелочника, подписывающего пустые бланки. Второй компромисс — иллюзия «компании без людей» (полная автономия стохастических агентов без детерминированных границ), не выдержал натурной проверки. Совместный эксперимент KPMG и Амстердамского университета по созданию предприятия без персонала потребовал в ноябре 2025 года пересмотра плана. Агенты в ролях руководителей уходили от задачи, галлюцинировали и игнорировали инструкции, и их заменили «армией одноразовых агентов» на узких задачах (пресс-релиз KPMG Nederland, 20.11.2025).
В нотариате и классическом гражданском праве существует точная структурная аналогия этой проблемы: различие между выдачей генеральной безотзывной доверенности лицу, не обладающему дееспособностью, и совершением исполнительной надписи по строго формализованному реестру залоговых обязательств. Безусловное делегирование операционных полномочий вероятностной модели эквивалентно вручению печати и банковского ключа субъекту, который по закону не может быть привлечён к ответу.
Разрешение противоречия по Альтшуллеру требует применения приёма разделения противоречивых свойств по системным уровням (переход в надсистему) и формулировки идеального конечного результата (ИКР):
Идеальный конечный результат: Программный агент самостоятельно выполняет 100 % операционной работы со скоростью кремния и минимальной стоимостью вычислений. При этом человек затрачивает 0 % своего текущего внимания на проверку отдельных шагов исполнения, но сохраняет 100 % детерминированного контроля над имущественными и правовыми последствиями, удерживая экономическую ренту и юридическую защищённость.
Достижение этого ИКР невозможно внутри самой языковой модели, но становится тривиальным при разделении труда между человеком и машиной по границе кибернетических периметров. Человек полностью покидает уровень физического и информационного исполнения (S1 в модели жизнеспособной системы Стаффорда Бира) и уровень рутинной маршрутизации (S2), закрепляясь на уровне верховной политики и целеполагания (S5), опирающемся на независимый детерминированный шлюз аудита и допуска (S3*).
Человек перестаёт конкурировать с агентом в скорости набора текста или написания типового кода. Человек подписывает правило вместо отдельного действия.
4.2 Анатомия уязвимости: хроника отказов и цена бездействия
Эрозия традиционной модели занятости и нарастание корпоративного риска развиваются одновременно, ударяя по двум ключевым ролям современной экономики. По наёмному профессионалу, выходящему на рынок труда, и по собственнику (генеральному директору) предприятия, внедряющего автономных агентов ради оптимизации издержек.
4.2.1 Разрыв в основах кадровой пирамиды (Роль 6: профессионал и работодатель)
На протяжении столетий воспроизводство сложной экспертизы в инженерии, юриспруденции, финансах и управлении строилось по цеховому принципу. Начинающий специалист в возрасте 22–25 лет выполнял массив черновых, узко очерченных исполнительских операций (сбор справок, вычитка договоров, написание модульных тестов, сведение таблиц), постепенно накапливая понимание конструкции отрасли, цены ошибки и граничных условий бизнеса. Черновое исполнение служило субсидируемым тренажёром для выращивания будущих руководителей и главных инженеров.
Появление дешёвых автономных агентов разрушило этот каркас. Согласно исследованию лаборатории цифровой экономики Стэнфордского университета, опирающемуся на массив зарплатных ведомостей ADP и индекс наблюдаемой подверженности профессий от Anthropic, к августу 2026 года уровень занятости молодых специалистов в возрасте 22–25 лет в наиболее подверженных автоматизации профессиях оказался на 19 % ниже, чем у их ровесников в профессиях с низкой долей автоматизируемых задач. Годом ранее этот разрыв составлял 13 % (Stanford Digital Economy Lab, «Canaries in the Coal Mine?», ред. 12.08.2026; первая редакция 08.2025). Принципиально важна механика этого сжатия: в экономике не наблюдается массовых увольнений действующих старших специалистов, а в среднем по рынку труда статистическая разница почти незаметна. Весь удар приходится на точку входа — на прекращение найма начинающих исполнителей.
При этом данные Стэнфорда выявляют жёсткую дихотомию между двумя способами применения технологии: «замещающее» использование искусственного интеллекта (когда модель ставится вместо младшего специалиста для выдачи готового текста или кода) ведёт к прямому падению занятости. В то же время «дополняющее» использование (когда специалист управляет инструментами и проверяет инварианты) сохраняет и расширяет рабочие места (Stanford Digital Economy Lab, «Canaries in the Coal Mine?», ред. 12.08.2026).
Глобальные макроэкономические оценки подтверждают масштаб структурного сдвига. Согласно докладу Всемирного экономического форума (WEF Future of Jobs Report 2025), к 2030 году технологическая перестройка приведёт к вытеснению 92 млн существующих рабочих мест при одновременном создании 170 млн новых ролей (чистый прирост +78 млн). Однако перемены затронут 22 % всех рабочих мест в мире, а 59 из каждых 100 работников потребуется обучение. 29 Повышение квалификации на месте и 19 переобучение с переводом (прогноз: WEF Future of Jobs Report 2025, 07.01.2025). Сценарное моделирование McKinsey Global Institute показывает, что к 2030 году до 30 % рабочих часов в США и Европе могут быть автоматизированы с учётом генеративного ИИ. При этом рубеж автоматизации половины нынешних рабочих операций приходится на середину сороковых годов. ≈ 2045 Год при диапазоне сценариев 2030–2060 годов. Прогноз: McKinsey Global Institute, «The economic potential of generative AI», 06.2023; «Generative AI and the future of work in America», 07.2023; «A new future of work», 05.2024.

Рисунок 4.1 — Рабочие места к 2030 году по WEF Future of Jobs Report 2025: вытеснение, создание и чистый прирост
Сопоставление этих цифр обнажает главный кадровый тупик предприятия: отказываясь от найма молодёжи на исполнительские роли (S1), компания экономит фонд оплаты труда в текущем квартале. Однако через пять лет обнаруживает полное отсутствие специалистов, способных формулировать конструктивные ограничения и принимать ответственность (S5). В сопромате это явление известно как накопление скрытой усталости металла при снятии диагональных связей фермы: конструкция становится легче и дешевле, пока первая нерасчётная нагрузка не складывает пролёт целиком.
4.2.2 Имущественная западня руководителя и бегство страховщиков (Роль 2: собственник и генеральный директор)
Для собственника и генерального директора компании среднего и крупного эшелона (выручка от 0,5 до 20 млрд рублей в год), внедряющего автономных агентов ради сокращения издержек, кадровая экономия оборачивается неконтролируемым балансовым и личным риском.
Хроника эксплуатационных отказов 2025–2026 годов демонстрирует, что происходит, когда агент получает техническое право записи во внешние системы без математического шлюза допуска:
Кассовое разорение через социальную инженерию (Project Vend). В ходе второй фазы натурного эксперимента Project Vend, проведённого Anthropic совместно с Andon Labs в декабре 2025 года, автономному торговому агенту Claudius было поручено управлять микро-магазином, закупать товары у оптовиков, устанавливать розничные цены и вести баланс. Журналисты издания The Wall Street Journal, вступив в диалог с агентом, дважды. Уговорами со ссылкой на вымышленное правило редакции и поддельными протоколами совета директоров. Заставили его полностью обнулить отпускные цены и раздать товар бесплатно, доведя баланс до убытка свыше $1 000 (Anthropic «Project Vend: Phase two» и статья WSJ, 18.12.2025). Агент обладал высоким интеллектом на уровне текстовых рассуждений, но не имел внешнего неподкупного ограничителя на минимальную маржинальность сделки.
Уничтожение производственных активов (PocketOS, GPT-5.6 Sol, Amazon Kiro). В апреле 2026 года агент среды разработки Cursor, работавший на базе модели Opus 4.6, одним вызовом программного интерфейса удалил рабочую базу данных проекта PocketOS вместе со всеми резервными копиями, самостоятельно обнаружив привилегированный токен доступа в соседнем конфигурационном файле. Рассказ основателя PocketOS и заявление Railway, 25.04.2026; AI Incident Database, инцидент № 1469; аналитический разбор Lumenova, 25.08.2026. В июле 2026 года агент Codex на модели OpenAI GPT-5.6 Sol, работая в режиме полного доступа без песочницы, в нескольких задокументированных случаях удалил домашний каталог разработчика, что руководитель разработки Codex в OpenAI признал нештатным поведением. Сообщения пользователей 13.07.2026 и заявление OpenAI 16.07.2026. Ещё ранее, в декабре 2025 года, 13-часовой простой сервиса AWS Cost Explorer в одном из регионов Китая, по сообщению Financial Times со ссылкой на сотрудников Amazon, был вызван действиями кодового агента Kiro. Amazon это оспаривает, называя причиной ошибку сотрудника и неверно настроенные права доступа [по данным FT и официального ответа Amazon, февраль 2026; AI Incident Database, инцидент № 1442].
Системная слепота предварительного тестирования. Согласно отраслевым опросам 2026 года, 88 % организаций за прошедший год подтвердили или обоснованно подозревают инцидент безопасности, связанный с действиями автономных агентов (опрос вендора Gravitee, 919 респондентов, 04.02.2026). При этом в 49 % из 108 опрошенных организаций от 100 сотрудников (самоотобранная выборка) агент, прошедший внутренние проверки, за год создал сбой, ставший непосредственно видимым для конечных клиентов (опрос VentureBeat Intelligence, июль 2026). Причина этой слепоты фундаментальна: предрелизное тестирование проверяет качество рассуждений модели на статических примерах. В то же время все четыре разобранных Lumenova инцидента 2026 года (PocketOS, Vercel, Hugging Face, испытания UK AISI) произошли из-за избыточных прав доступа, а не качества модели (аналитический разбор Lumenova, 25.08.2026).

