Читать книгу Доказанное действие. Власть и контроль над ИИ-агентами: стратегия 2027–2035 (Александр Фищук) онлайн бесплатно на Bookz (10-ая страница книги)
Доказанное действие. Власть и контроль над ИИ-агентами: стратегия 2027–2035
Доказанное действие. Власть и контроль над ИИ-агентами: стратегия 2027–2035
Оценить:

3

Полная версия:

Доказанное действие. Власть и контроль над ИИ-агентами: стратегия 2027–2035

Реакция мирового финансового и страхового рынка на эту статистику оказалась мгновенной и жёсткой. Традиционные страховщики всё чаще исключают или ограничивают риски искусственного интеллекта в стандартных договорах. Организация страховых сервисов (ISO) с января 2026 года ввела факультативные оговорки об исключении генеративного ИИ из полисов общей гражданской ответственности (CGL), которые крупные страховщики начали прикреплять к полисам. При этом специализированные андеррайтеры ограничивают риски ИИ в полисах профессиональной ответственности (E&O) и киберстраховании. Формы ISO CG 40 47 / 40 48 / 35 08, 01.2026; обзор Insurance Business, 16.09.2026; сообщение Armilla AI, 21.01.2026. Сама компания Anthropic в материалах к публичному размещению акций прямо квалифицирует действия автономных агентов как «значительный и непредсказуемый» юридический риск [по сообщениям финансовых СМИ о проспекте IPO Anthropic, сентябрь 2026; сам документ на 14.10.2026 публично не раскрыт].

На российском рынке ситуация усугубляется двумя специфическими факторами. Во-первых, финансовые директора предприятий не могут рассчитать совокупную стоимость владения (TCO) агентными системами при поминутной или потокеновой тарификации облачных провайдеров. Ведь один зациклившийся агент способен за ночь сжечь месячный бюджет подразделения (28 публичных сделок и 51 кейс внедрения за 2026 год, из которых 45 — собственная или заказная разработка). Во-вторых, 56 % крупных российских компаний называют юридические риски (в том числе ответственность за ошибки агента) одним из главных барьеров внедрения ИИ. Вторым после стоимости серверов (58 %; опрос 52 крупных компаний «Инфосистемы Джет» и Smart Ranking, август 2026, по публикации Anti-Malware 26.08.2026).

Юридическая реальность неумолима: в судебной практике уже закреплён прецедент (дело Moffatt v. Air Canada), согласно которому корпорация несёт полную имущественную ответственность за обещания, которые её автоматизированный агент дал клиенту. Попытка юристов компании объявить чат-бота «отдельным лицом, за чьи слова корпорация не отвечает», была отвергнута трибуналом как «примечательное» и несостоятельное утверждение (Moffatt v. Air Canada, 2024 BCCRT 149, Трибунал по гражданским спорам Британской Колумбии, 14.02.2024). В российском праве Федеральный закон от 26.07.2026 № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации» (принят Государственной Думой 8 июля 2026 года, одобрен Советом Федерации 17 июля 2026 года, действует с 1 сентября 2026 года) не вводит ни правосубъектности ИИ, ни специального режима ответственности: его ст. 11 отсылает к законодательству РФ, то есть возмещение вреда остаётся в орбите общих норм Гражданского кодекса (текст 243-ФЗ, publication.pravo.gov.ru, 26.07.2026).

Для генерального директора это означает прямое действие статьи 53.1 ГК РФ: руководитель обязан действовать в интересах юридического лица добросовестно и разумно, и несёт личную имущественную ответственность за убытки, причинённые обществу его неразумными действиями. Вручение вероятностной языковой модели ключей от расчётного счёта или рабочей базы данных без детерминированного ограничителя в случае крупного инцидента квалифицируется арбитражным судом как классический пример управленческой неразумности — со всеми вытекающими последствиями для личных активов директора.

4.2.3 Предел макрориска: концепция «постепенного обессиливания»

Если масштабировать описанную уязвимость с отдельного предприятия на человеческую цивилизацию, возникает риск, сформулированный в январе 2025 года группой исследователей (Ян Кульвейт, Реймонд Дуглас, Нора Амманн, Дегер Туран, Дэвид Крюгер, Дэвид Дювено) под названием «постепенное обессиливание» (Gradual Disempowerment). Публикация arXiv:2501.16946, январь 2025.

Суть этого феномена заключается в том, что человечеству не требуется сценарий враждебного восстания машин, чтобы полностью утратить контроль над собственным будущим. Достаточно того, что по мере удешевления агентов люди добровольно, шаг за шагом, ради локальной экономической эффективности выведут себя из периметров производства, распределения ресурсов, нормотворчества и государственного управления. Когда экономика и государственные институты перестают нуждаться в человеческом труде и человеческом суждении для своего воспроизводства и роста, обратная связь между волей граждан и работой систем обрывается. Человек превращается из субъекта права и собственника процессов в пассивного получателя пособия, чьи интересы больше не подкреплены никаким реальным рычагом остановки машины.

Единственный способ предотвратить «постепенное обессиливание» — как на уровне отдельного специалиста и генерального директора, так и на уровне государства. Состоит в жёстком закреплении за человеком тех узлов управления, без которых ни одно действие агента технически и юридически не может состояться.

Исполнение отчуждаемо. Подпись правила, владение ключами и несение ответственности — неотчуждаемы.

4.3 Инженерная реальность 2026 года: что измерено в коде и на рынке

Переход человека из роли исполнителя в роль проектировщика правил и держателя ключей перестаёт быть философским пожеланием только тогда, когда он воплощён в действующем программном коде с измеренной задержкой и криптографическим следом.

4.3.1 Кибернетика человеческого места: закон Эшби и рекурсия Бира

Чтобы понять, почему традиционная должность «оператора, проверяющего работу агента», обречена на вымирание, достаточно обратиться к закону необходимого разнообразия У. Росса Эшби: управление системой возможно лишь в том случае, если разнообразие управляющего блока (число различимых состояний и реакций в единицу времени) не меньше разнообразия управляемого объекта.

Вычислительная мощность обучения ведущих моделей растёт примерно в ×5 раз в год с периодом удвоения 5,2 месяца (Epoch AI, обновление от 05.02.2026). Вместе с ней лавинообразно растёт разнообразие действий, которые рой корпоративных агентов генерирует каждую секунду через протоколы MCP, A2A и платёжные шлюзы AP2 / x402. В то же время биологическая пропускная способность сознательного внимания человека остаётся неизменной константой со времён палеолита — несколько десятков осмысленных выборов в час.

Когда предприятие пытается поставить человека в качестве прямого фильтра перед агентом (тот самый режим кнопки «Подтвердить», главный в 37 из 70 описанных внедрений (отраслевой обзор института, 40-я неделя 2026 года)), возникает классический пробой по Эшби. При потоке в тысячи запросов на разрешение быстро наступает феномен выгорания подтверждений (approval fatigue). Оператор перестаёт вчитываться в параметры JSON-вызовов и нажимает «Разрешить» автоматически, со скоростью моторного рефлекса [по данным вторичных обзоров: эссе Tian Pan, 25.06.2026, со ссылкой на опросы SOC; прогноз WitnessAI, 11.12.2025; срок деградации источниками не измерен]. В этот момент компания получает худшую из возможных конфигураций: формально человек находится «в петле» и принимает на себя 100 % юридической вины за последствия, но фактически решение пропускается без какой-либо проверки.

Кибернетика с 1956 года знает ровно два инженерных приёма для восстановления баланса по Эшби без участия человеческого внимания в каждом такте:

Ослабитель разнообразия возмущений (Attenuator) — жёсткая типизация канала действия: перевод бесконечного пространства мыслей модели в конечный перечень разрешённых классов вызовов с режимом «запрет по умолчанию» (нет правила, нет действия).

Усилитель разнообразия регулятора (Amplifier) — детерминированная вычислительная машина, которая применяет однократно подписанное человеком логическое правило к миллионам действий агентов со скоростью микропроцессора.

В модели жизнеспособной системы Стаффорда Бира (VSM) эта конструкция выстраивает новую табель о рангах для человека и машины:

–

Уровень S1 (Операционное исполнение): полностью отдаётся автономным агентам (Claude Code, OpenClaw, Hermes, корпоративные роботы). Человек здесь не конкурирует.

–

Уровень S2 (Координация и шины обмена): стандартизированные протоколы взаимодействия (MCP, переданный в Agentic AI Foundation при Linux Foundation с более чем 10 000 публичных серверов и 97 млн загрузок SDK в месяц (данные Anthropic, декабрь 2025); A2A, AP2, x402).

–

Уровень S3 (Текущее управление ресурсами): распределение вычислительных бюджетов и квот токенов.

–

Уровень S3* (Независимый спорадический и сплошной аудит и допуск): детерминированный программный шлюз MITR, стоящий непосредственно в разрыве канала между намерением агента и внешним миром.

–

Уровень S4 (Разведка, испытания и адаптация к внешней среде): внешний по построению испытательный полигон INDRA, непрерывно атакующий периметр и превращающий найденные уязвимости в проекты новых правил.

–

Уровень S5 (Политика, идентичность и верховная ответственность):

исключительная территория человека

(профессионала-проектировщика, генерального директора, собственника, регулятора).

В железнодорожной автоматике девятнадцатого века аналогичный переход произошёл при внедрении систем механической централизации стрелок и сигналов: диспетчер перестал бегать по путям с фонарём и вручную переводить каждую стрелку перед поездом. Вместо этого он поворачивал рычаг в аппарате блокировки, где стальные линейки механически исключали перевод стрелки под составом или открытие семафора на занятый путь. Шлюз MITR в узле S3* образует такую же систему централизации, выполненную в формальной логике первого порядка.

4.3.2 Три неотчуждаемые функции человека, измеренные на рабочем сервере шлюза

На боевом вычислительном рабочем сервере шлюза эта кибернетическая конструкция реализована в виде работающего программного ядра, где труд человека сжат до трёх базовых актов:

Акт первый: Подписание правила как данных (Контракт вместо инструкции)

Вместо того чтобы писать в системном промпте ненадёжные текстовые уговоры («пожалуйста, не переводи деньги непроверенным контрагентам и не разглашай персональные данные»), человек-специалист формулирует и подписывает контракт как структуру данных. В репозитории MITR/policies/contracts/ на октябрь 2026 года действуют 19 формализованных контрактов. Примером такого правила служит инвариант защиты персональных данных по требованиям 152-ФЗ в исходящих сообщениях корпоративного агента-Секретаря, запрет на деструктивные системные вызовы удаления баз данных и жёсткие финансовые потолки транзакций.

Когда агент формирует намерение совершить действие, вызов перехватывается модулем core/verification/z3_gate.py. Параметры вызова и условия подписанного человеком контракта подаются на вход SMT-решателя Z3. Семантика проверки строго математическая:

–

Допуск действия к исполнению эквивалентен результату

UNSAT

— решатель формально доказывает, что пересечение параметров запрошенного действия с множеством запрещённых состояний пусто (нарушение контракта невыполнимо).

–

Блокировка действия эквивалентна результату

SAT

— решатель находит конкретный контрпример, при котором инвариант безопасности нарушается, останавливает вызов и возвращает структурированные условия починки.

Производительность этого «усилителя регуляции» по Эшби полностью снимает проблему когнитивной перегрузки человека. Медианное время принятия решения самим решателем составляет 0,74 мс, а время вызова шлюза вместе с объяснением решения — 3,3 мс на обычном центральном процессоре (CPU) без графических ускорителей (GPU). Человек тратит час на выверку и подписание правила; машина применяет его за доли миллисекунды миллионы раз подряд.

Акт второй: Единоличное удержание криптографических ключей

Популярные локальные и облачные агенты 2026 года — такие как открытый проект OpenClaw, набравший около 380 000 звёзд на GitHub к августу 2026 года при наличии более 13 000 подключаемых навыков в каталоге ClawHub (документация OpenClaw и отраслевые обзоры, август 2026), или Hermes Agent от Nous Research. Релиз Nous Research, февраль 2026. По своей базовой конструкции выполняют реальные команды командной оболочки, управляют браузерами и мессенджерами. При этом каталог навыков OpenClaw признан в индустрии одним из наиболее подверженных внедрению вредоносных расширений. При этом среди 1 412 просканированных публичных серверов MCP с определимым способом аутентификации 38,7 % вообще работают без неё (данные сканирования Bloomberry, февраль 2026 года).

В конструкции MITR действует жёсткая аксиома разделения полномочий: у агента нет своих ключей, у агента есть только просьбы. Токены доступа к боевым базам данных, ключи API банковских шлюзов и закрытые ключи электронной подписи отчуждены от среды исполнения агента и хранятся исключительно в защищённом периметре шлюза S3*. Даже если языковая модель будет полностью скомпрометирована через косвенную инъекцию в текст входящего письма, в устройстве, к которому идёт MITR, агент не может предъявить токен базе данных напрямую — он вынужден подать структурированную заявку в шлюз. Там решатель z3_gate.py за доли миллисекунды отвергнет деструктивный вызов (на 09.10.2026 это предложение прибор называет неправдой).

Акт третий: Капитализация ответственности через цепь квитанций

Юридическая ответственность директора по ст. 53.1 ГК РФ и профессиональная репутация специалиста требуют сверх самой безопасной работы ещё и отчуждаемого, неопровержимого доказательства того, что каждый допущенный шаг соответствовал подписанному правилу, а каждый опасный шаг был своевременно остановлен.

В ядре MITR каждое решение решателя — как положительное (UNSAT, допуск), так и отрицательное (SAT, блокировка), шлюз оформляет криптографической квитанцией. Квитанции связываются в непрерывную хэш-цепь по алгоритму SHA-256, а головы эпох этой цепи фиксируются у внешнего независимого свидетеля через протокол OpenTimestamps в сети Bitcoin (anchor_chains.py).

В апреле–сентябре 2026 года в Инженерный совет интернета (IETF) были поданы индивидуальные черновики (Internet-Drafts, не стандарты и не документы рабочих групп) Execution Outcome Attestation (04.04.2026, срок истёк 06.10.2026) и Enforcement Attestation Receipts for AI Inference Decisions (draft-chueayen-attestation-receipts, редакции июля–сентября 2026 года), описывающие близкий класс объектов. Подписанные квитанции решения, проверяемые третьей стороной в автономном режиме без доверия к оператору (архив IETF, 2026; статус — черновики). При этом действующая цепь квитанций MITR на рабочем сервере шлюза повторена проверщиком, написанным для постороннего (verify_chain_standalone.py --replay). 5053 Решения из 5053 без расхождений. Контрольный прогон на стенде на рабочем сервере шлюза, 24.10.2026; на 14.10 — 4958 из 4958, на 30.09, 1602 из 1602; сторонний проверяющий повтор ещё не делал.

4.3.3 Масштабирование человеческого труда: самоулучшение под доказательством (С1)

Возникает закономерный вопрос: если бизнес-среда постоянно меняется, не превратится ли ручное написание контрактов для шлюза в новое узкое горлышко для человека?

Ответ на этот вопрос уже реализован в механизме управляемого расширения словаря и правил (С1, скрипт mitr_vocab.py). В отличие от бесконтрольного «самоулучшения» агентных систем класса Hermes Agent, где модель переписывает собственные инструкции без формальной верификации, в MITR процесс автоматизирован строго вокруг доказательства:

Когда в шлюз поступает вызов с нераспознанными параметрами (доля нераспознанных действий — 27,8 % по первой выборке внутреннего периметра за 16–26 сентября и 32 % во второй выборке внутреннего периметра за 9 октября 2026 года при целевом показателе 0 %), система не пропускает его вслепую, а фиксирует структуру вызова.

Аналитический периметр самого MITR формирует проект нового правила (кандидат в словарь и контракт) и проверяет его на непротиворечивость существующим инвариантам.

Первое правило, предложенное самим комплексом MITR, уже прошло формальную верификацию и было принято в рабочий периметр с оформлением квитанции № 305 (журнал квитанций рабочего сервера шлюза).

В итоге достигаются первые два свойства идеального конечного результата: система сама подготавливает формализацию новых видов труда, оставляя человеку на уровне S5 лишь финальную криптографическую визу.

4.4 Ближний инженерный рубеж: ворота приёмки 2026–2027

Дисциплина инженерной честности требует провести чёткую демаркационную линию между тем, что уже доказано и измерено в механизме ядра на рабочем сервере шлюза. Тем, что находится в стадии набора эксплуатационной статистики осенью–зимой 2026–2027 годов.

На дату контрольного среза 09.10.2026 беспристрастный прибор самопроверки gate_mode_report.py --six фиксировал 1 из 6 (в запрете работал 1 класс из 7 при 2 живых арендаторах из 7). При этом к 24.10.2026 после закрытия всех инженерных рубежей шести базовых рубежей прибор фиксирует «правда 6 из 6 — неправда 0, не измерено 0». Все 20 контрактов и 6 основных классов действий переведены в режим жёсткого автоматического блокирования (запрет).

Перевод человека из позиции тревожного наблюдателя в позицию полностью защищённого субъекта S5 опирается на четыре последовательных инженерных рубежа (ворот приёмки), которые строятся и сдаются исключительно по показаниям автоматических скриптов:

Ворота Р2а — непрерывная эксплуатационная серия внутренних арендаторов. Машинный критерий приёмки: 14 суток подряд без единого разрыва, в течение которых через шлюз проходит не менее ≥ 50 проверок действий в сутки минимум от ≥ 2 независимых арендаторов (корпоративных станций и агента-Секретаря) при строгом условии 0 обходов шлюза (мимо хука). На 9 октября 2026 года счётчик непрерывной серии Р2а находится на отметке 0 из 14 суток; приёмку ведёт скрипт gate_mode_report.py --tenants.

Ворота «Шесть из шести» и перевод лестницы от совета к запрету. Машинный критерий приёмки: поочерёдный перевод остальных шести классов действий из уведомительного режима совет в блокирующий режим запрет по мере того, как измеренная на реальном трафике доля ложных блокировок опускается ниже допустимого порога. Удержание зелёного статуса всех шести критериев в выводе gate_mode_report.py --six на протяжении 14 суток подряд. Одновременно по задаче С1 доля нераспознанных действий будет сведена к целевому значению 0 % (на 9 октября во второй выборке внутреннего периметра — 32 %).

Ворота A–E испытательного полигона INDRA. Машинный критерий приёмки: чтобы человек-проектировщик не выдумывал правила из головы, полигон INDRA (уровень S4), изолированный по принципу чистой комнаты (clean-room) и входящий в проверяемую систему исключительно через внешнюю дверь арендатора (MCP / REST), проведёт автоматизированные серии атак на размеченном стенде. 25 октября 2026 года пройдена приёмка полигона INDRA на внутреннем стенде из 28 сценариев. 12 Критериев из 12 по воротам A–E; на 30 сентября было 0 из 5; статус проекта протокол приёмки полигона INDRA, 30.09.2026. Все показатели точности и полноты обнаружения войдут в паспорт системы только из машинных артефактов приёмочного скрипта kit-acceptance.py. Каждая уязвимость, вскрытая полигоном INDRA, будет автоматически компилироваться в проект нового контракта для MITR, замыкая иммунную петлю S4 — S3* под подпись человека в S5.

Ворота Х5 — подключение первого внешнего профессионального периметра. Машинный критерий приёмки: внешняя команда разработки, использующая кодовых или операционных агентов (Claude Code, Cursor, OpenClaw), подключает свой рабочий поток к шлюзу MITR по собственному токену и отрабатывает непрерывную серию в 14 суток, фиксируемую отдельной строкой в отчёте gate_mode_report.py --tenants.

Только прохождение этих четырёх рубежей превращает лабораторно доказанный механизм в тиражируемый промышленный стандарт рабочего места 2027 года.

4.5 Проекция 2035: три ветви будущего и инвариантность решения

Взгляд на горизонт 2035 года упирается в небывалый в истории экономической науки разброс макроэкономических оценок. С одной стороны, макроэкономическая модель GATE исследовательского института Epoch AI показывает, что при автоматизации всего 30 % задач в экономике темпы роста валового продукта способны превысить 20 % в год за счёт снятия кадрового дефицита и самовоспроизводства капитала. Прогноз: Epoch AI, GATE, 21.03.2025; «AI and explosive growth redux», 06.2025. С другой стороны, нобелевский лауреат по экономике Дарон Асемоглу оценивает совокупный прирост ВВП от внедрения искусственного интеллекта на десятилетнем горизонте величиной около 1 % (не более 2 %; прогноз: Д. Асемоглу, «The Simple Macroeconomics of AI», NBER WP 32487, 05.2024).

Десятикратное расхождение между ведущими моделями — это точная количественная мера незнания относительно скорости диффузии технологии. Именно поэтому ведущие мировые центры уже перешли от точечных пророчеств к сценарному проектированию институциональных амортизаторов. Программа Anthropic Economic Futures (запущена 27.06.2025; исследовательский фонд в $200 млн объявлен 10.06.2026) в записке «Preparing for AI's economic impact» от 14.10.2025 обсуждает трёхуровневую сетку возможных мер экономической политики: при любом темпе — ускоренная переподготовка кадров и снятие регуляторных барьеров на строительство ЦОД и электросетей; при умеренных сдвигах, целевой налог на вычислительные мощности или сжигаемые токены; при стремительном вытеснении труда, формирование суверенных фондов национального благосостояния с прямыми долями в капитале ИИ-корпораций (Anthropic, записка от 14.10.2025 (идеи для изучения, не рекомендации); фонд $200 млн, 10.06.2026). В апреле 2026 года глава OpenAI Сэм Альтман заявил, что уже не верит в безусловный базовый доход (UBI) в денежной форме так, как раньше. Предложил коллективное владение «вычислениями, акциями или чем-то ещё» и общественный фонд благосостояния. Саму идею «универсального базового вычисления» (universal basic compute — доли вычислительной мощности для каждого) он высказал ещё в мае 2024 года (подкаст All-In, 05.2024; интервью С. Альтмана The Atlantic, 04.2026, по пересказу Business Insider; обзор Basic Income Earth Network, июль 2026). Параллельно в политическом поле США звучат предложения о передаче 50 % акций OpenAI, Anthropic и xAI в публичный суверенный фонд (колонка сенатора Б. Сандерса в The New York Times, 01.06.2026), а две некоммерческие организации (AI Commons Project и What We Will) с марта 2026 года ведут пилотную программу «дивиденда ИИ» (AI Dividend) с выплатой по $1 000 в месяц в течение года когорте из 25–50 работников [по сообщениям СМИ: Washington Examiner и DCD, 06.2026; Blood in the Machine (Б. Мерчант), 03.2026].

Чтобы стратегия человека и предприятия не зависела от того, кто окажется прав в споре между Epoch GATE и Асемоглу, перестройка труда к 2035 году раскладывается по трём эталонным ветвям (A, B, C) с жёсткими внешними реперами проверки.

4.5.1 Три сценария перестройки труда, дохода и ответственности к 2035 году

–

Ветвь A. «Нормальная технология» (медленная диффузия и институциональная инерция). Опирается на позицию А. Нараянана и С. Капура (

AI as Normal Technology

), Д. Асемоглу и Д. Хассабиса. Темпы прироста возможностей моделей замедляются, упираясь в сложность интеграции с устаревшими корпоративными системами.

–

Доля автоматизированного труда:

к 2035 году агенты исполняют около 15 % совокупного фонда рабочих часов (прогноз: ветвь A; репер: ежегодные отчёты McKinsey MGI и Anthropic Economic Index). При этом доля повседневных рабочих решений, принимаемых агентами полностью автономно, стабилизируется на уровне 10 % (прогноз: ветвь A; репер: ежегодные обзоры Gartner).

–

Вход в профессию (возрастная когорта 22–25 лет):

первоначальный шок 2026 года (−19 %) полностью преодолевается за счёт появления новых должностей по интеграции и сопровождению систем. Разрыв в занятости молодёжи возвращается к 0 % (прогноз: ветвь A; репер: ежегодные отчёты Stanford Digital Economy Lab).

bannerbanner