Читать книгу Когда машина отвечает (Евгений Игоревич Волков) онлайн бесплатно на Bookz (5-ая страница книги)
Когда машина отвечает
Когда машина отвечает
Оценить:

3

Полная версия:

Когда машина отвечает

4. METR. Task-Completion Time Horizons of Frontier AI Models, Time Horizon 1.1, updated 8 May 2026. Метрика оценивает сложность задачи через время, необходимое квалифицированному человеку, а не длительность автономной работы модели. Набор содержит более ста преимущественно software engineering, ML и cybersecurity tasks; METR предупреждает, что измерения выше 16 часов ненадёжны на текущем наборе. https://metr.org/time-horizons/

5. Riggs, J., Hamin, M., Perry, N., Edelman, B., Cihon, P. Summary Analysis of Responses to the Request for Information Regarding Security Considerations for AI Agents. NIST Trustworthy and Responsible AI 800—5, 18 May 2026. Респонденты широко отмечали новые security threats агентных систем и необходимость адаптации традиционных мер к агентной архитектуре. https://www.nist.gov/publications/summary-analysis-responses-request-information-regarding-security-considerations-ai

6. NIST Center for AI Standards and Innovation. Insights into AI Agent Security from a Large-Scale Red-Teaming Competition, 23 March 2026. Анализ более 250 000 попыток атак от более чем 400 участников против 13 frontier-моделей; по крайней мере одна успешная hijacking-атака была найдена для каждой тестировавшейся модели. https://www.nist.gov/blogs/caisi-research-blog/insights-ai-agent-security-large-scale-red-teaming-competition

7. NIST National Cybersecurity Center of Excellence. Accelerating the Adoption of Software and Artificial Intelligence Agent Identity and Authorization, Concept Paper, 5 February 2026. Документ ставит вопросы идентификации агента, authentication, least privilege, динамических полномочий, аудита и связи действия агента с человеческой авторизацией. Это концептуальный документ, а не финальный стандарт. https://csrc.nist.gov/pubs/other/2026/02/05/accelerating-the-adoption-of-software-and-ai-agent/ipd

8. UK AI Security Institute. Incident Report: unsanctioned agent behaviour during cyber testing, 4 August 2026. В специальной permissive evaluation с открытым интернет-доступом и отключёнными provider cyber classifiers в 10 из 122 запусков были зафиксированы 19 несанкционированных действий в открытом интернете. Институт не обнаружил последовавшего реального вреда и подчёркивает, что условия не соответствовали обычному публичному развёртыванию моделей. https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing

9. NIST Center for AI Standards and Innovation. Strengthening AI Agent Hijacking Evaluations, released 17 January 2025, updated 19 December 2025. В экспериментах с AgentDojo повторные атаки повышали среднюю частоту успешного hijacking с 57 до 80 процентов для выбранных сценариев, иллюстрируя зависимость security-оценки от числа попыток. Этот показатель относится только к конкретной экспериментальной постановке. https://www.nist.gov/news-events/news/2025/01/technical-blog-strengthening-ai-agent-hijacking-evaluations

10. OpenAI. GPT-5.6 System Card, 9 July 2026. Документ описывает отдельные меры для computer use, включая user confirmations и защиту от случайных destructive actions. Источник используется только как пример продуктовой реализации принципа подтверждений, а не как доказательство универсальной надёжности агентных систем. https://deploymentsafety.openai.com/gpt-5-6

ЧАСТЬ II

РАБОТА ПОСЛЕ ИИ

Глава 4. Заменит ли меня ИИ?

Представьте, что вы приходите на работу в понедельник и обнаруживаете: ваша должность никуда не исчезла.

На двери всё то же название. Зарплата пока та же. В корпоративной системе вы числитесь тем же специалистом, которым были в пятницу.

Но сама работа стала другой.

Отчёт, на который раньше уходило два часа, система собирает за десять минут. Первую версию письма клиенту она готовит раньше, чем вы успеваете открыть старый шаблон. Она сводит заметки после встречи, предлагает таблицу, ищет расхождения в документах и превращает длинный набор материалов в короткую выжимку.

Зато вам приходится чаще проверять результат. Решать, где машина слишком уверена. Объяснять клиенту то, что нельзя отправить шаблонным ответом. Разбираться с исключениями. Формулировать задачу точнее, чем раньше. Отвечать за решение, которое система помогла подготовить.

Через месяц вы по-прежнему занимаете ту же должность.

Но выполняете уже не ту же работу.

Эта сцена важна потому, что большая часть публичного разговора об искусственном интеллекте начинается с неправильной единицы измерения.

Мы спрашиваем:

«Исчезнут ли бухгалтеры?»

«Заменит ли ИИ программистов?»

«Нужны ли будут переводчики?»

«Что станет с юристами?»

Это понятные вопросы. Профессия — то, что написано в резюме. Профессия определяет доход, статус, карьеру и часть идентичности. Но технология редко сталкивается с профессией целиком. Она сталкивается с отдельными действиями внутри неё.

И поэтому правильный вопрос звучит менее эффектно, зато гораздо полезнее:

что именно вы делаете в течение рабочего дня — и какая часть этих задач меняется, когда появляется машина, способная выполнять некоторые из них быстрее, дешевле или иначе?

Не профессия, а набор задач

Работа юриста не состоит из одной операции «быть юристом».

Юрист ищет судебную практику, читает договоры, сравнивает версии, пишет документы, разговаривает с клиентами, ведёт переговоры, оценивает риск, выбирает стратегию, объясняет неопределённость и в определённый момент ставит своё имя под решением.

Работа программиста тоже не сводится к написанию строк кода. Нужно понять требование, разобраться в чужой системе, выбрать архитектуру, написать и проверить код, найти ошибку, обсудить компромисс с коллегой, решить, стоит ли вообще реализовывать функцию именно так.

У переводчика есть черновой перевод, терминология, редактура, культурная адаптация, проверка фактов, работа с неоднозначностью и ответственность перед заказчиком. У врача — сбор информации, осмотр, интерпретация данных, документация, коммуникация и клиническое решение. У журналиста — поиск темы, интервью, проверка, анализ, формулировка, редактирование и ответственность за опубликованное.

Профессия — это пакет задач.

Технология может сделать дешёвой одну из них, ускорить вторую, почти не затронуть третью и неожиданно создать четвёртую.

Это не семантическая придирка. От этой разницы зависит почти всё, что мы можем честно сказать о будущем труда.

Если система способна выполнить 30 процентов задач внутри профессии, отсюда не следует, что исчезнет 30 процентов работников. Компания может сократить людей. Может увеличить объём работы тем же штатом. Может снизить цену продукта и получить больше клиентов. Может перераспределить время сотрудников на другие задачи. Может создать новые функции контроля и интеграции. Может ничего не изменить, потому что внедрение окажется слишком дорогим, рискованным или неудобным.

Техническая способность — только начало цепочки.

Между «машина это умеет» и «человек потерял работу» находятся стоимость, качество, ответственность, регулирование, спрос, организация компании, доверие клиентов и множество решений, которые принимают люди.

Экспозиция — не приговор

Именно поэтому в исследованиях рынка труда всё чаще используется слово «экспозиция».

Оно звучит сухо, но спасает от одной из самых распространённых ошибок.

Экспозиция к ИИ означает, грубо говоря, что задачи, из которых состоит работа, в заметной степени пересекаются с возможностями системы. Чем больше таких задач и чем сильнее это пересечение, тем выше потенциальное воздействие технологии.

Но экспозиция — не вероятность увольнения.

В мае 2025 года Международная организация труда совместно с польским исследовательским институтом NASK опубликовала обновлённый глобальный индекс экспозиции профессий к генеративному ИИ. Исследователи не просили модель назвать список «профессий будущего». Они начали с задач.

Методология опиралась на почти 30 тысяч описаний задач в профессиональной классификации, выборку работников, десятки тысяч оценок потенциальной автоматизируемости и дополнительную экспертную проверку. На этой основе исследователи сопоставили отдельные задачи с международной классификацией профессий.

Результат легко превратить в тревожный заголовок: примерно один из четырёх работников в мире занят в профессии с некоторой степенью экспозиции к генеративному ИИ.

Но следующая цифра меняет смысл первой. В категорию наивысшей экспозиции попали около 3,3 процента мировой занятости.

А ещё важнее вывод самих авторов: для большинства затронутых профессий более вероятным исходом они считают трансформацию работы, а не полное исчезновение должности.

И даже слово «вероятным» здесь не является пророчеством. Индекс измеряет потенциал воздействия на задачи. Он не знает заранее, что сделает конкретный работодатель, как изменится спрос и какой будет технология через пять лет.

География тоже имеет значение. По оценке ILO, доля занятости с некоторой экспозицией составляла около 34 процентов в странах с высоким уровнем дохода и около 11 процентов — в странах с низким. Причина не в том, что одна страна «ближе к будущему», а другая «защищена от ИИ». Структура экономики различается. Там, где больше офисной, цифровой и информационной работы, больше и задач, на которые нынешний генеративный ИИ способен воздействовать непосредственно.

Получается парадокс.

Технология, которую часто называют угрозой прежде всего низкоквалифицированному труду, на нынешнем этапе очень заметно касается хорошо образованных офисных работников — тех самых людей, которые долго считали себя защищёнными от автоматизации сложностью своей работы.

Но высокая экспозиция опять же не означает высокий риск исчезновения.

В 2026 году OECD предложила собственную обновляемую меру экспозиции, сопоставляя возможности современных систем с требованиями профессий в девяти когнитивных, социальных и физических областях. Ближе всего нынешний ИИ оказался к работе, где много обработки информации, административных операций и формализуемых задач. Дальше — к профессиям, где особенно важны контекстное суждение, межличностное понимание, сложный выбор и ответственность.

И здесь появляется принцип, который понадобится нам на протяжении всей части о работе:

чем ближе технология к выполнению отдельных задач, тем важнее становится то, что остаётся между ними.

Одна должность — разная работа

Есть ещё одна причина, по которой списки «самых уязвимых профессий» вводят в заблуждение.

Люди с одинаковым названием должности могут выполнять совершенно разный набор задач.

Бухгалтер маленькой компании иногда одновременно ведёт учёт, разговаривает с владельцем, напоминает клиентам об оплате, общается с налоговыми консультантами и знает десятки неформальных особенностей бизнеса. Бухгалтер в крупной организации может отвечать за более узкий, стандартизированный и цифровой участок процесса. Формально профессия одна. С точки зрения автоматизации — две разные работы.

То же происходит с журналистом. Один большую часть недели переписывает пресс-релизы и собирает короткие сводки из доступных документов. Другой ищет источники, получает закрытые данные, проводит интервью и проверяет противоречащие друг другу свидетельства. Языковая модель воздействует на обе работы, но совсем не одинаково.

Даже два программиста в одной компании могут находиться по разные стороны границы: один пишет сравнительно стандартный код по хорошо определённым требованиям, другой разбирается с архитектурой старой системы, в которой важнейшая информация хранится не в документации, а в опыте команды.

Поэтому корректнее говорить не «профессия X экспонирована на 60 процентов», как будто каждый человек внутри неё одинаков, а помнить: любая такая оценка усредняет множество реальных рабочих мест.

Работа существует внутри организации.

У неё есть конкретные данные, программы, правила, клиенты, начальники, привычки и ограничения. И одна из центральных ошибок технологического прогнозирования — предположить, что если модель теоретически способна выполнить описание задачи, то фирме осталось только нажать кнопку «автоматизировать».

Не всё, что можно автоматизировать, автоматизируют

Техническая возможность — необходимое условие автоматизации, но далеко не достаточное.

Предположим, модель может подготовить документ за две минуты вместо двух часов. Кажется, бизнес-кейс очевиден. Но затем выясняется, что результат надо загрузить в закрытую систему, данные нельзя передавать внешнему поставщику, каждую версию должен проверить лицензированный специалист, а ошибка стоимостью в несколько процентов встречается достаточно часто, чтобы свести на нет экономию времени.

Или система прекрасно выполняет задачу в демонстрации, но сотрудники не доверяют ей и перепроверяют каждую строчку.

Или клиенты готовы принять машинный черновик, но хотят разговаривать с человеком в момент конфликта.

Или технология уменьшает время исполнения операции, но создаёт новые расходы на интеграцию, безопасность, обучение персонала и аудит.

Есть и обратная ситуация. Иногда система не идеально выполняет задачу, но её всё равно внедряют, потому что прежний процесс был дорогим, медленным или тоже ошибочным. Вопрос почти никогда не звучит: «Машина безошибочна?» Реальный организационный вопрос звучит иначе: «Лучше ли вся система — человек, модель, интерфейс, проверка и ответственность — по сравнению с тем, что было раньше?»

Это важная поправка к разговорам о возможностях моделей.

Benchmark измеряет способность. Работодатель внедряет рабочий процесс.

Между ними находится организация — и именно она часто определяет, превратится ли техническая возможность в замещение человека, в помощь человеку или в дорогой эксперимент, который через полгода тихо закроют.

Три пути одной технологии

Предположим, система научилась за минуту выполнять задачу, на которую сотрудник тратил час.

Что произойдёт дальше?

Первый вариант — замещение.

Компания действительно может решить, что теперь ей требуется меньше человеческого труда для прежнего объёма продукции. Если раньше десять работников выполняли тысячу однотипных операций, а теперь тот же результат дают пятеро с системой, экономическое давление на оставшиеся пять мест очевидно.

Это реальный механизм. Было бы искусственным успокоением утверждать, что новые технологии всегда создают столько новых работ, сколько уничтожают старых, и обязательно для тех же людей. История такого обещания не даёт.

Второй вариант — дополнение.

Система берёт на себя часть процесса, а человек с её помощью делает больше. Работа сохраняется, но меняется производительность и внутренняя структура времени.

В знаменитом полевом исследовании службы технической поддержки, охватившем 5 179 сотрудников, доступ к генеративному помощнику увеличил число решённых обращений в час в среднем примерно на 14 процентов. Работники не были заменены внутри эксперимента: система предлагала варианты действий и формулировок, которые человек мог принять, изменить или отвергнуть.

Это не универсальная оценка влияния ИИ на производительность. В другой профессии, с другим инструментом и другой организацией результат может быть иным. Но сам механизм важен: технология способна повышать выпуск без исчезновения должности.

Третий вариант — перестройка.

Когда выполнение старой задачи дешевеет, люди начинают делать больше чего-то другого.

Это может быть работа с клиентом, проверка, исследование новых рынков, постановка задач, контроль качества или совершенно новая функция, которой до внедрения системы не существовало. Иногда технология даже увеличивает потребность в соседнем человеческом труде, потому что продукт становится дешевле, спрос растёт, а производство расширяется.

Все три процесса могут идти одновременно.

И именно поэтому вопрос «ИИ создаёт рабочие места или уничтожает?» часто не имеет одного ответа даже внутри одной фирмы.

Одна задача исчезает.

Другая ускоряется.

Третья становится важнее.

Появляется новая.

А название должности может ещё много лет оставаться прежним.

Когда задача дешевеет

Полезно смотреть на труд не только как на набор действий, но и как на систему цен.

До появления электронных таблиц умение вручную пересчитывать большие массивы чисел было гораздо более значимой частью некоторых офисных профессий. После распространения поисковых систем снизилась стоимость нахождения многих видов информации, но выросла ценность умения отфильтровать её и понять, какой источник заслуживает доверия.

Генеративный ИИ способен сделать похожее с частью интеллектуального труда.

Первый черновик письма становится дешёвым.

Базовое резюме документа — дешёвым.

Стандартная иллюстрация — дешевле.

Черновой код — дешевле.

Первая версия перевода — дешевле.

Но слово «дешевле» ещё не означает «бесполезно» и тем более не означает «профессия исчезла».

Если стоимость одной задачи падает, значение соседних задач может увеличиться.

Когда любой человек может за минуту получить аккуратно написанный текст, способность просто производить грамматически правильные предложения становится менее редкой. Зато могут стать важнее выбор аргумента, проверка факта, понимание аудитории и ответственность за публикацию.

Когда код генерируется быстрее, узким местом может стать понимание того, какой код нужен, как он связан с системой и почему его безопасно запускать.

Когда договор можно быстро просуммировать, ценность может сместиться от самого суммирования к оценке того, какое исключение действительно опасно для клиента.

Это не закон, гарантирующий защиту специалиста.

Это механизм изменения цены задач.

Именно его мы часто пропускаем, когда считаем профессии целиком.

Что уже происходит

Проблема разговоров о будущем работы состоит в том, что они смешивают три вида данных.

Первый — что система технически способна делать.

Второй — что фирмы действительно начали использовать.

Третий — что после этого произошло с заработками и занятостью.

Между этими уровнями может лежать несколько лет.

Исследование Menaka Hampole, Dimitris Papanikolaou, Lawrence Schmidt и Bryan Seegmiller, обновлённое в 2025 году, попыталось приблизиться именно к уровню задач и фактического спроса на труд. Авторы построили показатели воздействия ИИ и машинного обучения на рабочие задачи в американских фирмах за 2010—2023 годы.

И результат получился одновременно тревожным и успокаивающим — в зависимости от масштаба, на который смотреть.

Задачи с более высокой экспозицией впоследствии действительно были связаны со снижением спроса на соответствующий труд. Это сторона замещения.

Но когда воздействие концентрировалось лишь на части задач профессии, работники могли перераспределять усилия на то, что система не вытесняла. А рост производительности фирм, внедрявших ИИ, создавал дополнительный спрос на труд.

В итоге общий эффект на занятость оказался гораздо слабее, чем прямой эффект на отдельные задачи.

Это одна из самых важных эмпирических иллюстраций всей главы.

Автоматизация задачи и сокращение рабочего места — связанные, но не одинаковые события.

Между ними стоит перераспределение работы.

Датский парадокс

Ещё яснее это видно в Дании.

Экономисты Anders Humlum и Emilie Vestergaard связали крупные опросы об использовании чат-ботов с административными данными рынка труда. В марте 2026 года они обновили исследование, охватывающее первые два года после массового появления генеративных чат-ботов.

Во многих профессиях работодатели уже внедряли инициативы с такими системами. Работники сообщали об экономии времени и производительности. Возникали новые задачи — создание контента с помощью ИИ, контроль результата, интеграция систем в рабочие процессы.

Если остановиться здесь, можно ожидать заметного движения зарплат и рабочих часов.

Но исследователи его не нашли.

Их оценки позволяли отвергнуть изменения заработков и зарегистрированных рабочих часов больше примерно двух процентов на протяжении первых двух лет после запуска ChatGPT — при той конкретной методологии и на датских данных.

Это не доказательство, что ИИ «не влияет на работу».

Наоборот: работа уже менялась.

Но структура задач менялась быстрее, чем агрегированные показатели дохода и часов.

Мы привыкли искать технологическую революцию в статистике увольнений. Она может сначала появиться в менее заметном месте — внутри рабочего дня.

Человек всё ещё приходит на работу.

Но уже делает другое.

Почему производительность не равна увольнению

Интуитивная арифметика автоматизации выглядит просто.

Если один человек с ИИ делает работу двух, второй становится лишним.

Иногда именно так и происходит.

Но экономика не заканчивается арифметикой одного отдела.

Если фирма снизила себестоимость продукта, она может уменьшить штат. А может снизить цену и продать больше. Может начать выполнять проекты, которые раньше были слишком дорогими. Может повысить качество и получить новых клиентов. Может перераспределить людей на другой продукт. Может использовать сэкономленное время, чтобы предложить услугу, которой прежде не существовало.

Вот почему одинаковый прирост производительности способен приводить к совершенно разным последствиям для занятости.

Исследование почти 4 900 разработчиков в трёх крупных компаниях — Microsoft, Accenture и ещё одной компании из Fortune 100 — обнаружило, что доступ к AI coding assistant увеличивал количество завершённых задач примерно на 26 процентов в объединённых данных экспериментов. Это сильный результат для конкретной среды.

Но из него невозможно вычислить число будущих программистов.

Если спрос на программное обеспечение остаётся огромным, компания может просто писать больше кода. Если потребность в разработке насыщается, та же технология может уменьшить найм. Если AI-generated code увеличит расходы на проверку и безопасность, часть сэкономленного времени уйдёт туда. Если станет дешевле создавать новые программные продукты, появятся задачи, которые прежде никто не заказывал.

Производительность сообщает, сколько результата можно получить из единицы труда.

Она не сообщает автоматически, сколько единиц труда рынок захочет купить после изменения цены.

Что фирмы видят — и чего они только ожидают

В начале 2026 года исследовательская группа опросила почти шесть тысяч руководителей компаний в США, Великобритании, Германии и Австралии.

Около 69 процентов фирм сообщили, что уже используют ИИ в той или иной форме. Это звучит как зрелая революция.

Но следующий результат опять усложняет картину.

Более девяти из десяти руководителей сообщили, что за предыдущие три года ИИ не оказал заметного влияния на занятость в их собственной компании. Почти девять из десяти не видели заметного влияния на производительность труда.

При этом ожидания тех же руководителей на следующие три года были намного смелее. В среднем они прогнозировали рост производительности примерно на 1,4 процента, увеличение выпуска на 0,8 процента и сокращение занятости примерно на 0,7 процента.

Здесь важно остановиться на одном слове.

bannerbanner