Когда машина отвечает

Когда машина отвечает

Евгений Игоревич Волков

© Евгений Игоревич Волков, 2026

ISBN 978-5-0071-2682-3

Создано в интеллектуальной издательской системе Ridero

КОГДА МАШИНА ОТВЕЧАЕТ

Как искусственный интеллект меняет работу, любовь, образование, правду — и нас самих

Об актуальности данных

Фактические сведения, законодательство, исследования и данные о возможностях ИИ-систем проверены по состоянию на 3 сентября 2026 года, если в тексте прямо не указана иная дата. Сфера искусственного интеллекта быстро меняется, поэтому отдельные показатели, возможности продуктов и правовые нормы могут быть обновлены после публикации книги.

Книга носит научно-популярный и информационный характер. Она не является медицинской, психологической, юридической или финансовой консультацией. При принятии решений в соответствующих областях следует обращаться к актуальным официальным источникам и квалифицированным специалистам.

ЧАСТЬ I

МАШИНА, КОТОРАЯ НАУЧИЛАСЬ ОТВЕЧАТЬ

Глава 1. Это действительно интеллект?

В 2025 году одна из ведущих систем искусственного интеллекта показала результат уровня золотой медали на задачах Международной математической олимпиады. Для человека это звучит почти как окончательное доказательство: если машина способна решать задачи, над которыми лучшие школьные математики мира работают часами, что ещё нужно, чтобы признать её разумной?

А затем возникает другая проверка.

На ClockBench — наборе задач, где требуется прочитать время на обычных аналоговых часах, — лучший результат, приведённый Stanford AI Index 2026, составлял 50,6 процента. Люди справлялись в 90,1 процента случаев. В другом классе испытаний современные агенты уже могли выполнять многие действия на компьютере, но на OSWorld, где нужно работать с реальными интерфейсами операционных систем и приложений, лучший результат составлял 66,3 процента. Примерно в одной трети попыток система всё ещё не доводила структурированную задачу до успеха.

Золотая медаль по математике. Ошибка на циферблате.

Сложная профессиональная задача. Нелепый провал там, где человек почти не задумывается.

Это не курьёз и не временная неловкость, которую стоит просто переждать до следующего обновления. Это одна из самых важных особенностей нынешнего искусственного интеллекта: его профиль способностей устроен не так, как человеческий. Международный доклад по безопасности ИИ 2026 года использует для этого слово jagged — «неровный», «зазубренный». Система может демонстрировать впечатляющую компетентность в одной области и внезапно проваливаться в другой, которая человеку кажется проще.

И именно поэтому вопрос «Это действительно интеллект?» оказывается гораздо труднее, чем кажется.

Мы привыкли распознавать интеллект по косвенным признакам. Человек быстро решает сложные задачи — вероятно, он хорошо понимает предмет. Свободно говорит — вероятно, владеет языком. Пишет убедительное эссе — вероятно, способен рассуждать. Объясняет шутку — вероятно, понимает контекст. Делает всё это сразу — мы почти автоматически начинаем предполагать за внешним поведением внутренний ум, похожий на наш.

С машиной этот переход может быть ошибочным.

Чтобы понять почему, сначала придётся отказаться от одной удобной иллюзии: искусственный интеллект — это не одна технология и тем более не одно цифровое существо.

Слишком большое слово

Если попросить десять человек объяснить, что такое искусственный интеллект, можно получить десять разных ответов.

Для одного это чат-бот. Для другого — беспилотный автомобиль. Для третьего — программа, которая распознаёт опухоль на снимке. Для четвёртого — система рекомендаций в видеосервисе. Для пятого — генератор изображений. Кто-то вспомнит шахматный компьютер, кто-то — робота, кто-то — алгоритм, решающий, какую рекламу показать.

Все эти примеры могут относиться к ИИ, но устроены они по-разному и решают разные задачи.

Поэтому полезнее начать не с философии, а с рабочего определения. Организация экономического сотрудничества и развития — OECD — в обновлённой формулировке описывает AI-систему как машинную систему, которая на основе получаемых входных данных делает вывод о том, как создавать прогнозы, контент, рекомендации или решения, способные влиять на физическую или виртуальную среду. Такие системы различаются по степени автономности и по способности адаптироваться после развёртывания.

В этом определении нет ни сознания, ни «электронного мозга», ни обещания мыслить как человек.

И это важно.

Термин «искусственный интеллект» исторически получился гораздо более антропоморфным, чем многие реальные технологии, которые под него попадают. Когда мы слышим «искусственная кожа», мы не предполагаем, что материал чувствует прикосновение. Когда слышим «искусственный спутник», не ожидаем, что он подобен Луне во всех свойствах. Но слово «интеллект» почти неизбежно провоцирует вопрос: если он искусственный, то насколько он похож на мой?

Иногда — совсем не похож.

Обычный алгоритм можно представить как подробную инструкцию. Если произошло А, сделай Б. Если число больше порога, выбери один вариант; если меньше — другой. Такие алгоритмы окружают нас давно, и сами по себе они не обязательно относятся к тому, что сегодня называют современным ИИ.

Машинное обучение меняет подход. Разработчик не обязан заранее перечислить все правила, по которым система должна распознавать каждую фотографию кошки, оценивать кредитный риск или продолжать текст. Вместо этого задаётся процесс обучения на данных: система настраивает большое количество внутренних параметров так, чтобы всё лучше выполнять выбранную задачу.

Проще говоря, в традиционной программе человек старается записать правила.

В машинном обучении человек во многом организует процесс, в котором правила выражаются через параметры, найденные из данных.

Это различие не означает, что машина «учится» так же, как ребёнок. Слово здесь техническое. Ребёнок может связать новое знание с личным опытом, телом, мотивацией, социальными отношениями и целями. Обучение модели — вычислительный процесс оптимизации параметров. Одинаковый глагол не делает процессы одинаковыми.

Нейронная сеть — не маленький мозг

Ещё одно название, которое легко вводит в заблуждение, — «нейронная сеть».

Современная нейросеть состоит из математических операций и настраиваемых параметров. Историческое вдохновение действительно связано с идеей нервных клеток и связей между ними, но сходство не следует понимать буквально. Биологический мозг — не просто огромная версия сегодняшней нейросети, а сегодняшняя нейросеть — не цифровая копия мозга.

Полезнее думать о ней как о системе с множеством регулируемых коэффициентов.

Во время обучения модель получает примеры. Затем вычисляется, насколько её результат отличается от требуемого. Параметры понемногу корректируются. Этот процесс повторяется огромное количество раз.

После обучения появляется модель — математическая структура, в параметрах которой закреплены закономерности, извлечённые из обучающих данных.

Здесь важно различать два слова, которые будут встречаться дальше.

Training — обучение модели. Это длительный процесс настройки параметров.

Inference — использование уже обученной модели для получения конкретного результата: ответа, изображения, прогноза, фрагмента кода.

Когда человек задаёт вопрос готовой языковой модели, она обычно не «переучивается с нуля» на этом вопросе. Она выполняет inference: использует уже сформированные параметры вместе с текущим контекстом, чтобы вычислить выход.

Для широкой дискуссии об ИИ это различие важнее, чем кажется. Экономика создания модели и экономика её повседневного использования — не одно и то же. Данные, необходимые для обучения, и данные, передаваемые при конкретном использовании, — тоже не одно и то же. Позже это станет принципиальным для разговоров об авторском праве, приватности, энергии и власти.

Но сначала нужно понять, почему нынешние системы так хорошо работают с языком.

Машина продолжает — человек видит ответ

Большие языковые модели, LLM, обучаются работать с последовательностями.

Популярное упрощение звучит так: языковая модель предсказывает следующий элемент текста.

Это верно как отправная точка и недостаточно как полное описание современной системы.

Текст сначала представляется не как слова в человеческом смысле, а как последовательность токенов — фрагментов, которыми модель оперирует вычислительно. Получив контекст, модель оценивает, какие продолжения вероятны, выбирает следующий токен, затем повторяет процесс. Но способность хорошо предсказывать продолжения на огромном количестве разнообразных данных приводит к гораздо более широким возможностям, чем автодополнение одного предложения.

Чтобы продолжить юридический анализ, нужно уловить структуру аргумента.

Чтобы продолжить программный код, нужно учитывать синтаксис и зависимости.

Чтобы ответить на вопрос по тексту, нужно связать разные части контекста.

Чтобы перевести абзац, нужно сохранить отношения между смыслами.

Чтобы решить математическую задачу, системе приходится производить последовательность промежуточных операций, хотя качество таких операций зависит от модели, задачи и способа её использования.

И вот здесь возникает когнитивная ловушка.

Если система продолжает текст настолько хорошо, что результат похож на рассуждение, человеку очень трудно не сделать следующий шаг: «Она рассуждает так же, как мы».

Из поведения этот вывод автоматически не следует.

Но и противоположное упрощение — «она всего лишь угадывает следующее слово, следовательно, ничего сложного здесь нет» — тоже мало что объясняет. Самолёт «всего лишь» создаёт аэродинамические силы, но эта фраза не описывает практическую значимость полёта. Вопрос не в том, можно ли свести процесс к физическим или математическим операциям. Любой человеческий процесс тоже имеет физическую основу. Вопрос в том, какие устойчивые способности возникают из этих операций, как они обобщаются на новые ситуации и где ломаются.

Современная языковая модель — не база заранее заготовленных реплик. Её полезность именно в том, что она способна формировать новый выход для нового контекста.

Но «новый» не значит созданный из пустоты.

Модель обучалась на данных. Её параметры настроены под закономерности этих данных. Она не извлекает каждый ответ из готовой карточки, но и не существует отдельно от культурного, научного и технического материала, на котором строилось обучение.

Это станет одним из центральных конфликтов главы об авторском праве.

Что изменил transformer

В 2017 году исследователи опубликовали работу с названием «Attention Is All You Need». В ней была предложена архитектура transformer, оказавшая огромное влияние на развитие языковых моделей.

Для понимания этой книги не нужно знать её формулы.

Нужно понять одну идею.

В языке значение элемента часто зависит от других элементов, расположенных далеко от него. В предложении местоимение может относиться к существительному несколькими строками раньше. В договоре условие в одном пункте меняет смысл другого. В программном коде объявление переменной связано с использованием ниже. В длинном вопросе ключевая оговорка может появиться в самом начале.

Механизм attention позволяет модели вычислительно учитывать отношения между элементами контекста: грубо говоря, определять, на какие части входа особенно важно опереться при обработке текущего элемента.

Transformer не является магическим «модулем понимания». Он представляет собой инженерную архитектуру, благодаря которой стало возможно эффективно обучать мощные модели на больших объёмах данных и работать с контекстом. Современные системы добавляют к базовой идее множество других компонентов: большие обучающие наборы, масштабные вычисления, последующее обучение, обратную связь, использование инструментов и дополнительные методы, позволяющие тратить больше вычислений на сложные ответы.

Поэтому попытка объяснить весь нынешний ИИ одной фразой «это transformer» столь же неполна, как попытка объяснить современный автомобиль словом «двигатель».

Архитектура важна. Система вокруг неё — не меньше.

Модель и система — не одно и то же

Это различие особенно легко потерять из-за интерфейса.

Пользователь видит одно окно и одного «собеседника». За ним может находиться не только модель.

AI-модель можно представить как вычислительное ядро. AI-система включает модель и то, что построено вокруг неё: правила, интерфейс, фильтры, базы данных, поисковые механизмы, инструменты, память, программы, которыми она может пользоваться.

Поэтому две системы на основе сходной базовой модели способны вести себя очень по-разному.

Одна получает только текст вопроса.

Другая может искать документы.

Третья — обращаться к калькулятору или среде выполнения кода.

Четвёртая — видеть изображение.

Пятая — запоминать часть предыдущего взаимодействия.

Шестая — получать разрешение выполнить действие во внешнем сервисе.

Когда мы спрашиваем «на что способен ИИ?», важно уточнять: какая модель, в какой системе, с какими инструментами, с какими данными, в каких условиях?

Без этого фраза становится почти бессодержательной.

Когда язык перестал быть единственным входом

Первые массовые разговоры о генеративном ИИ были во многом разговорами о тексте. Но сегодняшние системы всё чаще мультимодальны.

Multimodality означает способность работать с несколькими типами информации: например, получать текст и изображение, анализировать аудио, интерпретировать видео и генерировать выход в разных формах.

Для человека это выглядит естественно. Мы не живём внутри одного канала данных. Мы читаем выражение лица, слышим тон, видим предмет, понимаем подпись, сопоставляем всё это с предыдущим опытом.

Для машинной системы объединение модальностей — инженерная задача.

Но социальное последствие очевидно: чем больше способов восприятия и генерации получает система, тем больше человеческих занятий оказывается внутри одного интерфейса.

Раньше отдельное приложение распознавало речь, другое переводило, третье генерировало изображение, четвёртое отвечало на текстовый вопрос. Теперь пользователь всё чаще ожидает от одной системы: «Посмотри на эту фотографию, прочитай надпись, объясни, что происходит, найди несоответствие и расскажи голосом».

Это не означает появления единого человеческого восприятия. Но функциональная граница между специализированными инструментами становится менее заметной для пользователя.

И это напрямую связано с термином, который в ближайшие годы будет звучать всё чаще: general-purpose AI, или ИИ общего назначения.

Под этим обычно понимают системы, способные выполнять широкий набор разных задач, а не одну узкую функцию. Международный доклад по безопасности ИИ отличает такой класс от узкого ИИ, заточенного под конкретную задачу.

И здесь появляется опасность терминологического скачка.

Общий набор задач — ещё не AGI.

AGI: слово, которое обещает больше, чем определяет

Artificial general intelligence — AGI — один из самых притягательных и самых скользких терминов современной дискуссии.

Его часто переводят как «общий искусственный интеллект» или «искусственный интеллект общего назначения», но последнее выражение способно смешать AGI с уже существующими general-purpose systems. Это не одно и то же.

Международный доклад по безопасности ИИ прямо отмечает: у AGI нет универсального определения. Обычно термин используют для описания потенциальной будущей системы, которая могла бы сравняться с человеком или превзойти его во всех или почти всех когнитивных задачах. Но слова «всех», «почти всех» и даже «уровень человека» оставляют огромный простор для спора.

Какой человек является эталоном?

Средний взрослый?

Лучший специалист?

Человек, способный учиться новой профессии?

Нужно ли системе иметь тело?

Достаточно ли интеллектуальных тестов?

Должна ли она самостоятельно ставить цели?

Считается ли система общей, если для каждой новой задачи ей требуется специальный внешний инструмент?

И что делать с тем самым «неровным» профилем: если система превосходит эксперта в десяти областях, но регулярно ошибается на одиннадцатой, насколько она «общая»?

Поэтому заявления «AGI уже почти здесь» или «AGI появится через три года» нельзя подавать читателю как научно установленный факт. Это прогнозы, зависящие от определения, модели развития и допущений автора прогноза. Один исследователь может считать достаточным широкий профессиональный набор способностей. Другой потребует устойчивого обучения в новых средах. Третий включит автономность. Четвёртый — способность действовать в физическом мире.

Если критерий меняется, меняется и дата.

В этой книге AGI будет появляться ещё несколько раз — там, где речь пойдёт об автономности, сознании, безопасности сильных систем и человеческих границах решений. Но книга не будет строить сюжет вокруг обратного отсчёта до «дня AGI».

Слишком многое важное происходит уже сейчас, без согласия о том, наступил ли какой-то философский рубеж.

Генеративный ИИ не равен всему ИИ

Публичная дискуссия последних лет создала ещё одну иллюзию: будто искусственный интеллект появился тогда, когда машины начали писать тексты и рисовать картинки.

На самом деле генеративный ИИ — только один класс.

NIST определяет generative AI как класс AI-моделей, воспроизводящих структуру и характеристики входных данных для создания производного синтетического контента: текста, изображений, видео, аудио и других цифровых материалов.

Есть системы, главная задача которых не генерировать.

Они классифицируют.

Прогнозируют.

Ранжируют.

Обнаруживают аномалии.

Рекомендуют.

Распознают.

Оптимизируют.

Система, оценивающая вероятность мошеннической транзакции, может влиять на жизнь человека сильнее генератора стихотворений, хотя внешне выглядит гораздо менее «умной».

Это важная поправка для всей книги.

Самые заметные системы не обязательно самые влиятельные.

Разговорный интерфейс заставляет нас видеть интеллект, потому что язык — главный человеческий социальный сигнал. Но невидимый скоринг может решать, получите ли вы кредит. Алгоритм распределения может менять рабочие смены. Система анализа изображения может влиять на медицинское решение. Рекомендательный механизм определяет, какую информацию вы вообще увидите.

Поэтому вопрос о том, что считать интеллектом, нельзя решать исключительно по тому, насколько приятно система разговаривает.

От генерации к действию

Есть ещё одна ступень, особенно важная для этой книги.

Модель способна сгенерировать инструкцию.

Агент способен попытаться её выполнить.

В наиболее общем смысле AI-агент — система, которая может получать цель, планировать промежуточные шаги, использовать инструменты и взаимодействовать со средой с меньшим количеством постоянных человеческих указаний.

Разница кажется небольшой, пока действие обратимо.

Попросили модель: «Напиши письмо клиенту». Она выдаёт текст. Человек читает и решает, отправлять ли его.

Попросили агента: «Разберись с просроченными клиентами». В зависимости от данных ему полномочий система может найти контакты, подготовить разные сообщения, выбрать последовательность, отправить письма, обновить таблицу, поставить напоминание и перейти к следующему случаю.

В первом варианте ошибка лежит перед человеком на экране.

Во втором она способна стать событием.

Технический прогресс здесь заметен. Stanford AI Index 2026 приводит OSWorld — среду, проверяющую выполнение компьютерных задач в разных операционных системах. Исторически сильные модели показывали там порядка 1—12 процентов успеха; лучший приведённый в отчёте результат вырос до 66,3 процента, приблизившись к человеческому уровню в этой конкретной оценке.

Это впечатляющий рост.

И одновременно отличный пример того, как нельзя читать benchmark.

66,3 процента не означает, что «ИИ умеет делать две трети офисной работы». OSWorld включает определённый набор из 369 задач, конкретную среду, критерии успеха и собственные ограничения. Результат говорит о прогрессе в компьютерном использовании. Он не измеряет всю реальную работу, долгосрочную ответственность, коммуникацию с коллегами, понимание скрытых целей организации или способность надёжно действовать неделями.

International AI Safety Report 2026 формулирует ситуацию осторожно: агенты уже способны выполнять полезную работу, особенно в программной инженерии, но пока не могут надёжно выполнять весь диапазон сложных задач и долгосрочного планирования, необходимый для полной автоматизации многих профессий. Чем длиннее цепочка действий, тем больше возможностей для ошибки, потери контекста или неверной адаптации.

Тема агентов заслуживает отдельной следующей ступени — и получит её в третьей главе.

Сейчас важнее другое.

ИИ становится похожим на интеллект не потому, что мы нашли внутри машины маленького цифрового человека.

Он становится похожим на интеллект потому, что всё больше результатов, для которых раньше требовался человек, можно получить без воспроизведения всего человеческого способа существования.

Функция без биографии

Человек, который пишет хороший текст, пришёл к этому через жизнь.

Он слышал речь других людей. Ошибался. Читал. Испытывал стыд. Менял мнение. Помнит разговоры. Существует в теле. Имеет социальные связи. Может бояться последствий своих слов. Может отказаться отвечать не из-за фильтра безопасности, а потому что считает вопрос неправильным.

У модели нет оснований автоматически приписывать тот же внутренний путь только потому, что выход похож на человеческий.

Но это не делает выход незначимым.

И здесь сталкиваются две крайности.

Первая говорит: «Это настоящий разум; иначе она не смогла бы делать всё это».

Вторая: «Это всего лишь статистика; значит, происходящее не заслуживает серьёзного отношения».

Обе фразы обходят главный вопрос.

Практически все современные вычислительные системы в конечном счёте можно описать математически. Человеческий мозг тоже не перестаёт быть физической системой только потому, что мы говорим о смысле, памяти или решении. Сведение механизма к базовым операциям само по себе не отвечает на вопрос об уровне возникающих способностей.

Поэтому разумнее смотреть на систему сразу в нескольких измерениях.

Что она может делать?

Насколько надёжно?

Насколько хорошо переносит способность на новый контекст?

Нужны ли ей внешние инструменты?

Как она ведёт себя при необычной формулировке?

Сколько шагов способна выполнить без распада задачи?

Какие ошибки совершает?

Какой человеческий контроль необходим?

И только после этого спрашивать, какое слово удобнее использовать — интеллект, модель, система, помощник, агент.