Что значит быть человеком, когда машины умнее

Но воспроизвести закономерности речи — не то же самое, что иметь опыт.

Модель знает, как люди пишут о потере близкого. Она не теряла. Знает, как пишут о выборе профессии. Она не выбирала. Знает, как пишут об ответственности за решение. Ей нечем отвечать.

В этом зазоре и живёт всё человеческое.

Не в том, что мы умнее — во многом уже нет. А в том, что за нашими словами стоит прожитое, а за её словами — только другие слова.

Дальше вся книга про то, что из этого следует.

Глава 2. Люди ломают роботов чаще, чем роботы — людей

История о том, как три «улучшения» превратили работающую систему в генератор абсурда

Сообщение пришло в 23:47. Андрей, руководитель отдела продаж, писал капсом:

«АРТЁМ, ТВОЯ НЕЙРОСЕТЬ СОШЛА С УМА!!! КЛИЕНТЫ ПОЛУЧАЮТ ПРЕДЛОЖЕНИЯ НА КОСМИЧЕСКИЕ ТУРЫ ВМЕСТО СЕРВЕРОВ. СРОЧНО!!!»

Я отставил остывший кофе и открыл ноутбук. Двадцать минут в логах — и всё стало ясно.

Система работала идеально. Сломали её люди.

Этот случай я вспоминаю каждый раз, когда слышу «нейросеть ошиблась». Далеко не каждая ошибка системы начинается в самой нейросети. Модель действительно врёт и выдумывает — об этом будет отдельный разговор. Но когда рушится рабочая система, причина чаще оказывается снаружи: в том, как её настроили и кто к ней прикасался. За годы внедрений я убедился в этом десятки раз и научился видеть катастрофу заранее — по одной примете.

Примета такая: слово «улучшить» в устах человека, который не понимает, как работает ИИ.

Как простая задача превратилась в цирк

За четыре месяца до той ночи Андрей пришёл с обычной проблемой.

— У меня двенадцать менеджеров. Каждый тратит по четыре часа в день на коммерческие предложения. Клиенты разные, а предложения — копипаст с заменой названия. Можешь это автоматизировать?

Задача стандартная. Таких я делал десятки.

Собрали лучшие предложения компании за два года. Подключили GigaChat — данные из логов не должны были покидать российский контур, так что западные модели отпадали сразу. Настроили поиск по базе знаний: шаблоны, номенклатура, история сделок, цены из 1С. Сделали менеджерам простую веб-форму.

Через месяц система заработала. Менеджер вбивает данные клиента, жмёт кнопку — получает готовое предложение. Четыре часа превратились в пятнадцать минут. Конверсия выросла на треть. Андрей уже прикидывал, как будет выбивать премию.

А потом началось творчество.

Три способа убить работающую систему

Сначала — немного контекста, чтобы вы понимали масштаб явления.

ИИ сегодня применяют почти все. По опросам McKinsey — 88% организаций хотя бы в одной функции. В России цифры сопоставимы: подавляющее большинство компаний хоть раз да пробовали.

Но массовое внедрение — это не массовый успех. Реальный эффект на прибыль видит примерно каждая третья компания. По-настоящему, в масштабе всего бизнеса, — единицы процентов.

Остальные внедряют ИИ ровно так, как это делала команда Андрея.

Главная угроза для AI-системы — не технология. Это сотрудники, которые искренне хотят её улучшить.

Способ первый: добавить креативности.

Максим, старший менеджер, решил поэкспериментировать:

— А что если сказать системе, что клиент — это Tesla? Может, предложение получится поинтереснее?

Парикмахерской «У Светы» пришло техническое предложение по разработке беспилотных электромобилей и строительству сети зарядных станций.

Когда я спросил Максима зачем, он ответил честно: «Прочитал в Telegram-канале, что нейросеть надо раскачивать сравнениями с крупными брендами».

Максим не глупый и не ленивый. Он добросовестный человек, который хотел сделать лучше. Просто попал под волну советов от «экспертов по нейросетям», которые сами работали с ними часа три.

Таких Максимов — миллионы. Каждый второй прямо сейчас пробует применить что-то подобное в вашей компании.

Способ второй: усложнить инструкции.

Оля из маркетинга прочитала статью про креативные промпты и написала техзадание на триста слов. Ключевые обороты: «инновационный подход», «выход за рамки обыденности», «квантовый скачок эффективности».

Модель поняла всё буквально. Автосервису «Быстрый ремонт» предложили «не просто программу учёта, а портал в цифровую вселенную, где каждая деталь обретает квантовую сущность суперэффективности».

Оля искренне считала: чем сложнее промпт, тем умнее ответ.

На деле наоборот. Чем проще и конкретнее задача, тем точнее результат.

Но объяснить это человеку, который вчера купил курс «100 промптов для нейросети» за двадцать тысяч, почти невозможно. Ему только что сказали, что деньги потрачены зря. Психологически проще продолжать применять то, за что заплатил.

Способ третий: добавить агрессии.

Андрей, узнав о проблемах, решил быстро всё починить сам:

— Забудь всё предыдущее! Нужно быть агрессивнее в продажах! Клиент должен покупать немедленно!

После этого система начала угрожать: «ПОКУПАЙТЕ СЕРВЕРЫ ПРЯМО СЕЙЧАС, или конкуренты УНИЧТОЖАТ ваш бизнес завтра! У вас есть 24 ЧАСА!»

Одна фраза «забудь всё предыдущее» снесла настройки, которые собирали неделю.

Это не ошибка ИИ. Это идеально точное исполнение последней команды. Ровно то, о чём попросил руководитель.

В чём тут суть, без технической магии

ИИ — не волшебник и не собеседник. Это очень буквальный исполнитель.

Представьте нового сотрудника. Талантливого, с феноменальной памятью и широчайшим кругозором — но начисто лишённого здравого смысла и жизненного опыта.

Стажёр-буквалист.

Он выполнит любую инструкцию в точности. Даже если она противоречит здравому смыслу. Даже если она противоречит предыдущей инструкции.

Вы говорите «будь креативным» — он предлагает парикмахерской космос. Вы говорите «будь агрессивным» — он угрожает клиентам. Вы говорите «представь, что клиент — Tesla» — он предлагает автосервису построить завод.

Современные модели стали заметно умнее прежних. Они держат в голове сотни тысяч слов контекста. У них внутри зашиты ограничения на опасное и глупое поведение. Некоторые перед ответом реально «думают» — по минуте и дольше.

Исполнителями они остались. Инструкции по-прежнему понимают буквально.

Главная ошибка большинства пользователей — вера в то, что «искусственный интеллект» должен догадаться, что имелось в виду.

Не должен. Не догадается.

Он сделает ровно то, что вы сказали. Даже если ваши слова противоречат друг другу. Даже если вы сами через минуту не вспомните, что написали.

Это не баг. Это устройство технологии.

Что было в логах

Наша система получила четыре взаимоисключающие команды:

— системная настройка: «создавай деловые предложения по IT-услугам»; — от Максима: «представь, что клиент — Tesla»; — от Оли: «будь креативным и революционным»; — от Андрея: «забудь всё, будь агрессивным».

Модель попыталась выполнить всё сразу. Получилось агрессивно-креативное предложение революционных космических технологий для земной парикмахерской.

Каждый сотрудник искренне хотел как лучше. Каждый добавил свою ложку дёгтя. Никто не был виноват по отдельности.

Виноват был отсутствующий процесс согласования изменений.

Здесь — главное во всей главе.

Есть известная формула, её любят повторять консультанты BCG: правило 10–20–70. При внедрении ИИ только 10% усилий должно уходить на сами алгоритмы. 20% — на технологии и данные. Семьдесят — на людей и процессы.

Семьдесят процентов. На людей.

У команды Андрея все ресурсы ушли на первые два пункта. На третий — ноль.

Вот и вся причина катастрофы. Не ИИ. Не «тупые сотрудники». Отсутствие правил, кто и как имеет право менять настройки.

Кто на самом деле виноват

Здесь я должен сказать вещь, которую в подобных историях обычно опускают.

Виноват был я.

Не Максим с его Tesla. Не Оля с квантовыми сущностями. Не Андрей, который снёс настройки одной фразой.

Я построил систему, где сотрудник мог одной строчкой отменить неделю работы, — и не подумал, что кто-нибудь это сделает.

Причём не по недосмотру. Я сделал это сознательно и был собой доволен.

Когда мы запускались, Андрей спросил: «А менеджеры смогут сами что-то подкручивать, если понадобится?» Я ответил — конечно, зачем ограничивать людей, они же взрослые, разберутся. Мне казалось, что открытая система — признак уважения к команде, а закрытая — бюрократия.

Я был неправ. Причём неправ высокомерно, что хуже.

За плечами у меня был десяток внедрений, все прошли гладко. Из этого я сделал вывод, что понимаю, как люди себя ведут. На самом деле мне просто везло: в предыдущих проектах не попадалось человека, который прочитает в телеграм-канале совет про сравнение с крупным брендом и пойдёт его применять.

Есть ещё одна деталь, о которой мне до сих пор неловко.

Через неделю после запуска Оля написала мне в мессенджер: «Артём, а можно я попробую сделать промпты поинтереснее?» Я ответил односложно: «Пробуй». Не спросил, что именно она собирается менять. Не объяснил, чем это может кончиться. Не предложил показать результат до отправки клиенту.

Я был занят другим проектом. Ответил, чтобы отвязаться.

Одна фраза внимания в тот момент — и никакой парикмахерской с космическими турами не случилось бы.

Поэтому, когда я говорю, что семьдесят процентов усилий уходит на людей, — это не красивая формула из чужой презентации. Это счёт, который мне выставили.

Клиент, кстати, всё понял правильно. Андрей потом сказал: «Я думал, ты будешь оправдываться». Не стал. Мы переделали за мой счёт, и это была честная цена за самоуверенность.

Как мы это чинили

Разграничили доступ.

Системные инструкции стали доступны только мне. Менеджеры работают через форму: название клиента, отрасль, бюджет, срочность. Никакого творчества на уровне базовых настроек. Хочешь предложить улучшение — пиши мне, обсудим.

Это, кстати, общий разворот последних двух лет. Раньше компании раздавали сотрудникам подписки на нейросети с формулировкой «пусть пользуются». Сейчас — наоборот: настройки жёстко закрыты, а людям дают готовый интерфейс под конкретную задачу.

Зафиксировали правила намертво.

Системные инструкции стали неизменяемыми. Жёсткие рамки: только реальные услуги из номенклатуры, только актуальные цены из 1С, только деловой тон.

Плюс автоматический чёрный список слов. «Tesla», «инновационный», «революционный», «квантовый», «космический». Если модель употребила что-то из этого применительно к клиенту — предложение бракуется и генерируется заново.

Выглядит топорно. Работает отлично.

Добавили проверку здравого смысла.

Каждое предложение теперь проверяет второй агент. Он видит готовый документ и сверяет его с профилем клиента. Если парикмахерской предлагают строить зарядные станции — останавливает.

Это называется многоагентная схема: одна модель делает, другая проверяет. Приём простой и почти всегда окупается. Проверяющий агент дешевле, чем один разосланный клиентам бред.

Поговорили с командой.

Я собрал Андрея, Максима и Олю в переговорке и показал настоящие логи. Каждый увидел свой промпт — и результат, который из него вырос. Без обвинений и нравоучений. Просто факты на экране.

Реакция меня удивила.

Максим сначала защищался: «Я же хотел как лучше». Потом замолчал и сказал: «Я реально не понимал, как это работает. Просто повторял советы из канала».

Оля покраснела и призналась, что курс про революционные промпты покупала за свои.

Андрей молчал дольше всех. В конце сказал: «Я думал, достаточно написать команду — и она выполнится. Не знал, что этим сношу все прошлые настройки».

Вот это и был момент настоящей починки. Не технический. Человеческий.

Через две недели сломалось снова

Эту часть обычно вырезают из корпоративных кейсов. Зря — она самая полезная.

Через две недели после героического восстановления система опять выдала странность. Предложение было технически грамотным, но ссылалось на несуществующий товар.

Оказалось, менеджер залил в базу новый прайс с опечаткой. Сервер модели Gen10 превратился в Gen100. Модель честно использовала то, что ей дали.

Это тоже не ошибка ИИ. Это ошибка процесса проверки данных на входе.

Нейросеть не умеет отличать мусор от не-мусора в вашей базе. Она умеет только работать с тем, что там лежит. Мусор на входе — мусор на выходе, только красиво оформленный и разосланный по двумстам адресам.

Мы добавили ещё один шаг: автоматическую проверку новых данных перед тем, как они попадут в базу. Плюс ежемесячный аудит. Плюс короткий чек-лист для тех, кто базу пополняет.

Я рассказываю это к вопросу о «гладких историях успеха». В реальности после каждой починки вылезает следующая проблема. Не потому что ИИ плохой, а потому что процессы — не памятник. Их надо обслуживать, как машину.

Что получилось

Через два месяца система работала стабильно:

— 98% предложений проходят проверку с первого раза; — двенадцать минут вместо четырёх часов; — конверсия почти в полтора раза выше ручной; — клиенты довольны; — Андрей получил премию и перестал писать мне по ночам.

Главный результат не в цифрах.

Команда перестала считать ИИ волшебником. Максим, Оля и Андрей увидели: это инструмент, который усиливает всё подряд — и хорошее, и плохое. Работа с ним — навык. Навыку можно научиться. Учить должен процесс, а не случайные озарения из телеграм-каналов.

Что я понял про людей и машины

ИИ показывает качество ваших процессов.

Процесс чёткий — результаты чёткие. Процесса нет — на выходе нарезка из того, что попалось под руку. Люди путают «ИИ не работает» и «у нас нет процесса работы с ИИ». Это разные проблемы, и лечатся они по-разному.

Простое бьёт сложное.

Одна функция, работающая идеально, лучше десяти, работающих «как-то». Всегда. Продажи, маркетинг и поддержка лидируют по внедрению ИИ не потому, что там самые сложные задачи, а потому что там задачи понятные и повторяющиеся.

Контроль — это не диктатура, а профессионализм.

Жёсткие ограничения не мешают работе. Они создают рамки, внутри которых работа становится быстрой. Как дорожная разметка: вроде ограничивает, а на деле только благодаря ей можно ехать сто десять и не разбиться.

Связка важнее отдельного инструмента.

Выигрывают не те, кто внедрил самую крутую модель, а те, кто встроил её в свои процессы.

Нейросеть сама по себе не делает компанию умнее. Нейросеть, подключённая к CRM, которая слушает звонки, читает входящие письма и пишет черновики ответов, — меняет бизнес целиком.

Главный вывод: начинайте с процессов, а не с технологий

Эта глава вообще не про ИИ.

Она про то, что любая технология проявляет качество ваших процессов. Хорошие — усиливает. Отсутствующие — обнажает с пугающей точностью.

Когда руководитель говорит «у нас не работает ИИ», в девяноста девяти случаях из ста это значит: «у нас нет процесса работы с ИИ». Нет правил изменения настроек. Нет ответственного. Нет проверки данных на входе. Нет второго контура проверки на выходе.

Машины умнеют каждый день. Люди остаются прежними. Это не проблема.

Проблема в том, что компании, которые так и не научились управлять живыми сотрудниками через процессы, теперь пытаются тем же способом управлять нейросетью. Не выходит.

С чего начинать внедрение?

Не с выбора модели. Не с покупки подписки. Совершенно точно не с найма «промпт-инженера».

С одного вопроса: кто отвечает за то, что ИИ будет делать?

Если вы не можете назвать конкретного человека с конкретной зоной ответственности — не внедряйте. Сначала процесс, потом технология.

Иначе получится как у Андрея. Только без меня рядом, чтобы в 23:47 разбираться, кто именно сломал систему.

Глава 3. ИИ не заберёт вашу работу. Её заберёт тот, кто умеет с ним работать

Почему Катя из маркетинга выросла в три раза, а Петя из соседнего отдела ищет новое место

В начале 2024 года ко мне пришли два маркетолога из одной компании. Катя и Петя. Опыт одинаковый — по четыре года. Зарплаты почти одинаковые — восемьдесят пять тысяч. Задачи те же самые: контент для B2B.

Сегодня, в августе 2026-го, Катя руководит отделом из пяти человек и зарабатывает в несколько раз больше.

Петя сидит на той же позиции за те же деньги и объясняет всем, что роботы отбирают у людей работу.

Разница между ними не в таланте. Не в везении. Даже не в трудолюбии — Петя пашет не меньше.

Разница в том, как они ответили на главный вопрос эпохи: что делать, когда машина умеет твою работу?

Две стратегии

Катя: «Погодите, это же возможность»

Когда в конце 2022-го мир накрыло волной ChatGPT, Катя была в декрете. Сидела дома с семимесячной дочкой, листала новости и наткнулась на статью про нейросеть, которая пишет тексты.

— Первая мысль была простая: всё, пока я в декрете, мою работу заберут роботы, — вспоминает она. — А вторая: а что если попробовать?

Прямого доступа к ChatGPT в России не было. Зато уже появлялись первые российские модели. Катя начала ковырять YandexGPT и раннюю версию GigaChat. Потом, когда разобралась с доступом, подключила Claude.

— Дочка спит, муж на работе. Идеальные условия для изучения нейросетей, — смеётся она.

Месяц экспериментов дал ей первое важное понимание. ИИ пишет неплохие тексты, но не понимает российский рынок. Не знает, что такое 44-ФЗ. Путает Wildberries с Ozon. Предлагает стратегии, которые отлично работают в США и разбиваются об нашу реальность.

— Ну хорошо, — решила Катя. — Пусть он делает черновики. А я добавлю то, чего он не умеет: понимание того, кому мы это пишем.

Первый провал

Выход из декрета в 2023-м чуть не закончился катастрофой.

Катя пришла в офис с планами революции и напоролась на стену.

— Коллеги смотрели как на сумасшедшую. Руководитель сказал прямым текстом: «Мы платим за твою экспертизу, а не за копипаст от робота».

Первый проект с ИИ она провалила. Сгенерировала контент-план для производителя промышленного оборудования. Тексты были грамотные, гладкие — и полностью мимо.

— Нейросеть предлагала писать про «инновационные решения» и «передовые технологии». А клиентам нужно было понять одну вещь: как новый станок поможет им не переплачивать слесарю.

Клиент был недоволен. Катю вызвали на ковёр.

— Я серьёзно думала всё бросить. Потом дошло: проблема не в инструменте. Проблема в том, как я его использую.

Переломный момент

Катя поменяла подход целиком.

Раньше она просила ИИ написать готовый текст. Теперь стала использовать его на других этапах — там, где он действительно силён.

Новая схема выглядела так:

— нейросеть разбирает конкурентов и вытаскивает главные темы; — Катя идёт разговаривать с живыми клиентами и экспертами; — нейросеть раскладывает собранное по логичным блокам; — Катя пишет финальный текст, добавляя то, что услышала от людей; — нейросеть накидывает варианты заголовков и призывов к действию.

Разницу видно сразу. ИИ больше не автор. Он ассистент на подхвате: собирает, структурирует, перебирает варианты. А смысл в текст по-прежнему приносит человек — из разговоров, которых у машины нет и быть не может.

— За полгода я перестроила весь процесс, — говорит Катя. — Нейросеть забрала рутину и вернула мне время думать.

Результат пришёл быстро. Материалов стало выходить в три-четыре раза больше. Клиенты начали хвалить «новый подход», не догадываясь, что он наполовину собран машиной. Катя получила первую премию и — что важнее — репутацию человека, который умеет с этим работать.

К концу 2024-го у неё сложился рабочий набор: Claude для разбора и анализа, GigaChat для российской специфики, YandexGPT для задач с поиском, генераторы картинок для визуала. Обычный сегодня набор маркетолога. Собранный женщиной в декрете на кухне за полгода до того, как это стало нормой.

Петя: «Настоящий специалист делает всё сам»

Петя отреагировал иначе. И вот здесь придётся сказать неудобное: в главном он был прав.

Петя вёл направление, где клиенты работали под соглашениями о неразглашении. Производственные компании, их цены, их поставщики, их планы запуска. Когда коллеги начали радостно вставлять куски брифов в браузерное окно зарубежного сервиса, Петя сказал ровно то, что должен был сказать:

— Вы понимаете, что отправляете чужую коммерческую тайну на сервер в другой стране? Мы под NDA. Если это всплывёт, отвечать будет не нейросеть.

Ему ответили, что он перестраховщик и тормозит команду.

Он был не перестраховщик. Он был прав.

Через полтора года это станет очевидно всем: ответственность за утечку вырастет в разы, появится требование хранить данные внутри страны, а «мы просто попросили нейросеть переписать бриф» перестанет быть смешным оправданием. Об этом будет отдельная глава.

Так что запомните: Петя не ретроград. Петя — единственный в отделе, кто прочитал договор.

Ошибка Пети была в другом.

Из верной посылки «это нельзя отправлять наружу» он сделал неверный вывод — «значит, эта технология не для нас». А правильный вывод был другой: «значит, надо найти способ пользоваться ею безопасно».

Разница между этими двумя фразами и решила его карьеру.

Дальше сработало то, что срабатывает у всех нас. Найдя один хороший аргумент против, Петя перестал искать аргументы за. Он попробовал раннюю российскую модель, получил посредственный результат и удовлетворённо резюмировал: я же говорил.

Модели, которые он попробовал в 2023-м, и модели 2026 года — это разные вселенные. Российские сегодня держат сотни тысяч слов контекста, работают с документами и картинками, а на русскоязычном тесте MERA лучшая отечественная модель показывает результат чуть выше топовой западной. И — это важно для его же аргумента — данные при этом остаются внутри страны.

То есть решение его проблемы появилось. Петя его не искал, потому что вопрос для себя закрыл.

Это типичная ловушка, и она не про глупость. Один раз проверил на ранней стадии, получил плохой опыт — и перестал следить. Так в девяностые люди «пробовали интернет», не могли дозвониться модемом и делали вывод, что штука бесполезная.

— Качественный контент может сделать только человек, — говорит Петя. — Робот не чувствует аудиторию. А я пятнадцать лет в маркетинге.

Он и правда хорош. Тратит день на один пост, и пост получается сильный.

А Катя за этот день выпускает четыре.

Что сделала Катя с той же самой проблемой

Самое интересное, что Катя столкнулась ровно с тем же ограничением. Те же клиенты, те же соглашения.

Только она не остановилась на констатации.

Сначала научилась обезличивать: убирать из брифа названия, цифры и имена, оставляя суть задачи. Оказалось, что для черновика структуры модели вообще не нужно знать, как зовут заказчика.

Потом добилась корпоративного доступа к российскому сервису, где данные не уезжают за границу, и написала для отдела правила на одну страницу — что можно отправлять, что нельзя.

Это была не техническая работа. Это была управленческая: договориться с юристами, обосновать бюджет, объяснить команде.

Ровно поэтому она и стала руководителем, а не потому, что быстрее печатала промпты.

Цифры не врут

За два с половиной года разошлись не только зарплаты.

Катя тратит на материал полтора-два часа, Петя — шесть-восемь. Она делает вчетверо больше, и конверсия у неё выше средней по отделу.