ИИ без мифов

Ограничение. Работало не всё. В четырёх случаях из тридцати (13 %) у пациента было три-четыре сопутствующих диагноза, и модель сводила хронологию в одну строку, теряя последовательность «когда что началось». Эти четыре выписки Ана переписала вручную. Ещё одна правка: в шаблоне пришлось отдельно потребовать копировать строку аллергий целиком, даже если она пустая, — иначе модель просто выбрасывала поле. Сложные случаи остались за человеком, и это не недоработка шаблона, а его граница. (собирательный кейс)

Разбор кейса. Почему это сработало — механика, а не мораль.

1. Задача превратилась из «понять и пересказать» в «перенести с ограничениями». Пересказ — зона свободы модели; перенос по полям — зона дисциплины.

2. Числа вывели из-под модели: их запретили преобразовывать, оставив только копирование. Дозы перестали быть тем, что модель «сглаживает».

3. Появился критерий приёмки: двенадцать полей, формулировка «нет в источнике», дословные числа. Такой результат можно принять или отклонить, не споря о вкусе.

4. Проверка стала шагом процедуры, а не настроением. Тридцать секунд поиска по строке дешевле сорока минут разбора.

5. Граница проведена заранее: случаи с сопутствующими диагнозами не отдаются машине. Это дешевле, чем ловить потерянную хронологию задним числом.

Погода и климат: что меняется каждые недели, а что держится годами

Спор об ИИ устроен так, что в нём легко утонуть. Каждую неделю — новая модель, каждый месяц — заголовок о том, что очередная профессия отменяется, каждый квартал — новая цена за миллион токенов. За этим шумом стоит простая структура, и она экономит читателю месяцы внимания.

Погода — то, что меняется за недели. Названия моделей. Цена за миллион входных токенов: сегодня $10, через полгода может быть $2 или модель исчезнет из каталога. Размер окна контекста — сколько текста модель удерживает за один разговор. Наличие поиска, работа с файлами, лимиты на длину ответа, кнопки в интерфейсе. Всё это важно для выбора инструмента и бесполезно как основание для решения.

Климат — то, что держится годами и не зависит от версии. Модель предсказывает следующий фрагмент текста, а не ищет истину, поэтому её уверенный тон ничего не говорит о правильности. Она не знает вашего контекста, пока вы его не дали: ни вашу клинику, ни ваш договор, ни вашу терминологию. Качество ответа упирается в качество поданных данных, а не в количество эпитетов в запросе. Ответственность за результат остаётся на человеке, который ставит подпись. И память у неё короткая: диалоговая память — это только текущее окно разговора, вчерашний чат модель не помнит.

Эта книга — про климат. Поэтому она начинается не с истории технологии и не с обзора моделей, а с рабочего инструмента: таблицы, по которой вы за минуту решаете, стоит ли отдавать конкретную задачу ИИ.

Практический смысл разделения простой. Погодные решения принимаются быстро и не стоят ничего: попробовать новую версию, сравнить цену, переключить инструмент. Климатические решения принимаются один раз и живут долго: какие задачи вообще отдавать машине, что считается проверенным результатом, кто подписывает. Если вы путаете уровни, вы каждый месяц пересматриваете климатические решения из-за погодных новостей — и никогда не доводите до конца ни одного сценария. Наоборот, если у вас есть климатические правила, смена модели становится рутиной: вы просто проверяете, держит ли новая версия тот же уровень ошибок.

Разговор об ИИ при этом обычно сваливается в одну из двух крайностей: «оно заменит всё» или «это просто автодополнение». Обе формулировки — не понимание, а способ снять тревогу: первая снимает страх опоздать, вторая — страх оказаться лишним. Полезнее третья рамка, самая скучная: ИИ — распространённая и очень специфичная технология. Как электричество. Не магия, но если знать, где в вашей работе находятся розетки, картина дня меняется.

Три вопроса, которые закрывают 90 % решений

Чтобы принимать решения, достаточно ответить на три вопроса. Остальное — новости, споры про авторские права, разговоры про «когда появится общий интеллект» — можно читать как погоду.

1. Что ИИ умеет структурно? Не «что он умеет в этом месяце», а какой тип работы у него получается лучше всего и почему. Ответ короткий: переупаковка готового текста — сжатие, пересказ, смена тона, смена языка, извлечение полей, классификация по заданным категориям, генерация вариантов. Всё это операции над текстом, а текст — среда модели.

2. Где он структурно слаб? Не «пока слаб», а «будет слаб и через пять лет — вот почему». Арифметика, точность цитат, свежие факты после даты обучения, отсутствие вашего контекста, отсутствие ответственности. Причина одна: модель предсказывает вероятное продолжение, а не проверяет факт.

3. Как разделить работу? Какие части задачи отдать машине, а какие оставить себе. Готовить материал — машине. Принимать решение и подписывать — человеку.

Дальше в книге вы будете отвечать на эти вопросы для своей работы десятки раз, и каждый раз ответ будет точнее. В главе 4 они разложены на три слова: задача, данные, результат.

Матрица решений: «сразу», «с проверкой», «нельзя»

Ключевые задачи — повторяющиеся операции, где эффект можно измерить: сводки, письма, таблицы, разборы. Начинать стоит не со всего списка дел, а с них: именно ключевые задачи первыми попадают в матрицу и дают первые часы экономии. Разовые, творческие и ответственные решения оказываются в ней только для того, чтобы честно увидеть: их место — у человека.

Вердиктов три. Сразу — модель делает черновик, вы принимаете его и идёте дальше. С проверкой — результат идёт в работу только после сверки по чек-листу; чек-лист здесь — короткий список пунктов, по которому вы проверяете результат перед сдачей, а не документ на пять страниц. Нельзя — решение остаётся за человеком, модель может лишь готовить материал.

Выбор вердикта — это и есть оценка рисков, только в бытовом виде: вы сравниваете цену ошибки с ценой проверки. Если проверка стоит две минуты, а ошибка — сорок минут разбора, вердикт очевиден.

Задача

Вердикт

Почему

Что проверить

Пересказ и сводка документа

сразу

переупаковка текста — родная операция модели

числа, имена, даты — сверять с источником

Черновик письма, поста, объявления

сразу

модель быстро даёт структуру и тон

обещания, сроки, факты о продукте

Перевод

с проверкой

качество высокое, но термины и стиль — ваши

термины, имена, юридические формулировки

Таблица из текста, PDF, переписки

с проверкой

извлечение полей — сильная сторона

выборочно 5–10 строк против источника

Классификация заявок, писем, тикетов

с проверкой

при ясных категориях работает стабильно

всё, что попало в «прочее» и «срочное»

Объяснение темы на нужном уровне

сразу

модель умеет менять глубину и словарь

не путать объяснение с фактом

Идеи, варианты, названия

сразу

генерация вариантов — дешёвая операция

выбор всегда за вами

Ревью кода и черновик тестов

с проверкой

второе мнение без усталости

запустить тесты; не принимать код без прогона

Задача

Чем рискуете

Что делать вместо

Расчёты, сметы, налоги, дозировки

модель предсказывает числа, а не считает

калькулятор, таблица, профильный специалист

Юридическое заключение, диагноз, подпись

ответственность не делегируется

модель готовит черновик для юриста или врача

Решения о людях: найм, оценка, увольнение

в исторических данных есть перекосы

человек в контуре, критерии, апелляция

Свежие факты: курсы, законы, новости

после даты обучения модель их не знает

первоисточник, дата, официальный сайт

Персональные данные клиентов и пациентов

публичный чат — чужая система

корпоративный контур или анонимизация

Стратегия, приоритеты, «что делать компании»

нужен ваш контекст и ваша ответственность

модель — советник, решение — ваше

Матрица описывает типовые случаи, а не выдаёт индульгенции. «Сразу» не означает «бездумно»: вы всё равно читаете ответ, прежде чем отправить его. «С проверкой» означает, что в процессе есть человек в контуре — обязательный шаг, на котором человек утверждает или отклоняет результат до того, как тот уйдёт дальше.

Правило, которое снимает половину споров: если сомневаетесь — выбирайте более осторожный вердикт. Цена проверки почти всегда ниже цены ошибки. Единственное исключение — когда проверка дороже самой задачи; тогда задачу не отдают модели вообще.

Проверьте матрицу на задаче Аны. «Собрать выписку из истории болезни»: перенос фактов по фиксированным полям, формат известен, критерий приёмки записывается — «с проверкой». «Предложить дозировку»: число, цена ошибки — здоровье, вердикт — «нельзя». «Переписать выписку человеческим языком, чтобы пациент понял»: переупаковка текста, цена ошибки — десять минут правки, вердикт — «сразу». Одна и та же история болезни даёт три разных вердикта, потому что задач в ней три, а не одна. Это самое частое место, где люди ошибаются: они относят к ИИ профессию целиком вместо конкретной операции.

Дерево решений за шестьдесят секунд

Когда таблица под рукой, решение занимает меньше минуты. Пройдите по пунктам сверху вниз и остановитесь на первом сработавшем.

1. Ответ должен содержать число, которое нужно посчитать? Если да — таблица, SQL или калькулятор; модель пусть формулирует шаги, а не выдаёт итог.

2. Ответ зависит от события после даты обучения — курса, закона, цены, назначения? Если да — первоисточник и поиск, а модель только пересказывает найденное.

3. Ошибка стоит дороже десяти минут проверки? Если да — «с проверкой» с явным чек-листом из трёх-пяти пунктов.

4. Результат подписывает человек и несёт за него ответственность — диагноз, заключение, приказ, рекомендация клиенту? Если да — «нельзя», модель готовит черновик, решает человек.

5. В задаче есть персональные данные, которые нельзя отдавать во внешнюю систему? Если да — закрытый контур или анонимизация до отправки.

6. Ответ можно проверить за две минуты, а цена ошибки — не больше десяти минут переделки? Если да — «сразу».

Если ни один пункт не сработал, вердикт по умолчанию — «с проверкой». Это не осторожность ради осторожности, а арифметика: непроверенный результат, который вернулся с ошибкой, всегда дороже проверенного сразу.

Проверьте дерево на другом примере. Вам нужно свести сорок отзывов клиентов в таблицу с темами и тональностью. Пункт 1: числа считать не нужно, итог — категории. Пункт 2: отзывы ваши, не из внешнего мира. Пункт 3: ошибка в теме отзыва стоит дешевле десяти минут проверки, но пункт 4 срабатывает раньше — по этой таблице вы принимаете решение о продукте, то есть подписываете вывод. Значит, вердикт — «с проверкой»: модель размечает, человек выборочно сверяет двадцать отзывов из сорока и читает всё, что попало в «прочее». Сорок минут ручной разметки превращаются в двенадцать, но не в две — и это правильная цена.

Ваш первый результат: сводка за двадцать минут

Дальше — сценарий, который даёт измеримый результат в первый же день. Возьмите документ, который вам всё равно предстоит прочитать: регламент, договор, отчёт, исследование, инструкцию. Засеките, сколько минут у вас уходит на чтение с выписками. Это ваш baseline — база сравнения, без неё «стало быстрее» ничего не значит.

Теперь — шаблон. Он длиннее, чем «перескажи документ», и это не украшательство: каждый блок закрывает конкретный способ, которым сводка обычно врёт.

Шаблон сводки: роль, данные, ограничения, формат, критерии приёмки.

Роль: ты — аналитик, который готовит материалы для занятого руководителя. Задача: сделай сводку приложенного документа. Данные: [вставьте текст документа целиком]. Ограничения: используй только текст документа; если данных для пункта нет — напиши «в документе не указано»; не добавляй факты из внешних знаний; числа, имена и даты копируй точно, символ в символ. Формат: 1) суть в одном предложении; 2) пять ключевых пунктов; 3) три числа или даты, на которые стоит обратить внимание; 4) два вопроса, на которые документ не отвечает; 5) одно действие, которое логично сделать следующим. Критерии приёмки: руководитель понимает содержание за 60 секунд; каждый пункт — не длиннее двух строк; в ответе нет ни одного числа, которого нет в документе.

Что вы получите на выходе — примерно так:

Пример вывода на том же шаблоне.

Суть: регламент ужесточает сроки согласования закупок и вводит второй уровень утверждения для сумм свыше €500 000. 1. Все закупки свыше €100 000 переводятся в электронный маршрут. 2. Для сумм свыше €500 000 добавляется утверждение финансового директора. 3. Числа и даты: пороги €100 000 и €500 000; срок согласования — 5 рабочих дней; вступление в силу — 1 марта. 4. Документ не отвечает: кто утверждает при отсутствии финансового директора и что делать с договорами, подписанными до 1 марта. 5. Действие: выписать все договоры февраля и проверить, попадают ли они под переходный период.

Проверка за две минуты. Она состоит из трёх движений, и пропускать их нельзя — иначе вы прочитали не документ, а пересказ документа.

1. Пробегите пять пунктов глазами по источнику. Вы ищете подмену смысла, а не стиль.

2. Проверьте каждое число и дату поиском по тексту. Это тридцать секунд и почти нулевой риск.

3. Прочитайте пункт 4 внимательно. «Чего документ не говорит» — самая ценная часть сводки: именно здесь лежат вопросы, которые стоит задать коллегам до, а не после внедрения.

Измерьте результат. Экономия = (время «до» − время «после») × сколько раз в месяц вы это делаете. Время «после» считайте вместе с проверкой, а не до неё. Типичный первый запуск: 40–60 минут чтения превращаются в 8–12 минут работы. Если у вас вышло меньше — вы взяли слишком короткий документ или слишком общую задачу; если больше — вернитесь к блоку «Ограничения» и добавьте критерий приёмки.

Метрика здесь простая и потому рабочая: минуты на документ и число переделок. Метрика — это число, по которому видно, стало лучше или хуже. Если вы не можете назвать такое число, вы не улучшаете процесс, а меняете настроение.

Почему этот сценарий работает — коротко: вы не «попросили ИИ почитать», вы формализовали задачу. Формализация задачи — это превращение просьбы «сделай нормально» в пять записанных вещей: роль, данные, границы, формат и критерий приёмки. Ни одна из них не магия, и вместе они дают то, чего не даёт ни один модный приём из ленты: результат, который можно принять или отклонить по правилу, а не по вкусу. В главе 8 этот же приём разобран как интерфейс, а в главе 13 из него собирается полный рабочий сценарий.

Если документ не влезает в окно. Регламент на двести страниц в шаблон не поместится, и это нормальный случай. Работайте в два шага: сначала попросите карту документа — оглавление, перечень разделов с одной строкой о чём каждый, — это займёт три минуты и не потребует всего текста сразу. Потом гоняйте шаблон по двум-трём разделам, которые вам действительно нужны, и просите на выходе ссылку на раздел, а не на страницу. Так вы получаете не сжатие всего документа, а ответ на свой вопрос. Сводка целого документа нужна редко; обычно нужен ответ на один вопрос из него.

До и после: что именно изменилось

Плохой запрос звучит естественно, и в этом его проблема.

До. «Перескажи этот документ и скажи, что важно.»

После. «Ты — аналитик, который готовит материалы для занятого руководителя. Сделай сводку приложенного документа. Используй только его текст; если данных для пункта нет — напиши „в документе не указано“; не добавляй внешних фактов; числа, имена и даты копируй точно. Формат: суть в одном предложении; пять ключевых пунктов; три числа или даты; два вопроса, на которые документ не отвечает; одно следующее действие. Критерий приёмки: содержание понятно за 60 секунд, каждый пункт не длиннее двух строк, ни одного числа не из документа.»

Разница не в вежливости и не в длине. Разница в четырёх вещах.

Роль. В первом запросе её нет, и модель выбирает уровень сама — обычно средний, «для всех». Во втором задан адресат и его дефицит: занятой руководитель, шестьдесят секунд. Это меняет отбор фактов, а не только тон.

Границы данных. «Перескажи» разрешает дополнить по смыслу: модель дописывает пропущенное так, как оно обычно бывает. «Только текст документа» запрещает. Формулировка «в документе не указано» даёт модели легальный выход, и ей не нужно выдумывать, чтобы заполнить пустое место.

Формат. Пять пунктов с ограничением «не длиннее двух строк» — это не косметика. Свободный пересказ на триста слов читается дольше, чем документ, который он заменяет, и вы экономите минуты, а не часы.

Критерий приёмки. В первом запросе его нет, поэтому принять или отклонить результат можно только по вкусу. Во втором он записан: шестьдесят секунд, две строки на пункт, ни одного числа не из документа. Теперь ответ можно проверить, а не обсудить.

Есть и пятое отличие, которое стоит перенести во все свои шаблоны: пункт «чего документ не говорит». Он превращает сводку из пересказа в список вопросов — и именно за него вам будут платить вниманием на совещании.

Три ошибки, которые ломают первый запуск

Первые попытки проваливаются не из-за слабых моделей. Они проваливаются по трём повторяющимся причинам, и все три видны заранее.

Слишком широкая задача. «Сделай отчёт по продажам» — это не задача, а название отдела. Модель не знает, какой отчёт, для кого и в каком формате, поэтому выдаёт то, что чаще всего встречалось в текстах: общие слова, красивые заголовки, ни одного числа. Лечится дроблением: не «отчёт», а «сведи три района в таблицу: район, выручка, число сделок, отклонение от плана» — и три-четыре строки на выходе уже можно проверить.

Нет критерия приёмки. Когда критерия нет, им становится внешний вид ответа. Аккуратно оформленный текст с ровными абзацами выглядит как работа, хотя может не содержать ни одного факта. Критерий приёмки — это заранее записанное условие: «каждый пункт не длиннее двух строк», «в ответе нет чисел не из документа», «в таблице ровно двенадцать полей». Проверять по такому условию можно за минуту, спорить о нём — не нужно.

Экономию считают без проверки. Самая частая арифметическая ошибка в первом пилоте: «было 40 минут, стало 5» — и в эти пять минут не входит проверка. Через неделю выясняется, что проверка съедает ещё 6 минут, а через месяц — что две ошибки из тридцати пришлось исправлять по 40 минут каждая. Считайте всегда полный цикл: запрос, чтение ответа, проверка, правка. Если полный цикл не короче ручной работы, сценарий не работает, каким бы красивым ни был ответ.

Есть и четвёртая, более дорогая: персональные данные уходят во внешний чат, потому что «так быстрее». Это не ошибка качества, а инцидент, и он разбирается уже не вами. Про границы данных и правовые последствия — глава 15.

Под капотом: что происходит, когда вы нажимаете Enter

Текст разбивается на токены — куски по несколько символов или один-два слога. Модель получает последовательность токенов и предсказывает следующий, потом ещё один, и так до конца ответа. Никакого поиска по вашим файлам в этот момент не происходит: есть только то, что попало в окно контекста, и статистика, выученная на огромном корпусе текстов.

Отсюда два практических следствия. Числа хрупки: «2,5 мг» и «5 мг» для модели — близкие последовательности, а не разные величины, и она может «сгладить» редкое значение в частое. И второе: чем длиннее документ, тем меньше веса у середины. Позиционное затухание — эффект, при котором начало и конец текста влияют на ответ сильнее середины, — поэтому ключевые цифры лучше выносить в начало запроса или в конец. Подробно механика разобрана в главе 5, а про ошибки — в главе 7.

Ваш шаблон — это не «магия промпта». Это способ положить в окно контекста ровно те ограничения, которые вам нужны, и не надеяться на то, чего в окне нет.

Почему проверка — часть результата, а не недоверие к технологии

Осенью 2024 года учительница истории из чикагской школы провела с классом простой эксперимент, о котором потом писали газеты. Двадцать восемь учеников должны были ответить на вопрос, пользуясь сначала обычной поисковой выдачей, а потом ответом ИИ. К поисковой выдаче они отнеслись небрежно: пролистали и закрыли. К ответу ИИ возвращались трижды.

Но лишь двое из двадцати восьми заметили, что в одном из аргументов модель перепутала даты. Остальные двадцать шесть приняли текст как факт. Точность тона оказалась убедительнее точности источника. (собирательный кейс)

Не думайте, что это про школьников. Тот же паттерн виден в переговорной, где менеджер вставляет вывод модели в презентацию для совета директоров без единой проверки. И в агентстве, где копирайтер переписывает сгенерированный текст до последней запятой, но оставляет в отчёте плашку «сделано с ИИ» как знак качества.

Причина одна: скорость появления инструментов обгоняет нашу способность выработать о них интуицию. Калькуляторам понадобилось десятилетие, чтобы люди договорились: считать в голове всё ещё полезно. Смартфоны поменяли поведение за три-пять лет. Языковые модели меняют поведение за месяцы, и интуиция не успевает.

Отсюда главное правило книги: уверенный тон модели не свидетельствует о правильности. Проверка — не бюрократия и не недоверие. Это та часть работы, которая превращает черновик в результат.

Как читать эту книгу: три слоя и три маршрута

Книга собрана так, чтобы её можно было читать с любой глубины. Основной текст — для всех: истории, принципы, цифры, процедуры. Врезки «Под капотом» — для тех, кому важно, как это устроено: токены, окно контекста, поиск по документам. Врезки «Красные флаги» — для всех, кто не хочет наступать на грабли, на которые уже наступили тысячи людей.

Слой

Кому

Что даёт

Где искать

Основной текст

всем

принципы и процедуры, которые не устаревают

все главы

Врезки «Если вы новичок»

тем, кто начинает с нуля

аналогию вместо термина, порог входа

по одной-две в главе

Кейсы, матрицы, «Красные флаги»

практикам и руководителям

цифры, риски, внедрение без саботажа

главы 1, 12, 14, 17

Врезки «Под капотом»

инженерам, продактам, аналитикам

архитектуру и ограничения

главы 5–9, 14

Практикум «Что сделать сегодня»

всем

одно измеримое действие

конец каждой главы

Маршрутов три. Если вы начинаете с нуля, читайте главы 1, 2, 4, 8, 10, 13 — этот набор даёт рабочий сценарий и понимание границ. Если вы принимаете решения и отвечаете за бюджет, ваш маршрут — главы 1, 4, 12, 14, 17, 18: язык для разговора с командой и метрики внедрения. Если вы инженер, продакт или аналитик, идите в главы 5–9, 14 и приложение с шаблонами. Подробнее слои и маршруты описаны в разделе «Как читать эту книгу» в начале книги.

Одно условие общее для всех маршрутов: выполняйте действия. Каждая глава заканчивается блоком «Что сделать сегодня». Именно он, а не число прочитанных страниц, определяет, останется ли от книги что-нибудь через месяц.

В книге два вида примеров, и они честно помечены. Пометка «собирательный кейс» означает, что история собрана из нескольких практик и сведена в одну: цифры в ней типичные для таких проектов, но это не дословный протокол одного человека. Пометка «публичный кейс» означает, что у истории есть открытый источник — суд, отчёт, пресс-релиз, — и мы не добавляем к нему деталей, которых в источнике нет. Разница важна: собирательный кейс показывает механику, публичный позволяет проверить детали самому. Когда будете читать главу 12 с отраслевыми примерами, смотрите на пометку раньше, чем на цифру.