ИИ без мифов

Чернова Галина

ИИ без мифов

ИИ без мифов

как понимать, применять и не бояться искусственного интеллекта

Практическое руководство для всех, кто принимает решения

Первое издание

Аннотация

Вы научитесь понимать, как на самом деле работает искусственный интеллект — без формул, но и без сказок. Вы перестанете бояться ИИ и верить обещаниям, что он «заменит всех». Вы сможете выбирать задачи, где ИИ действительно экономит время, писать рабочие промпты, проверять результаты, оценивать риски и говорить с техническими специалистами на одном языке.

Эта книга — мост между хайповыми обещаниями и серьёзной инженерией. В ней: 18 глав по 12–15 страниц каждая, и в каждой — развёрнутый кейс с цифрами, разбор ошибок и процедура, которую можно применить завтра; 50+ практических примеров с измеримыми результатами и честными ограничениями; 26 готовых шаблонов — от промптов для ежедневной работы до JSON-схем и кода для автоматизации, каждый с примерами «вход» и «выход»; отдельное приложение с десятью антипаттернами, которые сводят пользу от ИИ к нулю; разделы о моделях рассуждений, контекстной инженерии, структурированном выводе и мультиагентных конвейерах — том, что определяет практику последних двух лет; врезки «Под капотом» для профессионалов; глоссарий на 100 терминов; живой репозиторий, где шаблоны и схемы обновляются под новые версии моделей.

На форзаце — три шпаргалки, к которым вы будете возвращаться чаще, чем к любой главе: матрица решений «сразу / с проверкой / нельзя», конструктор промпта из шести блоков и алгоритм диагностики ошибки модели.

Уже в первой главе вы получите два инструмента с немедленной отдачей: матрицу «что отдавать ИИ, а что нельзя» и рабочий шаблон выписки или сводки, который экономит 40–60 минут на первом же документе. Через день-два после начала чтения вы соберёте свой первый сценарий. Через неделю — встроите его в ежедневную практику. Через месяц у вас будет система, а не набор случайных запросов.

Как читать эту книгу

Книга устроена так, чтобы её можно было читать с любой глубины и в любом порядке — но с одним условием: выполняйте действия. Каждая глава заканчивается коротким блоком «Что сделать сегодня»; именно он, а не количество прочитанных страниц, определяет результат.

Три уровня чтения.

• Основной текст — для всех. Истории, принципы, примеры, цифры.

• Врезки «Под капотом» — для тех, кому важно, как это устроено: токенизация, внимание, RAG, кэширование контекста, оркестрация агентов. Их можно пропускать без потери логики.

• Врезки «Красные флаги» — для всех, кто не хочет наступать на грабли, на которые уже наступили тысячи людей и компаний.

Три маршрута.

Кто вы

Что читать в первую очередь

Что получите

Новичок без технического бэкграунда

главы 1, 2, 4, 8, 10, 13

рабочий сценарий и понимание границ

Руководитель, принимающий решения

главы 1, 4, 12, 14, 17, 18

язык для разговора с командой и метрики внедрения

Инженер, продакт, аналитик

главы 5–9, 14, приложение с шаблонами

архитектурные принципы и шаблоны для автоматизации

Два вида кейсов. В книге честно размечены примеры: «собирательный кейс» — типичная ситуация, собранная из практик и наблюдений, и «публичный кейс» — случай, о котором есть открытые источники. Мы не выдаём первое за второе: это принципиально для книги, которая учит проверять.

Живой слой: почему эта книга не устареет

Главный аргумент против книг об ИИ звучит так: «через три месяца всё изменится». Аргумент сильный, и он верен ровно наполовину.

Меняется погода: версии моделей, цены за токен, названия кнопок, лимиты контекста. Она меняется каждые несколько недель, и никакая бумажная книга за этим не успеет. Не меняется климат: модель предсказывает текст, а не ищет истину; она не знает вашего контекста, пока вы его не дали; рассуждение снижает ошибки в шагах, но не в исходных данных; ответственность за решение остаётся на человеке. Именно климат и составляет содержание этой книги.

Поэтому у книги есть два слоя.

Слой

Что в нём

Как обновляется

Книга (бумага и электронная версия)

принципы, методология, кейсы, разбор ошибок

новое издание раз в 2–3 года

Живой слой (репозиторий и приложение)

шаблоны, JSON-схемы, примеры кода, чек-листы, актуальные ограничения моделей

каждые 2 месяца

Что даёт живой слой. Не «ссылки на сайт», а рабочую инфраструктуру: готовые промпты с историей изменений, схемы структурированного вывода, чек-листы приёмки, таблицу «какая модель что умеет на сегодня», разборы новых релизов с точки зрения практики — и то, что важнее всего, — указание, что именно изменилось после выхода новой версии модели.

Как этим пользоваться. В конце глав и в приложении стоят ссылки вида #ch05 — это адрес раздела в репозитории. QR-код ведёт туда же; он есть в каждой главе электронной версии и на вклейке печатного издания. Если вы читаете бумажную книгу без телефона под рукой — откройте адрес позже; шаблоны в приложении работают и без обновлений.

Чего живой слой не делает. Он не заменяет книгу и не «обучает вас за вас». Он снимает единственную причину, по которой хорошая книга по ИИ устаревает: расхождение между принципом и текущей версией инструмента.

От автора

Эта книга родилась из разговора с врачом.

Я спросил его: «Вы пользуетесь ИИ?» Он ответил: «Нет. Это сложно, да и зачем — всё равно всё заменит робот». Через пять минут он показал мне Excel-таблицу, куда вручную вносил данные пациентов из чеков, писем и телефонных блокнотов. Задача, которую ИИ решает за минуты, съедала у него час в день.

А потом я говорил с разработчиком, который уверенно объяснял, что языковые модели «на самом деле ничего не понимают», — и тут же доверял модели выбрать стек сборки и сборочные зависимости для проекта. И с руководителем отдела маркетинга, который писал промпты длиной в абзац, как магические заклинания, и каждый раз получал одну и ту же воду вместо текста.

Все трое ошибались по-разному. Но их ошибки были одного типа: они принимали решения на основе мифов. Первый решил, что ИИ — это магия, которая «либо всё заменит, либо ничего не умеет». Второй — что понимание устройства модели освобождает от проверки результатов. Третий — что длина промпта заменяет его качество.

Мифы одинаково дорого обходятся новичкам и профессионалам. Новички не используют то, что могло бы им помогать. Профессионалы строят на ИИ системы, которые позже разваливаются от первого же ветра. Руководители вкладывают деньги в те проекты, где ИИ даёт эффект, и одновременно тратят на те, где он даёт только презентации.

Поэтому я написал эту книгу не «про ИИ вообще», а про другое: как человеку принимать лучшие решения с помощью ИИ.

Здесь мало математики. Но здесь есть принципы, которые переживут любую смену моделей и инструментов. Есть кейсы из США, Европы, Азии и глобальных компаний — с цифрами времени, денег и ошибок, и с честным описанием того, что в этих кейсах не сработало. Есть шаблоны, которые вы будете применять до тех пор, пока инструменты не прошли свой полный цикл.

Книга устроена так, чтобы вы могли читать её с любой глубины. Основной текст — для всех. Врезки «Под капотом» — для тех, кто хочет знать, как это устроено изнутри. Врезки «Красные флаги» — для всех, кто хочет не наступить на грабли, на которые уже наступили тысячи людей и компаний.

Читайте с карандашом. Выполняйте упражнения. И помните главное правило этой книги: ИИ — это не участник вашего разговора. Это инструмент вашего решения.

Пусть эта книга сэкономит вам хотя бы один час в неделю. Тогда она окупила себя быстрее любой инвестиции.

Форзац: три шпаргалки книги

Три страницы, к которым возвращаются чаще, чем к любой главе: что поручать модели, как формулировать запрос и что делать, когда ответ слабый. Каждая шпаргалка рассчитана на одну распечатанную страницу — один лист, одна тема, ничего лишнего — и на шестьдесят секунд чтения в момент решения, а не «до книги».

Принцип у всех трёх один. Модель — не источник истины и не калькулятор, а исполнитель формулировки: чем точнее заданы задача, данные и критерий приёмки, тем предсказуемее результат. Погода в виде версий и цен меняется каждые несколько недель; порядок, изложенный ниже, держится годами и не требует обновления.

Как пользоваться форзацем.

- Сначала найдите свою задачу в первой таблице и посмотрите вердикт. Это ответ на вопрос «можно ли вообще».

- Потом соберите запрос по шести блокам. Это ответ на вопрос «как попросить».

- Если ответ уже пришёл и слабый — идите по дереву в третьей шпаргалке, сверху вниз, до первого совпадения.

Шпаргалка 1. Матрица решений

Одна таблица на десять строк. Читайте её не как разрешение, а как распределение вашего внимания: зелёная половина экономит часы, красная — деньги и репутацию.

Вердиктов три, и они отличаются не степенью доверия к технике, а ценой ошибки. Сразу — ответ читают на бегу, потому что ошибка здесь дешевле её проверки. С проверкой — ответ принимают после выборки, а не после того, как он понравился. Нельзя — задача меняет форму: считается калькулятором, берётся из первоисточника, подписывается человеком.

Задача

Как поступить с результатом

Пересказ, сводка, выжимка из документа

сразу: переупаковка текста — родная операция модели; сверьте числа, имена и даты с источником

Черновик письма, поста, объявления

сразу: структура и тон даются быстро; обещания, сроки и факты о продукте остаются на вас

Объяснение темы на нужном уровне

сразу: модель уверенно меняет глубину и словарь; объяснение не равно факту

Идеи, варианты, названия, планы

сразу: генерация вариантов дешева; выбор всегда за вами

Перевод

с проверкой: термины, имена и юридические формулировки сверяйте по словарю, а не на слух

Таблица из текста, PDF, переписки

с проверкой: выборочно 5–10 строк против источника, отдельно — единицы измерения и пустые поля

Классификация заявок, писем, тикетов

с проверкой: разбирайте вручную всё, что попало в «прочее» и «срочное»

Ревью кода и черновик тестов

с проверкой: тесты запустить; код без прогона не принимать, даже если правки выглядят очевидными

Расчёты, сметы, налоги, дозировки; свежие факты

нельзя: модель предсказывает числа, а не считает, и не знает того, что появилось после даты обучения; калькулятор, таблица, первоисточник с датой

Юридическое заключение, диагноз, подпись, решения о людях, персональные данные

нельзя: ответственность не делегируется, а публичный чат — чужая система; модель готовит черновик, решение, данные и подпись остаются у человека

Как читать матрицу. Смотрите не на модель, а на цену ошибки. Если ошибку видно за десять минут и она дешевле проверки — отдавайте сразу. Если ошибка уходит наружу: в деньги, в документ с подписью, к клиенту или пациенту, — проверка идёт по первоисточнику, с цитатой и адресом. Если проверить нельзя в принципе, это не задача для модели в текущем виде, и такое решение нормально.

Средняя проверка из строки «с проверкой» стоит около двух минут на ответ: одно утверждение из пяти читается целиком, а все числа, даты, имена и номера — полностью и всегда. Это не недоверие к технологии, а арифметика: две минуты против часа переделки и разговора о том, кто виноват.

Шпаргалка 2. Конструктор промпта из шести блоков

Каждый блок закрывает дыру, в которую иначе зальётся правдоподобный текст. У модели нет режима «мне не хватает данных»: продолжение возможно всегда, поэтому недостающее она достраивает молча.

Порядок блоков не случайный. Роль сужает словарь, задача задаёт результат, данные отсекают вымысел, формат делает ответ проверяемым машиной, критерии дают право отказать, примеры переносят то, что вы не можете описать словами. В конвейере первые два блока ещё и дешевеют: неизменный префикс инструкции тарифицируется по пониженной ставке, поэтому дату и имя клиента ставьте в конец, а не в начало.

Блок

Вопрос, на который он отвечает

Пример формулировки

Роль

Кто говорит и каким словарём

«Ты B2B-маркетолог, семь лет пишешь для снабженцев заводов»

Задача

Что именно сделать — один глагол, один результат

«Перепиши письмо: первый абзац ссылается на встречу 14 марта»

Данные

Чего модель не может знать сама

блок ### ДАННЫЕ: линейки из трёх высот, цены, срок шесть недель, возражение клиента дословно

Формат

Как выглядит готовый ответ

«180–200 слов, тема до 50 знаков, один призыв к действию, без списков»

Критерии приёмки

По какому признаку вы откажете ответу

«каждая цифра из ДАННЫХ; слова „инновационный“ и „комплексный“ не использовать; если данных нет — так и написать»

Примеры

Как выглядит хороший результат на вашем материале

три ваших письма, на которые ответили клиенты

Универсальный шаблон. Шесть строк, которые копируются в любой чат. Пустые места заполняются, а не пропускаются: пропуск — это и есть та дыра, куда заливается вымысел.

- Роль: ты [роль, опыт, для кого пишешь].

- Задача: [один глагол]: [один результат].

- Данные: ### ДАННЫЕ — [цифры, сроки, ограничения, дословные возражения].

- Формат: [объём] слов, [структура], [чего быть не должно].

- Критерии: каждая цифра из ДАННЫХ; при отсутствии данных написать «нет данных»; [запрещённые слова].

- Примеры: [вход → выход], два-три ваших образца.

Проверка блока занимает тридцать секунд. Покажите промпт коллеге и спросите, что именно он сдаст и по какому признаку поймёт, что сдал. Если его ответ расходится с вашим, промпт не готов, и модель здесь ни при чём.

Шесть блоков — не бюрократия. Полный промпт выходит на 400–900 слов, и это дешевле, чем двенадцать итераций в чате: каждая из них стоит прогона и вашего внимания, а спецификация пишется один раз.

Шпаргалка 3. Алгоритм диагностики ошибки модели

Порядок шагов важнее их содержания: сначала исключаются дешёвые причины, и только потом меняется модель. Правило одно — не менять две вещи одновременно, иначе не узнаете, что помогло.

Нулевой шаг. Назовите дефект. «Плохо» — не дефект. Дефект — это неверное число, пропущенный раздел, чужой тон, ответ на другой вопрос. Если назвать нечего, проблема не в модели, а в критерии приёмки.

Дальше идите по дереву сверху вниз и остановитесь на первом совпадении. Ведите короткий журнал: одна правка — один прогон, строка «что изменил → что стало». Через три итерации видно, какая причина была настоящей, а какая померещилась, и вы перестаёте чинить формат там, где не хватало данных.

1. Не те данные. Если в ответе факты, которых вы не давали, или перепутаны единицы и термины — вынесите данные в блок ### ДАННЫЕ, отделите их от инструкций тегом и запретите добавлять факты вне блока.

2. Нет критерия. Если ответ нельзя ни принять, ни отклонить без спора о вкусе — впишите три проверяемых условия приёмки и правило на случай отсутствия данных: написать, что данных нет, а не додумать.

3. Задача слишком широкая. Если в ответе всё понемногу и ни один пункт не доведён до конца — оставьте один глагол на вызов и разбейте работу на два-три шага, каждый со своим форматом и своей приёмкой.

4. Модель не знает факта. Если номера, даты и ссылки выглядят гладко, но их нет в источнике, или речь о событиях после даты обучения — приложите первоисточник, потребуйте цитату с адресом и разрешите прямой отказ «нет данных». Без источника ответ остаётся гипотезой и в документ не идёт.

5. Конфликт инструкций. Если выполнена половина задания или нарушено правило, которое вы задавали выше, — найдите противоречие между системной инструкцией, данными и прошлыми сообщениями; оставьте одно правило и задайте приоритет: системная инструкция сильнее истории диалога, а данные не являются инструкциями.

6. Нужен расчёт или инструмент. Если шаги выглядят логично, а сумма не равна слагаемым и единицы не сходятся — подключите калькулятор, таблицу или код, просите формулу и шаги, а не готовое число, и пересчитывайте результат отдельно.

Если после шести действий ответ остался слабым, дело уже не в формулировке: нужен поиск по вашим документам или сборка конвейера из глав 6 и 9. Это другой ремонт и другая цена, и он начинается с вопроса «где лежит источник», а не «какую модель выбрать».

Проверка на сомнение. Спросите себя, чего не хватило бы коллеге, чтобы выполнить эту задачу без вас. Не хватило фактов, цифр и сроков — пункт 1. Неясно, что считается готовым ответом, — пункт 2. Задача распадается на три разные — пункт 3. В ответе номера и даты, которых нет в источнике, — пункт 4. Правила спорят друг с другом — пункт 5. Ответ должен быть числом — пункт 6.

Оглавление

ЧАСТЬ I. ИИ без паники 13

Глава 1. С чего начать: матрица решений и первый результат за 20 минут 14

Глава 2. Что ИИ умеет на самом деле — и чего не умеет 28

Глава 3. Мифы, которые мешают применять ИИ 41

Глава 4. Как думать об ИИ: задачи, данные, результат 53

ЧАСТЬ II. Как это работает без формул 66

Глава 5. Модель — это не база знаний, а функция предсказания 67

Глава 6. Данные, обучение и ограничения 80

Глава 7. Почему ИИ ошибается и что такое галлюцинации 94

Глава 8. Промпт как интерфейс: принципы, а не магия 109

Глава 9. RAG, агенты и автоматизация — простыми словами 124

ЧАСТЬ III. Практика 138

Глава 10. Личная продуктивность: текст, анализ, планирование 139

Глава 11. Работа с информацией: поиск, суммаризация, проверка фактов 153

Глава 12. Профессиональные кейсы: восемь отраслей 167

Глава 13. Как построить свой рабочий сценарий за 30 минут 181

Глава 14. Как оценивать качество и стоимость решения 195

ЧАСТЬ IV. Риски и внедрение 209

Глава 15. Приватность, безопасность и авторское право 210

Глава 16. Предвзятость, этика и ответственность 224

Глава 17. Как внедрять ИИ в команде и не сломать процессы 238

Глава 18. Что будет дальше: принципы, которые переживут инструменты 251

Приложение А. Шаблоны промптов 264

Приложение Б. Десять антипаттернов 305

Финальное обращение к читателю 312

Глоссарий 313

Источники и литература для углубления 319

ЧАСТЬ I. ИИ без паники

Глава 1. С чего начать: матрица решений и первый результат за 20 минут

Паспорт главы. Обещание: вы разложите свои рабочие задачи по трём вердиктам — «сразу», «с проверкой», «нельзя» — и получите один сценарий, который даёт измеримую экономию в первый же день. Время чтения: 12 минут. Результат: заполненная матрица на пять своих задач и сводка документа за 8–12 минут вместо 40–60.

Четверг, 20:40, Лиссабон

Ана — терапевт, 46 лет, четвёртый год ведёт приём в клинике в центре Лиссабона. В четверг у неё было четырнадцать пациентов, а в 20:40 она всё ещё сидела над третьей выпиской за вечер: четыре страницы истории болезни, два анализа из разных лабораторий, назначения, которые менялись трижды за полгода.

Выписка — не творчество. Это перенос фактов из одного формата в другой: жалобы, анамнез, препараты с дозами, результаты анализов, план, дата следующего визита. Работы на 40 минут, если делать внимательно. Пять таких выписок в день — три с половиной часа, которых в расписании приёма нет.

При этом Ана не считала себя человеком, который боится технологий. Она пользовалась электронной картой, поиском по справочнику диагнозов, калькулятором рисков. Она просто не видела, где именно в её дне ИИ возьмётся за дело, а где создаст проблему, которую придётся разбирать ночью.

Эта глава — про то, как за двадцать минут получить от ИИ первый измеримый результат. И про то, как не повторить ошибку, которую Ана сделала на второй день.

Кейс: сорок минут, чужая дозировка и один шаблон

Проблема. Пять выписок в день по 40 минут — это 66 часов в месяц. Добрая половина этих часов приходилась на вечера и субботы, потому что днём между пациентами выписку не собрать: нужен непрерывный кусок внимания, а его нет. За месяц Ана ошибалась в выписках два-три раза — не в диагнозе, а в переносе: пропущенная строка анализов, съехавшая дата, доза, записанная дважды. Каждая такая ошибка стоила звонка, извинения и двадцати минут репутации.

Ошибочная попытка. В субботу она открыла чат, вставила историю болезни целиком — четыре страницы, около двух тысяч слов — и написала: «Перескажи всё, что важно для выписки, и подскажи дозировки». Ответ пришёл через двадцать секунд. Аккуратный текст на триста слов, ровные формулировки, правильный порядок разделов, ни одного лишнего слова.

Первые две выписки она собрала за двенадцать минут и решила, что задача закрыта.

На третьей её остановила медсестра. В выписке стояло «бисопролол 10 мг утром», в карте — «бисопролол 5 мг утром и 2,5 мг вечером». Модель не выдумала препарат из воздуха. Она свела две строки в одну, потому что в текстах, на которых её учили, такая доза встречается чаще и выглядит аккуратнее. К этому моменту две выписки уже ушли в архив.

Разбор занял 40 минут: сверить все препараты по исходнику, позвонить в аптеку, переписать документ, объяснить коллеге, почему в системе стоит неверная доза. Пациент ничего лишнего не получил. Доверие к собственному вечернему эксперименту — получил удар.

Правильный подход. Ана не отказалась от инструмента. Она изменила задачу и добавила к ней три вещи, которых в первом запросе не было.

Первое — границы данных. В шаблоне появилась строка: «Используй только текст истории болезни. Если для поля нет данных — напиши „нет в источнике“». Второе — запрет на преобразование чисел: «Каждую дозу, дату и результат анализа копируй дословно. Не пересчитывай, не объединяй, не нормализуй». Третье — формат из двенадцати фиксированных полей в фиксированном порядке, включая поле «аллергии» и поле «открытые вопросы».

Отдельным шагом она вынесла проверку из головы в процедуру: перед сохранением — тридцать секунд поиска по исходнику для каждой дозы и даты. Не «посмотреть внимательно», а именно поиск строки.

На второй неделе выяснилось, что шаблон нельзя держать в голове: у двух клиник разные форматы выписок, и в одной из них поле «план» называется «рекомендации». Ана сохранила шаблон в заметках двумя версиями и перестала переписывать его каждый раз. Побочный эффект оказался важнее основного: когда ограничения записаны, их проще показать коллеге. Через месяц тем же шаблоном пользовались ещё двое врачей, и один из них добавил поле, которое Ана пропустила, — «дата последней вакцинации».

Итог в цифрах. Три недели, 30 выписок. Среднее время — 11 минут вместе с проверкой против 40 минут до. Расхождений в числах и дозах при выборочной сверке — ноль. Экономия — 29 минут на выписку, около 48 часов в месяц при её объёме работы.