ИИ без мифов

Если вы новичок: как читать эту книгу без технического бэкграунда

- Считайте модель очень начитанным, но очень самоуверенным коллегой: он мгновенно отвечает на что угодно, иногда путает факты и никогда не скажет, где ошибся, если вы не спросите.

- Не пытайтесь понять устройство на первой главе. Вам достаточно запомнить: инструмент предсказывает текст, поэтому его надо проверять, как проверяют работу стажёра.

- Читайте по маршруту для новичков: главы 1, 2, 4, 8, 10, 13. Между ними можно возвращаться к своей матрице и дописывать строки.

- Пропускайте врезки «Под капотом» при первом чтении. Они не нужны, чтобы получить результат сегодня, и не мешают логике.

- Один сценарий, доведённый до измеримого результата, полезнее десяти прочитанных глав без практики.

Красные флаги: поверхностный разговор об ИИ

- Собеседник говорит «ИИ думает», «ИИ чувствует», «ИИ хочет» — без пояснения, что это метафора.

- Аргументация строится вокруг новости недели, а не вокруг структуры сильных и слабых сторон.

- Обещание без проверки: «нейросеть всё сделает» или, наоборот, «она не способна ни на что».

- В разговоре нет ни одного примера с измеримым результатом: только «стало быстрее» и «все уже используют».

- Вам предлагают решение, но не могут назвать, что именно оно не делает и кто проверяет результат.

Что сделать сегодня

1. Разложите пять своих задач по матрице. Возьмите пять повторяющихся дел из прошлой недели — не абстрактных, а с названиями. Начинайте с ключевых задач — тех, что повторяются каждую неделю и занимают заметную долю времени; редкие и разовые дела дадут ложную картину. Для каждой запишите вердикт и одну строку «что проверю». Результат: пять строк в таблице, из которых хотя бы одна попадает в «сразу». Измерение: пять заполненных строк за пятнадцать минут; если строк меньше — вы взяли слишком крупные задачи, дробите.

2. Прогоните дерево решений по самой дорогой из них. Пункты 1–6, остановка на первом сработавшем. Результат: обоснованный вердикт вместо ощущения. Измерение: время на разбор одной задачи — меньше двух минут.

3. Сделайте сводку на реальном документе. Засеките baseline до запуска, выполните шаблон, проверьте числа поиском, засеките время вместе с проверкой. Результат: два числа — «до» и «после». Измерение: если «после» больше 15 минут, вы взяли не тот документ или не добавили критерий приёмки.

4. Запишите свой результат одной фразой. Формат: «Задача X занимала N минут, теперь M минут, проверка — K минут, ошибок — ноль или столько-то». Результат: цифра, которую можно показать руководителю. Измерение: фраза содержит три числа и одну границу применимости.

5. Определите, что осталось человеку. Для сценария из шага 3 напишите список случаев, которые вы не отдаёте модели: сложные, редкие, с чужими персональными данными. Результат: граница, зафиксированная до первой ошибки, а не после. Измерение: в списке не меньше двух пунктов.

Живой слой. Обновляемые шаблоны, чек-листы и разборы под текущие версии моделей: github.com/ai-bez-mifov/book#ch01 — QR-код на вклейке и в электронной версии.

Глава 2. Что ИИ умеет на самом деле — и чего не умеет

Паспорт главы. Обещание: разложить любую свою задачу по сильным и слабым зонам модели и заранее увидеть, где она сэкономит часы, а где создаст риск. Время чтения: 14 минут. Результат: таблица из пяти ваших задач с вердиктами «отдать», «отдать с проверкой», «не отдавать» и один сценарий, переведённый на правильный инструмент.

В пятницу в 18:20 финансовый директор сети из четырёх клиник отправляет модели выгрузку: 240 строк продаж, просьба «посчитай итог и средний чек». Ответ приходит через одиннадцать секунд. Два числа, два знака после запятой, ровный деловой тон.

В понедельник бухгалтер приносит другие цифры. Расхождение — 3,4 % недельного оборота, то есть €1 724, которых нет.

Никто не сделал ничего злонамеренного. Модель поступила как человек, считающий длинный столбец в уме: прошлась по числам, где-то округлила, где-то потеряла строку и выдала правдоподобный итог. Разница в одном: человек, считающий в уме, говорит «примерно», а модель пишет «итого: 47 812,40».

Полезная метафора — география. У модели есть континенты, где она дома: текст, структура, пересказ, черновик. И есть области, куда она ходит без карты: точные числа, свежие события, чужие мотивы, ответственность за решение. Ходить она туда всё равно будет, и с совершенно уверенным лицом. Задача не в том, чтобы её не пускать, а в том, чтобы знать, где именно проверять каждый шаг.

Глава 1 давала матрицу «сразу / с проверкой / нельзя» для решений. Здесь мы заходим с другой стороны: не «можно ли поручить», а «что именно модель делает хорошо и почему». К концу главы вы будете различать эти два вопроса и не станете путать их в разговоре с коллегами.

Кейс: 32 анкеты, 4 минуты и три выдуманных критерия

Осенью 2024 года Лорен, учительница литературы в школе на севере Чикаго, вела сентябрьский писательский конкурс. На руках — 32 анкеты: имя, класс, тема, текст на 700–1 500 слов. Требовалось три вещи: перенести анкеты в таблицу, найти в текстах логические противоречия и написать каждой участнице личную обратную связь.

В прошлом году такая же работа заняла шесть часов в три вечера. При ставке подготовки $35 в час это $210 сверхурочных, которых школа не оплачивает. И всё равно в двух письмах перепутались имена: отзыв для одной девочки ушёл другой. Ошибку заметила мама, написала классному руководителю, и Лорен потом неделю проверяла каждую строку вручную.

Первая попытка выглядела разумно. Она вставила все 32 анкеты в один чат — около 11 000 слов — и написала: «Прочитай и дай обратную связь каждой участнице». Ответ был убедительным: бодрые абзацы, имена на месте. Потом обнаружилось, что модель ответила про 19 участниц из 32, двух девочек с одинаковой фамилией слила в одну, приписала одной из них стихотворение, которого в анкете не было, а последние шесть анкет не заметила вовсе: они оказались в конце длинного сообщения, где внимание модели провисает.

На исправление ушло два часа, и доверия к результату не осталось. Это типичный вид попытки «в лоб»: одна большая просьба, много данных, ни одного критерия приёмки. Не хватало трёх вещей сразу — единицы работы, явных правил и способа проверить выход за минуту.

Второй заход был скучным и сработал. Лорен разбила работу на три задачи, у каждой свой выход и своя проверка.

Первая задача — перенос в таблицу. Одна анкета на запрос, поля заданы жёстко: ID, имя, класс, тема, жанр, объём в словах. Выход — JSON, то есть текст с явной структурой полей, который вставляется в таблицу механически, без перечитывания. Проверка заняла секунды: число строк равно 32, ID идут подряд без пропусков.

Вторая задача — противоречия. Сначала список пяти правил конкурса, затем одна анкета, и обязательное условие: каждое замечание сопровождается цитатой из текста. Проверка ещё дешевле: цитата ищется поиском по документу за две секунды, и замечание без цитаты отправляется в мусор. Точность — доля верных попаданий на проверенной выборке — оказалась 90 %: из десяти замечаний девять были настоящими, десятое выдуманным или придиркой к стилю.

Третья задача — отзывы. Шаблон из четырёх блоков: сильная сторона с примером, зона роста с примером, один конкретный совет, финальная фраза. Запрет на сравнение с другими участницами. Объём 80–110 слов. Тон — «учитель, а не критик». Тридцать два отзыва заняли 22 минуты, и каждый пришлось только прочитать, а не переписать.

Итог: 4 минуты на таблицу вместо 50, 22 минуты на отзывы, вся работа — 40 минут вместо шести часов. Экономия около 5 часов 20 минут на конкурс, или $187 по её ставке. В финальной рассылке — ноль ошибок в именах: проверены все 32 из 32 (собирательный кейс).

Вторая половина истории хуже. В феврале 2025 года проходил следующий конкурс, и Лорен переиспользовала шаблон, но пропустила блок правил: дала модели только анкеты. Модель подставила типичные критерии писательских конкурсов, которых в положении не было: минимальный объём 1 200 слов, запрет на форму диалога, возрастная категория 11–13 лет. По этим трём критериям она ранжировала работы и трём участницам написала про «недостаточный объём». Ошибку заметила коллега, задавшая простой вопрос: откуда взялись 1 200 слов.

Переделка заняла шесть часов в два вечера и два извинения перед семьями. После этого в шаблоне появился блок «Правила (дословно из положения)» и строка: «Если правила нет в блоке выше — не применяй его. Если данных не хватает — напиши „нет данных“». За четыре следующих конкурса выдуманных критериев не было ни одного.

Честное ограничение кейса: литературное качество модель оценивает посредственно. Её ранжирование совпало с оценкой Лорен в 24 случаях из 32. Этого достаточно, чтобы готовить черновик отзыва, и недостаточно, чтобы ставить оценки. Плагиат она не проверяет вовсе — для этого нужен отдельный инструмент сравнения текстов. Спорные случаи, жалобы родителей и всё, где решение имеет последствия, остаются у человека.

Разбор.

- Работа разбита на три задачи с разными выходами: таблица, список замечаний, текст отзыва. У каждой свой формат и своя проверка.

- Данные поданы по одной записи с явным ID. Модель не путает участниц, потому что у неё нет выбора между 32 похожими текстами одновременно.

- Правила поданы текстом, а не подразумевались. На втором конкурсе их не было — и модель подставила типичные. Это не сбой, это штатное поведение.

- Каждый выход проверяется дёшево: цитату ищут поиском, таблицу сверяют по числу строк, отзыв читают одним взглядом. Проверка, которая дороже работы, не приживается.

Пять зон, где модель сильна

Сила модели не мистическая. Она следует из одной механики: модель продолжает текст, выбирая вероятное следующее. Там, где «вероятное продолжение» совпадает с «правильным результатом», она работает быстро и точно. Таких мест в офисной и профессиональной работе больше, чем кажется.

Переработка текста с сохранением смысла. Пересказ, перевод, сокращение, смена тона, выделение главного. Это главный дом модели: здесь вероятное продолжение и есть то, что нужно. Чтение 60 страниц до восьми минут — типичный замер, который повторяется из команды в команду, если текст подан целиком и разбит на части.

Первый черновик по заданному каркасу. Письмо клиенту, отчёт, инструкция, пост. Модель не пишет лучше вас, но она пишет быстрее и не боится пустой страницы. Разница между «40 минут и готово» и «12 минут и черновик» — это разница между двумя состояниями одного человека.

Структурный разбор объёма. Разложить хаос на список, сравнить два документа, найти противоречия, разметить категории. Люди делают это «по ощущению» и устают к третьему часу; модель перечисляет без устали. Условие одно: каждое утверждение должно быть привязано к цитате, иначе вы получите красивый список выдумок.

Разметка по правилам — частный случай этой зоны, и самый недооценённый. Пятьсот отзывов, десять категорий, определения категорий даны текстом: модель размечает за час, человек за три дня. Точность меряется на выборке из 50 записей, и если она ниже 85 %, причина обычно в определениях категорий, а не в модели: люди на тех же 50 записях расходятся не меньше.

Преобразование форматов. Текст в таблицу, CSV в JSON, запись встречи в протокол, письмо в список задач. Это операции «возьми и переложи», и модель выполняет их охотно. Ломается там, где поля не заданы: колонки начинают плыть, а часть строк исчезает.

Объяснение под разную аудиторию. Один и тот же материал для новичка, для юриста и для ребёнка. Раньше для этого нужны были три человека или три вечера; теперь — три запроса с явно названной аудиторией.

Сильная зона

Что именно делает

Типичная экономия

Где ломается

Переработка текста

пересказ, перевод, тон, сокращение

60 минут чтения → 8 минут

длинный документ обрезан, середина потеряна

Первый черновик

письмо, отчёт, инструкция по каркасу

40 минут → 12 минут

нет каркаса — получается средний текст

Структурный разбор

список, сравнение, противоречия

2 часа → 25 минут

замечания без цитат превращаются в выдумку

Преобразование форматов

текст → таблица, CSV → JSON

50 минут → 4 минуты

поля не заданы, колонки плывут

Объяснение под аудиторию

один материал на трёх уровнях

редактор не нужен

факты этим не проверяются

Общее у всех пяти зон: задача формулируется как «преобразуй то, что я дал», а не «найди то, чего у меня нет». Как только модель должна добавить знание, которого нет во входных данных, начинается зона риска.

Четыре зоны, где она слаба

Слабость тоже не каприз, а следствие механики. Модель не ищет, не считает, не знает вашего контекста и не отвечает за последствия. Каждый пункт ниже — про это.

Редкие и свежие факты. Модель обучена на текстах до определённой даты и не имеет доступа к миру после неё. О широко известном она отвечает верно, о редком — сочиняет. Галлюцинация — это правдоподобное утверждение, не опирающееся ни на данные, ни на факт: несуществующий пункт закона, выдуманная статья, чужой автор у стихотворения. Опасна не сама выдумка, а её подача: уверенность модели — это её тон и вероятность, с которой она выбирала продолжение, а к правильности ответа ни то, ни другое отношения не имеет. Уверенный тон — стиль изложения, не свидетельство истины.

Точная арифметика. Модель не калькулятор. Она складывает так, как человек в голове: в общем случае и примерно. Ошибки копятся на длинных числах, процентах, десятичных дробях и итогах по колонке. Разбор этой зоны — отдельный раздел ниже.

Намерения, мотивы и скрытый контекст. «Чего хочет этот клиент», «почему сотрудник сопротивляется», «что решит совет директоров» — это не вопросы к модели. Она отвечает как средний человек, читавший похожие тексты. Ваш контекст — переписку, историю неудач, характер директора — она не знает, если вы его не подали, и даже подав, интерпретирует как типичный.

Ответственность за результат. Если модель ошиблась, платите вы. Это не дефект конкретного продукта, а архитектурная особенность: у модели нет субъектности и нет счёта, с которого спишут штраф. Отсюда правило, которое дальше встречается в каждой главе: чем дороже ошибка, тем плотнее человек в контуре — тот, кто проверяет выход перед использованием.

Слабая зона

Почему так

Как выглядит ошибка

Что делать

Редкие и свежие факты

нет доступа к миру после обучения

уверенная ссылка на несуществующий пункт

подать документ, требовать источник

Арифметика

предсказание токенов вместо вычисления

итог «примерно» верный, в третьем знаке нет

считать формулой или кодом

Мотивы людей

нет данных о конкретном человеке

«клиент хочет скидку» как факт

интервью, данные, гипотезы

Ответственность

нет субъекта, который отвечает

подпись под непроверенным расчётом

человек проверяет перед использованием

Отдельно стоит краевой случай (edge case) — редкий вход, которого почти не было в обучающих данных: нестандартный формат даты, диалект, узкая отрасль, необычная единица измерения. На типовых примерах модель выглядит компетентной, на краевых — теряет детали молча. Поэтому проверять надо не середину, а края: нетипичные строки, короткие записи, пустые поля.

Стоит отделить понимание от его имитации, потому что от этого зависит доверие. Когда модель пересказывает текст, она действительно опирается на него: слова в ответе связаны со словами на входе, и связь проверяема. Когда она рассуждает о причинах события, она воспроизводит форму рассуждения — типичные связки, типичные причины, типичные оговорки. Форма совпадает, содержание берётся из среднего по корпусу. Тест простой: уберите из запроса ваши данные. Если ответ не изменился, модель не анализировала ваш случай, а рассказала общий. Это не делает её бесполезной — общий ответ часто полезен как рамка. Но выдавать рамку за вывод по вашему случаю и есть та ошибка, после которой к ИИ теряют доверие.

Если вы новичок: как отличить «умеет» от «делает вид»

Представьте двух студентов на экзамене. Один отвечает уверенно и иногда ошибается, но, если попросить, показывает место в учебнике. Второй говорит так же гладко, но источника не имеет и придумывает его на ходу. Модель по умолчанию ведёт себя как второй, пока вы не дадите ей учебник.

- Дайте три задачи, ответ на которые вы знаете точно. Это единственный честный способ измерить её на вашем материале.

- Попросите источник: «откуда эта фраза». Если модель не может указать место в присланном тексте — считайте утверждение выдумкой.

- Дайте ей данные и правила. На одном тексте без правил она даёт средний ответ, на тексте с правилами — попадает в вашу задачу.

- Проверьте одно число калькулятором. Если расходится — не «улучшайте промпт», а смените инструмент.

- Если после трёх попыток результат не сходится, сузьте задачу: не «сделай отчёт», а «выпиши пять фактов с цитатами из этих двух абзацев».

Числа и таблицы: почему итог не сходится

Теперь самая дорогая зона. Почти каждая история про «ИИ наврал в отчёте» — это история про числа, которые модель складывала сама.

Причина в устройстве. Модель порождает текст по фрагментам — токенам, кускам слова или числа. Число 47 812,40 приходит к ней не как величина, а как последовательность кусков. У неё нет регистра для переноса разряда, нет разрядной сетки, нет промежуточного результата, который можно сохранить между шагами. Сложение столбиком требует состояния: «пишем 4, два в уме». Модель такого состояния не держит; она каждый следующий фрагмент выбирает заново, глядя на уже написанное.

Отсюда типичные места ошибок, которые повторяются из отчёта в отчёт:

• длинные суммы: чем больше строк, тем выше шанс потерять одну и не заметить;

• десятичные дроби и разделители: 1 234,56 и 1,234.56 — разные миры, и модель путает их молча;

• проценты: «17 % от 2 340» и «на 17 % больше» — две операции, и вторая часто считается от неверной базы;

• итог по колонке: чтобы сложить, надо перечитать все строки, а внимание к дальним частям контекста слабеет;

• округление: модель округляет на каждом шаге, и ошибка накапливается.

Проценты заслуживают отдельного абзаца: там ошибаются и люди, а модель повторяет их ошибки уверенно. «Маржа выросла с 18 % до 22 %» — это плюс четыре процентных пункта, но плюс 22 % относительно прежнего уровня. Если попросить модель «посчитать рост в процентах» и не назвать базу, она выберет ту, что вероятнее в текстах, — обычно относительную. В отчёте появится «рост на 22 %», хотя правильный ответ зависит от того, что вы имели в виду. Поэтому в запросе называйте базу: «относительно прошлого квартала», «в процентных пунктах», «от плана».

Замер, который стоит держать в голове: на выгрузке из 240 строк с итогом около €18 000 модель, отвечавшая «одним числом», ошиблась в 7 прогонах из 10, отклонение — от 0,4 до 3,5 %. Формула =SUM в таблице дала ноль ошибок на той же выгрузке. Разница не в интеллекте, а в том, что таблица складывает, а модель предсказывает, каким число должно быть (оценка по нашим прогонам, не отраслевая статистика).

Правильная процедура состоит из четырёх ходов, и она не требует от вас программирования.

Первый: разделить формулировку и вычисление. Попросите модель не число, а шаги: какие колонки сложить, какие строки исключить, какая формула получится. Формулировка — языковая задача, и здесь модель сильна. Само сложение отдайте инструменту.

Второй: считать тем, что умеет считать. Excel, SQL — язык запросов к табличным базам, где вы описываете, что выбрать и сложить, а вычисляет движок, — или Python. У каждого своя цена входа: формула в таблице — минуты, запрос — часы обучения, скрипт — зависит от человека.

Третий: встроить контрольную сумму. Независимо посчитанная величина — число строк, среднее по подвыборке, итог из другого источника — ловит не только ошибку модели, но и ошибку в данных. Без контрольной суммы вы сверяете одно неизвестное с другим.

Четвёртый: для CSV просить код, а не ответ. Модель хорошо пишет код и плохо считает. Пусть пишет, а считает пусть среда исполнения.

Вот минимальный скрипт, который делает то, что просили у модели в начале главы: читает файл, считает итог и средний чек, а затем сверяет себя контрольной суммой по кассам.

import pandas as pd

df = pd.read_csv('sales.csv', decimal=',')

df['amount'] = pd.to_numeric(df['amount'], errors='coerce')

print('строк:', len(df))

print('пустых amount:', int(df['amount'].isna().sum()))

total = df['amount'].sum()

checks = df['check_id'].nunique()

print('итог:', round(total, 2))

print('средний чек:', round(total / checks, 2))

by_till = df.groupby('till')['amount'].agg(['sum', 'count'])

print(by_till)

print('контроль:', round(by_till['sum'].sum(), 2),

'разница:', round(total - by_till['sum'].sum(), 2))

Читать вывод надо в трёх местах. Разница в контрольной сумме должна быть нулевой: если нет, значит часть строк не попала в группировку. Число пустых значений в колонке суммы должно быть нулевым или объяснимым. Число строк должно совпадать с числом строк в выгрузке — самая частая молчаливая потеря.

Средний чек здесь — сумма выручки, делённая на число уникальных чеков, а не среднее по строкам: если в чеке три позиции, среднее по строкам даст втрое меньше. Это не придирка, а типичная ошибка постановки, которую модель тоже не заметит, если вы не назвали определение.

Под капотом: почему токенизация мешает считать

Токенизатор рубит текст на куски по статистике встречаемости, а не по смыслу. Частые слова — один токен, редкие — несколько, числа — почти всегда на куски: 1 234,56 распадается на «1», « 234», «,», «56» или на похожие фрагменты, и границы этих кусков не совпадают с разрядами.

Дальше арифметика упирается в отсутствие рабочей памяти. Сложение столбиком — последовательный алгоритм с переносом состояния, а генерация — последовательность локальных выборов. Модель может «знать», что 7 × 8 = 56, потому что это часто встречается в текстах; итог по 240 строкам не встречается нигде, и выводить его приходится пошагово, теряя точность. Отсюда же странности с подсчётом букв в слове и с длиной строки.

Практические следствия: temperature (параметр выбора между вероятными продолжениями) на арифметику влияет слабо — ошибка не в случайности, а в механике; просьба «подумай пошагово» помогает с постановкой задачи и почти не помогает с суммой; код и вызов вычислительного инструмента помогают, потому что вычисление выходит из модели наружу.

Под капотом: почему правила сильнее примеров

Модель учится на лету внутри одного запроса: примеры в контексте задают формат, а инструкции — границы. Когда правило не названо, модель заполняет пустоту типичным: для писательского конкурса — типичными критериями, для отчёта — типичной структурой, для юридического вопроса — типичной оговоркой. Именно это произошло на втором конкурсе Лорен.

Три правила, которые дают наибольший эффект при минимальной работе: явный запрет («не сравнивай участников между собой»), явный дефолт («если данных нет — напиши „нет данных“»), явный критерий приёмки («ровно 32 строки, ID подряд»). Инструкции в конце длинного контекста работают сильнее, чем в начале: важное — ближе к концу.

Одна задача — один инструмент

Из всего вышесказанного вытекает рабочее правило: у каждой задачи есть инструмент с гарантией, и модель — не универсальная замена, а один из них. Путаница начинается там, где моделью закрывают дыру, которую должен закрывать калькулятор, поиск или база.

Задача

Правильный инструмент

Роль модели

Сложить 240 строк, посчитать маржу

Excel, SQL, Python