ИИ без мифов

Простой способ это увидеть — взять один процесс и выписать его шаги на листе. Закупка: заявка, поиск поставщика, запрос цены, сравнение, согласование, заказ. Внутри шагов видно, где человек механически переносит текст из одного формата в другой, — обычно это три-четыре места из шести. Именно там модель экономит часы без переделки процесса целиком.

Что делать вместо: пройти процесс по шагам и начать с трёх мест, где ручной перенос текста съедает больше всего времени.

Миф 9. «ИИ нечестен, его надо бояться». Ирония в том, что честный результат получить проще, чем кажется: дайте проверяемый контекст, потребуйте цитаты, перепроверьте цифры. Модель не скрывает, что генерирует правдоподобный текст; она вообще не умеет скрывать, у неё нет состояния между сессиями, где можно было бы что-то утаить. Страх вредит по-другому: он подменяет управление риском отказом от задачи. Что делать вместо: список из трёх рисков с контролем на каждый — утечка данных, ошибка в цифре, чужая ответственность. Если по каждому есть мера, решение принимается, а не откладывается.

Десятый миф: «модель понимает, что она не знает»

Этот миф моложе остальных и потому коварнее. Звучит он разумно: «пусть модель сама скажет, если не уверена». На практике уверенность ответа не связана с его правильностью.

Механика простая. Модель выдаёт токены с вероятностями, и высокая вероятность означает «этот текст похож на то, что я видела в обучении», а не «это утверждение истинно». Фраза «согласно отчёту 2019 года» может быть сгенерирована с вероятностью 0,97 и при этом указывать на несуществующий отчёт: статистика языка подсказывает форму, а не содержание.

Отсюда два практических следствия. Первое: просьба «пометь, где не уверен» работает лишь частично — она меняет стиль, а не доступ к фактам. Второе: проверять надо не тон ответа, а утверждения, которые можно сверить. Единственная надёжная калибровка — внешняя: поиск по источнику, сверка с базой, тест на десяти известных случаях.

Бывает и обратное: модель верно указывает на нехватку данных и получает недоверие «она вечно отказывается». Диагностика одна и та же — сравните три ответа на один вопрос при разных формулировках. Если цифры расходятся, а тон остался ровным, вы имеете дело с генерацией, а не со знанием. Подробный разбор галлюцинаций и способов их ловить — в главе 7.

Как посчитать цену веры

Цену веры в миф можно оценить до того, как платить. Формула простая: часы переделки, умноженные на стоимость часа, плюс прямые расходы (подрядчик, подписки, лицензии), плюс стоимость упущенного окна, умноженная на вероятность, что оно закроется.

Пример на числах из кейса. Переделка — примерно 120 человеко-часов двух аналитиков по €45 в час, то есть €5 400. Прямые расходы — $18 000, или около €16 600. Упущенное окно — $140 000 недополученной маржи при вероятности 0,6, то есть $84 000. Итог: около €106 000 против $18 000, которые были на слайде.

Два вывода из этой арифметики. Первый: основная часть цены почти всегда не в подрядчике, а в переделке и окне — то есть в том, чего нет в смете. Второй: проверка за два часа стоит меньше одного процента этой суммы, и именно поэтому её так легко пропустить.

Считать до конца не обязательно. Достаточно назвать порядок величины перед решением: если цена ошибки на порядок больше цены проверки, проверять надо всегда, независимо от того, насколько убедителен выступающий.

Чем миф отличается от упрощения

Упрощение полезно, миф вреден, и внешне они похожи: оба сжимают сложное в одну фразу. Различаются они тремя признаками.

Первый: есть ли проверяемый критерий. Упрощение можно проверить. «Модель — как стажёр, который прочитал всю библиотеку, но ни дня не был в офисе» проверяется: дайте стажёру задачу с внутренними данными и посмотрите, что выйдет. Миф проверки не предполагает: «ИИ понимает бизнес» — как это опровергнуть, если непонятно, что считается пониманием.

Второй: названы ли границы применимости. Упрощение говорит, где ломается. Стажёр из примера хорош в пересказе и плох в решениях, требующих контекста, которого он не видел. Миф границ не имеет: он верен всегда и потому не говорит ничего.

Третий: есть ли цена. Упрощение признаёт, что за пользование надо платить: проверкой, обучением, временем. У мифа цена спрятана — обычно в другом месте и позже, как в кейсе с отчётом за $18 000.

Проверка на практике занимает минуту: подставьте в утверждение число и границу. «Модель сокращает чтение договора с 60 до 12 минут, но не заменяет юридическую оценку риска» — упрощение. «ИИ анализирует договоры» — миф, потому что ни числа, ни границы.

Полезно применять это и к самой книге. Всё, что здесь написано, — упрощения о механике, и у каждого есть граница. Там, где граница важна, она названа прямо.

Если вы новичок: почему ИИ звучит уверенно

Представьте очень начитанного человека, который никогда не говорит «не знаю». Он прочёл миллионы страниц и научился продолжать любую фразу так, как её обычно продолжают. Спросите его о том, чего он не читал, — он не растеряется, а сложит ответ из знакомых оборотов.

- Уверенный тон — это стиль, а не свидетельство правоты. Модель не различает «я знаю» и «я хорошо помню похожие слова».

- Ответ без источника проверить нельзя, поэтому считайте его черновиком, а не справкой.

- Если нужен факт, дайте документ и попросите цитату. Это единственный способ увидеть, откуда взялась фраза.

- Цифры, даты, имена, номера договоров и ссылки — первые кандидаты на ошибку.

- Спросить «ты уверен?» бесполезно: ответ изменится в сторону более вежливой формулировки, а не более верной.

Под капотом: как модель «знает» факты (и почему это тексты, а не знания)

Обучающий корпус — это триллионы токенов текста: книги, код, форумы, документация. Такой массив и называют big data в бытовом смысле — данные, которые невозможно прочитать, но можно статистически сжать. Токенизация режет текст на токены, и модель учится предсказывать следующий токен по предыдущим. Знания не хранятся отдельными записями вроде строки в базе; они распределены по весам как статистические связи между токенами.

- Поэтому «Москва — столица» восстанавливается устойчиво: связь встречалась миллионы раз. А номер вашего договора не восстанавливается никак — он не встречался ни разу.

- Поэтому же модель путает похожие сущности: два одноимённых отчёта, два рынка с близкими названиями, две даты рядом.

- Контекстное окно — сколько токенов модель видит за один раз. Всё, что не попало в окно, для неё не существует, даже если было в предыдущем сообщении.

- Заземление работает потому, что нужный текст попадает в окно и становится частью условия задачи. Поиск по документам (RAG) — способ подложить этот текст автоматически; подробно в главе 9.

- Эмбеддинг — числовой вектор смысла фразы; на нём держится поиск «по смыслу», а не по словам. Ограничение: близкие векторы не означают совпадающих фактов.

Пять вопросов к любому утверждению об ИИ

Процедура занимает пять минут и не требует технических знаний. Она годится и для презентации подрядчика, и для статьи в отраслевом издании, и для внутренней инициативы коллеги.

1. Кто это утверждает и на каком основании? Нужна роль и доступ к данным: «аналитик, обработал нашу выгрузку за март», «подрядчик, использовал открытые обзоры». Если основания нет — это мнение, и его место в разделе «гипотезы».

2. На каких данных? Объём, период, источник, чьи данные. Ответ «на больших данных» означает, что данных нет. Здесь же проверяется бенчмарк — фиксированный набор тестовых задач с метрикой, на котором сравнивают модели: он говорит о среднем качестве на похожих задачах, а не о вашем случае.

3. Какой критерий результата? Что считается хорошим ответом и кто это проверяет. Если критерий не назван, улучшение измерить нечем, и разговор идёт о впечатлениях.

4. Что не сработало? Любой честный отчёт содержит раздел ограничений. Его отсутствие — самый быстрый признак того, что перед вами пересказ.

5. Сколько стоит проверка? Часы, деньги, доступы. Если проверка дороже самого решения, утверждение не стоит принимать — его стоит отложить до момента, когда появится дешёвый способ сверить.

Вопрос

Что считать ответом

Красный флаг

Кто и на каком основании

Роль, доступ, конкретный документ

«Специалисты говорят»

На каких данных

Период, объём, владелец данных

«Большие данные», «все источники»

Какой критерий

Метрика и тот, кто проверяет

«Качество выросло» без числа

Что не сработало

Названное ограничение

Отчёт без раздела ограничений

Сколько стоит проверка

Часы и доступы

«Проверять не нужно»

Дерево решений: утверждение об ИИ попало к вам на стол

Если утверждение содержит цифру, которую вы не можете проверить, — оно идёт в «предположения», а не в решение. Дальше с ним работают отдельно.

Если проверить цифру можно за час, — проверьте одну, самую дорогую. Если она подтвердилась, у остальных резко растёт шанс быть верными; если нет, дальше читать не нужно.

Если утверждение не содержит цифр, а описывает возможность («ИИ может делать X»), — спросите про границу: где X ломается. Ответ «нигде» закрывает разговор.

Если граница названа и она вас устраивает, — просите демонстрацию на ваших данных, а не презентацию. Десять ваших случаев, критерий приёмки, счёт вслух.

Если демонстрация прошла, — считайте стоимость проверки на единицу работы. Пока она выше стоимости ошибки, решение не готово к внедрению, но готово к пилоту на ограниченном участке.

Если пилот прошёл и проверка дешевле ошибки, — расширяйте, но оставьте контрольную выборку: она понадобится, когда модель обновится.

Отдельная ветка — когда отвечать нечего. Если исполнитель отказывается назвать метод под предлогом коммерческой тайны, а сумма выше стоимости собственной проверки, разговор заканчивается. Не потому, что тайна невозможна, а потому, что непроверяемое утверждение нельзя купить: вы платите за впечатление, а риск остаётся у вас.

До / После: «покажите, как ИИ анализировал рынок»

Разница между двумя фразами — не в вежливости, а в том, кто и что обязан предъявить.

Плохо. «Покажите, как ИИ анализировал рынок». На эту просьбу можно ответить чем угодно: скриншотом чата, схемой пайплайна, словом «проприетарная методика». Формально ответ получен, решения нет. Именно так и прошли три недели в кейсе.

Хорошо. «Перечислите источники данных по каждому рынку: название, владелец, дата выгрузки, период. Опишите метод: как считалась доля рынка, какие допущения, чем проверяли. Покажите контрольную выборку из двадцати утверждений с источниками. Отдельным списком — что не подтвердилось и какие рекомендации вы считаете слабыми. Если источника нет, так и напишите: „оценка“».

Что изменилось, по пунктам.

1. Проверка стала возможной до оплаты. Список источников либо есть, либо нет; это видно за десять минут, а не через квартал.

2. Появился формат ответа, а не только содержание. Источник, метод, контрольная выборка — каждый пункт можно принять или отклонить отдельно.

3. Легализована оценка. Разрешение написать «оценка» снимает стимул выдумывать источник. Честная пометка дешевле красивой ссылки.

4. Раздел «что не подтвердилось» стал обязательным. Он превращает отчёт из витрины в рабочий документ и сразу показывает квалификацию исполнителя.

Ту же просьбу стоит переписать и для внутреннего случая: не «покажи, что ты сделал с помощью ИИ», а «покажи вход, шаги, выход и чем проверил». Это ровно то же разделение фактов, черновиков и решений, только в масштабе одной задачи.

Красные флаги: мифы в речи

- «Нейросеть проанализирует рынок» — она повторит среднее мнение из текстов; анализ начинается с вашей выгрузки.

- «Просто попросите её оптимизировать бюджет» — у неё нет вашего бюджета, ограничений и приоритетов.

- «Пусть ИИ ведёт переговоры с поставщиком» — ответственность за условия остаётся у человека, который подписывает.

- «Модель сама скажет, если не уверена» — уверенность в токенах не равна правильности факта.

- «Мы внедрили ИИ, качество выросло» — без метрики и базы сравнения это не утверждение, а настроение.

- «Нам нужен самый умный ИИ на рынке» — без задачи и критерия приёмки выбор модели не имеет смысла.

Что сделать сегодня

1. Возьмите одно свежее утверждение об ИИ — из рассылки, презентации, разговора с коллегой. Прогоните его по пяти вопросам и запишите ответы. Результат: заполненная строка в таблице. Измерение: сколько вопросов осталось без ответа; больше двух — утверждение не годится для решения.

2. Найдите миф, на который опираетесь вы сами, и разложите его на фактическую и эмоциональную части. Результат: одна фраза «я верил, что…, а проверяется это так…». Измерение: есть ли в формулировке число и граница.

3. Перепишите один свой запрос к подрядчику или коллеге по образцу «До / После». Результат: текст с источниками, методом, контрольной выборкой и разделом «что не подтвердилось». Измерение: число пунктов, которые можно принять или отклонить по отдельности; цель — не меньше четырёх.

4. Заведите карточку утверждения на одну цифру из текущего проекта: значение, источник, дата, кто проверил, что будет при ошибке. Результат: одна заполненная карточка. Измерение: время на заполнение; если больше десяти минут, вы держите цифру, источник которой сами не знаете.

Дальше — глава 4 о том, как превратить задачу в постановку: задача, данные, результат, критерий приёмки. Если миф — это вера без проверки, то постановка — это проверка, встроенная в работу. Механику предсказания подробно разбирает глава 5, цену ошибок и способы их ловить — глава 7, а как отличить полезное упрощение от вредной веры в собственных решениях — глава 1.

Живой слой. Обновляемые шаблоны, чек-листы и разборы под текущие версии моделей: github.com/ai-bez-mifov/book#ch03 — QR-код на вклейке и в электронной версии.

Глава 4. Как думать об ИИ: задачи, данные, результат

Паспорт главы. Обещание: превратить «попросить у ИИ» в формализованную задачу — что должно измениться, что модель увидит, что считается готовым результатом — и получать предсказуемый выход вместо лотереи. Время чтения: 15 минут. Результат: заполненная карточка задачи на одну работу этой недели и два числа — время «до» и время «после» вместе с проверкой.

В четверг в 21:50 Мира, совладелица пекарни и ресторана в Мельбурне, в третий раз за вечер переписывает таблицу смен на следующую неделю. Девятнадцать сотрудников, две зоны — пекарня открывается в четыре утра, витрина в семь, — и три человека, которые выходят только по субботам и воскресеньям.

Шесть часов в неделю уходит на эту таблицу. Не на выпечку и не на разговоры с гостями — на перебор вариантов, кто кого подменит в среду.

Цена ошибки измеряется не часами. В прошлом месяце расписание собрали в спешке, в субботу на смену не вышел пекарь, и пекарня открылась на два часа позже. Минус $340 выручки и два отзыва, которые потом неделю объясняли постоянным гостям.

Мира решила, что задача идеально ложится на ИИ. Правила есть, список людей есть, результат нужен в виде таблицы. Дальше последовали две неудачные попытки — и из них выросли все правила этой главы.

Кейс: 19 человек, 6 часов и две попытки «в лоб»

Данных не хватало не в объёме. Все девятнадцать имён, ставки, зоны и договорные ограничения лежали в одном файле. Проблема была в другом: эти правила никто и никогда не выгружал в явном виде. Часть жила в договорах, часть — в голове Миры, часть — в переписке, где сотрудники менялись сменами.

Первая попытка. Она вставила список имён и написала: «Составь расписание смен на неделю для этих людей». Ответ пришёл аккуратный: ровная таблица, приветливый комментарий, всё по делу. В таблице один сотрудник стоял в трёх сменах подряд — он учился на дневном и подрабатывал только по субботам, о чём в списке имён не было ни слова. Второй был поставлен в пекарню, хотя работал только на витрине.

Вторая попытка была умнее и провалилась иначе. Мира добавила правила текстом: «учитывай, кто когда может, не больше пяти смен, между сменами отдых». Модель эти правила учла — и добавила своё. В расписании появилось ограничение, которого не было ни в договоре, ни в разговоре: один сотрудник не ставился на пятницы. В ответе оно выглядело так же уверенно, как настоящие.

Две попытки стоили около трёх часов и дали нулевой результат: каждую таблицу пришлось переделывать вручную.

После второй попытки был ещё один заход: «сделай то же самое, но внимательнее, и проверь дважды». Ответ стал длиннее, тон — увереннее, ошибки — теми же. Слово «внимательнее» не включает никакого режима внимательности: у модели есть только постановка задачи, и если она не изменилась, не изменится и результат.

Третья попытка, на этот раз удачная, отличалась не текстом запроса, а подготовкой. Мира потратила сорок минут и разложила работу на четыре части.

Задача — одно предложение с глаголом и границей: «Составь недельное расписание для 19 сотрудников так, чтобы каждая из 21 смены была закрыта ровно одним человеком и ни одно ограничение из списка не нарушалось».

Данные — таблица на девятнадцать строк: имя, зоны, где человек умеет работать, доступные дни, максимум смен в неделю, минимальный отдых между сменами, договорные запреты. Рядом вторая таблица: семь дней на три позиции — двадцать одна ячейка, которую надо закрыть.

Результат — форма, в которой выход принимается без перечитывания: таблица «день, позиция, имя» плюс строка проверки по каждой позиции. Не рассуждение о балансе нагрузки и не советы по мотивации — таблица.

Критерий приёмки — три проверки на минуту: все двадцать одна ячейка заполнены; ни у кого не больше пяти смен; ни у кого две смены не стоят ближе одиннадцати часов. Четвёртая проверка внешняя: ноль жалоб сотрудников за первую неделю.

Результат третьей попытки: 6 часов в неделю стали 50 минутами, из которых 35 — подготовка данных и 15 — проверка. Нарушений ограничений — ноль за одиннадцать недель.

Ограничение честное. Модель не знает, что во вторник двое поменялись сменами в мессенджере, и не знает, что у ученика через месяц экзамены. Каждую пятницу Мира обновляет колонку доступности вручную — семь минут. Три недели из пяти проходят без единой правки; в двух она меняет одну строку сама, потому что помнит то, чего нет в файле. (собирательный кейс)

Разбор кейса. Почему это сработало — механика, а не мораль.

1. Задача из «придумай расписание» стала «закрой двадцать одну ячейку по правилам». Придумывание оставляет модели свободу; закрытие ячеек — нет.

2. Ограничения переехали из прозы в колонки. Правило «отдых не меньше одиннадцати часов» в виде столбца с числом проверяется, а в виде фразы «учитывай отдых» — интерпретируется.

3. Появились данные, которые нельзя вывести из общих знаний: зоны, доступность, договорные запреты. Это и есть заземление (grounding) — привязка ответа к вашим документам вместо среднего по интернету.

4. Критерий приёмки стал проверкой, а не настроением. Три условия проверяются глазами за минуту, а скриптом — за секунду.

5. Цена проверки опустилась ниже цены ошибки. Пятнадцать минут сверки против $340 и двух отзывов — арифметика, которая не требует веры в технологию.

Тот же каркас, другие данные

Через месяц Мира применила ту же карточку к закупкам. Схема не менялась, подготовка заняла те же сорок минут, а результат оказался бесполезным.

Модель предложила заказывать муку, масло и фрукты «по среднему расходу за последние четыре недели». Средний расход был посчитан честно, по реальной выгрузке. Беда в том, что в выгрузке не было трёх вещей: сезонности — в декабре пекарня продаёт вдвое больше круассанов; условий поставщика — при заказе упаковками по двенадцать килограммов цена падает на 9 %; и размера склада, в котором помещается ровно столько, сколько помещается.

Ни одну из этих вещей нельзя вывести из четырёх недель продаж. Карточка работала правильно — она показала, что данных для неё нет. Это её главное свойство: она не создаёт результат, а выявляет, чем результат ограничен.

Полтора месяца эксперимент жил в ручном режиме: модель считала заказ, Мира пересчитывала, совпадение было случайным. Потом закупки вернули человеку.

Выигрыш оказался не там, где его ждали. За время эксперимента Мира впервые записала шесть правил, которые раньше держала в голове: кратность упаковки — двенадцать килограммов, порог склада, двухнедельная задержка у одного поставщика, запрет на закупку фруктов в понедельник. Шесть строк позже вошли в инструкцию для нового закупщика. Стоимость — 4 часа и ноль экономии; результат — знание, которое пережило эксперимент.

Отсюда правило на всю оставшуюся книгу: каркас отвечает на вопрос «можно ли это поручить», данные отвечают на вопрос «получится ли». Первое вы решаете сами, второе решает то, что лежит у вас на входе.

Формула: задача, данные, результат, приёмка

Четыре блока — не бюрократия, а четыре разных вопроса. Их путают постоянно: под «задачей» приносят формат результата, под «данными» — пожелание, под «критерием» — настроение.

Блок

Вопрос

Ответ в одну строку

Что ломается, если блок пропущен

Задача

Что именно должно измениться?

Закрой 21 смену по правилам

Модель делает «что-то похожее»

Данные

Что модель увидит?

Таблица сотрудников + таблица смен

Ответ средний по интернету

Результат

В каком виде принимаем?

Таблица «день, позиция, имя»

Красивый текст, который нельзя использовать

Приёмка

Как понять, что годится?

21/21, ≤ 5 смен, ≥ 11 часов

Спор о вкусе вместо решения

Задача отвечает на вопрос «что должно измениться». Не «сделай лучше», а «перепиши для аудитории без юридического образования», «извлеки из сорока счётов только даты и суммы», «найди в двух версиях договора расхождения». Глагол в задаче — половина результата.

Данные отвечают на вопрос «что модель увидит». Если ответ «ничего, она же умная», вы получите средний ответ по обучающему корпусу. Юрист в Варшаве, попросивший «оценить риски этого договора» без самого договора, получит лекцию о типичных рисках. С приложенным текстом — разбор своих пунктов.

Результат отвечает на вопрос «в каком виде принимаем». Формат — не украшение, а условие использования. Таблица вставляется в планировщик, JSON уходит в скрипт, список из пяти пунктов читается за минуту. Абзац на две страницы не вставляется никуда.

Приёмка отвечает на вопрос «как понять, что годится». Это единственный блок, который нельзя делегировать модели: если вы не можете назвать условие, по которому примете или отклоните выход, вы не заказывали работу — вы смотрели представление.

Есть ошибка, которая встречается почти в каждом втором проекте: критерий пишут после того, как увидели ответ. Сначала запрос, потом «неплохо, но вот тут не то», потом правка критерия под то, что уже пришло. Через три итерации критерий описывает конкретный ответ, а не работу, и следующий запуск на новых данных снова даёт мусор.

Порядок важен по механической причине. Критерий, написанный заранее, определяет, какие данные вы приложите: если нужно «каждое утверждение с цитатой», придётся приложить документ, а не пересказ. Критерий, написанный после, подгоняет задачу под случайный результат.

Практический минимум — три условия, из которых хотя бы одно числовое: «все двадцать одна строка», «не больше 120 слов», «ни одного числа, которого нет в файле». Три условия проверяются быстрее, чем одно размытое «качественно», и, в отличие от него, дают право отказать.

Карточка задачи: один лист до первого запроса

Промпт — это весь текст, который уходит модели: постановка задачи, данные, правила и критерий приёмки вместе. Не отдельная удачная формулировка, а документ постановки. Карточка задачи — его письменная версия, один лист, который заполняется до первого запроса и хранится рядом.