Архитектура мышления

Архитектура мышления

АРХИТЕКТУРА МЫШЛЕНИЯ

Как делать верные выводы там, где данных мало, времени нет, а цена ошибки высока

Инна Николаевна Егорова

Книга вторая из серии «Создание сверхчеловека»

Как устроена эта книга

«Архитектура мышления» — вторая книга серии «Создание сверхчеловека».Серия показывает, из каких навыков складывается надёжность человека там, где ошибка стоит жизней, денег и доверия: двадцать четыре книги шаг за шагом собирают человека, на которого можно опереться. Первая книга собрала несущий каркас надёжности. Эта берёт его первый элемент, «Основания», и превращает в самостоятельную дисциплину: как из неполных, противоречивых и иногда подброшенных сведений делать вывод, который выдержит проверку.

Книга отвечает на один вопрос: как думать так, чтобы ошибка в выводе становилась видна раньше, чем на ней примут решение?

Главный конфликт.Опытный специалист доверяет чутью — и чаще всего не зря. Но самые дорогие аналитические провалы случаются не от нехватки данных. Они случаются из-за того, как ум эти данные собирает: ранняя версия, удобный рассказ, незамеченное допущение, факт, который ничего не различает, и противник, который знает об этих слабостях и пользуется ими.

Главная мысль.Хорошее мышление — не талант и не объём знаний, а дисциплина: набор воспроизводимых операций, которые делают сход вывода с рельсов заметным. Её можно тренировать, измерять и проверять — как стрельбу или прыжок с парашютом.

Предупреждение самой книги.Структурированные методы не гарантируют точности. Для части из них доказательств эффективности мало, а некоторые создают ложную строгость: красивая таблица прикрывает ту же самую первую догадку. Этому посвящена часть V. Метод не делает вывод верным. Он делает вывод проверяемым для другого человека — и в этом его настоящая сила.

Чего книга не обещает.Она не учит читать мысли, распознавать ложь по лицу или предсказывать будущее. Она учит точнее оценивать, что известно, насколько и почему, — и честно говорить об этом тому, кто принимает решение. Она не заменяет ведомственных стандартов, инструкций и полномочий.

«КОМПАС вывода»

Через всю книгу проходит одна авторская учебная модель — шесть проверок, через которые проходит любой важный вывод. Сами техники взяты из аналитической и психологической литературы. Авторские — их последовательность, связка с итоговым докладом и правила остановки.

В книге 1 «Основания» были одной строкой Карты надёжности. Здесь эта строка разворачивается в полный рабочий инструмент — Протокол проверки убеждений, который читатель собирает глава за главой и получает целиком в конце книги.

Карта книги

Протокол собирается по ходу чтения: каждая глава добавляет в него одну строку, а глава 24 сводит их в рабочий документ.

Два читателя

Книга написана для двух читателей одновременно.

•

Читатель «для себя»

— руководитель, инженер, журналист — любой человек, который решает по неполным данным. Ему достаточно историй, прологов и базового уровня практикума. Он получит привычку держать несколько версий, спрашивать «как часто такое бывает», отличать убедительное от доказательного и не попадаться на ложные новости и мошеннические сценарии.

•

Профессионал

— аналитик и руководитель специальной службы, правоохранительного органа, службы безопасности критической инфраструктуры; следователь, эксперт по происшествиям, преподаватель профильного вуза. Для него — профессиональный и продвинутый уровни практикума, числовые оценки, работа в условиях противодействия, рубрики аттестации и пособие для инструктора.

Границы профессиональной траектории.Книга учит аналитическому мышлению — тому, как делать выводы из уже полученных сведений.

• Все методы взяты из открытой научной и профессиональной литературы. В книге нет закрытых сведений, ведомственных инструкций, реальных оперативных дел и сведений об объектах.

• Книга не учит наблюдению за людьми, допросу, вербовке, проникновению в системы и созданию дезинформации. Обман разбирается только со стороны защиты: как аналитик замечает, что его вывод мог быть навязан.

• Аналитическая оценка — не доказательство вины. Решения о людях принимают уполномоченные лица в установленном законом порядке.

Истории, которые проходят через книгу

•

Ксения Ларина

, 38 лет, ведущий аналитик центра оценки угроз службы безопасности крупного объекта критической инфраструктуры. Она быстро видит закономерность и умеет её защитить; начальство ценит её уверенность. Книга проведёт её через ситуацию, где самое убедительное свидетельство слишком точно ляжет в её версию, а кто и зачем его положил, так и не установят.

•

Дмитрий Гаранин

, 45 лет, инженер-следователь причин аварий на промышленных объектах. Ему постоянно приносят готовых виновных — начальники цехов, директора, собственная многолетняя привычка начинать с людей. Его линия — о том, как искать механизм, когда все вокруг уже знают ответ.

•

Лиза Корнеева

, 29 лет, выпускающий редактор новостей в региональном издании. Её мир — слухи, видео «с места событий», семейные решения и мошеннические звонки. Через её историю те же техники работают без служебного доступа и секретных материалов.

•

Алексей Вережников

, аналитик из книги 1, теперь наставник. Он появится, когда Ксении понадобится собеседник, который не согласен.

•

Полина Жукова

, 27 лет, молодой следователь, коллега Дмитрия. Она приходит в его службу в январе (глава 15), а в главе 23 становится его ученицей: на её месяце тренировки видно, как мышление растёт от прогноза, счёта и разбора.

Вступление. Ошибка, которая выглядит как уверенность

У юристов есть вопрос, который отучает от лишней уверенности быстрее любого тренинга: «На каком основании?» Вывод, который нельзя разложить на основания, суд не сочтёт обоснованным, как бы убедительно он ни звучал. У строителей есть похожий вопрос: «Кто это проверил и по какому документу?» Конструкцию принимают не потому, что она выглядит прочной, а потому, что её прочность можно показать другому человеку.

Откуда эта книга

Чем бы вы ни занимались, вы зависите от чужих выводов — и сами делаете выводы, по которым будут действовать другие. Справка аналитика, заключение эксперта, причина аварии в акте, новость в ленте, решение в семье. Почти всегда такие выводы делают под давлением: данных мало, времени нет, а кто-то уже знает ответ. Совет «думайте внимательнее» звучит постоянно — и почти ничего не меняет. Ошибочный вывод редко бывает глупостью. Чаще это плохо устроенная проверка: первая версия, которую никто не оспорил, удобный рассказ, допущение, о котором не спросили.

Эта книга связывает две вещи, которые обычно живут отдельно: то, что известно о суждениях и прогнозах из исследований и официальных расследований, и то, как выводы на самом деле делают люди с высокой ценой ошибки — в центре оценки угроз, в расследовании аварии, в редакции новостей, в семье.

На чём она построена

За этой книгой стоит большая работа. Сначала — лучшие мировые книги о мышлении, анализе и прогнозе. «Psychology of Intelligence Analysis» Ричардса Хойера — классический труд Центра изучения разведки ЦРУ о том, почему ошибается опытный аналитик. «Structured Analytic Techniques for Intelligence Analysis» Рэндольфа Ферсона и Ричардса Хойера — 66 приёмов работы с неполными сведениями. «Думай медленно — предсказывай точно» («Superforecasting») Филипа Тетлока и Дэна Гарднера — турнир прогнозов, в котором группа Тетлока два года подряд давала самые точные прогнозы — благодаря обучению, работе в командах и отбору лучших, и «Expert Political Judgment» Тетлока — многолетняя проверка экспертов по исходам их прогнозов. «Шум» Даниэля Канемана, Оливье Сибони и Касса Санстейна. «Думай „почему?“» Джуды Перла и Даны Маккензи — о том, как отличить причину от совпадения. «How to Measure Anything» Дугласа Хаббарда, «Thinking in Bets» Энни Дьюк, «The Scout Mindset» Джулии Галеф. И «Pearl Harbor: Warning and Decision» Роберты Уолстеттер — классический разбор того, как настоящие сигналы тонут в шуме.

Но книги были только началом. За ними — первоисточники: около девяноста научных работ, официальных расследований и документов — от классического опыта Тверски и Канемана 1974 года до исследований точности разведывательных прогнозов последних лет. Отчёты комиссии по гибели шаттла «Колумбия», национальной комиссии по аварии на платформе Deepwater Horizon, президентской комиссии по разведывательным оценкам оружия массового поражения, генерального инспектора Министерства юстиции США по делу Брэндона Мэйфилда, решение Апелляционного суда Англии и Уэльса по делу Салли Кларк — прочитаны не в пересказах, а в оригинале. Каждая цифра и каждая ссылка сверены; всё, что сверить не удалось, в книгу не вошло.

Из этого материала выросло то, чего нет ни в одной из перечисленных книг: единая модель «КОМПАС вывода» и Протокол проверки убеждений для тех, чей вывод становится чужим решением, — для аналитика, следователя, эксперта, редактора, руководителя. Книги о разведывательном анализе написаны для специалистов, популярные книги о мышлении — для офиса и дома. Эта книга соединяет одно с другим. Все источники собраны в одном списке в конце книги; номер в квадратных скобках в тексте — номер в этом списке.

Почему эта книга нужна именно тем, кто не имеет права ошибиться

Есть профессии, в которых вывод одного человека становится решением другого. Аналитик пишет справку — руководитель вводит усиленный режим. Эксперт даёт заключение — следователь задерживает человека. Инженер-следователь называет причину аварии — завод меняет регламент или увольняет смену. В таких профессиях ошибка мышления не остаётся внутри головы. Она переходит в чужое действие, и обратно её уже не вернуть.

При этом мышлению почти нигде не учат как ремеслу. Учат предмету: праву, технике, тактике, языку. Предполагается, что делать выводы умный человек умеет сам. Исследования, о которых пойдёт речь, показывают, что это не так. Опытные специалисты, включая экспертов с многолетним стажем, совершают предсказуемые ошибки — и чаще всего не замечают их, потому что изнутри ошибка выглядит как уверенность.

Хорошая новость в том, что раз ошибки предсказуемы, защиту от них можно встроить в процедуру проверки — так же, как в строительстве встраивают запас прочности в расчёт, а не надеются на добросовестность бетона.

Как читать

Сцена раньше объяснения.Каждая глава начинается с момента выбора: вас попросят решить до того, как вы прочтёте объяснение. Пожалуйста, решайте честно и записывайте ответ. К концу главы он может показаться неполным — это не проигрыш, а смысл упражнения.

Закон главы.Сразу под названием стоит закон главы — одна фраза, которую стоит унести с собой. Рядом — строка «Проверка КОМПАС»: какую букву модели тренирует глава и какую строку она добавляет в Протокол. Все двадцать четыре закона собраны в конце книги в «Кодекс точного вывода».

Три типа глав.Полные главы (например, 1, 5, 9) соединяют исследования, авторский инструмент, две истории, практикум и аттестацию. Главы-дела (например, 3, 7, 18) ведут одно расследование от начала до конца, а наука входит в него короткими паузами. Короткие главы-инструменты (например, 4, 6, 8) дают один приём, одну основную историю и сжатый практикум. Схема везде узнаваема: карточка инструмента, раздел «Когда инструмент вредит», карточка на рабочий стол, строка Протокола и «Главное за минуту».

Точки «Ваша оценка».Начиная с главы 3, истории останавливаются на вопросах вида «Ваша оценка В-5.2»: произойдёт ли что-то в истории или подтвердится ли то, что считают герои, — да или нет. Запишите число от 0 до 100 % до того, как читать дальше. Исход раскрывается позже — в той же главе или в одной из следующих, и заранее его не угадать: вы знаете ровно столько, сколько герой в эту минуту. Не пытайтесь угадывать исход по жанру («в такой книге очевидная версия наверняка неверна»): так вы измерите знание жанра, а не свою калибровку. В главе 14 вы посчитаете по своим числам балл Брайера за главы 3–13 и увидите собственную калибровку, а ключ ко всем точкам с исходами собран в конце книги. В главах 1 и 2 таких точек нет: там вы записываете первую строку доклада и первую версию, и проверяет их сам текст главы.

Для профессионала.В части глав есть разделы с пометкой «Для профессионала»: продвинутые процедуры — порядок раскрытия сведений, вес факта, точки пересмотра, работа группы. Продвинутый практикум описывает готовые учебные сценарии. Полные материалы к ним — ключи, таблицы, способы подсчёта показателей и проверка арифметики — собраны в пособие для инструктора в конце книги. В нём есть ещё общие разделы: как подготовить занятие, как считать балл Брайера и как измерить результат обучения.

Если вы читаете для себя, разделы для профессионала, аттестацию и пособие для инструктора можно пропускать: историй, прологов и базового практикума достаточно. Если вы готовите специалистов, именно эти разделы вам и нужны.

И последнее. Эта книга не сделает вас человеком, который не ошибается. Она поможет стать человеком, чьи ошибки видны вовремя — себе и тем, кто проверяет вашу работу. В профессиях, где цена ошибки высока, именно это отличает того, на кого можно опереться.

Часть I. Как ум строит картину

Мы привыкли думать, что ошибки мышления начинаются с рассуждения: увидели верно, а вывод сделали неверный. Первая часть показывает, что ошибка начинается раньше — в тот момент, когда мы ещё только смотрим. Ожидание участвует в том, что мы видим. Первая версия управляет тем, что мы ищем. Связный рассказ кажется вероятнее разрозненных фактов. А трудный вопрос незаметно подменяется лёгким, на который ответить приятнее.

Вопрос на входе в часть: «Я вижу факты — как я могу ошибаться?»Вопрос на выходе: «Что в моей картине наблюдение, а что — уже моё ожидание?»

Каждая глава части добавит строку в Протокол проверки убеждений: на каком исходном материале стоит вывод, какая версия пришла первой и какие альтернативы проверены, как рассказ связал факты и на какой именно вопрос отвечает доклад.

Глава 1. Ожидание видит раньше глаз

Как отделить то, что вы видите, от того, что вы ожидали увидеть

Закон главы.Сначала отделите то, что видите, от того, что ждали.

Проверка «КОМПАС»: подготовка к К. Строка Протокола: исходный материал и кто описал его первым.

Пролог. Кадр, который вы уже видели

Вечером вы прочитали короткую ориентировку: «Возможен интерес неустановленных лиц к периметру объекта. Усилить внимание». Ночью, в 03:14, оператор присылает вам кадр с камеры наружного ограждения и одну строку: «03:12, у ограждения человек, в руке предмет, похоже на устройство».

На кадре ночь, зерно, свет фонаря сбоку. Человек стоит у сетки, наклонившись вперёд. В правой руке у него что-то тёмное и вытянутое, конец предмета почти касается земли.

Решите, прежде чем читать дальше. Что вы напишете в первой строке доклада начальнику смены? Запишите эту строку дословно. Правильный ответ угадывать не нужно — важно увидеть, из чего она сделана.

Теперь проверьте свою строку. Есть ли в ней слова «устройство», «осматривает», «разведка», «подозрительный»? Если есть, спросите себя: где на кадре вы это видите? На кадре нет устройства. Есть тёмный вытянутый предмет. Нет осмотра. Есть наклон. Слово «устройство» пришло к вам от оператора, а слово «разведка» — из вечерней ориентировки. Оба оказались в вашем «наблюдении» раньше, чем вы открыли кадр.

Открытие пролога.Ожидание приходит раньше данных. То, что вы прочитали до кадра, уже участвует в том, что вы на нём видите, — и изнутри это ощущается не как догадка, а как зрение.

В разделе 6 эту же ночь проживёт аналитик Ксения Ларина. Сравните её первую строку со своей.

1. Результат главы и границы применимости

После главы читатель сможет:

Разделять в собственном описании наблюдение, толкование и ожидание — письменно, до того как сложится вывод.

Находить, откуда пришло ожидание: из ориентировки, чужой подписи, прошлого опыта или собственной версии, — и предлагать хотя бы одно другое прочтение того же материала.

Организовывать «чистый второй взгляд» и порядок раскрытия сведений.

Оценивать раздельно надёжность источника и достоверность самого сообщения.

Писать первую строку доклада так, чтобы читатель видел, где кончается факт и начинается оценка, а вероятность названа отдельно от уверенности.

Границы. Глава не учит распознавать намерения людей по внешнему виду или поведению: книга считает такие суждения ненадёжными и к ним не стремится (данные о том, насколько плохо люди распознают ложь, приведены в главе 2). Инструмент главы предназначен для анализа материала: кадров, документов, сообщений, следов, показаний приборов. Он не заменяет установленных процедур реагирования. При непосредственной угрозе сначала выполняются предусмотренные защитные действия, а разбор восприятия — потом.

Из книги 1 пригодится различие между наблюдением и интерпретацией. Здесь выяснится, что граница между ними проходит не там, где мы привыкли.

2. Что показывает наука

2.1. Карты, которых не бывает

В 1949 году Джером Брунер и Лео Постман показывали двадцати восьми студентам игральные карты на доли секунды [4]. Среди обычных карт попадались «невозможные» — например, красная шестёрка пик. Обычную карту испытуемые узнавали в среднем за 28 миллисекунд, невозможную — за 114, примерно вчетверо дольше. Чаще всего люди уверенно называли привычную карту или находили компромисс: «шестёрка треф, освещённая красным светом». Один испытуемый признался: «Я уже не уверен, как выглядят пики! Боже мой!» (с. 218).

Чего вывести нельзя. В 2011 году опыт повторили: в отдельных наборах обычные и «невозможные» карты узнавались одинаково хорошо, замедление появлялось только в смешанном наборе, и «сопротивления несовместимому» авторы повторения не подтвердили [38]. Спор о механизме не закрыт. Но то, что неожиданное узнаётся медленнее и часто подменяется ожидаемым, — важная отправная точка.

2.2. Видим то, чего ждём

Ричардс Хойер построил на этом наблюдении пособие для аналитиков «Психология разведывательного анализа», изданное Центром изучения разведки ЦРУ [35]:

• «Мы склонны воспринимать то, что ожидаем воспринять» (с. 8).

• Установки «формируются быстро, но с трудом поддаются изменению» (с. 10).

• «Новая информация встраивается в уже сложившиеся образы» (с. 11).

• Первое знакомство с размытым или неоднозначным материалом мешает точному восприятию даже тогда, когда позже появляется больше хорошей информации (с. 13).

Отсюда парадоксальный вывод: аналитик, который наблюдает ситуацию с ранней, неясной стадии, оказывается в невыгодном положении по сравнению с руководителем, впервые увидевшим её позже, когда данных уже больше (с. 15).

Ограничение. Хойер — синтез когнитивной психологии для практиков, а не новое исследование.

2.3. Невидимая горилла

Дэниел Саймонс и Кристофер Шабри показывали испытуемым видео, где две команды передают друг другу мяч, и просили считать передачи одной из команд [76]. Посреди ролика через площадку проходила женщина с зонтом или человек в костюме гориллы — пять секунд в кадре. В целом неожиданное событие не заметили 46 % зрителей: гориллу — 56 %, женщину с зонтом — 35 %. Чем труднее была задача счёта, тем чаще пропускали.

Чего вывести нельзя. Наблюдатели не были «невнимательны»: они очень внимательно делали то, что им поручили. Задача, которую вы держите в голове, решает, что вы увидите. И оговорка: невидимая горилла — это пропускнеожиданного. Пролог этой главы — о противоположной ошибке: ложной тревоге, избыточном прочтении ожидаемого. Ожидание делает и то и другое, поэтому инструмент, который снижает одну ошибку, может увеличивать другую (раздел 7).

2.4. Эксперты не защищены — и иногда уязвимее

Итиэль Дрор и его коллеги тайно вернули пятерым опытным дактилоскопистам — в среднем по семнадцать лет стажа — пару отпечатков, которую каждый из них сам признал совпадающей в реальном деле несколькими годами раньше [18]. Сказали, что это пара из громкого дела о ложной идентификации, и попросили не обращать внимания на этот контекст. Четверо из пятерых изменили собственное прежнее решение: трое написали «не совпадает», один — «недостаточно данных».

Во втором исследовании шестерым сертифицированным экспертам незаметно предложили по восемь их собственных прошлых решений, половину — с наводящим контекстом вроде «подозреваемый сознался» [17]. Из 48 решений изменилось 6; непоследовательность показали четверо из шести экспертов. Почти все изменения пришлись на трудные, неоднозначные сравнения, а два из шести случились без всякого наводящего контекста. Эксперт расходится не только с другими, но и с самим собой — к этому «шуму» суждений книга вернётся в главе 15.

Ограничения. Выборки очень малы, контекст в первом опыте был сильным [18]. Эти работы не говорят, как часто ошибаются эксперты вообще. Они показывают другое: опыт и добросовестность не отключают влияние того, что эксперт знает о деле, — особенно когда материал неоднозначен.

3. Авторский инструмент: «Протокол первого взгляда»

Определение.«Протокол первого взгляда» — авторский учебный инструмент для работы с исходным материалом. Он не убирает ожидание: это невозможно и не нужно. Он делает ожидание видимым — записывает его рядом с наблюдением, пока они ещё не слились в один вывод, — и задаёт порядок, в котором аналитик получает сведения.

На чём основан.Разделение наблюдения и толкования (книга 1, глава 1). Защитные меры, которые Сол Кассин, Итиэль Дрор и Джефф Кукучка вывели из исследований и разборов ошибок экспертизы [45]: работать «линейно, а не по кругу» — сначала задокументировать признаки в исследуемом следе и только потом сравнивать его с образцом; ограждать эксперта от сведений, не нужных для его задачи; проверять вслепую; спрашивать: «Что эксперт знал и когда он это узнал?» Последовательное раскрытие информации [19, 72] и раздельная оценка источника и сведений [46]. Авторское — колонка «Ждал», перенос правил из криминалистики на любой материал (интерпретация автора) и связка с первой строкой доклада.

Рис. 1.1. Ожидание приходит раньше материала и проникает в описание и толкование. Три заслона протокола стоят на каждом переходе: порядок раскрытия — до описания, колонка «Ждал» — до толкования, чистый второй взгляд — до доклада.

Четыре колонки.

В быстром режиме, как у Ксении в истории 6.1, хватает трёх колонок — «Вижу», «Думаю», «Ждал»; «Происхождение» заполняют, когда материал прошёл через несколько рук.

У признаков стоит уверенность, потому что колонка «Вижу» тоже состоит из выводов, только нижнего уровня: «силуэт человека» на зернистом ночном кадре — уже вывод. Аналитические стандарты прямо требуют отделять исходные сведения от допущений и суждений аналитика [67].

Колонка «Происхождение» защищает от самой коварной ловушки — кругового подтверждения. Если ориентировка выросла из прошлого эпизода с того же участка, а вы «подтверждаете» её новым кадром, вы, возможно, подтверждаете источник самим собой.