Наука под вопросом. Философия науки XXI века

Некоторые философы пытались вернуть причину иначе. Ханс Райхенбах, которого мы подробно обсуждали в третьем томе, в посмертно вышедшей книге «Направление времени» (1956) сформулировал принцип общей причины. Если две величины устойчиво связаны и ни одна не вызывает другую, то у них должна быть общая причина, при учёте которой связь исчезает. Если человек носит зонт и улица мокрая, то, учтя дождь, мы больше не увидим между ними связи. В этом замечательном наблюдении, которое называется экранированием, заключён один из корней всей современной теории. Позже Патрик Суппес и другие предложили определять причину через повышение вероятности: X есть причина Y, если при X вероятность Y выше, чем без него. Но мороженое повышает вероятность преступлений в городе, поскольку и то и другое бывает летом, и никто не решит проблему уличной преступности запретом мороженого. Значит, надо учесть жару. А какие ещё обстоятельства надо учесть? Нэнси Картрайт в 1983 году дала честный ответ: те, которые имеют причинное отношение к делу. Тем самым определение причины стало содержать слово «причина». Перл называет эту программу разбившейся о подводную скалу смешения факторов. А сам он, как мы увидим, прошёл тот же путь: его байесовские сети 1980-х годов тоже писались на языке вероятностей, и фразу из книги 1988 года о том, что причинность есть удобный язык для разговора о вероятностных связях, он теперь вспоминает со смущением. Как мы отмечали в первой главе, сеть безразлична к тому, вызывает ли дым огонь или огонь дым.

Лестница причинности

Пока большинство статистиков соблюдало запрет, один человек шёл своей дорогой, почти никем не замеченный. Американский генетик Сьюэлл Райт (1889–1988) занимался наследованием окраски у морских свинок. Его интересовал вопрос, какая часть разнообразия окраса вызвана наследственностью, а какая обстоятельствами развития в утробе. Опыт над этим поставить трудно, но у Райта были данные за двадцать лет. В 1920 году он напечатал статью со странным рисунком: буквы, а между ними стрелки, показывающие, что на что влияет. Наследственность родителей, условия развития, окружение после рождения, окрас потомка. Перл считает этот рисунок первой опубликованной причинной диаграммой. Кроме рисунка, Райт дал правило, которое связывало причинные коэффициенты на стрелках с корреляциями, которые можно измерить. У свинок, скрещиваемых случайно, наследственность объяснила 42 процента разнообразия, а развитие 58. В инбредной линии, где наследственное разнообразие почти исчезло, соотношение стало 3 и 92. То есть корреляции всё-таки можно прочесть в обратную сторону и получить причинное утверждение, если заранее известно, как устроен процесс.

Вот пример, с которым Перл связывает всё значение этого метода. В статье 1921 года Райт спрашивает: насколько больше весит при рождении морская свинка, проведшая в утробе лишний день? Прямое сравнение даёт 5,66 грамма в день. Но эта цифра смешивает два процесса, потому что дольше вынашиваются детёныши из маленьких помётов, а они и без того крупнее. Если рост в утробе и размер помёта внести в диаграмму, задать простые уравнения и решить их, то получается 3,34 грамма. Причём сама скорость роста в опыте не измерялась. Первое число есть факт о данных. Второе есть ответ на вопрос о мире, в котором можно было бы подержать детёныша лишний день. Заметьте также, что на диаграмме особенно важны стрелки, которых нет: каждое такое отсутствие есть сильное допущение, которое можно оспорить.

Ответ пришёл из лагеря Пирсона в 1921 году. Молодой учёный Генри Найлз заявил, что противопоставлять причинность и корреляцию незачем, поскольку причинность есть просто совершенная корреляция, а вся затея Райта сомнительна: она заранее предполагает то, что должна доказать. Райт ответил, что и не утверждал, будто его метод позволяет выводить причины из данных без предварительного знания. Смысл в другом: из допущений и данных получается неочевидный вывод, который можно проверить. Метод игнорировали десятилетиями. Фишер, безраздельно властвовавший в статистике с 1920-х по 1950-е годы, его не принимал и видел в Райте врага по другим вопросам. Только через шестьдесят лет, в 1983 году, Райту, которому было уже за девяносто, пришлось ещё раз защищать свой метод перед видным стэнфордским статистиком, требовавшим анализа без модели. Анализа без модели, ответил он, не бывает, а тем, кому очень хочется его провести, он посоветовал подавить это желание и заняться чем-нибудь другим.

Язык, которого не хватало Райту, был разработан в конце XX века. Опираясь на него, Перл предложил образ лестницы с тремя ступенями. Это деление на самом простом уровне определяется тем, на какие вопросы способна ответить система.

На первой ступени стоит наблюдение, ассоциация. Вопрос звучит так: что я узнаю, если увижу X? Какова вероятность, что покупатель зубной пасты купит зубную нить? Здесь работают сова, выслеживающая мышь, традиционная статистика и, как утверждает Перл, современные обучаемые машины. Они могут делать великолепные предсказания, но хорошие предсказания, замечает он, не нуждаются в хорошем объяснении. Сове незачем понимать, почему мышь бежит из точки А в точку Б.

На второй ступени находится вмешательство. Вопрос: что произойдёт, если я сделаю X? Что станет с продажами зубной нити, если удвоить цену на пасту? На такой вопрос данные о прошлом сами по себе не отвечают. В прошлом цены могли быть высокими, например, из-за дефицита, а дефицит сам влиял на спрос. Вместо этого нужен опыт или модель, которая скажет, что произойдёт, когда мы вмешаемся. Для этого различия Перл ввёл особую запись. Если обычная условная вероятность P(Y при X) говорит о вероятности Y среди тех случаев, когда мы увидели X, то P(Y при do(X)) говорит о вероятности Y в том случае, когда мы сделали X принудительно, независимо от всех обычных причин. Английское слово do здесь значит просто «сделать». Классическая статистика не имела для этого обозначения. Вот различие, в котором, по Перлу, заключена вся суть дела: увидеть и сделать — разные вещи.

Вот и барометр, с которым мы встречались в третьем томе и которому там было обещано продолжение. Показание барометра связано с давлением через уравнение, которое можно написать как угодно: B равно k, умноженному на P, или P равно B, делённому на k. Алгебра равнодушна к направлению. Падение стрелки надёжно предсказывает бурю. На уровне наблюдения связь безупречна. Но если схватить стрелку пальцем и сдвинуть вниз, бури не будет. Или возьмём мир, в котором нет различия между P(Y при X) и P(Y при do(X)). В таком мире, как замечает Перл, люди перестали бы ходить к врачу, чтобы реже болеть, потому что среди посещающих врача больше больных, а города распустили бы пожарных, потому что где много пожарных, там много пожаров.

Третья ступень — это воображение, контрфактуал. Вопрос: что было бы, если бы я поступил иначе? Голова прошла после аспирина. Прошла бы она без него? Об этой ступени поговорим отдельно в следующем разделе.

Главное утверждение Перла теперь можно выразить так. С низшей ступени на высшую нельзя подняться только за счёт данных. Сколько ни накапливай наблюдений, они не скажут, что будет при вмешательстве, потому что данные суть факты, а факты не содержат ответа на вопрос о другом положении дел. Данные, говорит он, глубоко глупы. Нужно что-то ещё: нужна модель того, что чем вызвано. Причинная диаграмма и есть такая модель. Точки на ней обозначают величины, а стрелка от A к B утверждает: B слушает A. Определение метафорическое, и Перл это признаёт.

Откуда в нас такая способность? Перл предполагает, что она составляет отличие человека от других животных и что ей примерно сорок тысяч лет, если судить по фигурке человека с головой льва из пещеры в Германии: чтобы вырезать её из бивня мамонта, надо было вообразить то, чего нет. Это смелая догадка, и проверить её нелегко. Более проверяемы опыты американского психолога Элисон Гопник с маленькими детьми. Ребёнку показывают коробочку, которая загорается, когда на неё кладут некоторые предметы. Уже дошкольники не только замечают связь, но и по немногим примерам делают вывод, какой предмет действует, а какой просто лежал рядом, и, желая включить коробочку, правильно выбирают именно действующий. Иначе говоря, они уверенно отличают то, что видели, от того, что надо сделать. Разделение труда между врождённым и приобретённым тут остаётся предметом спора. Но если эти результаты верны, то причинное мышление не позднее изобретение философов, которое Рассел мог выкинуть за ненадобностью, а способ, которым люди приобретают знания с самого начала.

Можно ли теперь вычислять вмешательства? Для этого есть простое правило, которое Перл назвал хирургией. Сделать так, чтобы событие произошло, значит освободить его от всех обычных причин и подчинить одной-единственной. На диаграмме это означает: удалить все стрелки, входящие в ту величину, на которую мы воздействуем. Пример с расстрельной командой делает это очевидным. Суд выносит приговор, капитан отдаёт приказ, солдаты А и Б стреляют, заключённый умирает. На уровне наблюдения: если выстрелил А, значит, был приказ, значит, выстрелил и Б. Теперь вмешаемся. Солдат А стреляет по собственной воле, никакого приказа не было. Что мы теперь можем сказать? Заключённый мёртв, а Б, скорее всего, не стрелял. Стрелка от капитана к солдату А вычеркнута, поэтому его выстрел больше ничего не говорит о приказе. Для чистой логики такая ситуация противоречива, поскольку правила запрещают стрелять без приказа, а для любого ребёнка нет.

Следующий шаг позволяет ответить на вопрос, мучивший статистиков и упомянутый в предыдущей главе. Какие переменные следует учитывать в анализе, а какие нет? Оказывается, любая диаграмма складывается всего из трёх видов соединений.

Цепь: огонь вызывает дым, дым вызывает срабатывание сигнализации. Если знать, есть ли дым, то огонь больше ничего не добавляет. Это экранирование Райхенбаха. Вилка: возраст ребёнка влияет и на размер обуви, и на умение читать. Отсюда ложная связь между обувью и чтением, которая исчезает среди семилетних. Большие ботинки ребёнка читать не научат. Эту вилку и называют смешением. Если общая причина не учтена, мы приписываем связь не тому, что её вызывает.

А третье соединение совсем неочевидно, и оно объясняет многое. Коллайдер, или столкновение: две стрелки ведут в одну точку. Талант и красота вместе влияют на то, становится ли человек известным. В населении в целом талант и красота между собой не связаны. Но если взять только известных людей, то среди них талант и красота окажутся связаны обратно: кто не очень красив, тот, скорее всего, очень талантлив, иначе бы его никто не узнал. Связь появилась из-за того, что мы отобрали людей по следствию. Американский врач Джозеф Берксон заметил в 1946 году то же самое в больницах: две болезни, не связанные в населении, оказываются связанными среди госпитализированных, поскольку больной с любой из них попадает в больницу с большей вероятностью. Позже канадский врач Дэвид Сакетт подтвердил это на конкретных данных: болезни костей встречались у 7,5 процента населения независимо от болезней лёгких, но у лежащих в больнице с болезнями лёгких у 25 процентов. Этой же логикой объясняется и задача о трёх дверях из первой главы.

Американский математик Джордан Элленберг приводит пример, который многие сразу примеряют к себе. Вам кажется, что красивые люди часто бывают неприятны? Вероятно, вы встречаетесь с людьми, которые либо красивы, либо приятны, либо и то и другое, а неприятного и некрасивого вы никогда не увидите рядом с собой за столиком. Отсюда обратная связь, которой в населении нет. По Перлу, такая корреляция есть иллюзия в самом точном смысле слова, причём нередко мы создаём её сами, выбирая, что учитывать, а что нет. То же самое с успешными предпринимателями, которые советуют бросить университет: мы видим только тех, кто прошёл отбор. Кто бросил и не преуспел, книг не пишет.

Вот почему совет учитывать всё подряд так вреден. Контроль над средним звеном вилки устраняет ложную связь. Но контроль над коллайдером её создаёт. Перл разбирает случай, когда поправка на такую переменную, казалось бы совершенно безобидную, порождает смещение там, где без неё ничего подобного не было: привычка пристёгиваться ремнём безопасности в анализе курения и болезней лёгких, включавшаяся в анализ как всего лишь ещё один показатель осторожности. Набор переменных для поправки определяется не свойствами данных и не их статистикой, а только структурой причинных связей. Для этого существует простой критерий, названный критерием чёрного хода. Перекрой все некаузальные пути, начинающиеся со стрелки, входящей в изучаемую причину, и не трогай её следствий. Многие споры поколений статистиков о том, что считать смешивающим фактором, сводятся теперь к небольшой игре на бумаге, которая решается за доли секунды на компьютере. Определение смешения, замечает Перл, никогда не удавалось дать в статистических понятиях, потому что оно не статистическое.

Насколько это было неочевидно, показывает парадокс, поставивший в тупик медиков на сорок лет. В 1959 году американский биостатистик Якоб Ерушалми, изучая более пятнадцати тысяч детей, заметил, что дети курящих матерей в среднем весят меньше, а маловесные дети умирают гораздо чаще. Но если взять только маловесных, то дети курящих матерей выживают лучше. Значит ли это, что курение защищает младенца? Сам Ерушалми оставался скептиком насчёт вреда табака, и этот результат выглядел как довод в его пользу. Ответ был получен только в начале XXI века. Малый вес при рождении вызывается разными причинами: и курением, и серьёзными врождёнными пороками. Если взять только маловесных, то вес оказывается коллайдером. Ребёнок лёгок либо из-за курения, либо, чаще, из-за чего-то более опасного. Среди маловесных детей курящих матерей меньше детей с тяжёлыми пороками просто потому, что у их малого веса уже есть другое объяснение. Поэтому и выживают они лучше, а курение тут ни при чём. Перл заявляет, что загадка держалась так долго именно потому, что с 1960 по 1990 год не было языка, на котором её можно было выразить. И прибавляет тревожное замечание: этот случай заметили только благодаря тому, что вывод выглядел нелепо. А сколько таких ошибок прошло незамеченными, потому что они не противоречили ничьим ожиданиям?

Эта работа не осталась только за информатиками. Для нашей темы важно, что очень большой вклад внесли люди с кафедры философии. Кларк Глимур, основатель кафедры философии в Университете Карнеги-Меллона, и его коллеги Питер Спиртес и Ричард Шайнс в книге «Причинность, предсказание и поиск» (1993) поставили обратный вопрос: можно ли, зная только статистические независимости, определить возможные причинные структуры? Они построили программу TETRAD, которая при определённых условиях находит семейство диаграмм, согласных с данными. Это редкий случай, когда кафедра философии стала источником практического инструмента, которым затем пользуются биологи и специалисты по машинному обучению. Сюда же относится американский философ Джеймс Вудворд, чья книга «Как сделать так, чтобы что-то случилось» (2003) превратила эти идеи в теорию научного объяснения. Причина, по Вудворду, есть рукоятка: X причина Y, если есть такое воздействие на X, которое изменяет Y, и эта зависимость устойчива при других воздействиях. Это обобщение и на те случаи, когда воздействие практически невозможно: мы не можем подвинуть Луну, но вполне осмысленно спросить, что случилось бы с приливами, если бы её подвинули. Как показывает обзор Кристофера Хичкока, вмешательство можно определить без ссылки на людей, просто как независимую причину, которая перекрывает обычные механизмы.

Теперь становится понятным и то, что делает случайное распределение. Со времён Фишера рандомизированное испытание считают золотым стандартом, причём часто как нечто само собой разумеющееся. Что в нём происходит? В обычном случае лечение получают по множеству разных причин: кто-то богаче, кто-то осторожнее, у кого-то такая же болезнь была у родителей. Все эти неизвестные причины образуют стрелки, ведущие к лечению и к исходу. Если врач распределяет лечение по жребию, у величины «лечение» остаётся единственная причина: жребий. Все остальные стрелки разом отсекаются, в том числе и те, о которых никто не догадывается. Рандомизация просто и есть хирургия, проведённая не на бумаге, а в реальной жизни. Растения, как заметил Перл, карт не читают. В ней нет ничего мистического. Но и никакого священного статуса она не имеет. Иногда испытание невозможно: нельзя заставить людей курить двадцать лет. И в таких случаях наблюдение может дать законный, хотя и условный причинный вывод, если диаграмма оправдана.

Здесь Перл спорит и с обратной ошибкой, совсем не той, какую мы обсуждали в предыдущей главе. Там учёные говорили слишком много, здесь слишком мало. В 1998 году в ведущем медицинском журнале вышла работа по данным о жителях Гонолулу японского происхождения: за двенадцать лет из тех, кто проходил меньше мили в день, умерли 43 процента, а из проходивших больше двух миль 21,5 процента. С учётом возраста, физического состояния и образа жизни разница сохранялась. Авторы заявили, что влияние намеренной ходьбы их работа оценить не может. Перл считает такую скромность чрезмерной и не вполне честной: если вы считаете, что все существенные смешивающие факторы учтены, скажите это и назовите свой вывод условным. Точный перечень допущений, стоящих за выводом, ценнее, чем дежурная оговорка, которая освобождает автора от ответственности, но читатель всё равно всё поймёт как причину.

Здесь классический пример связан с Джоном Сноу, но обычно его рассказывают неверно. В популярной версии лондонский врач в 1854 году нанёс на карту случаи холеры, снял рукоятку с водоразборной колонки на Брод-стрит, и эпидемия прекратилась. На деле эпидемия к тому времени уже спадала. Настоящее достижение Сноу было куда умнее. В Лондоне воду поставляли две компании, причём в некоторых кварталах их трубы шли вперемешку. Одна из них брала воду из Темзы ниже места сброса городских нечистот, другая выше. Дома получали воду той или другой компании без всякой связи с богатством и образом жизни жильцов, часто даже не зная об этом. Смертность от холеры у потребителей первой компании оказалась примерно в восемь раз выше. Сама ситуация поставила опыт на трёхстах тысячах человек, и, как писал Сноу, ни одного опыта нельзя было бы придумать лучше. Поставщик воды играет здесь роль жребия, такие величины теперь называют инструментальными переменными. Сноу напечатал брошюру за свой счёт, и было продано 56 экземпляров. Вывод, между прочим, можно было предъявить и тем, кто верил в болезнетворные испарения: для решения о переносе водозабора мнение о механизме не важно. Современный вариант того же приёма называют менделевской рандомизацией: при зачатии каждый получает гены случайно, и некоторые гены влияют, например, на уровень определённого холестерина всю жизнь. Сравнивая таких людей, можно проверить, действительно ли этот холестерин вызывает болезнь. Именно таким способом в 2012 году выяснилось, что «хороший» холестерин, вопреки широко распространённому убеждению, от инфаркта, по-видимому, не защищает, хотя корреляция с меньшей смертностью у него есть.

А как быть с курением, где нельзя поставить опыт, но и инструмента нет? В 1950-е годы Фишер и другие скептики отвечали: может быть, существует ген, вызывающий и тягу к сигаретам, и рак. Это чистая вилка с неизмеренной общей причиной, и опровергнуть её прямым способом было невозможно. Американский статистик Джером Корнфилд в 1959 году сделал поразительный для своего времени ход, не ссылаясь на лаборатории. Он посчитал. Если курильщики болеют в девять раз чаще, то гипотетический ген должен встречаться у них по меньшей мере в девять раз чаще, чем у некурящих. Если он есть у 11 процентов некурящих, он должен быть у 99 процентов курильщиков. Если у 12 процентов, полное объяснение становится математически невозможным. Перл предлагает ещё один путь, называемый критерием парадного входа. Если курение влияет на рак только через смолы в лёгких, а скрытый ген на сами смолы не влияет, то действие курения можно вычислить вовсе без знания о гене. Оба допущения в случае курения спорны, что признавал сам Перл после возражений американского статистика Дэвида Фридмана. Но на других данных, о программах профессиональной подготовки, этот приём дал результат, близкий к рандомизированному опыту. Появилось полное исчисление с тремя простыми правилами для устранения do из выражения. В 2006 году две группы независимо доказали его полноту: если правила не помогают, то никакая хитрость не поможет, и остаётся только ставить опыт. Вопрос «можно ли в принципе ответить на это по наблюдениям?» получил математически точный ответ.

У этой истории есть продолжение, в котором вся глава проверяется на деле. Фишер оказался отчасти прав: ген действительно есть. Методы поиска по всему геному обнаружили в 2008 году вариант на пятнадцатой хромосоме, связанный с никотиновыми рецепторами. Его носители курят немного больше и немного чаще заболевают. Но кому именно нужно верить теперь: Фишеру или Корнфилду? Численный ответ получается без спора. Две копии варианта, которые есть примерно у одного человека из девяти, увеличивают риск на 77 процентов, тогда как само курение увеличивает его более чем в десять раз. А когда американский эпидемиолог Тайлер Вандервил разделил действие гена на прямое и косвенное, то косвенное, через курение, оказалось ничтожным: один-три процента, примерно одна лишняя сигарета в день. Подозреваемый, которого Фишер назвал вслепую, был настоящим. Он не имел никакого отношения к тому преступлению, в котором его обвиняли. Такие количественные ответы выгодно отличаются от споров, которые велись в этой области сорок лет назад, зато всё ещё оставляют материал для возражений: одна из первооткрывательниц гена считает, что носители могут глубже затягиваться.

И ещё один пример, показывающий, зачем всё это нужно за пределами лаборатории. Бывает, что причина известна, а механизм нет. В 1747 году шотландский флотский врач Джеймс Линд показал в одном из первых контролируемых опытов, что цитрусовые излечивают цингу. Цинга, унёсшая, по оценкам, миллионы моряков, на британском флоте почти исчезла. Затем произошла удивительная вещь. Считалось, что помогает кислота. Поэтому испанские лимоны заменили вест-индскими лаймами, столь же кислыми, но содержащими вчетверо меньше витамина C, а сок для долгого хранения ещё и подвергали обработке, разрушавшей витамин. Когда в XX веке экспедиции ушли в Арктику и Антарктику, цинга вернулась, и врачи решили, что лимоны тут ни при чём, а всё дело в испорченном мясе. Роберт Скотт в 1911 году тщательно проверил мясо и не взял никаких цитрусовых. Что бы ни погубило его отряд в итоге, по Перлу среди причин была цинга. Механизм «цитрусовые, кислота, цинга» был неверен. Истинной была цепочка «цитрусовые, витамин C, цинга». В Венгрии в 1930-е годы эту аскорбиновую кислоту выделил Альберт Сент-Дьёрдьи. Такое промежуточное звено называют посредником, и верное знание о нём позволяет предсказать, что случится при замене одного средства другим. Заметьте, что простая проверка «работают ли лимоны» здесь ничего бы не изменила: они работали всегда. Проверить нужно было не связь, а модель связи.

Обратная ошибка случается, когда посредника учитывают там, где это недопустимо, и последствия могут быть очень конкретными. Американский военный хирург Джон Крэг, работавший в Багдаде в 2006 году, настойчиво отстаивал жгут, который долго считался крайней мерой. По некоторым оценкам, жгуты спасли за десятилетие около двух тысяч жизней. Но работа 2015 года, сравнившая раненых с наложенным жгутом и без него, никакой разницы в выживаемости не нашла. Перл указывает, что собирали данные только о тех, кто успел живым добраться до госпиталя. Между тем жгут действует прежде всего тем, что позволяет дожить до госпиталя. Анализ тем самым заранее исключил основной путь, которым средство могло помочь. Статистически всё правильно. По существу это вопрос о том, как устроена цепь, и на него сами данные не отвечают.

Та же история повторяется и с дискриминацией. В 1973 году Калифорнийский университет в Беркли обнаружил, что в аспирантуру приняли 44 процента мужчин и 35 процентов женщин. Но в отдельных отделениях женщин принимали не реже, а часто чаще. Американский статистик Питер Бикел показал, что женщины чаще подавали на те отделения, куда труднее попасть. Значит ли это, что дискриминации нет? Другой американский статистик, Уильям Краскал, построил контрпример, показав, что без знания структуры на это ответить нельзя. Это и называют парадоксом Симпсона, и суть его вовсе не в числах, а в том, что одни и те же числа могут требовать разного прочтения. Если лекарство хуже в каждой группе, а в сумме лучше, то при одной истории правы отдельные группы, а при другой сумма. В таблице об этом не написано ничего. Перл настаивает, что таблица без истории о том, как получены данные, не отвечает ни на один вопрос о действии. Сноска Юла вернулась с полным счётом за столетие молчания.