Наука под вопросом. Философия науки XXI века

Юм нам уже хорошо знаком по первому тому. Там мы видели его главный вывод: из того, что солнце всходило до сих пор, логически не следует, что оно взойдёт завтра. В эссе «О чудесах» он применил свой скепсис иначе и практичнее. Чудо есть нарушение закона природы. Закон природы подтверждён единообразным опытом всех людей во все времена. Свидетельство о чуде опирается на слова немногих людей, которые могли ошибиться, поддаться страсти или соврать. Поэтому благоразумный человек всегда взвешивает: что вероятнее, что мёртвый воскрес или что рассказчик ошибается? Никакое свидетельство, заключал Юм, не может установить чудо, кроме такого, ложность которого была бы ещё большим чудом. Этот довод с тех пор служит всем, кто разоблачает ясновидящих, и, надо сказать, служит неплохо. Прайс, однако, увидел в нём две слабости.

Первая слабость касалась самого понятия единообразного опыта. Пусть, рассуждал Прайс, прилив наблюдали миллион раз подряд, и он приходил всякий раз. Следует ли отсюда, что сбой невозможен? Юмовское рассуждение звучит так, будто следует. Но по расчёту, основанному на результате Байеса, из миллиона удач вытекает только то, что вероятность сбоя очень мала: примерно от одного случая на шестьсот тысяч до одного на три миллиона. Это очень мало. Но это не ноль, и разница между «очень мало» и «ноль» имеет принципиальное значение, мы увидим это в конце главы. Прошлый опыт, сколь угодно длинный, даёт степень уверенности, а не запрет.

Вторая слабость оказалась серьёзнее. Юм рассуждал так, будто на весы кладут один закон природы и одно свидетельство. А что будет, спрашивал Прайс, если свидетелей несколько и они независимы друг от друга? Показания ненадёжных людей перемножаются. Если каждый из свидетелей ошибается редко и они не могли сговориться, то вероятность того, что все они ошиблись одинаково, падает очень быстро, а значит, даже очень невероятное событие может стать вероятным. Американский философ Джон Эрман через двести с лишним лет посвятил этому целую книгу с заголовком, не оставляющим сомнений в его симпатиях: «Позорный провал Юма». Он доказывал, что Прайс в этом пункте прав, а прославленный довод Юма как логическое рассуждение не выдерживает проверки.

Предупредим сразу: из этого не следует, что чудеса случались. Прайс был верующим человеком и надеялся защитить Писание, но расчёт, как обычно, служит не тому, кто его придумал. Всё зависит от слова «независимо». Как только мы спросим, действительно ли свидетели независимы, не пересказывают ли они друг друга, не хотят ли все они одного и того же, не было ли среди них автора единственного первоисточника, весь чудесный результат тает. Это знает любой следователь. Многочисленные отзывы об одной и той же чудодейственной добавке на сайте её производителя выглядят как сто независимых свидетелей и стоят примерно столько же, сколько один продавец, переодевшийся сто раз. К этому слову мы ещё вернёмся.

Спор о мотивах самого Байеса не закончен. Стиглер считает вероятным, что Байес начал работать над задачей именно после эссе Юма: даты совпадают. Но он сам признаёт это предположение самым спекулятивным звеном своей истории, потому что в статье Юм не упомянут, а записи Байеса почти не сохранились. Другие историки полагают, что Байес вышел на задачу, читая Абрахама де Муавра, и никакой богословской цели не преследовал. Прайс — другое дело. У него цель была вполне определённой. Поэтому мы и будем говорить здесь о работе Байеса и о споре Прайса с Юмом как о разных вещах, хотя популярные книги, включая книгу Перла, о которой речь впереди, часто сливают их воедино.

Так или иначе, из богословского спора XVIII века вышло самое влиятельное в современной философии науки учение о том, как следует менять свои убеждения. Сегодня его применяют в фильтрах почтового спама, в поиске пропавших судов и самолётов, в судебной экспертизе и в машинном обучении. А философы подтверждения, которые к концу XX века устали от неудач Карнапа и Гемпеля, всё чаще говорят: это единственная теория свидетельства, которая у нас есть. Тот же Эрман назвал другую свою книгу в форме пари: «Байес или крах?». В этой главе мы разберём, что это за теория, почему её так полюбили и где она даёт сбой.

Что значит «данные поддерживают гипотезу»

Чтобы понять, почему байесианство вызвало такую надежду, надо вспомнить, в каком состоянии оставил этот вопрос XX век. На протяжении всего третьего тома мы наблюдали череду неудач.

Задача выглядела скромно. Логика умеет сказать, когда заключение с необходимостью следует из посылок. Но учёный почти никогда не находится в таком положении. У него есть гипотеза и несколько наблюдений, которые логически её не доказывают. И всё же он считает, и мы все считаем, что после удачного опыта гипотеза стоит прочнее, чем до него. Значит, нужна теория этого «прочнее». Венский кружок и его наследники пытались её построить как логику, только особую, ослабленную, в которой посылки не гарантируют заключения, а только поддерживают его в какой-то степени.

Из этого ничего не вышло. Гемпель предложил самый естественный принцип: всякий чёрный ворон подтверждает утверждение, что все вороны чёрные. И сразу получил белый ботинок, подтверждающий его же. Простой гипотетико-дедуктивный рецепт, согласно которому гипотеза подтверждается, когда сбываются её следствия, рухнул ещё быстрее: если гипотеза H предсказывает наблюдение E, то E предсказывает и составная гипотеза «H и на Луне живут гномы», так что гномы подтверждаются вместе с законом. Гудмен с его зелубыми изумрудами показал, что подтверждение вообще нельзя определить только по логической форме рассуждения: два вывода одного вида могут быть один хорошим, другой нелепым. Наконец, Карнап посвятил десятилетия индуктивной логике, основанной на вероятностях. В его системе вероятность всякого всеобщего закона при бесконечном мире оказывалась равной нулю, сколько ни наблюдай, и все дополнительные допущения, вводимые для устранения этого и других неудобств, только множили вопросы. Американский философ Питер Годфри-Смит, чей учебник служит нам образцом, называет всю эту историю повестью о горестях.

Поппер извлёк из неудач радикальный вывод: никакого подтверждения нет и не нужно. Наука движется догадками и опровержениями, а теория, выдержавшая проверки, всего лишь ещё не опровергнута. Этот ответ обладает героической простотой и одним неудобством, которое мы уже обсуждали в третьем томе. Когда инженер строит мост, он берёт теорию, многократно прошедшую проверку, а не только что придуманную и ещё ни разу не опровергнутую. Он прав. Но если прошлые удачи ничего не говорят о будущем, то он прав неизвестно почему. Понятие «подкреплённости», которое ввёл Поппер, описывает только прошлое, как зачётная книжка студента, и не содержит рекомендации на будущее. Либо подкреплённость всё-таки даёт основание для большего доверия, и тогда это подтверждение под другим именем, либо не даёт, и тогда инженер ничем не лучше того, кто строит мост по вчерашней догадке соседа.

А что же сами учёные? Они не ждали окончания этого спора и пользовались статистикой, и здесь надо сказать о вещи, которая для понимания всей главы важнее любой формулы. Мы уже видели в девятой главе третьего тома, как английский статистик Рональд Фишер и его оппоненты Ежи Нейман и Эгон Пирсон построили методы проверки гипотез. Эти методы устроены следующим образом. Предположим, что гипотеза верна, например, что лекарство не действует вообще. Тогда мы можем посчитать, насколько вероятно получить такие или ещё более резкие данные. Если вероятность мала, то мы говорим, что результат значим.

Обратите внимание на направление вопроса. Метод отвечает: какова вероятность данных при условии гипотезы. А учёному и его читателю нужен обратный ответ: какова вероятность гипотезы при условии данных. Это разные вещи, причём разные очень сильно. Вероятность того, что случайно выбранный папа римский окажется мужчиной, равна единице. Вероятность того, что случайно выбранный мужчина окажется папой римским, составляет примерно один на четыре миллиарда. Перепутать эти два числа в таком примере никто не может, но то же самое рассуждение, изложенное языком статистики, путают постоянно, в том числе и сами учёные, и мы увидим во второй главе, чего это стоит.

Именно этот вопрос о направлении и был темой статьи Байеса. Прямую задачу математики XVIII века решать умели. Если известно устройство игральной кости, можно посчитать, как часто выпадет шестёрка. Обратная задача гораздо труднее: у нас есть только результаты бросков, и мы хотим узнать, какова кость. Её называли задачей об обратной вероятности. В ней-то и заключена вся проблема индукции в её прикладном виде, потому что наука всегда находится в положении человека, видящего результаты бросков. Причины нам не показывают. Показывают только следствия.

Условия, которым должна удовлетворять хорошая теория свидетельства, теперь можно перечислить. Она должна признавать степени: одни гипотезы лучше подтверждены, чем другие. Она должна менять эти степени по определённому правилу, не оставляя всё на произвол настроения. Она должна работать в самых разных случаях, от ворон до кварков, без отдельной логики для каждого. Она должна объяснять то, что учёные и так делают правильно: почему неожиданное предсказание весит больше ожидаемого, почему подгонка задним числом вызывает подозрение, почему повторение одного и того же опыта через некоторое время перестаёт что-либо добавлять. И наконец, она должна объяснять, на каком основании мы говорим об индукции вообще, после Юма.

Байесианство утверждает, что выполняет все эти условия, причём при помощи одной-единственной формулы, которую можно вывести за две строчки. Для философии, уставшей от неудач, это звучит почти как обещание чудесного исцеления, и потому к обещанию стоит отнестись так, как учит сама эта теория: посмотреть, откуда оно исходит, и проверить.

Формула словами

Теорема Байеса — одна из самых простых теорем математики. Математику для неё знать не нужно, достаточно умения делить. Её простота обманчива только в одном: сама теорема ни у кого не вызывает сомнений, а споры начинаются сразу после неё.

Запишем её словами. Обозначим гипотезу буквой H, а новое свидетельство — буквой E. Выражение P(H) означает вероятность гипотезы до того, как мы узнали о свидетельстве. Её называют априорной. Выражение P(E при H) означает вероятность увидеть такое свидетельство, если гипотеза верна. Её называют правдоподобием. Выражение P(H при E) есть то, что мы хотим узнать: вероятность гипотезы после того, как свидетельство получено. Её называют апостериорной. Теперь сама теорема:

P(H при E) = P(H), умноженная на P(E при H) и делённая на P(E).

Знаменатель P(E) — это общая вероятность увидеть такое свидетельство с учётом всех возможностей: и того, что гипотеза верна, и того, что она ложна. То есть он складывается из двух частей: вероятность E при истинной гипотезе, умноженная на вероятность её истинности, плюс вероятность E при ложной гипотезе, умноженная на вероятность её ложности.

Вся теория сводится к правилу пользования этой формулой. Прежде чем увидеть данные, у вас есть некоторая степень уверенности в гипотезе. Данные пришли. Новая степень уверенности равна той, которую подсказывает формула. Сегодняшняя апостериорная вероятность становится завтрашней априорной, и так до тех пор, пока приходят новые данные.

Чтобы увидеть, как это работает и почему вообще нужно считать, возьмём пример, разобранный в книге американского специалиста по информатике Иудеи Перла, с которым мы подробно познакомимся в третьей главе. Женщине сорока лет, без всяких симптомов, сделали маммографию, и результат оказался положительным. Что это значит? Числа такие: риск рака груди у женщины этого возраста в ближайший год составляет примерно один из семисот; при наличии опухоли обследование обнаруживает её примерно в 73 случаях из 100; у здоровых женщин оно ложно показывает тревогу в 12 случаях из 100.

Что подсказывает интуиция? Большинство людей, включая, как показывают опросы, немало врачей, отвечают, что вероятность болезни теперь велика, и называют что-нибудь вроде 70 процентов. Посчитаем теперь не в процентах, а в людях, как советуют психологи. Возьмём три тысячи таких женщин. Среди них больны примерно четыре. Обследование обнаружит заболевание примерно у трёх из них. Здоровых почти три тысячи, и 12 процентов из них, около 360 человек, тоже получат положительный результат. Итого положительный результат получили 363 женщины, а больны из них три. Вероятность болезни при положительном результате составляет меньше одного процента.

Повторим, что здесь произошло. Правдоподобие было велико: 73 процента. Свидетельство подняло вероятность болезни примерно в шесть раз, что совсем немало: с одного случая из семисот до одного примерно из ста шестнадцати. Но априорная вероятность была так мала, что и после шестикратного роста болезнь остаётся маловероятной. Обследование от этого не становится бесполезным: положительный результат всерьёз повышает вероятность и требует дополнительной проверки, а у женщины с наследственным риском один из двадцати тот же самый положительный результат поднимает вероятность болезни почти до одной трети. Одно и то же свидетельство при разных исходных условиях значит разное. Какие из этого выводы для конкретных обследований, решают врачи, а не философы, и не будем делать вид, будто глава о Байесе способна заменить консультацию. Для нас важно другое. Почти никто не может посчитать это в голове правильно. Мы плохо чувствуем обратную вероятность и всё время подставляем вместо неё прямую.

Из этого примера и формулы следуют три урока, и все три прямо касаются демаркации.

Первый урок: важна исходная частота. Ошибка, о которой мы только что говорили, встречается и в суде. В 1999 году в Великобритании была осуждена за убийство двух своих младенцев Салли Кларк. Важную роль сыграла цифра, названная педиатром-экспертом: вероятность двух случаев внезапной младенческой смерти в одной благополучной семье составляет один на 73 миллиона. Цифра содержала сразу две ошибки. Во-первых, эксперт получил её, просто умножив вероятность одной смерти на саму себя, то есть считал два случая независимыми, хотя у двух детей одной семьи может быть общая наследственная или бытовая причина. Вот то самое слово, о котором мы говорили у Прайса. Во-вторых, из малой вероятности невинного объяснения присяжные были склонны заключить, что столь же мала вероятность невиновности. Но ведь двойное убийство собственных младенцев тоже чрезвычайно редко. Сравнивать нужно не одну редкость с единицей, а две редкости друг с другом. Королевское статистическое общество выступило с публичным заявлением об ошибке, а через несколько лет приговор был отменён, хотя и по совокупности причин, не только статистических.

Второй урок: неожиданное весит больше. В формуле P(E) стоит в знаменателе. Чем менее вероятным казалось свидетельство до опыта, тем сильнее оно поднимает гипотезу, которая его предсказала. Если теория предсказывает то, чего никто не ждал, и это сбывается, её акции взлетают. Если она предсказывает то, что случается всегда, ничего не меняется. Перл выразил это формулой, с которой Байес и Прайс, пожалуй, согласились бы: чем чудеснее чудо, тем достовернее гипотеза, которая объясняет его появление. Но разумеется, чудо надо сначала установить, что возвращает нас к Юму.

Третий урок: важно, как часто такое свидетельство появляется, если гипотеза ложна. Перепишем формулу в другом виде, удобном для запоминания. Отношение шансов гипотезы после опыта равно отношению шансов до опыта, умноженному на так называемый фактор Байеса: на то, во сколько раз вероятнее свидетельство при истинной гипотезе, чем при ложной. Именно этот множитель и есть вес свидетельства. Если он равен единице, то есть свидетельство одинаково вероятно при обоих вариантах, то оно не весит ничего, каким бы впечатляющим ни выглядело.

Теперь посмотрим на гороскоп. «На этой неделе вас ждёт важный разговор, будьте внимательны к деньгам». Какова вероятность, что это сбудется, если астрология верна? Высокая. А если астрология ложна? Тоже высокая, потому что такое случается почти со всеми почти всегда. Множитель равен единице. Сбывшийся гороскоп не добавляет астрологии ровно ничего, и его сбывание можно наблюдать хоть каждую неделю до конца жизни. Вот точный смысл того, что Поппер называл отсутствием риска: теория, которая ничем не рискует, не может и выиграть. Байесианство даёт этому рассуждению количественное выражение и попутно объясняет, почему «подтверждения», на которые ссылаются астрологи, не имеют никакой силы. Дело не в том, что подтверждений нет. Дело в том, что их вес равен нулю.

То же относится к телевизионному ясновидящему, который на глазах у миллионов находит спрятанный в багажнике предмет. Вопрос Байеса звучит не так: «могло ли это быть при наличии дара?» Вопрос звучит так: «насколько вероятно было увидеть именно этот эпизод на экране, если никакого дара нет?» Если снимали много дублей, если в эфир идут удачи, если участники оборудованы подсказками или хотя бы умеют наблюдать за людьми, то вероятность такой передачи при отсутствии дара близка к единице. И вся впечатляющая сцена, снятая с драматической музыкой, в точном смысле слова ничего не весит. Зритель, который чувствует обратное, просто не видит знаменателя.

Вернёмся теперь к Прайсу и посчитаем его свидетелей. Пусть мы оцениваем событие, вероятность которого составляет один на миллион. Пусть каждый свидетель говорит правду в 99 случаях из 100. Один свидетель умножает шансы примерно в 99 раз: чудо всё ещё очень маловероятно, примерно один шанс на десять тысяч. Два свидетеля, если они независимы, умножают уже почти в десять тысяч раз. Три дают примерно миллион, и шансы уравниваются. Четвёртый делает событие вполне вероятным. Юм не учёл именно этого. Но обратите внимание, что весь этот расчёт держится на независимости. Если второй свидетель слышал о случившемся от первого, он не добавляет ничего, множитель для него равен единице. Если сто тысяч человек верят в явление, потому что об этом рассказал один проповедник или одна телепередача, то весит это как один рассказ. Юм прав там, где говорит о человеческой склонности к чудесному, и считать надо не количество верующих, а количество независимых проверок.

Согласно этой логике, известное правило, что чрезвычайные утверждения требуют чрезвычайных доказательств, которое популяризовал американский астроном Карл Саган, не пристрастие скептиков и не способ отмахнуться от неудобного. Это следствие арифметики. Чем ниже априорная вероятность, тем больший множитель нужен, чтобы её поднять. Именно поэтому, когда кто-то заявляет о вечном двигателе, разумно требовать большего, чем когда кто-то заявляет о новой марке двигателя автомобильного.

На этом месте возникает очевидный вопрос. Априорная вероятность рака груди известна по медицинской статистике. Но откуда мы берём априорную вероятность общей теории относительности, или гипотезы о том, что астрология верна? Что вообще означает вероятность утверждения, которое либо истинно, либо ложно, и никакого множества повторений для него нет? Без ответа на этот вопрос формула останется формулой. Ответ занял почти двести лет и стоил математикам немалых нервов.

Что такое вероятность

В начале XX века на этот вопрос было два ответа, и оба для наших целей не годились. Первый мы встречали во втором томе у Джона Венна, а в третьем у Райхенбаха: вероятность есть предельная частота. Когда мы говорим, что у монеты вероятность орла равна половине, мы имеем в виду, что при очень большом числе бросков орёл выпадает примерно в половине случаев. Частотное понимание удобно для страховых таблиц, игральных костей и физических коллективов. Но для единичных утверждений оно ничего не даёт. У теории относительности нет частоты. Она либо верна, либо нет, и нельзя бросить вселенную тысячу раз и посмотреть, в какой доле случаев теория оказалась правильной. Поэтому для частотника выражение «вероятность гипотезы» бессмысленно, и именно отсюда растут методы Фишера, Неймана и Пирсона, старательно избегающие этого выражения. Логично, но учёному от этого не легче.

Второй ответ давала логическая теория, которую развивал английский экономист Джон Мейнард Кейнс в «Трактате о вероятности» (1921), а потом на свой лад Карнап. Вероятность, по Кейнсу, есть объективное логическое отношение между посылками и заключением, нечто вроде частичного следования. Такое отношение одно на всех, и разумный ум способен его усмотреть.

В 1926 году эту теорию подверг уничтожающей критике молодой кембриджский математик и философ Фрэнк Рамсей. Читатель третьего тома помнит его по предложению Рамсея, о котором мы ещё будем говорить в шестой главе этого тома. Рамсей был человеком, о котором современники говорили с некоторым смущением, потому что его способности не укладывались в обычные мерки. За несколько лет он внёс основополагающий вклад в логику, основания математики, теорию налогообложения и теорию экономического роста. Умер он в январе 1930 года, не дожив до двадцати семи. Статью «Истина и вероятность» он написал в конце 1926 года и прочитал в Кембридже в Клубе моральных наук, а напечатана она была только посмертно, в 1931 году.

Возражение Рамсея Кейнсу было обезоруживающе простым: он не видит этих логических отношений, и он подозревает, что другие тоже их не видят, потому что никто не может договориться о них в самых простых случаях. Зато существует нечто, что несомненно есть у каждого человека: степень уверенности. И её можно измерить. Обычный способ узнать, насколько человек в чём-то уверен, старше всякой философии: предложить ему пари.

Предположим, вы считаете справедливыми такие условия: вы получаете сто рублей, если завтра будет дождь, и отдаёте сто, если не будет. Значит, ваша уверенность в дожде равна половине. Если вы готовы поставить триста рублей против ста, значит, ваша степень уверенности равна трём четвертям. В общем виде: готовность рискнуть суммой X ради выигрыша единицы означает степень уверенности X, делённое на X плюс один. Разумеется, у настоящих людей есть склонность к азарту и страх перед риском, а сто рублей для бедного и для богатого значат разное. Рамсей это прекрасно понимал и поэтому построил более тонкую конструкцию, в которой мера уверенности и мера ценности благ определяются вместе из предпочтений человека. Но суть остаётся: уверенность определяется не интроспекцией и не логической интуицией, а тем, как человек готов действовать. Вероятность перестала быть свойством мира или логики и стала свойством носителя убеждения.

Но тут немедленно возникает возражение: если вероятность — просто степень чьей-то уверенности, то любой безумец прав. Один считает возвращение пришельцев вероятным на девяносто процентов, другой на одну миллиардную, и кто им судья? Ответ Рамсея и есть ключевой ход всей теории. Законы теории вероятностей, говорил он, не говорят, во что вам следует верить. Они говорят, какие наборы убеждений согласованы, а какие нет. В этом они подобны обычной логике: логика тоже не проверяет, истинны ли ваши посылки, она только сообщает, что из них следует, и запрещает противоречие. Если вы считаете, что Сократ человек и что все люди смертны, вы не можете считать Сократа бессмертным. Если вы считаете дождь вероятным на семьдесят процентов, вы не можете считать его отсутствие вероятным на шестьдесят.

За нарушение этого запрета в логике полагается только упрёк в непоследовательности. А здесь следует вполне ощутимое наказание. Его называют голландской книгой. Слово «книга» здесь означает букмекерский набор ставок. Почему книга голландская, в точности никто не знает, и Годфри-Смит в своём учебнике извиняется перед читателями-голландцами. Вот простейший пример в его изложении, только в рублях. Предположим, что вы оцениваете вероятность орла при броске монеты в 0,6 и вероятность решки тоже в 0,6. В сумме получается больше единицы, и правила вероятностей нарушены, но вас это пока не беспокоит. При степени уверенности 0,6 вы считаете справедливой ставку 150 рублей против 100 в обоих случаях. И вот приходит букмекер и предлагает вам обе ставки сразу. Вы их принимаете: обе кажутся вам справедливыми. Монета падает. Если выпал орёл, вы выигрываете сто рублей на первой ставке и проигрываете 150 на второй. Если выпала решка, то же самое наоборот. В любом случае вы теряете 50 рублей, что бы ни произошло в мире. Вас обыграли не потому, что вы ошиблись насчёт монеты. Вас обыграли потому, что ваши убеждения несогласованы между собой.

Математически доказывается и общее утверждение. Если степени уверенности человека нарушают правила теории вероятностей, то против него можно составить такой набор ставок, а если соблюдают, то нельзя. А отдельное рассуждение того же типа оправдывает и само правило обновления: тот, кто меняет свои оценки при поступлении данных не по формуле Байеса, тоже уязвим для букмекера, действующего в несколько ходов.