Наука под вопросом. Философия науки XXI века

Ярослав Золотарёв

Наука под вопросом. Философия науки XXI века

Введение. Сто повторённых опытов

Август 2015 года

28 августа 2015 года журнал Science напечатал статью, под которой стояло 270 фамилий. Такого количества авторов не наберёт ни один роман-эпопея, а для психологии это было примерно то же, что для физики коллайдер: большая машина, собранная из множества людей. Руководил работой американский психолог Брайан Носек, а задача выглядела скучнее некуда. Участники взяли три ведущих психологических журнала, отобрали сотню исследований, опубликованных в 2008 году, и повторили их. Никаких новых теорий, никаких открытий. Те же процедуры, по возможности те же материалы, выборки достаточные, чтобы эффект, если он есть, можно было заметить. Всё, что требовалось, — проверить, получится ли у других людей то, что уже напечатано.

Есть занятия, которые вознаграждаются очень плохо, и повторение чужих опытов стоит среди них на одном из первых мест. За него не дают премий, редакторы его не любят, а коллега, чей результат вы не подтвердили, не скажет вам спасибо. Поэтому годы работы большого коллектива выглядели почти как подвижничество, и ждали от них, по всей видимости, спокойного подтверждения: да, кое-что не воспроизводится, но в целом дисциплина стоит на твёрдой почве.

Вышло иначе. В исходных статьях статистически значимые результаты были в 97 случаях из 100. В повторениях — в 36. Когда самих участников спросили, подтвердился ли, по их мнению, исходный результат, положительно ответили примерно о 39 процентах работ. Средняя величина эффекта при повторении оказалась примерно вдвое меньше заявленной. Речь шла не о брошюрах из киоска при вокзале и не о журнале «Тайны потустороннего». Речь шла о лучших журналах науки, которая преподаётся в университетах всего мира и на выводы которой опираются учителя, врачи, рекламщики и законодатели.

Читатель прошлых томов серии вправе насторожиться. Он прошёл с нами долгий путь и видел, как от Пифагора до Лаудана люди пытались ответить на один вопрос: чем наука отличается от всего остального, что претендует на знание. И главным ответом всё время оставалась проверка. Астроном говорит, когда и где будет комета, и либо она появляется, либо нет. Гадалка говорит, что в вашей жизни скоро произойдут перемены, и опровергнуть её не удастся никогда. На этом различии держится вся серия. И вот самое простое из возможных применений этого различия — возьми опубликованное и проверь — выдаёт в одной из почтенных наук две трети неудач.

Именно с этой новости стоит начать последний том, потому что она собирает вместе почти все его вопросы. Что считать подтверждением? Что значит «статистически значимо» и почему это выражение оказалось таким податливым? Почему научное сообщество годами публиковало то, что не повторяется? Кто решает, какой опыт считается удачным? И если сбой обнаружен, что он нам говорит: что наука больна, или что она работает?

Два неверных вывода

Первый вывод немедленно сделали те, кто давно его ждал. Представим себе потомственного целителя, участника телевизионного шоу о людях со сверхспособностями, которому годами твердили о доказательной науке и контрольных группах. Ему попадается заголовок: «Большинство психологических исследований не подтвердилось». Теперь у него есть ответ на всё. Учёные сами признали, что их результаты не воспроизводятся. Значит, их опыты ничем не лучше его опыта, а его опыт насчитывает три поколения бабушек. Значит, наука — такая же вера, только с дипломами и грантами. Сходным образом рассуждает и производитель чудодейственной пищевой добавки, и лектор, разоблачающий «официальную медицину», и политик любой страны и любого строя, которому не нравится чей-нибудь неудобный отчёт: раз учёные ошибаются, можно не слушать и этих.

Вывод этот рассыпается от первого вопроса. Кто проверил сто психологических опытов? Психологи. На чьи деньги, какими методами, в каком журнале? На научные деньги, научными методами, в научном журнале. Сбой обнаружен той самой процедурой, которую целитель объявляет бесполезной. Покажите нам коллектив из 270 астрологов, которые взяли сто опубликованных гороскопов, проверили их по единому протоколу, напечатали результат в главном журнале своей профессии и назвали цифру: столько-то не сбылось. Покажите целителей, которые повторили лечение своих коллег и сообщили, что две трети заявленного не воспроизводятся. Такой работы нет и быть не может, причём не по злому умыслу: в этих занятиях просто отсутствует то, что можно было бы воспроизвести. Ошибки есть и у тех, и у других. Но только у одних они записаны в виде числа.

Второй неверный вывод делают защитники. Он гораздо приличнее и поэтому опаснее. Ничего особенного, говорят они, не произошло. Весной 2016 года в том же Science появился технический комментарий, который написали гарвардский психолог Дэниел Гилберт и его соавторы. Они утверждали, что статистика Носека содержит ошибки: повторения не всегда точно следовали исходным процедурам, случайных неудач при такой постановке следовало ожидать немало, и если всё это учесть, то данные не дают оснований говорить о низкой воспроизводимости, а совместимы и с обратным заключением. Спор о том, что именно считать успешным повторением, идёт до сих пор, и мы вернёмся к нему во второй главе. Гилберт поднял законные вопросы: цифру 36 нельзя просто прочесть как долю ложных открытий.

Однако вывод «всё в порядке» из этих поправок не следует. Сам факт, что о таких вещах нужно было спорить в 2016 году, говорит о многом. Если специалисты не могут договориться, подтвердился ли опыт, значит, понятие подтверждения в рабочей практике науки оказалось куда менее ясным, чем думали её защитники и чем обещают учебники. Если величина эффекта при повторении падает вдвое, то весь корпус литературы завышает то, о чём сообщает, и завышает систематически, а значит, ошибка сидит не в отдельных лабораториях, а в устройстве всего производства.

Есть и третий участник этого спора, о котором редко говорят: обычный читатель новостей. Почти каждую неделю ему сообщают, что учёные доказали пользу или вред кофе, шоколада, красного вина, раннего подъёма и долгого сна, а через год сообщают обратное. Он постепенно усваивает полезное, как ему кажется, правило: они там сами не знают. Правило удобно, потому что освобождает от необходимости разбираться, и оно частично верно, потому что исследования такого рода действительно часто не повторяются. Но вместе с плохими работами оно отбрасывает и прививку от оспы, и расчёт орбиты, и данные о том, что курение вызывает рак. Читатель, который не умеет отличить слабое свидетельство от сильного, в итоге верит либо всему, либо ничему, а выбор между этими двумя состояниями обычно определяется не доводами, а тем, откуда он сегодня узнал новость.

Между этими двумя выводами и лежит тот, ради которого написан этот том. Наука отличается от гадания не тем, что она не ошибается. Об этом мы могли догадаться ещё в первом томе, читая Юма, и в третьем, читая Поппера. Наука отличается тем, что её ошибки можно найти, посчитать и назвать, а метод находить их сам становится предметом исследования и улучшается. Но это утверждение нужно заработать, и прежними средствами его заработать уже нельзя. Простая формула «проверь на опыте» перестала быть простой. Оказалось, что проверка сама состоит из множества решений: каких людей отобрать, что считать результатом, какой порог принять, что напечатать и что положить в стол, кто платит. В каждом из этих мест проверку можно незаметно подменить чем-то другим. Весь том, по существу, об этих подменах и о том, как их замечать.

Откуда мы пришли

Тому, кто открывает серию на этом томе, полезно знать, какой путь остался позади. Читателю предыдущих книг хватит напоминания.

Первый том рассказывал о рождении метода, от пифагорейцев, которые искали числа в музыке и небе, до Юма и Канта. Юм показал, что из прошлых наблюдений логически не следует ничего о будущих. Кант попытался спасти науку, поместив её основания в устройство нашего собственного познания. К концу XVIII века было ясно главное: наука работает, а почему она работает, никто доказать не может.

Второй том был веком позитивизма, от Конта до Пуанкаре. Наука стала образцом для всякого знания и едва ли не новой религией. Зато и вопросы о ней стали точнее: Милль искал правила индукции, Мах настаивал, что теория есть экономное описание ощущений, Дюгем объяснил, что опыт проверяет не отдельную гипотезу, а всю систему допущений сразу, Пуанкаре заметил, что от смены теорий остаются отношения между явлениями, хотя сами образы рушатся. Этот том закончился накануне большой физической революции.

Третий том был самым толстым, и не случайно. XX век предложил все главные ответы и сам же почти все их разрушил. Венский кружок хотел провести границу науки при помощи логики и критерия проверки, и граница расползлась у него в руках. Карнап строил индуктивную логику и не достроил. Австрийско-британский философ Карл Поппер заменил подтверждение опровержением, но его критерий оказался слишком простым для живой науки. Американский историк и философ науки Томас Кун показал, что учёные работают внутри общих образцов и не бросают их при первой неудаче, и из его книги многие вычитали то, чего он, по его собственным заверениям, не хотел сказать: что смена теорий подобна обращению в новую веру. Мы отнеслись к этому скептически. Имре Лакатос попытался спасти рациональность смены теорий, а Пол Фейерабенд объявил, что допустимо всё, и за ним пошли сторонники сильной программы в социологии знания и постструктуралисты, для которых научное утверждение оказалось всего лишь продуктом интересов и текстов.

В конце века на столе остались два развороченных спора. Один касался реальности: говорят ли успешные теории что-то о том, что существует помимо наших наблюдений, или они только хорошо предсказывают? Другой касался границы: в 1983 году американский философ Ларри Лаудан, уже знакомый нам по третьему тому, объявил о кончине проблемы демаркации. Все предложенные критерии, писал он, провалились, а значит, сам вопрос о том, что считать наукой, следует оставить. Мы закончили тем, что с этим приговором не согласились, но пообещали вернуться к нему с новыми доводами. Этот том и есть исполнение обещания.

Из истории серии стоит удержать одно наблюдение. Каждый раз, когда философы объявляли науку объяснённой, она менялась так, что объяснение устаревало. И каждый раз, когда объявляли, что никакой особой научной рациональности нет, это говорилось в зале с исправным микрофоном, на конференции, куда докладчик прилетел самолётом, рассчитанным по совершенно определённым уравнениям.

От прежних томов этот отличается ещё в одном отношении. Там время успело поработать за нас: кто такой Кант, кто такой Мах и что осталось от Венского кружка, история более или менее рассудила. Здесь почти все герои либо живы, либо ушли совсем недавно, а их споры не окончены. Поэтому мы будем стараться отмечать, где заканчивается то, с чем согласны почти все специалисты, и где начинается открытая дискуссия, и не станем притворяться, будто будущий учебник у нас уже в руках.

Что изменилось в XXI веке

Философия науки нового века отличается от прежней не только списком имён. Изменилось само положение дел, и три сдвига определяют всё, что будет дальше.

Первый сдвиг: от логики науки к её практике и прежде всего к её числам. Венский кружок разбирал предложения, Поппер — логическую форму гипотез. Спор шёл так, будто учёный сидит над формулой и сравнивает её с протоколом наблюдения. Сегодняшний учёный сидит над таблицей данных и статистической программой, и между его гипотезой и заключением лежит цепочка расчётов, которую ни один логик начала прошлого века не стал бы рассматривать. Вопрос «что подтверждает гипотезу?» превратился в вопросы о том, что такое вероятность, как взвешивать свидетельства, чем отличается наблюдаемая связь двух величин от причины. На эти вопросы теперь отвечают и философы, и статистики, и специалисты по информатике, нередко не читая друг друга. Отсюда первая часть тома: байесовская революция, кризис воспроизводимости и возвращение причинности, которую статистика более полувека считала неприличным словом. Сюда же относится поворот к эксперименту. Канадский философ Ян Хакинг заметил в 1983 году, что философы рассуждают о теориях так, будто учёные только и делают, что созерцают, и спросил, что изменится, если посмотреть на людей, которые вмешиваются, чинят приборы и распыляют на шарик из ниобия электроны.

Насколько велик этот сдвиг, можно показать на одном числе. Десятилетиями результат в психологии, биологии и медицине считался достойным публикации, если вероятность получить его случайно не превышала пяти сотых. Порог этот возник как практическое удобство из таблиц начала XX века, а превратился в ворота, через которые проходила карьера. Ни один логик не занимался этими воротами, потому что они не выглядели философским вопросом. Они выглядели технической подробностью. Сегодня ясно, что эта подробность решала, что будет считаться знанием, и что вокруг неё сложилось целое производство способов пройти в ворота, не нарушая ни одного явного правила. Философский вопрос теперь нередко скрыт в настройках статистической программы.

Второй сдвиг: от физики к разнообразию наук. Философия XX века молчаливо считала физику-теоретика образцом всякого учёного, а всё прочее — незрелой физикой. Но биолог не ищет всеобщих законов там, где всё устроено исторической случайностью. Геолог и палеонтолог не могут поставить опыт над тем, что случилось шестьдесят шесть миллионов лет назад. Экономист и психолог имеют дело с предметом, который читает их собственные выводы и меняется от них. И даже сама физика, как показывает американский философ Нэнси Картрайт, выглядит куда менее единообразно, когда смотришь не на уравнения в учебнике, а на то, как их приспосабливают к конкретному прибору. Вопрос о том, есть ли один научный метод или целое семейство родственных практик, из отвлечённого стал рабочим. Он же прямо касается демаркации: если единого метода нет, что общего у всего, что мы называем наукой?

Третий сдвиг: машины и организованное недоверие. Эти явления, на первый взгляд далёкие, поставили один вопрос: кому и почему мы верим, когда сами проверить не можем. В 2024 году половину Нобелевской премии по химии вручили за предсказание строения белков, которое выполняет обученная программа. Результат проверяется лабораторией, предсказания работают, а вот объяснить, почему программа даёт именно такой ответ, не может полностью никто, включая её создателей. Что здесь считать пониманием? С другой стороны, языковые модели научились писать тексты, которые нередко трудно отличить от рассуждений специалиста, и вернули к жизни старый спор Соссюра, Блумфилда и Куайна о значении слова.

А в то же самое время повсюду окрепло умелое производство сомнений. В середине XX века табачные компании обнаружили, что для защиты товара не нужно ничего доказывать: достаточно поддерживать ощущение, что учёные ещё спорят. Этот приём оказался переносимым на любую тему, и им пользуются в любой стране и при любом строе, когда вывод науки мешает чьим-то деньгам или чьей-то власти. Симметричным образом и слова «наука доказала» стали инструментом: ими можно закрыть обсуждение там, где никакой проверки не было, а было только мнение влиятельных людей. Ссылка на «научное сообщество» звучит убедительно, но сообщество состоит из людей, которым кто-то платит. Если проверку объявляют одной из традиций, её место занимает сила. Если вместо проверки ссылаются на авторитет сообщества, сила приходит с другого хода, но приходит та же самая. Четвёртая часть тома целиком посвящена этому раскладу.

Пять вечных вопросов в новой редакции

Во всех томах серии мы держали перед глазами пять вопросов, которые задаёт себе всякая философия науки: о методе, об объяснении, о реальности, о развитии и о границе. Посмотрим, как они звучат сегодня. Звучат они так, что ни Бэкон, ни Конт, ни даже Карнап сразу не узнали бы своего вопроса в новой одежде.

Метод. Прежде спрашивали, ведёт ли к знанию индукция, или лучше выдвигать смелые гипотезы и опровергать их. Теперь спрашивают иначе: как взвешивать свидетельства, если один и тот же результат можно получить честным опытом и подгонкой, а со стороны они выглядят одинаково? Как должна меняться наша уверенность от нового факта? Сколько в этом расчёте от данных, а сколько от того, во что мы верили до них?

Объяснение. Гемпель требовал вывести явление из закона. Теперь появились системы, которые предсказывают явление, ни из какого закона его не выводя. Нужна ли причина, если модель и так предсказывает? Что мы теряем, когда получаем правильный ответ без понимания, и можно ли вообще отличить понимание от очень хорошего предсказания?

Реальность. Что остаётся от мира после квантовой механики и нескольких смен теорий? Эксперименты с запутанными фотонами, за которые присудили Нобелевскую премию 2022 года, перевели старый спор Эйнштейна и Бора из разговора за чаем в лабораторный протокол. Но они вовсе не закрыли вопрос о том, что считать реальным, а скорее обострили его. Есть ли в наших теориях что-то, кроме структуры уравнений? И есть ли смысл спрашивать о реальности, которой никак нельзя проверить, если всё, что у нас есть, — это связи между наблюдениями и работающие модели? Спор о реализме идёт и сегодня, и в этом томе обе его стороны получат слово.

Развитие. Кун спрашивал, как сменяются образцы научной работы. Сегодня спрашивают ещё и о том, кто платит за эту работу и как устроено её разделение. Кому выгодны те или иные темы? Могут ли научные журналы, гранты и премии сами производить систематическую ошибку? Что изменится в науке, когда значительную часть её будут делать машины?

Граница. Лаудан утверждал, что её нет, потому что нет единого критерия. Новая философия лженауки отвечает: единого критерия действительно нет, но из этого ничего подобного не следует. У слова «болезнь» тоже нет одного определения, что не мешает отличать чуму от здоровья. Можно ли провести границу без единого признака? Кто её охраняет, и что происходит, когда охранять её берётся власть?

Эти пять вопросов не идут каждый по своей главе. Они переплетаются, и, надо признаться, ни на один из них философия XXI века не дала окончательного ответа. Но некоторые ответы теперь исключены, и знать, какие именно, уже немало. Читатель, который поймёт, почему байесианец не верит потомственному целителю, почему опыт Белла не доказывает, что сознание творит мир, и почему отсутствие единого критерия не уравнивает астрономию с астрологией, будет защищён лучше, чем читатель, выучивший десяток определений науки.

Маршрут тома

Том состоит из четырёх частей.

Первая часть называется «Как взвешивать свидетельства». Мы начнём с Байеса, преподобного математика XVIII века, чьё имя стало знаменем целого направления, и с вопроса о том, что значит быть уверенным на столько-то процентов. Затем вернёмся к сотне повторённых опытов, разберём, как устроена подгонка результатов и почему учёные годами обманывали самих себя без всякого намерения обманывать. И закончим причинностью, понятием, изгнанным из статистики и возвращённым в неё американским специалистом по информатике Иудеей Перлом.

Вторая часть, «Эксперимент, закон, реальность», самая философская. В ней Хакинг покажет, что можно быть уверенным в электронах, не будучи уверенным в теории электрона, Картрайт объяснит, в каком смысле законы физики лгут, а сторонники структурного реализма предложат сохранить от теорий только уравнения. Потом мы дойдём до квантовой механики и выясним, что в действительности следует из опытов Белла и Аспе, а что к ним приписали любители чудес. Заключительная глава части даст слово тем, кто вообще не считает нужным говорить о мире, скрытом за наблюдениями, и покажет, что у этой старой линии Маха и Пуанкаре есть новые доводы, в том числе из науки о мозге.

Третья часть, «За пределами физики», посвящена наукам, которые философия долго не замечала. Как работает наука о прошлом, где нельзя поставить опыт? Что такое математика, которая ничего не наблюдает и всё предсказывает? И что происходит с научным знанием, когда в нём участвуют машины?

Четвёртая часть, «Наука и общество», возвращает нас к исходной ситуации этого введения. Она о том, как работает сообщество учёных и насколько ему можно доверять, о научных войнах конца прошлого века, о фальшивой статье, которую физик Алан Сокал отправил в журнал гуманитариев, о табачной индустрии и производстве сомнений. Заканчивается она новой философией лженауки: понятием-кластером, «пари Локи» и судебным делом в маленьком пенсильванском городке.

У этого тома есть ещё одна задача, не вполне философская. Большинство авторов, о которых пойдёт речь, плохо известны русскому читателю. Многие книги не переведены вовсе, другие переведены поздно и малым тиражом, а слова вроде «постпозитивизм» у нас часто значат то, чего никто из самих постпозитивистов в виду не имел. Кто читал Хакинга, знает, что он совсем не похож на своё расхожее изложение. Картрайт нередко цитируют как разоблачительницу физики, хотя ничего подобного она не хотела. Байесианство известно у нас преимущественно как формула из учебника или как модное слово, а Перла только начинают читать. Поэтому мы будем излагать этих людей подробно и по возможности их собственными доводами, даже там, где не соглашаемся с ними, а о реальной критике будем говорить как о критике, а не как о приговоре.

В конце тома нас ждёт заключение всей серии. В первом томе мы задали простой вопрос: чем астроном отличается от астролога? После четырёх томов мы ответим на него ещё раз, зная всё, что можно возразить на любой простой ответ. В том же заключении автор один раз скажет от собственного имени то, что до сих пор только подразумевалось: откуда в этой книге столько насмешки над теми, кто путает модель с миром, и почему эта насмешка не противоречит уважению к науке.

Читателю этого тома понадобится терпение. Здесь будут вероятности, хотя и без сложных формул, будет немного квантовой механики, будет статистика. Всё будет объяснено с самого начала, и ни одна глава не потребует ничего сверх школьной математики и готовности подумать. Взамен мы постараемся дать то, чего не даёт ни один гороскоп: способ проверить, насколько мы правы, включая те случаи, когда очень хочется быть правым.

Часть I. Как взвешивать свидетельства

Глава 1. Байесовская революция

Священник, прилив и Юм

В начале 1767 года лондонский священник-диссентер Ричард Прайс выпустил книгу под названием «Четыре рассуждения». Последнее из них было направлено против самого опасного сочинения своего времени: эссе Дэвида Юма «О чудесах», напечатанного девятнадцатью годами раньше. В пылу спора Прайс назвал довод Юма жалкой софистикой. Потом, остыв, написал Юму письмо: он сожалеет о резком выражении и уберёт его из следующего издания. 18 марта того же года Юм ответил. Он поблагодарил и признал, что Прайс представил спор в свете новом, правдоподобном, остроумном, «и, возможно, основательном». По воспоминаниям современников, больше всего философа, которого половина Англии считала безбожником, удивила такая щепетильность в лице духовного лица. Так выглядела в XVIII веке полемика о том, воскресал ли Христос: два человека, расходящиеся в самом главном, обмениваются извинениями. Читатель, знакомый с сегодняшними спорами о науке и вере в интернете, может отложить книгу и немного помолчать.

Но нас интересует не только тон. В сноске и в рассуждениях Прайса содержалось нечто, чего в споре о чудесах прежде не было: расчёт. Прайс ссылался на работу своего покойного друга, который, как он писал, нашёл способ определять точную вероятность выводов, основанных на индукции. Этим другом был Томас Байес.

О Байесе известно немного, и это почти само по себе анекдот, если учесть, как часто теперь повторяют его имя. Он родился около 1701 года, был пресвитерианским священником, то есть принадлежал к тем протестантам, которых не допускали в Оксфорд и Кембридж, учился в Шотландии, служил в курортном городке Танбридж-Уэллс, был избран в Королевское общество и при жизни почти ничего не напечатал. Единственный его портрет, который кочует сегодня по учебникам и презентациям, изображает, по всей вероятности, вообще другого человека. Байес умер 7 апреля 1761 года. Прайс разыскал среди его бумаг рукопись, потратил почти два года, чтобы её дополнить и исправить, написал вступление и приложение с примерами, и 23 декабря 1763 года работу зачитали в Королевском обществе. Напечатана она была в следующем году в томе за 1763 год под нейтральным заголовком «Опыт решения одной задачи в учении о случайностях». Зато на отдельном оттиске, как обнаружил уже в нашем веке американский историк статистики Стивен Стиглер, стояло другое название: «Метод вычисления точной вероятности всех заключений, основанных на индукции». Если учесть, кто в ту пору громче всех утверждал, что заключения, основанные на индукции, ничем обосновать нельзя, намёк очевиден.