AlphaZero доказывает, что мы можем обосновать что угодно

В другом месте я использовал шахматы как иллюстрацию того, как плохо простые правила описывают сложные системы. Здесь другой аргумент, и более неудобный. Он о том, как мы производим доводы, и о том, как мало это производство нам говорит.

Гроссмейстеры и движок

Наблюдение принадлежит шахматному стримеру Леви Розману, и постановку стоит изложить аккуратно.

Возьмите сложную позицию и дайте её тысяче гроссмейстеров. Их ответы сходятся. Они назовут два-три хода-кандидата — могут яростно спорить, какой лучший, но короткий список согласован. Это схождение — настоящая экспертиза: это люди, посвятившие игре жизнь, и они видят одно и то же.

Теперь спросите AlphaZero. Он делает четвёртый ход, которого не было ни в чьём списке.

И вот что происходит дальше. Гроссмейстеры смотрят на него и начинают собирать доводы, почему это лучший ход. Не нехотя — с энтузиазмом. Они находят стечение факторов: здесь он улучшает структуру, там готовит идею, а тут занимает поле, которое понадобилось бы защите через двенадцать ходов.

И у них получается. Через час есть связное, экспертное, вполне убедительное объяснение, почему ход движка был правильным.

Это не глупость

Очевидное прочтение — гроссмейстеры подчиняются авторитету и рационализируют. Не думаю, что это верно, и ошибка здесь лишает смысла всё рассуждение.

У них есть превосходные независимые основания считать ход хорошим. AlphaZero измеримо сильнее любого из них. Он видит дальше. Его послужной список не оспаривается. При столь надёжном источнике вывод, что у неожиданного хода должны быть веские причины, — здравое рассуждение, а не капитуляция; тот же вывод вы сделали бы, если бы надёжный прибор показал неожиданное значение.

И в шахматах сильный ход редко обосновывается одной причиной. Обычно это стечение мелких преимуществ, ни одно из которых не решающее. Так что искать стечение факторов — значит искать то, что нужно.

Гроссмейстеры ведут себя хорошо. Именно это делает следующий шаг тревожным.

Теперь перенесём это

Перед вами вопрос из экономики или политики. Нужно ли повышать минимальную зарплату? Работает ли эта иммиграционная политика? Правильный ли это ответ на рецессию?

AlphaZero нет. Нет оракула, нет движка, нет ничего с доказанным послужным списком правильных ответов на такие вопросы.

Так что же вы на самом деле делаете? Вы выбираете ответ, который вам нравится, — по инстинкту, из книги, от гуру, от людей, с которыми хотите, чтобы вас видели согласным. А затем находите ему обоснования.

И у вас получится. Доводов в избытке, и сложный вопрос всегда предлагает стечение мелких соображений в вашу пользу — ровно так же, как шахматная позиция.

Процедура идентична гроссмейстерской. Основания полностью отсутствуют. У них были независимые свидетельства того, что ход хорош, ещё до того, как они стали искать почему. У вас есть тот факт, что он вам понравился.

Что это значит

В реальной жизни у этой процедуры есть название: предвзятость.

Отсюда вывод, который меня по-настоящему тревожит. Обоснование и предвзятость разделены очень тонкой гранью — не качеством рассуждения, не искренностью рассуждающего, не тем, насколько хорошо звучат доводы в конце. Их разделяет только одно: были ли у вас основания до того, как вы начали искать.

А случай AlphaZero доказывает, что механизм поиска доводов достаточно мощен, чтобы обосновать почти всё. Он произвёл экспертную защиту хода, которого никто не рассматривал. Направленный на политическую позицию, он сделает то же самое.

Я могу обосновать позицию демократов. Я могу обосновать позицию республиканцев. Я могу обосновать позицию либертарианцев. При достаточной харизме и правильных формулировках я, вероятно, смог бы убедить вас в любой из них, и ничто из этого не было бы свидетельством в пользу какой-либо из них.

Практический вывод

Проверка — не есть ли у меня веские доводы? Веские доводы у вас будут всегда. Механизм это гарантирует.

Проверка — были ли у меня доводы до того, как появился вывод? Если позиция пришла первой, а доводы явились её защищать, то доводы — какими бы превосходными и многочисленными они ни были — это украшение, и их качество ничего не говорит о том, верна ли позиция.

Эту проверку трудно применить к себе, потому что изнутри доводы ощущаются одинаково в обоих случаях. Но это единственная проверка, которая различает два случая, и заметить, что это два случая, — уже большая часть работы.