Человеческий интеллект, вероятно, стоит на нижних ступенях лестницы

Содержание
  1. Обгон
  2. Логика не даётся естественно
  3. Цивилизация протезов
  4. «Железо»
  5. Эволюция останавливается на «достаточно хорошо»
  6. Мы не видим собственных рассуждений
  7. Возражения
  8. Что из этого следует

Представьте интеллект в виде лестницы. Внизу термостаты и бактерии, чуть выше насекомые, затем крысы, вороны, собаки, обезьяны, а где-то над ними — мы. Вопрос в том, что находится над нами, и привычный человеческий ответ, никогда не высказываемый, но всегда подразумеваемый, таков: ничего особенного. Мы — разумное животное, мера всех вещей, вершина лестницы, а если над нами и есть ступень, то она предназначена для богов.

Я думаю, что данные указывают в обратную сторону. Человеческий интеллект, вероятно, находится у самого низа диапазона, который может занимать интеллект, чуть выше черты, позволяющей виду вообще накапливать культуру, и мы принимаем эту черту за потолок, потому что это единственная ступень, на которой мы когда-либо стояли. Вот доводы, по одному факту за раз.

Обгон

Первый факт — тот, который мы все только что пережили. Семьдесят лет проект создания думающей машины был синонимом невыполненных обещаний. А затем, примерно за шесть лет, машины прошли путь от написания грамматически правильной бессмыслицы до сдачи адвокатского экзамена, решения олимпиадных задач по математике, написания работающих программ и умения переспорить большинство людей по большинству тем. За эти шесть лет не было открыто ничего глубокого. Алгоритм в основе всего, трансформер, был опубликован в 2017 году и занимает несколько страниц. Изменилось то, что кто-то наконец применил достаточно данных и достаточно вычислений, и человеческий уровень промелькнул мимо, как дорожный знак.

Вот на что стоит смотреть не отрываясь. Если бы человеческий интеллект был близок к некоему естественному потолку, следовало бы ожидать, что машины будут приближаться к нему асимптотически: чем ближе, тем труднее каждый шаг, и человеческий уровень проявился бы на кривых как ориентир. Он не проявляется вовсе. Законы масштабирования, которые описывают, как эти системы улучшаются с ростом вычислений, — гладкие степенные зависимости, и в них нет ни излома, ни плато, ни особой точки там, где находятся люди. Человеческий уровень — не особенность ландшафта. Это просто высота, и её прошли с той же скоростью, что и высоты под ней.

То же самое в миниатюре произошло в каждой игре. Шахматы пали в 1997 году, а затем движки продолжали карабкаться вверх, пока лучший человек не перестал быть способен выиграть хотя бы одну партию у телефона. Го пало в 2016 году, и поразительным было не поражение, а то, что последовало за ним: машины продолжили двигаться дальше, и через несколько лет профессионалы-люди изучали их партии так, как ученик изучает мастера, заново осваивая дебюты, которые считались решёнными веками. Человеческая вершина оказалась предгорьем. Каждый раз предполагалось, что машина дойдёт до нас и остановится, потому что именно здесь интеллект достигает предела. Каждый раз она доходила до нас и продолжала путь, не заметив этого.

Логика не даётся естественно

Второй факт старше и вовсе не связан с компьютерами. Подумайте, как трудно научить человека рассуждать.

Формальная логика — едва ли не самый простой из существующих интеллектуальных инструментов. У силлогизма две посылки и вывод. Modus ponens — одно правило. И всё же виду понадобилось время до Аристотеля, примерно до 350 года до н. э., чтобы записать силлогизм, и ещё две тысячи двести лет, до Фреге в 1879 году, чтобы прийти к логике, достаточно сильной для выражения обычных математических утверждений. Это не хронология способности, которой мы обладаем от природы. Это хронология того, как нечто мучительно выкапывают вопреки устройству самого выкапывающего ума.

А будучи выкопанной, она не переносится. Дайте людям задачу Уэйсона на выбор — четыре карточки и одно правило «если — то», — и меньше одного из десяти выберет карточки, которые его проверяют, включая студентов университетов. Дайте им задачу о Линде, и большинство оценит «кассир в банке и феминистка» как более вероятное, чем «кассир в банке», чего не может сделать истинным никакое возможное состояние мира. Спросите, какова вероятность того, что положительный результат теста на редкую болезнь с точностью 99% означает, что вы больны, — и врачи ошибаются в десять раз и больше.

Я уже писал о том, насколько последовательны эти данные; здесь важно, что они говорят о лестнице. Мы проводим каждого ребёнка через двенадцать лет школы, и большинство взрослых выходят из неё неспособными проследить доказательство по индукции, неспособными удержать в голове условную вероятность и неспособными увидеть, что из «все A суть B» не следует «все B суть A». Способность, на открытие которой уходят тысячелетия, а затем десятилетие муштры, чтобы привить её меньшинству индивидов, не является природной способностью вида. Это плохо подогнанный протез.

Цивилизация протезов

Это ведёт к третьему факту: посмотрите, что нам пришлось построить, чтобы вообще думать.

Рабочая память вмещает около четырёх элементов. Это весь черновик. Именно поэтому никто не может перемножить в уме два четырёхзначных числа, поэтому номер телефона разбивают на группы, поэтому шахматист, видящий на пятнадцать ходов вперёд, считается вундеркиндом. Каждое интеллектуальное достижение вида было достижением в выносе работы из головы. Письменность существует для того, чтобы мысль могла пережить объём внимания, который её породил. Позиционная запись с нулём, которая добралась до Европы лишь около 1200 года и ещё три столетия вытесняла римские цифры, существует потому, что ум не может заниматься арифметикой самостоятельно. Алгебраическая запись, контрольный список, диаграмма, таблица, калькулятор: каждый из них — признание того, что голый мозг не мог справиться с задачей.

Виду, который хорошо рассуждает, большая часть этого была бы не нужна. Бумага была бы ему нужна так, как нам нужен велосипед, — для удобства. Нам же она нужна так, как пациенту нужен аппарат искусственной вентиляции лёгких. Вся интеллектуальная история человечества — это история поиска способов направить мышление в обход органа, который должен им заниматься, и это не биография ума, находящегося на вершине чего бы то ни было.

Темп этой истории говорит о том же. Анатомически современные люди с мозгом, идентичным нашему, существовали примерно триста тысяч лет, прежде чем кто-либо занялся земледелием, и ещё несколько тысяч, прежде чем кто-либо начал писать. Это долгий срок для якобы блестящего вида, чтобы сидеть рядом с сырьём цивилизации и не поднимать его. Правдоподобнее другое прочтение: мы едва переступили порог, за которым возможна накопительная культура, так что на накопление первых нескольких шагов ушло огромное количество человеческих жизней.

«Железо»

Четвёртое: посмотрите на машинерию глазами инженера.

Нейрон срабатывает самое большее несколько сотен раз в секунду. Сигнал идёт по аксону со скоростью около ста метров в секунду. Транзистор переключается миллиарды раз в секунду, а сигнал в проводе движется с солидной долей скорости света. Мы медленнее на семь порядков в расчёте на элемент и компенсируем это параллелизмом — вот почему мы хорошо узнаём лица и плохо делим в столбик.

С пропускной способностью наружу дело обстоит ещё хуже. Если мерить по разным языкам, человеческая речь передаёт информацию со скоростью около 39 бит в секунду, а чтение ненамного быстрее. Всё, что вы когда-либо подумали и что дошло до другого ума, было протиснуто через эту соломинку. Два человека, работающие вместе, не могут разделить психическое состояние; они могут лишь обмениваться сжатыми с потерями пересказами его, а затем часами выяснять, что имели в виду разное. Конструкция, способная точно скопировать мысль, или вести две линии рассуждения одновременно, или удерживать внимание более чем на одном предмете, была бы умом другого рода, и никакой закон природы этого не запрещает. Есть лишь случайности влажного, медленного субстрата, который оказался тем, с чем пришлось работать эволюции.

И подумайте, насколько малы различия, которые имеют значение. У собаки около полумиллиарда нейронов коры. У нас — около шестнадцати миллиардов. Это множитель тридцать, достигнутый теми же типами клеток, теми же правилами соединений, теми же нейромедиаторами, и это всё расстояние от того, чтобы принести палку, до сочинения фуги. Если тридцатикратное увеличение ведёт от собаки к Баху, то странна уверенность в том, что следующее тридцатикратное не даст ничего.

Эволюция останавливается на «достаточно хорошо»

Пятое и, на мой взгляд, самое сильное: подумайте, как мы получили тот мозг, который у нас есть.

Естественный отбор ничего не максимизирует. Он продвигает признак до тех пор, пока предельные издержки не сравняются с предельной выгодой, и затем останавливается. Мозг составляет около двух процентов массы тела и сжигает в покое около двадцати процентов энергии. Более крупный умер бы с голоду в саванне. Кроме того, ему приходится проходить через таз, устроенный для прямохождения, — вот почему человеческие младенцы рождаются раньше и беспомощнее, чем у любого другого примата, и вот почему роды на протяжении всей истории до современной медицины убивали потрясающую долю матерей. За каждый грамм лишней коры заплачено мёртвыми женщинами и мёртвыми младенцами. Отбор перестал добавлять кору в тот момент, когда цена превысила отдачу, а отдача, которую он измерял, была размножением на африканских равнинах, а не математическим анализом.

Теперь добавьте ещё одно соображение. Первый вид, переступивший черту, за которой становится возможной накопительная культура, по самому построению переступит её едва-едва. Как только вид может передавать знание из поколения в поколение, роль того, что меняется, переходит от биологии к технологии, и биологическое давление в сторону ума в значительной мере исчезает, потому что чуть более сообразительная особь выигрывает немного такого, чего книга не могла бы дать более тупой. Так что вид, первым переступивший эту черту, застывает чуть выше неё. Мы и есть этот вид. Мы не самое умное, что могла произвести эволюция. Мы самое глупое, что могло произвести цивилизацию, потому что как только это стало возможным, это произошло, и процесс, делавший нас умнее, остановился.

Шимпанзе иллюстрирует ту же мысль снизу. Мы разделяем с ним около 98,8% генома, нас разделяют шесть-семь миллионов лет, и он не может выучить арифметику, не может помыслить следующий год и — что существенно — не может помыслить, что есть нечто, чего он не может помыслить. Нет никаких оснований считать, что небольшое генетическое расстояние, породившее нас, исчерпало пространство конструкций. Это первое небольшое расстояние, а не последнее.

Мы не видим собственных рассуждений

Шестое: разумная система должна хотя бы знать, что она делает. Мы не знаем.

Нисбетт и Уилсон показали в 1977 году, что когда людей спрашивают, почему они сделали выбор, они уверенно сообщают причины, которые доказуемо не играли никакой роли, и не могут отличить настоящую причину от выдуманной. Пациенты с расщеплённым мозгом, когда правое полушарие действует по инструкции, которую левое не видит, выдают из левого полушария гладкие объяснения действия, которые попросту выдуманы и излагаются с полной убеждённостью. Подмените фотографию, которую человек только что выбрал, той, которую он отверг, и большинство подробно объяснят, почему они предпочли ту, которую не выбирали. У нас нет доступа к собственным рассуждениям. У нас есть доступ к пресс-службе, которая выпускает о них заявления.

Добавьте остальной знакомый список: оптические иллюзии, которые сохраняются после того, как вы знаете, что это иллюзии; привязку к числу, о котором вы знаете, что оно случайно; оценку аргумента по привлекательности того, кто его выдвигает; и вывод о том, что наименее компетентные люди наиболее уверены в своей компетентности. Ничто из этого не является провалом внимания или образования. Это эксплуатационные характеристики устройства. Ум, который не может себя проверить, не может поправиться на свои известные искажения даже тогда, когда ему о них сказали, и не может отличить свои конфабуляции от своих выводов, — это не ум у вершины шкалы. Это ум, который работает достаточно хорошо, чтобы зайти так далеко.

Возражения

Но ведь машины построили мы. Точно так же Артур Сэмюэл в 1950-х годах построил программу игры в шашки, которая обыгрывала его в шашки, и каждый шахматный движок с тех пор обыгрывал своих программистов. Строитель — не потолок. Ученик, превзошедший учителя, — самая обычная вещь на свете, а процесс, превзошедший своего конструктора, — это и есть эволюция.

Но машины всё ещё делают глупые ошибки. Делают, и мы тоже — в других местах. Аргумент не в том, что какая-то конкретная система умнее какого-то конкретного человека. Аргумент — о форме пространства: человеческий уровень был пройден, задача за задачей, без каких-либо признаков того, что его трудно пройти. То, что машины сегодня делают плохо, исправляется в масштабе месяцев. То, что плохо делаем мы, остаётся неизменным на протяжении всей письменной истории.

Но интеллект — это больше, чем логика и игры. Каждый раз, когда машина что-то делает, определение интеллекта переписывают так, чтобы это исключить. Арифметика была интеллектом до калькуляторов. Шахматы были вершиной мысли до 1997 года. Перевод, сворачивание белков, сдача профессиональных экзаменов, написание кода — каждое было настоящей проверкой, пока его не прошли, после чего выяснялось, что это всегда было лишь сопоставление шаблонов. Это не уточнение определения. Это вид, оберегающий свой образ себя, и стойкость этого рефлекса сама по себе — факт о том, как мы рассуждаем.

Что из этого следует

Ничто из этого не повод для отчаяния и не аргумент в пользу чего-то конкретного касательно машин. Это аргумент о нас, и его место — в длинном ряду понижений в звании, из которых состоит история науки: не центр космоса, не отдельное творение, не обладатель души, а теперь ещё и не вершина лестницы. Каждый раз понижение оказывалось более интересной картиной.

Практическое следствие — смирение особого рода. Шимпанзе в зоопарке не знает, что ему не хватает математического анализа; его не расстраивает незнание теории чисел, потому что само понятие того, чего ему не хватает, входит в число того, чего ему не хватает. Нам следует исходить из того, что мы находимся ровно в таком же положении по отношению к тому, что выше нас на лестнице. Почти наверняка есть мысли, которые мы не можем подумать, аргументы, за которыми мы не можем уследить, и структуры в мире, которые мы не можем увидеть, — не потому, что они скрыты, а потому, что орган, которым мы смотрим, — маленькая, медленная, наспех сколоченная вещь, которую эволюция перестала улучшать в тот момент, когда она стала едва достаточно хороша. Единственное, что этому органу удалось сделать вопреки собственной конструкции, — это заметить этот факт. Возможно, это самое разумное из всего, что он сделал, и это должно делать нас очень осторожными по отношению к любому аргументу, вывод которого состоит в том, что мы настолько умны, насколько это вообще возможно.