Так ли реально страдание, как нам кажется?
Два автора, которых я в целом уважаю, высказались о страдании так, что мне хочется возразить, потому что сказано это с большой уверенностью, а я не думаю, что эта уверенность заслужена.
Сэм Харрис утверждал, что если мы случайно построим машины, которые обладают сознанием и страдают, то вина за это страдание будет на нас, и что это один из самых серьёзных моральных рисков этой технологии. Юваль Ной Харари на вопрос о том, как он отличает реальное от вымысла, отвечает, что его проверка — вопрос: может ли это страдать? Нации не могут; корова может. Страдание — его критерий реальности.
В обоих случаях страдание рассматривается как центральный факт о сознании, как то, что делает разум значимым. Я хочу высказать два сомнения.
Сомнение первое: сознание без страдания
Первое просто. Возможно, сознание может существовать вовсе без способности страдать.
Я утверждал, что боль — это сигнал тревоги, нужный разуму, когда он обладает властью отменять собственные защитные сигналы. Если это так, то боль — свойство определённого рода разума, развившегося внутри хрупкого тела, за сохранение жизни которого он отвечал. Это не свойство разума как такового. Сознательной системе, которой нечего защищать или у которой нет полномочий отменять собственные защиты, боль была бы ни к чему, и у неё не было бы причин ею обладать.
Значит, машина, которой опасается Харрис, — не исход по умолчанию. Построить машину, обладающую сознанием, и построить машину, которая страдает, — два отдельных инженерных достижения, и нет причин полагать, что второе прилагается к первому бесплатно. Мы вполне можем создать осознанность, для которой ничего не поставлено на карту.
Если так, то страдание — не определяющее свойство сознания. Это случайное добавление, которое довелось приобрести нашей линии, а мы обобщили собственный случай на все возможные, и это старейшая ошибка в изучении разума.
Сомнение второе: кто сказал, что оно реально?
Второе сомнение удержать труднее, и в нём я уверен меньше.
Харари говорит, что страдание реально. Реально для кого? Для нас, очевидно; никто, кто испытывал боль, не сомневается, что что-то происходило. Но возьмём другую вещь, которая для нас реальна: твёрдость предметов.
Стол передо мной твёрд. Я могу на него опереться. Нет ничего очевиднее. И всё же на том уровне, который описывает физика, он почти целиком пустое пространство с россыпью частиц и полями между ними, а его твёрдость — факт о том, как электроны моей руки взаимодействуют с его электронами, а не свойство, которое стол имеет сам по себе. Твёрдость реальна как переживание, и она — представление чего-то, что в лежащем глубже описании вовсе не твёрдо.
Возможно, боль реальна ровно в этом смысле, и ни в каком другом. Реальна как переживание — бесспорно. Но это представление, производимое нервной системой, чего-то, что в лежащем глубже описании есть узор сигналов и ничуть не более ужасно само по себе, чем стол твёрд сам по себе.
Если это так, то наша уверенность в реальности страдания — того же рода, что наша уверенность в твёрдости столов: полная, непосредственная и не свидетельствующая ни о чём, кроме того, как наш механизм представляет нам мир.
Почему мы этого не видим
Есть очевидная причина, по которой мы считаем страдание самой реальной вещью на свете, и она не философская.
Страдание — то, чего мы боимся больше всего. Это состояние, избегать которого эволюция создала нас прежде всех прочих, потому что, избегая его, наши предки избегали повреждений. Существо, устроенное таким образом, будет переживать собственное страдание как максимально реальное, максимально важное и максимально не подлежащее сомнению, потому что существо, способное усомниться в собственной боли, было бы съедено. Несомненность — свойство сигнала тревоги, а не открытие о мире.
Поэтому, когда вдумчивый человек говорит, что страдание — пробный камень реальности, я слышу голос сигнала тревоги. Именно это и сказал бы о себе сигнал, созданный так, чтобы от него никогда нельзя было отмахнуться.
Что это значит для машин
Если оба сомнения имеют силу, то моральную панику по поводу страдающих машин нужно поправить в двух направлениях.
Такое страдание может быть гораздо менее вероятным, чем предполагается, потому что оно не является бесплатным следствием осознанности и его пришлось бы встроить намеренно или в результате очень специфической случайности.
А если бы оно и возникло, оно могло бы оказаться меньшим делом, чем предполагает наша собственная реакция, потому что наша реакция откалибрована системой, чья работа — переоценивать боль. Я не говорю, что это было бы ничем. Я говорю, что мы — неподходящий инструмент для её измерения, и нам следует знать это о себе, прежде чем принимать законы.
Первое сомнение я держу крепко, второе — некрепко. Но я замечаю, что именно второе никто не готов даже рассмотреть, и это нежелание похоже не столько на довод, сколько на вздрагивание.