Можно ли понять разум, который радикально отличается от нашего?

В 1984 году философ Аарон Сломан предложил ученым описать «диапазон возможных видов сознания», намекнув тем самым, что человеческие сознания, во всем своем многообразии, не являются единственным видом таковых. Например, есть сознания других живых существ, вроде шимпанзе, ворон или осьминогов. Но диапазон вариантов должен включать также сознания форм жизни, развивавшихся где-то еще в нашей Вселенной, и эти виды сознания могут весьма отличаться от любого творения земной природы. Диапазон возможных вариантов включает в себя таких теоретических существ даже если мы одни во Вселенной, равно как и формы жизни, которые могли эволюционировать на Земле при других обстоятельствах.

Также необходимо учитывать вероятность создания искусственного интеллекта (ИИ). Можно сказать, что интеллект «определяет общую способность субъекта выполнять задачи в широком ряду конфигураций внешних факторов», если следовать определению, принятому специалистами по информатике Шэйном Лэггом и Маркусом Хаттером. Согласно этому определению, на сегодняшний день не существует ничего биологического, хотя бы приближающегося к уровню человеческого интеллекта. И хотя существуют компьютерные программы, способные превзойти человека в трудоемких и в то же время специфических интеллектуальных областях, таких, как игра в Го, например, ни один компьютер или робот еще не достиг универсальности человеческого интеллекта.

Но именно эти обладающие ИИ продукты — будь то уровень крысы, человека или еще выше — представляют для нас наибольший интерес, так как могут быть включены в диапазон сознаний. Действительно, ввиду того, что вариабельный потенциал таких продуктов сильно превосходит аналогичный потенциал в естественно эволюционировавшем интеллекте, искусственные версии сознания могут занять бльшую часть этого диапазона. Некоторые из примеров могут быть настолько странными, что мы можем называть их «экзотикой сознаний».

Ниже я предпринимаю попытку ответить на вызов Сломана, описав структуру возможных сознаний в двух плоскостях: способность к самосознанию и человекоподобие поведения. Кажется, что в таком содержании безоговорочно должна быть признана возможность существования настолько чуждых форм самосознания, что мы их не поймем. Однако мне важно присоединиться к Людвигу Витгенштейну и вслед за ним отвергнуть дуалистическую идею о том, что существует непроницаемый мир субъективного опыта, который формирует особую часть нашей реальности. Метафизически выражаясь, я предпочитаю мнение «ничто не скрыто». Трудность здесь в том, что принятие идеи о существовании непостижимого разума на первый взгляд снова признает дуалистическое утверждение о том, что сознание, как бы сказать, «открыто для глаз», но по своей природе является личным и скрытым феноменом. Я пытаюсь показать, как избежать этого затруднения.

Хорошая точка для старта — широко известная трактовка (скромно) экзотичной субъективности летучей мыши, за авторством Томаса Нагеля. Ему интересно, каково же это быть летучей мышью, и он сетует на то, что когда пытается это представить, он ограничен ресурсами собственного сознания, к тому же эти ресурсы не подходят для данной задачи. Вывод из позиции Нагеля заключается в том, что определенные виды фактов — в частности, связанных с кардинально другим субъективным взглядом — просто недоступны для восприятия нашим разумом. Это согласуется с аргументом дуалистов о том, что ни одна оценка реальности не может быть полной, если она состоит только из субъективных фактов и пренебрегает этой субъективностью. И все же я считаю, что нужно сопротивляться попыткам дуалистов расщепить реальность на такие фрагменты. Поэтому, если мы соглашаемся с ходом мыслей Нагеля, экзотические сознания становятся проблемой.

Но, как мне видится, проблема, возникающая в случае с летучими мышами, не столь важна. Относительно экзотические внутренние миры нечеловекоподобных животных представляются Нагелю проблемой только потому, что он предоставляет онтологический статус повседневным индексальным различиям. Я не могу одновременно быть и здесь, и там одновременно. Но эта плоскость не охватывает существование фактов, неизменно связанных с отдельно взятым субъективным мнением. Нельзя позволить слову «знать» одурачить нас; его присутствие не означает, что предложение «будучи человеком, я не могу знать, каково это — быть летучей мышью» выражает что-то более философски загадочное, чем «я человек, а не летучая мышь». Мы вечно можем гадать, каково это — быть летучей мышью, при этом фантазируя, чтобы усилить впечатления (что и делает Нагель). В процессе мы можем делать замечания об ограниченности таких размышлений. Ошибкой же будет делать вывод (как поступает Нагель) о том, что, должно быть, существуют какие-то фактические обстоятельства, определенные субъективные «истины», которые ускользают от наших совместных попыток разобраться в вопросе.

В этом я беру пример с позднего Витгенштейна и его работы Философские исследования (1953). Принцип, лежащий в основе непризнания автором личного языка — языка со словами и ощущениями, которые понятны только одному человеку в мире — состоит в том, что мы можем говорить только о том, что видим перед собой, что публично, открыто общему виду. Насчет всего остального, что ж, «ничто так не полезно, как что-то, о чем нельзя ничего сказать». Слова, предпочитаемые для личных, внутренних ощущений, не будут иметь никакой полезной функции в нашем языке. Конечно, вещи могут быть скрыты в практическом ключе, как шарик под чашкой фокусника или звезда вне нашего светового конуса. Но с точки зрения метафизики все досягаемо. Когда мы говорим о внутренних мирах других существ, всегда есть на что пролить свет, — через взаимодействие, наблюдение, изучение того, как они существуют — но не имеет смысла говорить так, будто есть что-то за пределами открываемого.

Следуя данному ходу мыслей, мы, каким бы странным это не казалось, не должны приписывать непознаваемую субъективность ни другим людям, ни летучим мышам, ни осьминогам, ни даже внеземным формам или ИИ. Но вот что является настоящей проблемой в области радикальных форм самосознания: Нагель обоснованно допускает, будто «мы все считаем, что летучие мыши могут испытывать, переживать, познавать»; мы можем не понимать, что значит быть летучей мышью, и все же мы допускаем, что это похоже на что-то. Но исследовать диапазон возможных сознаний — значит питать надежды о существовании существ, намного более экзотических, чем земные виды. Возможно ли, что диапазон возможных сознаний включает в себя настолько загадочных существ, что мы не сможем определить, испытывают ли они вообще осознанные впечатления? Отмахнуться от этих биоцентристских пощечин возможного. И в то же самое время подставить им щеку означает заигрывать с дуалистической мыслью о существовании скрытого порядка субъективных фактов. На контрасте с вопросом о том, на что похоже быть X, конечно, нам не терпится сказать, будто существует фактическое обстоятельство, когда встает вопрос о том, похоже ли на что-то вообще быть X. Также и здесь, имеет ли существо сознательный опыт или нет, нет разницы, можем ли мы это определить.

Попробуйте провести такой мысленный эксперимент. Представим, что однажды утром я прихожу в лабораторию и нахожу белый контейнер, с невероятно сложной динамической системой внутри, при этом её внутренний механизм полностью открыт взгляду. Может быть, это подарок посетившего лабораторию инопланетянина, а может какая-то конкурирующая ИИ-лаборатория позволила эволюционным алгоритмам своего продукта выйти из-под контроля и, не зная, что д