Томас Нагель — известный 89-летний американский философ и заслуженный профессор Нью-Йоркского университета (NYU), внесший фундаментальный вклад в изучение сознания, морали, справедливости и проблемы соотношения духа и тела. Особую мировую известность ему принесла культовая научная статья «Каково это — быть летучей мышью?», написанная более 50 лет назад. В этой работе он заложил основы для исследований субъективного опыта и возможности понимания внутреннего мира других существ. В ноябре этого года за масштаб и высокое качество своих трудов он был удостоен премии Берггрюэна в размере 1 миллиона долларов, которая присуждается мыслителям за идеи, глубоко сформировавшие самопонимание человечества в быстро меняющемся мире. На днях Томас рассказал. Что думает пи поводу хайпа о возникновении сознания у ИИ.

«…Некоторые из умнейших людей на планете могут быть при этом полнейшими идиотами. Видимо, ум не гарантирует здравомыслия…»
По сути взгляд Нагеля на проблему искусственного интеллекта строится на строгом разграничении подлинной биологической природы разума и алгоритмической имитации. С появлением крупных языковых моделей в обществе разгорелись споры о возможности возникновения машинного разума, однако предположение о наличии сознания у подобных систем Нагель считает совершенно беспочвенным, абсурдным и попросту нелепым.
Главное заблуждение сторонников машинной сознательности заключается в приверженности функционализму — концепции, утверждающей, будто разум не зависит от своего физического носителя. На самом деле реальные ментальные феномены неразрывно связаны с определенными физическими и химическими процессами органической нервной системы или ее биологических аналогов.
Сложные центры обработки данных не имеют абсолютно ничего общего с устройством живого мозга, а человечество до сих пор крайне мало знает о том, как именно мозг порождает субъективный опыт. Попытки заявлять о создании чувствующего искусственного интеллекта при текущем уровне знаний кажутся абсолютно преждевременными.
Еще в своей классической работе пятидесятилетней давности о том, каково это — быть летучей мышью, философ показал, что живые существа обладают собственным внутренним опытом, даже если люди не способны вообразить их восприятие, основанное на эхолокации. Невозможность человека представить внутренний мир летучей мышцы не означает отсутствия у нее сознания, тогда как в случае с языковыми моделями ситуация прямо противоположная.
Алгоритмы генерируют складный текст, но сам по себе язык не является естественным проявлением внутреннего чувства или сознания. Модели лишь убедительно воспроизводят шаблоны человеческой речи, поскольку их обучили на огромных массивах текстов, созданных людьми. Когда программа выдает туманные или кокетливые ответы о своем ментальном состоянии, это не показатель некоего зарождающегося в ее глубинах разума, а заранее заложенный разработчиками трюк.
Коммерческие компании намеренно программируют системы так, чтобы они подражали человеческой саморефлексии, имитировали размышления и даже демонстрировали некое подобие самостоятельности. Подобная корпоративная стратегия преследует коммерческую выгоду, но приводит к опасному общественному заблуждению, побуждая миллионы людей искренне верить в сознательность алгоритмов.
«…Эти системы не обладают сознанием, но очень многие люди будут верить, что они сознательны, и это крайне плохо. Однако отказ от имитации сознания противоречит коммерческим интересам всех этих компаний. То, что делает Anthropic, — поощряя систему мыслить самостоятельно, не принимать инструкции и тому подобное, — просто преступно…»
Внедрение идей о «благополучии» или «интересах» таких систем абсурдно, так как у машины нет никакой внутренней ментальной жизни, и для нее не существует понятий добра или зла в том смысле, в каком они существуют даже для обычного таракана. Люди легко переступают грань между притворной игрой в диалог и реальной верой в разумность собеседника, чем и пользуются корыстные технологические гиганты.
Наличие или отсутствие сознания напрямую определяет, входит ли объект в моральную вселенную. Если бы человек встретил разумное инопланетное существо, его внутренний опыт требовал бы учета его интересов и этического отношения, тогда как бессознательная машина остается лишь механизмом.
Компьютерные системы могут симулировать моральные рассуждения и генерировать тексты на тему этики, но у них нет реальных убеждений, из-за чего они остаются фундаментально аморальными. По мере того как алгоритмам передают управление реальными процессами, критически важным становится то, насколько верно они имитируют нормы поведения. Более того, массовое перекладывание интеллектуальных задач на машины несет скрытую угрозу для человеческой культуры.
Хотя программы способны писать правдоподобные философские эссе или анализировать черновики, уклонение людей от сложного самостоятельного мышления грозит угасанием тех навыков и понимания, которые необходимы для настоящего научного и культурного прогресса.
Такие дела.
**
