Метка: Философия

Можно ли сегодня представить, что через сто или двести лет человечество будет исповедовать не ислам, не христианство и не буддизм, а что-то совершенно новое, непривычное, возникшее уже в нашу эпоху? Если в истории уже случались такие радикальные повороты — появление новых религий, пророков и учений — то почему бы не случиться им снова? Чтобы понять, как именно может родиться новая вера, нужно отбросить стереотипы и внимательно посмотреть на то, что происходит с человечеством прямо сейчас. Мы живем в мире, где меняется все: от климата до технологий, от структуры общества до самой сути того, что значит быть человеком. И все это — благодатная почва для появления новых форм духовности.

ИИ становится операционной системой человеческой цивилизации, способной принимать решения и делать выводы за нас, что делает ставки невероятно высокими. Эта технология соблазняет нас отдать свое мышление на аутсорс, и мы рискуем потерять самонаправление и стать «людьми опустошенными». В эпоху колоссальных перемен жизненно важно отступить назад и сосредоточиться на вечных вопросах, черпая мудрость у мыслителей прошлого, таких как К.С. Льюис или Мартин Хайдеггер, которые находились вне современной технологической среды. Для созидателей, формирующих наш общий мир, философия является незаменимой путеводной звездой, задающей направление. Фундаментальный вопрос, который должен задать себе любой разработчик, — «Что я строю?» — не менее важен, чем вопросы Платона о справедливости. Цель — создавать инструменты, которые раскрывают творческие способности свободной цивилизации и повышают человеческий потенциал, а не ведут к тотальному и совершенному контролю.

Этика играет ключевую роль в развитии ИИ. Только человек является подлинным моральным субъектом, который несет ответственность за свои решения и их последствия. ИИ, как и любая технология, может быть использован как во благо, так и во вред. Поэтому необходимо оценивать не только цели использования ИИ, но и средства, а также мировоззрение, заложенное в него разработчиками. Важно, чтобы конечная ответственность за решения, принятые с помощью ИИ, всегда лежала на людях, и чтобы ИИ служил человечеству, а не наоборот. Чрезмерная зависимость от ИИ в принятии решений может ослабить человеческую волю.

Почему либералы покупают оружие, а консерваторы учатся отменять книги? Почему мы копируем поведение тех, кого громче всего осуждаем? В современном обществе «левые» начинают вести себя как «правые», а те — как «левые», копируя тактики и лозунги. Французский мыслитель Рене Жирар утверждал: мы желаем не то, что хотим сами, а то, что хотят другие. Подражание превращается в безумное соперничество, а затем в насилие. Даже статус «жертвы» становится предметом зависти и новой битвы. Мы все ищем врагов, на которых можем проецировать внутренние страхи. Но стоит ли забывать, что ненависть к «другим» в итоге делает нас их зеркальным отражением? Теория Жирара помогает понять нынешние политические войны и интернет-травли. И как, возможно, единственный выход — это рискнуть сделать невозможное: любить врагов, чтобы наконец разорвать круг миметического безумия.

Илон Маск после короткого и бурного периода в политике вернулся к своей долгосрочной миссии и сосредоточился на долгосрочном выживании человечества и решении экзистенциальных угроз. Он убежден, что цивилизация находится на «развилке судьбы» и сам Маск видит себя «героем в гомеровском смысле», стремящимся к «вечной славе». Его масштабные проекты — SpaceX, Tesla, Neuralink — направлены на противодействие экзистенциальным угрозам, таким как расширение Солнца, угрозы от ИИ и низкая рождаемость. Технологические решения, такие как колонизация Марса, которую Маск называет «коллективным страхованием жизни», являются центральными для его философии, тесно связанной с идеями лонгтермизма. Его проекты, от интеграции ИИ в мозг и до человекоподобных роботов, являются инструментами этой личной «гонки со временем», где ставкой является сама «цивилизация». Подходы Маска, по мнению критиков, могут быть «безумными», но для Маска обеспечение выживания — это «самый масштабный продукт в истории».

Роджер Пенроуз — знаменитый британский физик и математик, работающий в различных областях математики, общей теории относительности и квантовой теории. Одно из его недавних выступлений посвящено вопросу, который давно занимает умы ученых и инженеров: можно ли создать сознание, используя только вычисления, как это делают современные компьютеры? Пенроуз много лет размышляет над этим и предлагает другую точку зрения. Он считает, что, возможно, одной лишь классической вычислимости недостаточно для возникновения сознания.

В последние годы среди некоторых ученых, философов и особенно в кругах, связанных с ИИ, стала популярной идея так называемого longtermism — это убеждение, что мы должны думать не только о ближайших годах или десятилетиях, но и о будущем человечества на сотни, тысячи и даже миллионы лет вперед. Сторонники этой идеи говорят: у нас может быть невероятно долгое будущее, и даже один катастрофический выбор сегодня — вроде ядерной войны или выхода ИИ из-под контроля — может навсегда прервать развитие человеческой цивилизации. Поэтому мы обязаны учитывать возможные риски, которые могут уничтожить нас как вид, и сделать все возможное, чтобы этого не произошло. Это выглядит как высокая, вдохновляющая идея, но за этим кажущимся благородством скрывается опасная и тревожная логика. Она не только отрывает нас от настоящего, но и может стать основой для нового вида власти — холодной, расчетливой, и по-настоящему античеловечной.

На LessWrong дюжина авторов-специалистов в сфере ИИ выдала огромную статью (которая в свою очередь является выжимкой из их более крупной статьи) по поводу того, стоит ли нам (и как) регулировать ИИ. Авторы опасаются, что мы в итоге зарегулируем ИИ к чертям и унифицируем и в итоге под соусом «выравнивания интересов ИИ и человека» придем к диктатуре, насилию и прогнем ИИ под какую-то одну «ценность», или же те или иные массы людей не будут довольны каким-либо «строгим» ИИ и начнут бунтовать, а это все не есть хорошо.