Метка: Философия

Илон Маск после короткого и бурного периода в политике вернулся к своей долгосрочной миссии и сосредоточился на долгосрочном выживании человечества и решении экзистенциальных угроз. Он убежден, что цивилизация находится на «развилке судьбы» и сам Маск видит себя «героем в гомеровском смысле», стремящимся к «вечной славе». Его масштабные проекты — SpaceX, Tesla, Neuralink — направлены на противодействие экзистенциальным угрозам, таким как расширение Солнца, угрозы от ИИ и низкая рождаемость. Технологические решения, такие как колонизация Марса, которую Маск называет «коллективным страхованием жизни», являются центральными для его философии, тесно связанной с идеями лонгтермизма. Его проекты, от интеграции ИИ в мозг и до человекоподобных роботов, являются инструментами этой личной «гонки со временем», где ставкой является сама «цивилизация». Подходы Маска, по мнению критиков, могут быть «безумными», но для Маска обеспечение выживания — это «самый масштабный продукт в истории».

Роджер Пенроуз — знаменитый британский физик и математик, работающий в различных областях математики, общей теории относительности и квантовой теории. Одно из его недавних выступлений посвящено вопросу, который давно занимает умы ученых и инженеров: можно ли создать сознание, используя только вычисления, как это делают современные компьютеры? Пенроуз много лет размышляет над этим и предлагает другую точку зрения. Он считает, что, возможно, одной лишь классической вычислимости недостаточно для возникновения сознания.

В последние годы среди некоторых ученых, философов и особенно в кругах, связанных с ИИ, стала популярной идея так называемого longtermism — это убеждение, что мы должны думать не только о ближайших годах или десятилетиях, но и о будущем человечества на сотни, тысячи и даже миллионы лет вперед. Сторонники этой идеи говорят: у нас может быть невероятно долгое будущее, и даже один катастрофический выбор сегодня — вроде ядерной войны или выхода ИИ из-под контроля — может навсегда прервать развитие человеческой цивилизации. Поэтому мы обязаны учитывать возможные риски, которые могут уничтожить нас как вид, и сделать все возможное, чтобы этого не произошло. Это выглядит как высокая, вдохновляющая идея, но за этим кажущимся благородством скрывается опасная и тревожная логика. Она не только отрывает нас от настоящего, но и может стать основой для нового вида власти — холодной, расчетливой, и по-настоящему античеловечной.

На LessWrong дюжина авторов-специалистов в сфере ИИ выдала огромную статью (которая в свою очередь является выжимкой из их более крупной статьи) по поводу того, стоит ли нам (и как) регулировать ИИ. Авторы опасаются, что мы в итоге зарегулируем ИИ к чертям и унифицируем и в итоге под соусом «выравнивания интересов ИИ и человека» придем к диктатуре, насилию и прогнем ИИ под какую-то одну «ценность», или же те или иные массы людей не будут довольны каким-либо «строгим» ИИ и начнут бунтовать, а это все не есть хорошо.

Согласно норвежскому философу Петеру Весселю Цапффе, люди рождаются с чрезмерно развитым сознанием, которое не вписывается в замысел природы. Человеческое стремление к обоснованию в вопросах жизни, смерти и смысла не может быть удовлетворено, а значит, у человечества есть потребность, которую жизнь не в состоянии полностью удовлетворить. Человеческое сознание является биологическим «избытком-ошибкой».

Питер Тиль давеча выступил в Кембриджском союзе. Студенты вели себя не очень культурно, орали и перебивали, и Тиль в итоге чуть ли не бежал со сцены. Так или иначе, но Тиль затронул темы культурного застоя, технологического прогресса и политического ландшафта. Что же он вещал?