Метка: Философия

Этика играет ключевую роль в развитии ИИ. Только человек является подлинным моральным субъектом, который несет ответственность за свои решения и их последствия. ИИ, как и любая технология, может быть использован как во благо, так и во вред. Поэтому необходимо оценивать не только цели использования ИИ, но и средства, а также мировоззрение, заложенное в него разработчиками. Важно, чтобы конечная ответственность за решения, принятые с помощью ИИ, всегда лежала на людях, и чтобы ИИ служил человечеству, а не наоборот. Чрезмерная зависимость от ИИ в принятии решений может ослабить человеческую волю.

Почему либералы покупают оружие, а консерваторы учатся отменять книги? Почему мы копируем поведение тех, кого громче всего осуждаем? В современном обществе «левые» начинают вести себя как «правые», а те — как «левые», копируя тактики и лозунги. Французский мыслитель Рене Жирар утверждал: мы желаем не то, что хотим сами, а то, что хотят другие. Подражание превращается в безумное соперничество, а затем в насилие. Даже статус «жертвы» становится предметом зависти и новой битвы. Мы все ищем врагов, на которых можем проецировать внутренние страхи. Но стоит ли забывать, что ненависть к «другим» в итоге делает нас их зеркальным отражением? Теория Жирара помогает понять нынешние политические войны и интернет-травли. И как, возможно, единственный выход — это рискнуть сделать невозможное: любить врагов, чтобы наконец разорвать круг миметического безумия.

Илон Маск после короткого и бурного периода в политике вернулся к своей долгосрочной миссии и сосредоточился на долгосрочном выживании человечества и решении экзистенциальных угроз. Он убежден, что цивилизация находится на «развилке судьбы» и сам Маск видит себя «героем в гомеровском смысле», стремящимся к «вечной славе». Его масштабные проекты — SpaceX, Tesla, Neuralink — направлены на противодействие экзистенциальным угрозам, таким как расширение Солнца, угрозы от ИИ и низкая рождаемость. Технологические решения, такие как колонизация Марса, которую Маск называет «коллективным страхованием жизни», являются центральными для его философии, тесно связанной с идеями лонгтермизма. Его проекты, от интеграции ИИ в мозг и до человекоподобных роботов, являются инструментами этой личной «гонки со временем», где ставкой является сама «цивилизация». Подходы Маска, по мнению критиков, могут быть «безумными», но для Маска обеспечение выживания — это «самый масштабный продукт в истории».

Роджер Пенроуз — знаменитый британский физик и математик, работающий в различных областях математики, общей теории относительности и квантовой теории. Одно из его недавних выступлений посвящено вопросу, который давно занимает умы ученых и инженеров: можно ли создать сознание, используя только вычисления, как это делают современные компьютеры? Пенроуз много лет размышляет над этим и предлагает другую точку зрения. Он считает, что, возможно, одной лишь классической вычислимости недостаточно для возникновения сознания.

В последние годы среди некоторых ученых, философов и особенно в кругах, связанных с ИИ, стала популярной идея так называемого longtermism — это убеждение, что мы должны думать не только о ближайших годах или десятилетиях, но и о будущем человечества на сотни, тысячи и даже миллионы лет вперед. Сторонники этой идеи говорят: у нас может быть невероятно долгое будущее, и даже один катастрофический выбор сегодня — вроде ядерной войны или выхода ИИ из-под контроля — может навсегда прервать развитие человеческой цивилизации. Поэтому мы обязаны учитывать возможные риски, которые могут уничтожить нас как вид, и сделать все возможное, чтобы этого не произошло. Это выглядит как высокая, вдохновляющая идея, но за этим кажущимся благородством скрывается опасная и тревожная логика. Она не только отрывает нас от настоящего, но и может стать основой для нового вида власти — холодной, расчетливой, и по-настоящему античеловечной.

На LessWrong дюжина авторов-специалистов в сфере ИИ выдала огромную статью (которая в свою очередь является выжимкой из их более крупной статьи) по поводу того, стоит ли нам (и как) регулировать ИИ. Авторы опасаются, что мы в итоге зарегулируем ИИ к чертям и унифицируем и в итоге под соусом «выравнивания интересов ИИ и человека» придем к диктатуре, насилию и прогнем ИИ под какую-то одну «ценность», или же те или иные массы людей не будут довольны каким-либо «строгим» ИИ и начнут бунтовать, а это все не есть хорошо.

Согласно норвежскому философу Петеру Весселю Цапффе, люди рождаются с чрезмерно развитым сознанием, которое не вписывается в замысел природы. Человеческое стремление к обоснованию в вопросах жизни, смерти и смысла не может быть удовлетворено, а значит, у человечества есть потребность, которую жизнь не в состоянии полностью удовлетворить. Человеческое сознание является биологическим «избытком-ошибкой».