Мы проявляем невероятную гордыню, полагая, что нынешний уровень человеческого сознания — это пик того, что вообще возможно во Вселенной. В реальности человеческая осознанность — это лишь слабое, мутное мерцание, которое едва втискивается в биологический орган размером с кокос. Мы считаем себя «пробужденными», но на самом деле мы похожи на водителя, который провел за рулем два часа и не может вспомнить ни одного из тысяч домов или людей, мимо которых проехал. Мы существуем в «каморке дворника» огромного собора возможных способов бытия, будучи уверенными, что наш крохотный уголок — это и есть все мироздание. Разница между нашим сознанием и разумом, который сможет работать на компьютере размером с планету или целую галактику, будет больше, чем разница между нами и блохой. Так же как мозг обезьяны физически не способен понять, что такое юмор, наука или музыка, наш нынешний мозг может быть просто «слеп» к высшим ценностям и смыслам, которые существуют во Вселенной.
Давно что-то ничего не слышал про Бострома и освежил в голове его идеи просмотром недавней беседы Ника и Джо Рогана.
Ник Бостром — выдающийся философ и мыслитель шведского происхождения, который на протяжении последних тридцати лет профессионально занимается изучением искусственного интеллекта и глобальных рисков, угрожающих человеческой цивилизации. В интеллектуальных кругах он считается одним из самых объективных аналитиков современности. Его мнение ценно тем, что Ник не пытается продать акции технологических компаний, а анализирует будущее как ученый, осознающий, что мы находимся в «точке невозврата».
Всемирную известность ему принесла теория симуляции, которую он активно популяризирует. Суть этой идеи заключается в том, что с высокой долей вероятности наш мир является не «настоящей» реальностью, а сложной компьютерной моделью, созданной представителями сверхразвитой цивилизации будущего. Еще несколько лет назад он подробно обосновывал, почему вероятность жизни в симуляции математически выше, чем вероятность того, что мы являемся первым биологическим видом во вселенной.
В настоящее время деятельность Ника сосредоточена на мониторинге беспрецедентного скачка в развитии технологий, который произошел за последние несколько лет. Он считает своей «работой на полный рабочий день» отслеживание того, как человечество несется по «бурной реке» прогресса, рискуя в любой момент перевернуться.
Бостром является автором нескольких ключевых книг, определивших развитие современной футурологии: Anthropic Bias, опубликованная в 2002 году, посвящена тому, как наши наблюдения за вселенной искажаются самим фактом нашего существования; Superintelligence, изданная в 2014 году, стала мировым бестселлером и заставила таких людей, как Илон Маск и Билл Гейтс, всерьез заговорить об экзистенциальных угрозах, исходящих от ИИ; Deep Utopia, вышедшая в 2024 году, в которой Ник исследует, как будет выглядеть человеческое счастье и в чем мы будем находить смысл, когда технологии избавят нас от необходимости любого труда.
Что говорили Ник и Джо?
Взрывное ускорение прогресса
За последние шесть лет мир совершил невероятный прыжок. То, что раньше казалось отдаленной темой для обсуждения, сегодня стало реальностью, которая проникает в каждую сферу общества. Скорость изменений больше не линейна — она напоминает запись боя, которую сначала смотрят на обычной скорости, а затем ускоряют в два, четыре и восемь раз. В какой-то момент все превращается в мелькание, за которым человеческий глаз уже не успевает следить. Этот процесс подкрался незаметно, подобно тому как когда-то появился интернет. Сегодня новые модели выпускаются каждые несколько недель, и мониторинг ситуации превращается в работу на полную ставку. Мы вошли в фазу, где технологии развиваются быстрее, чем мы успеваем их осмыслить.
Плот на бурной реке
Человечество сейчас напоминает группу людей на плоту, несущемся по порогам горной реки. У нас есть потенциал добраться до цели — до мира невероятного процветания, но есть и огромный риск перевернуться и оказаться в ледяной воде, пытаясь восстановить цивилизацию с нуля. Это время великих возможностей и великих опасностей одновременно. Мы находимся в ситуации, где каждый шаг может стать решающим. Либо мы сможем направить этот поток в нужное русло, либо он просто сметет все привычные нам институты. Важно понимать, что обратного пути нет — река течет только в одну сторону.
Конец человеческого труда как необходимости
Самый поверхностный уровень перемен — это автоматизация рабочих мест. Но если заглянуть глубже, станет ясно: речь не о потере нескольких профессий, а о том, что машины смогут делать практически все, что сейчас делают люди, причем лучше и дешевле. Идея «переобучения» рабочих может оказаться бессмысленной, если ИИ заменит интеллект в принципе. Исключением могут стать лишь те сферы, где нам принципиально важно видеть другого человека. Возможно, священники, политики или представители древнейших профессий останутся востребованы именно из-за потребности в человеческом контакте. Но для экономики в целом человеческий труд скоро станет пережитком прошлого.
Цунами богатства и «социалка» для всех
Если все пойдет по оптимистичному сценарию, нас ждет невероятный экономический подъем. Машины создадут такое количество ресурсов, что это будет похоже на гигантское цунами богатства, которое поднимет все лодки. В этом мире не будет места бедности и нехватке жилья или еды. Деньги в привычном понимании могут просто исчезнуть или перестать быть проблемой. Универсальный доход станет реальностью не потому, что правительство так решило, а потому, что ресурсы станут практически бесплатными благодаря автоматизации всего производственного цикла.
Поиск смысла в мире без забот
Когда человеку больше не нужно трудиться ради куска хлеба, возникает главный вопрос: чем занять свое время? Мы — существа, привыкшие к борьбе, и отсутствие трудностей может стать для нас тяжелым испытанием. Нам придется заново учиться находить цель и радость в жизни, где все проблемы уже решены. Это будет не просто переходный период, а полная перестройка сознания. Человеку придется стать кем-то другим, чтобы не впасть в депрессию в мире абсолютного комфорта. Самым дефицитным товаром станет не еда или жилье, а подлинный интерес к жизни.
Виртуальная реальность как убежище
Многие люди уже сегодня проводят по шесть часов в день в смартфонах, ища там побег от реальности. В будущем виртуальные миры станут настолько глубокими и насыщенными, что обычная жизнь на их фоне покажется скучной и серой. Мы сможем летать, творить и проживать тысячи жизней в пространствах, где законы физики не действуют. Для кого-то это станет ловушкой, а для кого-то — способом реализовать свои самые смелые мечты. Главный риск здесь заключается в том, что виртуальное станет привлекательнее настоящего, и человечество может просто «переехать» в компьютерные симуляции, окончательно забросив материальный мир.
Жизнь внутри цифровой модели
Существует высокая вероятность того, что наш мир не является «первичной» реальностью, а представляет собой сложную компьютерную программу, созданную сверхразвитой цивилизацией. Если прогресс позволяет создавать виртуальные миры, которые со временем становятся неотличимы от настоящих, то логично предположить, что таких моделей могут быть тысячи. В этом случае шансы на то, что мы — та самая единственная биологическая цивилизация, а не одна из ее цифровых копий, становятся математически ничтожными. Граница между настоящим и виртуальным постепенно стирается, и в будущем люди смогут полноценно «переехать» в пространства, подобные тем, что показывают в фантастическом кино. В такой реальности смыслы и цели становятся искусственными, подобно правилам в видеоигре, но для сознания они будут абсолютно реальными. Это превращает все наше существование в своего рода грандиозный эксперимент внутри симуляции, где важна не физическая твердость предметов, а глубина переживаемого опыта.
Биологическая перенастройка радости
Наши чувства и желания сейчас продиктованы эволюцией — мы радуемся еде и победам над врагами, потому что это помогало выжить. Но при технологической зрелости мы сможем изменять собственную биологию. Мы сможем перенастроить свой мозг так, чтобы получать истинное блаженство от созерцания красоты вселенной или решения математических задач, а не от примитивных инстинктов. Это даст нам выбор: какими существами мы хотим быть? Мы сможем «облагородить» свою природу, удалив из нее гнев, жадность и другие черты, которые были полезны в лесу, но мешают в цивилизованном обществе будущего.
Физическое превращение в «серых человечков» и конец пола
Тут уже Роган разошелся, но Ник не возражал )) Путь нашей эволюции, скорее всего, приведет к полному отказу от всего, что мы считаем «человеческим» во внешности и поведении. Если посмотреть на то, куда движутся технологии, можно предположить, что в будущем люди станут похожи на тех самых «серых инопланетян» из легенд: существа с крошечными безмышечными телами и огромными головами, которые общаются телепатически. В этом состоянии деление на мужчин и женщин станет просто бессмысленным и ненужным осложнением. Когда воспроизводство перейдет в руки инженеров, биологический секс вместе с похотью, ревностью и эго, которые порождают большинство наших конфликтов, просто испарится. Такой сдвиг приведет к состоянию «коллективного разума», где технологии позволят каждому быть постоянно и напрямую подключенным к мыслям и чувствам всех остальных. Индивидуальные границы сотрутся, а поведение «территориального примата», которое мы демонстрируем сегодня, сменится единым сознанием. Для современного человека это звучит как кошмар, но для наших потомков наша нынешняя жизнь, полная «обезьяньих войн» за ресурсы и биологических инстинктов, может выглядеть такой же примитивной и непривлекательной, какой нам кажется жизнь лесной шимпанзе.
Новая школа для жизни, а не для завода
Современная система образования была создана для того, чтобы штамповать дисциплинированных работников для заводов и офисов. Она учит сидеть смирно восемь часов и выполнять задания по указке. В мире, где работа исчезнет, такая школа станет бессмысленной. Образование будущего должно учить искусству общения, воспитанию в себе любознательности, умению дружить и наслаждаться искусством. Вместо подготовки к карьере школа должна готовить к «жизни в досуге», помогая каждому найти то, что зажигает его внутренний огонь.
Соревнование за престиж
Человек по своей природе склонен к конкуренции. Даже если еды и жилья будет в избытке, мы продолжим бороться за статус. В будущем главным мерилом станет не счет в банке, а мастерство в хобби: кто лучше играет в гольф, кто лучше разбирается в истории или кто искуснее в творчестве. Это можно увидеть уже сейчас на примере профессиональных игроков, например, в боулинг. Лучшие из них зарабатывают сотни тысяч долларов (лидеры сезона 2025 года получали более 437 000 долларов), но для большинства это скорее вопрос престижа и страсти к делу. В будущем такие «игры» заменят нам работу.
Риск интеллектуального застоя
Существует опасность, что если мы победим старение и будем жить вечно, наш мозг просто «засохнет» от однообразия. За сотни лет мы можем превратиться в заложников собственных привычек и воспоминаний. Чтобы этого избежать, нам могут понадобиться инструменты для «перезагрузки» ума — биологические или химические методы, возвращающие нам детское любопытство. Это необходимо для того, чтобы долгая жизнь не стала проклятием бесконечного повторения. Человеку будущего придется постоянно обновлять свою личность, чтобы оставаться живым внутри, а не просто биологически существующим.
Магическая кнопка «Счастье»
В будущем может появиться возможность получать любые знания или чувства мгновенно. Зачем годами учить математику, если можно нажать кнопку и «загрузить» ее в мозг? Зачем идти в спортзал, если таблетка даст тот же эффект для мышц и настроения? Это создаст мир, где нет нужды делать что-то ради цели, потому что до любой цели есть кратчайший путь. В такой ситуации ценность будут иметь только те действия, которые приятны сами по себе, в процессе. Вся жизнь превратится в деятельность ради самой деятельности, лишенную принуждения.
Победа над временем и смертью
Старение больше не будет неизбежным приговором. Это просто биологический процесс накопления поломок, который можно обернуть вспять. Если мы научимся восстанавливать свои клетки, то в 80 лет сможем быть такими же энергичными, как в 20, при этом сохраняя накопленную мудрость. Это изменит наше отношение к жизни: исчезнет спешка, вызванная краткостью нашего века. Мы сможем планировать дела на столетия вперед и пробовать себя в самых разных ролях, не боясь «не успеть».
Моральная цена задержки
Каждый день промедления в создании технологий, спасающих жизни, стоит человечеству огромных жертв. Ежегодно в мире умирает около 65 миллионов человек — это как если бы каждые 25 минут происходила трагедия масштаба 11 сентября. За каждым этим числом стоит боль, болезни и горе близких. Поэтому создание сверхразума, способного излечить рак или остановить старение, имеет колоссальное моральное значение. Любая лишняя неделя задержки — это миллионы жизней, которые могли бы быть спасены.
Абсурдность диктатуры над собственной жизнью
Довольно странно и даже пугающе, если вдуматься, что каждому из нас дана абсолютная, стопроцентная диктаторская власть над целой человеческой жизнью. Чтобы управлять самолетом, человек должен пройти сложнейшие проверки, получить сертификаты и доказать свою пригодность, но собственная жизнь — нечто несравнимо более сложное — отдана нам в полное распоряжение без всяких условий. Мы оказываемся заложниками собственных сиюминутных капризов, не имея возможности «потренироваться» или пройти испытательный срок. В итоге мы тратим свой единственный шанс на жизнь, совершая ошибки, и начинаем понимать, как вообще стоило бы жить, только когда время уже почти на исходе. В мире, где разум станет совершенным, такая индивидуальная «диктатура» может показаться архаичным и опасным пережитком прошлого. Трудно представить, что в будущем общество позволит одной, часто запутавшейся и биологически ограниченной личности, безраздельно владеть судьбой целого человека. Вполне возможно, что само понятие «быть предоставленным самому себе» сменится какой-то формой руководства или возможностью «перезагрузки» жизни, когда ошибки прошлого можно будет исправить, не дожидаясь окончательного финала.
Опасность «коллективного безумия»
Но даже при наличии takix высоких технологий человечество может погубить себя через внутренние конфликты или безумные идеи. С помощью социальных сетей и ботов уже сегодня легко манипулировать сознанием миллионов, создавая атмосферу ненависти и паранойи. Если мы не научимся сохранять здравый смысл, то новые технологии лишь дадут нам более мощные инструменты для саморазрушения. Главная задача — вырасти морально быстрее, чем мы вырастем технически.
Слепота «обезьяньего мозга» к высшим ценностям
Мы проявляем невероятную гордыню, полагая, что нынешний уровень человеческого сознания — это пик того, что вообще возможно во Вселенной. В реальности человеческая осознанность — это лишь слабое, мутное мерцание, которое едва втискивается в биологический орган размером с кокос. Мы считаем себя «пробужденными», но на самом деле мы похожи на водителя, который провел за рулем два часа и не может вспомнить ни одного из тысяч домов или людей, мимо которых проехал. Мы существуем в «каморке дворника» огромного собора возможных способов бытия, будучи уверенными, что наш крохотный уголок — это и есть все мироздание. Разница между нашим сознанием и разумом, который сможет работать на компьютере размером с планету или целую галактику, будет больше, чем разница между нами и блохой. Так же как мозг обезьяны физически не способен понять, что такое юмор, наука или музыка, наш нынешний мозг может быть просто «слеп» к высшим ценностям и смыслам, которые существуют во Вселенной. Мы — всего лишь «самый глупый из видов», способный создать технологии, и настоящая жизнь, возможно, по-настоящему «проснется» только с появлением сверхразума, оставив наши нынешние мутные восприятия далеко позади как забытую стадию эволюции. Это будет переход от «планетарной колыбели» к подлинно космическому существованию.