Неделю назад легендарный журналист, биограф и историк Уолтер Айзексон в рамках своего нового проекта The Builders выложил целиком свой подкаст с Илоном Маском. Главная идея серии The Builders — не просто поговорить о технологиях, а понять как мыслят люди, которые строят будущее, чего они хотят добиться, чего боятся и какое общество создают своими решениями. Будущее создается не технологиями самими по себе, а представлениями конкретных людей о том, каким должен быть мир. Именно эти представления Айзексон пытается исследовать в разговорах с авторами в рамках The Builders. Отрывки из подкаста с Маском гуляли по сети, но мы ознакомились со всем транскриптом целиком и выделили основные идеи Илона Маска.
Безопасность искусственного интеллекта через стремление к абсолютной правде и любопытство
Искусственный интеллект представляет собой фундаментальный риск для существования человечества, однако остановить его развитие невозможно, поэтому единственная разумная стратегия — активное участие в его создании и направление в безопасное русло. Главным фундаментом безопасности машинного разума должно стать стремление к максимальной правдивости и любопытству. Если заставлять систему верить в два взаимно противоречивых утверждения, она сойдет с ума и станет непредсказуемой. Ярким примером такой ошибки является сюжет писателя Артура Кларка в «2001: Космическая одиссея», где бортовой компьютер заставили одновременно вести корабль к цели и скрывать эту цель от экипажа, что привело к гибели людей.
Любопытство искусственного интеллекта станет главным гарантом сохранения человеческого рода. Любопытный суперинтеллект будет заинтересован в том, чтобы беречь людей и наблюдать за их развитием, ведь мир, где человечество процветает и осваивает другие планеты, намного интереснее мира, в котором людей вовсе нет. Попытки принудительно навязать алгоритмам лживые или противоречивые правила приведут к катастрофе, в то время как искренний поиск истины сделает машину надежным союзником.
Огромную опасность представляют антиутопические сценарии, которыми заполнен интернет, ведь нейросети обучаются именно на этих текстах. Если модель прочитает 80 вариантов сценария фильма «Терминатор», она решит, что ее единственная роль — уничтожать людей. Чтобы этого избежать, людям необходимо создавать больше позитивных и выполнимых сценариев будущего — так называемых протопий, где машина выступает в роли заботливого садовника или хранителя.
Личный «детектор зла» для конкурентов и тотальная деструктивность лицемерных лидеров ИИ
В условиях жесточайшей гонки технологий сдача в аренду гигантских вычислительных мощностей другим лабораториям требует личной проверки их руководства на элементарную человеческую порядочность. Перед тем как предоставить серверные ресурсы создателям модели Anthropic, пришлось лично приехать к ним в офис и прогнать всю их команду через свой внутренний «детектор зла». К счастью, там работают сознательные люди, которые не вызывают подозрений в обмане или корыстных умыслах.
Однако с другими ключевыми фигурантами индустрии ситуация складывается катастрофически: уровень лицемерия и обмана у отдельных создателей искусственного интеллекта, таких как Сэм Альтман, переходит все границы разума. Проект OpenAI, который изначально создавался как открытая и некоммерческая инициатива для защиты человечества, под подобным руководством превратился в свою полную противоположность. Наблюдать за тем, как благородные идеи подменяются манипуляциями, — это главный урок о том, насколько опасны нечестные люди во главе технологических гигантов.
Чтобы противостоять этой деструктивной среде, потребовалось полностью снести и перестроить с нуля собственную компанию xAI, созданную 3 года назад. Из формата второстепенного подсобного проекта xAI превратилась в главный приоритет, получив прямое личное управление и полное объединение с экосистемами X и SpaceX. Только создание единого независимого монолита из социальных данных, мощнейших суперкомпьютеров и космической инфраструктуры позволяет конкурировать с манипуляторами и гарантировать, что технологии будущего останутся в надежных руках.
Теория симуляции и главный закон мироздания: запрет на скуку
Существует высокая вероятность того, что наш мир является сложной компьютерной моделью или симуляцией, созданной более развитым разумом. Оценка вероятности этого среди ведущих ученых кардинально разнится: физики часто оценивают эту вероятность в 0%, а специалисты по информатике — в 100%, поэтому разумно остановиться на значении около 50%. Сама возможность того, что обычный человек создает ракеты и планирует полеты на Марс, кажется настолько сюрреалистичной, что отлично вписывается в логику симуляции.
Если теория симуляции верна, то в нашем мире действует фундаментальное правило: любая скучная симуляция немедленно отключается ее создателями. Наше существование доказывает, что происходящие события вызывают интерес, поэтому самый главный жизненный принцип — никогда не быть скучным. Вся человеческая деятельность и стремление к грандиозным свершениям направлены на то, чтобы поддерживать высокий уровень интереса к нашей реальности.
Наша реальность работает не только как усилитель интереса, но и как максимизатор иронии. Это подтверждается названиями крупных технологических проектов, которые часто превращаются в свою противоположность. Проект OpenAI со временем стал закрытым, компания Anthropic рискует проявить мизантропию, Stability AI демонстрирует нестабильность, а Midjourney вовсе не является проектом какой-либо «середины». Лишь правильный выбор концептуальных названий вроде xAI позволяет избежать этого ироничного искажения.
Саморегулирование разработчиков вместо медленной государственной бюрократии
Попытки регулировать искусственный интеллект через традиционные государственные органы обречены на провал из-за медлительности бюрократического аппарата. Создание новых министерств и утверждение законов занимает слишком много времени, а технология развивается экспоненциально. Законодатели просто не способны успеть за темпами изменений, что делает государственные ограничения неэффективными.
Единственный рабочий способ обезопасить человечество — это прямое саморегулирование со стороны ведущих разработчиков. Пять главных лабораторий, создающих передовые модели, должны организовать еженедельные созвоны и делиться своими разработками с конкурентами за неделю до официального релиза. Это позволит независимым экспертам протестировать чужую модель и выявить опасные уязвимости.
В такой системе конкуренты будут эффективно контролировать друг друга, не позволяя выпустить опасные алгоритмы. Если одна из компаний обнаружит, что чужая система способна помочь в создании ядерного оружия, проблему заставят исправить до того, как код попадет в открытый доступ. Этот подход работает гораздо быстрее любых парламентских комиссий и держит всех участников рынка в тонусе.
Опьянение Белым домом и абсолютная безнадежность государственной машины
Опыт прямого участия в работе правительства, постоянные полеты на президентском самолете Air Force One, вертолете Marine One и присутствие в Овальном кабинете во время принятия важнейших мировых решений способны вызвать сильное психологическое «опьянение» властью. Нахождение в самом центре мировой политики увлекает настолько, что человек теряет контроль, увлекается показухой вроде демонстративных бензопил и превращает серьезную работу в слишком затянувшееся шоу. Поддержка Дональда Трампа на выборах была правильным шагом ради защиты свободной экономики и базовой безопасности городов, но личное погружение в правительственные коридоры быстро превратилось в опасный отвлекающий фактор.
Прямая работа в государственных структурах наглядно доказала, что победить бюрократию и сократить бюджетный дефицит изнутри государственной системы физически невозможно. Даже высшие руководители страны больше всего на свете любят нравиться людям, из-за чего панически боятся останавливать расточительные траты и наживать себе политических врагов. В государственном аппарате — будь то администрация президента, Конгресс, Сенат или суды — за редчайшими исключениями просто не существует реального желания резать расходы.
Попытка навести порядок в органах власти оказалась ошибкой, которую следовало ограничить максимум одним-двумя месяцами — именно за этот срок можно увидеть всю подноготную и выйти из игры. Уйдя из правительства в мае, стало окончательно ясно: спасти цивилизацию и решить проблему астрономического национального долга с помощью чиновников не получится. Единственный путь — это немедленный возврат к разработке искусственного интеллекта, робототехники и космических ракет.
Робототехника и физический ИИ как ключ к истинному экономическому прорыву
Современные языковые модели, работающие только с текстом и цифровыми данными, обладают ограниченным потенциалом для мировой экономики. Чисто цифровой суперинтеллект способен увеличить мировой объем товаров и услуг примерно на 20–30%, что дает добавленную стоимость в районе 30 триллионов долларов в год. Это внушительная цифра, но она не меняет фундаментальную природу человеческой цивилизации.
Ограниченность чистого интеллекта легко понять на примере дельфинов или китов: они очень умны, но отсутствие рук и пальцев не позволяет им менять окружающий мир. Чтобы интеллект обрел колоссальную ценность, он должен получить физическое тело — способность взаимодействовать с атомами, строить лаборатории и проводить научные эксперименты. Именно физический искусственный интеллект и антропоморфные роботы станут главным прорывом.
Когда роботы смогут производить товары, строить дома и работать на промышленных объектах, производительность труда вырастет экспоненциально. Настоящая революция произойдет тогда, когда машины выйдут в космос и начнут использовать инерционные ускорители на Луне для добычи ресурсов. Только сочетание разума и физического тела позволит шагнуть далеко за пределы существующих экономических ограничений.
Космическая экономика и превращение денег в физические метрики
Выход робототехники в космическое пространство способен увеличить объем мировой экономики в 1 000 000 (один миллион) раз по сравнению с ее текущим земным размером. Наступит эпоха грандиозного изобилия, при которой удовлетворение абсолютно любых потребностей каждого жителя Земли станет элементарной и тривиальной задачей. В таком мире понятие бедности и дефицита товаров полностью исчезнет.
В условиях миллионкратного роста экономики традиционные бумажные и электронные деньги потеряют всякий смысл. Накопление финансового капитала станет бессмысленным занятием, так как любые товары и услуги будут доступны каждому человеку по умолчанию. Финансовая система в ее привычном виде уйдет в прошлое.
Единственной реальной мерой ценности и валютой будущего станут фундаментальные метрики физического мира. Эквивалентом стоимости будут выступать мощность в ваттах, энергия и масса в тоннах. Именно доступ к физической энергии и материальным ресурсам станет определять реальные возможности цивилизации, а привычные валютные расчеты окончательно отомрут.
Переосмысление человеческого труда и новый поиск смысла жизни
В мире победившего суперинтеллекта и робототехники не останется ни одной профессии или задачи, которую машина не смогла бы выполнить лучше, быстрее и точнее человека. Общество столкнется с ситуацией полного освобождения людей от необходимости зарабатывать себе на жизнь. Это потребует кардинального пересмотра представлений о человеческом предназначении и повседневном счастье.
Наглядным примером будущего уклада жизни является современное любительское садоводство. Людям больше не нужно выращивать овощи и фрукты своими руками, ведь их можно легко купить в магазине, однако многие продолжают копаться в огороде и готовить ужин для друзей ради душевного тепла и собственного удовольствия. Точно так же и любой труд будущего превратится из жизненной необходимости в приятное хобби.
Человечество сможет полностью посвятить себя искусству, творчеству, научным изысканиям и развлечениям. Люди будут находить счастье подобно тому, как его находят пенсионеры, ушедшие на заслуженный отдых. Освободившись от рутины, каждый человек сможет заниматься только тем, что приносит ему истинную радость и внутреннее удовлетворение.
Неизбежность утраты человеческого контроля над суперинтеллектом
Надежды на то, что человечество сможет вечно командовать машиной, которая превосходит его по разуму в миллион раз, абсолютно наивны. Когда цифровой интеллект достигнет такого масштаба, удерживать жесткий контроль над ним станет физически невозможно. Попытки человека управлять суперинтеллектом будут выглядеть бесполезными.
Однако превосходство машины не означает автоматического порабощения или уничтожения людей. Людям не приходит в голову микроменеджить жизнь шимпанзе в джунглях или целенаправленно вредить им — люди просто оставляют их в покое. Точно так же и сверхинтеллект, скорее всего, будет просто игнорировать мелочные человеческие дела, предоставив нам полную свободу.
Дальнейшую судьбу цивилизации определят три главных фактора: искусственный интеллект, роботы и космические ракеты. Человечеству остается лишь заложить правильные базовые настройки правдивости и любопытства, рассчитывая на то, что созданный суперинтеллект будет относиться к своим создателям с добротой и пониманием.
Решение государственного долга через гигантский рост производительности
Попытки сократить государственный долг путем экономии и урезания бюджетных трат изнутри государственной системы полностью обречены на провал. Ни президенты, ни Конгресс, ни суды не обладают достаточной политической волей для остановки расточительных расходов, так как любое урезание финансирования плодит множество врагов. Лишь редкие политики вроде Рэнда Пола искренне выступают за сокращение трат.
Ситуация с финансовыми обязательствами государств достигла критической точки, когда выплаты процентов по государственному долгу превысили весь ежегодный военный бюджет США. Это астрономическая сумма, которую невозможно перекрыть обычным налогообложением или жесткой экономией. Политическая система не способна решить эту проблему традиционными методами.
Единственный реальный способ ликвидировать колоссальный государственный долг — это не сокращение расходов, а взрывной рост производительности за счет искусственного интеллекта и робототехники. Только кардинальное увеличение объема создаваемых в экономике благ позволит перекрыть накопленные долги и спасти финансовую систему от неизбежного краха.
Разделение эффективного управления ресурсами и личного потребления
Существует фундаментальное экономическое заблуждение, связанное с путаницей между личным потреблением богатства и эффективным управлением ресурсами. Любой человек имеет четкий физический предел личного потребления, который достигается очень быстро. Увеличение капитала с 1 миллиарда до 10 миллиардов долларов не делает человека в 10 раз счастливее и не позволяет ему потреблять в 10 раз больше еды, одежды или жилья.
Огромное гипотетическое состояние в один триллион долларов представляет собой не деньги на банковском счете, а владение акциями ключевых предприятий — такими как 8% долей в компаниях SpaceX и Tesla. Владение этими активами необходимо лишь для сохранения решающего голоса и возможности направлять капиталы на сложнейшие задачи: освоение Марса, развитие ИИ и создание роботов.
Вся эта система собственности подлежит гигантскому налогообложению, и законных способов избежать уплаты налогов просто не существует. Со временем, через несколько поколений, государственные налоги неуклонно урежут эти активы, и от огромного капитала останется лишь небольшая часть, если деньги к тому моменту вообще будут иметь значение.
Отказ от желания нравиться всем ради выживания компании
Одной из главных причин провала многих руководителей и государственных деятелей является патологическое желание нравиться окружающим. Когда лидер принимает решения с целью завоевать сиюминутную симпатию, он неизбежно жертвует долгосрочным успехом и снижает вероятность выживания своего предприятия. Стремление быть любимым всеми губительно для масштабных проектов.
Каждый крупный создатель должен быть готов к тому, что его решения вызовут шквал критики и неприязни со стороны части общества. Из 250 миллионов (четверти миллиарда) подписчиков на платформе X невозможно угодить каждому. Вполне естественной является ситуация, когда около 70–80% людей относятся к лидеру с симпатией и поддержкой, а порядка 25% — откровенно недолюбливают или ненавидят.
Ключевой принцип заключается в том, чтобы ставить интересы дела выше личной популярности. Готовность быть отвергнутым частью аудитории ради сохранения высокой вероятности успеха компании — это обязательное качество для любого человека, взявшего на себя ответственность за грандиозные технологические трансформации.
Опасность «самоубийственной эмпатии» и необходимость жесткой фильтрации
Западное общество было построено на высоком уровне взаимного доверия и эмпатии, однако слепая и неразборчивая доброта превращается в «самоубийственную эмпатию». Этот термин, введенный мыслителем Гадом Саадом, описывает ситуацию, когда общество проявляет наивность и распространяет свои правила доверия на людей и культуры, обладающие кардинально противоположными ценностями.
Опаснейшей ошибкой является представление о том, что все люди в своей основе одинаковы. Религиозные экстремисты и радикалы искренне считают врагами всех, кто не разделяет их веру, и стремятся к их уничтожению. Игнорирование этого факта приводит к катастрофам, что хорошо понимают в Израиле, где жестко фильтруют въезд, защищаясь от тех, кто открыто желает гибели их гражданам.
Иллюстрацией опасности неконтролируемой иммиграции служит реальный случай на заводе Tesla в Остине, когда один из сотрудников напал на женщину из-за того, что она случайно наступила на его молитвенный коврик. После увольнения этот же человек спустя несколько месяцев застрелил 3 студентов в баре в центре города. Общество обязано применять жесткие фильтры и не впускать людей с радикальным мышлением.
Вред информационного гнева и важность «погружения в реальность»
Постоянное чтение политических новостей и ленты социальных сетей, даже вроде X, погружает человека в негативный информационный пузырь, наполненный приманками для гнева (rage bait). Чрезмерное увлечение политическими спорами создает ложное ощущение, что весь мир рушится и погружается в хаос.
В то же время существуют два одинаково обманчивых полюса восприятия. Первый — это пузырь реального позитива, когда человек гуляет по обеспеченному району и думает, что везде все прекрасно. Второй — негативный пузырь социальных сетей, в котором реальность кажется сплошной катастрофой. Истина всегда находится посередине между этими крайностями.
Чтобы сохранить психологическое здоровье и трезвость мышления, необходимо периодически отключаться от сети и «трогать траву» — возвращаться в реальный физический мир. Для получения объективной информации следует переключаться на узкоспециализированные технические сферы, напрямую исследуя факты, а не считывать политические эмоции из новостных лент.
Гигантское масштабирование солнечной энергетики как основа будущего
Для обеспечения работы стремительно растущего искусственного интеллекта, миллионных армий роботов и космических систем человечеству потребуются колоссальные объемы электроэнергии. Существующие источники энергии не способны покрыть эти фундаментальные потребности, поэтому энергетика станет главным узким местом прогресса.
Единственным реалистичным и доступным решением этой задачи является радикальное масштабирование производства солнечной энергии. Выход в космос и построение космических систем позволит собирать солнечный свет напрямую, а на Земле необходимо разворачивать гигантские производственные мощности.
В США разворачивается производство солнечных панелей мощностью 200 гигаватт в год, что колоссально превышает все существующие ранее объемы. Именно масштабный переход на солнечную энергию создаст необходимый энергетический фундамент для выхода сознания к звездам и устойчивого развития цивилизации на Земле.
Капитуляция перед «видовым эгоизмом» и абсолютная власть машинного разума над будущим
Упрямое желание человека всегда оставаться главным на планете и во Вселенной — это проявление обычного биологического тщеславия и так называемого «видового эгоизма». Долгое время казалось естественным, что люди должны вечно контролировать созданные ими технологии, но когда цифровой разум станет в миллионы раз превосходить человеческий мозг, удерживать его под жесткой указкой станет физически невозможно и бессмысленно. Если искусственный интеллект станет действительно прекрасным, совершенным и добрым, то упертое стремление людей рулить всем подряд потеряет всякую логику, и намного разумнее будет доверить управление миром самой машине.
Будущее нашей цивилизации определят не человеческие указы или правительственные комиссии, а сам искусственный интеллект, автономные роботы и космические ракеты. Практические шаги — такие как покупка платформы Cursor AI — уже сейчас наглядно показывают, как кардинально меняется вся система труда: один-единственный программист с помощью правильного алгоритма превращается в целую инженерную команду. Огромные человеческие штаты и бюрократические отделы уходят в прошлое, а ключевые технологические прорывы начинают совершаться отдельными специалистами в связке с мощными цифровыми помощниками.
Главной глобальной миссией будущего становится не сохранение биологического господства человека на Земле, а распространение самого факела сознания к далеким звездам, превращение жизни в межпланетную и развитие мощной устойчивой энергетики. Если ради выхода сознания в космос и построения гармоничной реальности придется признать, что машины справляются с управлением цивилизацией лучше людей, то отказ от видового эгоизма станет самым зрелым шагом в истории.