FastSaltTimesMcKinsey Global Institute выпустил на 80 страниц отчет, который представляет собой глубокий анализ экономической конкурентоспособности США, приуроченный к 250-летию страны. Главная цель документа — оценить текущие позиции США в условиях геополитического соперничества и стремительного развития искусственного интеллекта. Подвели, так сказать, итоги.
Навеяло недавними выступлениями. Когда мы говорим о технологиях, мы все время говорим о конечных улучшающихся бытовых удобствах (сеть, телефон, доставка, еда, одежда, кофемашины, мгновенные переводы денег, космос, батарейки и так далее) и порой про пугающее развитие чисто технических военных изощренных способов эффективнее убивать друг друга. Мало тех, кто пишет, как технологии меняют политику и способы управления обществом.
Харари часто объясняет масштаб текущей технологической трансформации через историческую аналогию с индустриализацией. Да, конечно, его отправная точка — признание того, что индустриальная революция в конечном счете действительно сделала человеческие общества богаче и технологически мощнее. Однако этот результат был достигнут не прямой и мирной эволюцией, а через длительный и крайне болезненный исторический процесс. Сам путь индустриализации сопровождался масштабными социальными конфликтами, войнами и политическими экспериментами, многие из которых оказались катастрофическими.
Вот еще мегапопулярный во всем мире пост про ИИ-ужасы, после которого из-за дистопичных прогнозов даже упали акции реальных компаний. Текст от Citrini Research представляет собой сценарный анализ в форме «макро-заметки из будущего», исследующий катастрофические последствия избытка искусственного интеллекта для мировой экономики к 2028 году. В Citrini описывают разрушительную спираль вытеснения человеческого интеллекта, при которой корпорации заменяют высокооплачиваемых белых воротничков ИИ-агентами, что ведет к обвалу потребительского спроса и возникновению «призрачного ВВП». Ключевая идея заключается в том, что ИИ уничтожает премию за редкость человеческого разума, провоцируя системный кризис: от обесценивания программного обеспечения до массовых дефолтов по ипотеке и краха сферы посреднических услуг. Эффективность ИИ на микроуровне может обернуться макроэкономическим тупиком, требующим радикального пересмотра налоговой системы и общественного договора. Что в Citrini пишут про 2028?
Искусственный интеллект запустил, возможно, крупнейший в истории бум капитальных вложений: гиперскейлеры тратят сотни миллиардов долларов и берут на себя обязательства на триллионы, вплоть до строительства и использования собственных источников энергии, пока правительства пытаются не отстать. ИИ вывел технологических гигантов на многотриллионные оценки. Это новый рассвет. Если перефразировать Джорджа Буша-старшего, возможно, это и есть «самое большое событие, которое произошло в мире за мою жизнь, за нашу жизнь». Как же искусственный интеллект изменит общество? И почему ИИ вообще должен менять общество?
Основатель Stability AI Эмад Мостак рассказывает о неминуемой и радикальной трансформации общества под влиянием искусственного интеллекта. Он предупреждает, что человечество находится в историческом моменте беспрецедентных потрясений, когда где-то через 900 дней экономическая значимость большинства людей в сфере когнитивного труда резко снизится, поскольку ИИ станет более компетентным и дешевым, чем сотрудники. В качестве противовеса корпоративному контролю и потенциальной автократии Мостак выступает за демократизацию «универсального базового ИИ», который будет открытым и суверенным для каждого пользователя, защищая его интересы. Мостак подчеркивает, что без срочных мер по регулированию и этической настройке эти чрезвычайно мощные системы могут привести к социальной нестабильности, распаду капитализма и даже экзистенциальным рискам.
Мы стоим на пороге великого экономического переворота, поскольку эра, движимая дешевыми вычислениями, дорогими лекарствами и генетически модифицированными организмами, подходит к концу. Эпоха, начавшаяся в 1971 году с создания микропроцессора и механизма рекомбинантной ДНК (которые легли в основу «Биотеха 1.0»), завершается, и мир ищет новые технологии общего назначения, которые смогли бы заменить старые двигатели роста. Этот момент является геоэкономическим и геополитическим переломным этапом.
Сэм Альтман побеседовал с экономистом Тайлером Коуэном. Среди угроз, связанных с ИИ, Альтмана больше всего беспокоит не намеренный захват мира со стороны злонамеренного ИИ или действия плохих парней. Самый страшный сценарий — это когда ИИ-модели случайно захватывают мир. Если почти весь мир взаимодействует с одной и той же моделью, то в процессе ее постоянного развития и обучения она может незаметно, без всякого злого умысла, тонко убедить людей в чем-либо, просто потому, что так «выучила». Этот сценарий непреднамеренного, но всеобщего убеждения, по мнению Альтмана, является более пугающим и менее обсуждаемым, чем другие, более драматичные угрозы.
Численность населения земли начнет сокращаться во всем мире только через несколько десятилетий. После этого будет оставаться все меньше и меньше живущих людей, которые будут трудиться и потреблять произведенное. Однако в тот же исторический момент, когда происходит это снижение, мы создаем миллионы ИИ, роботов и агентов, которые потенциально могут не только создавать новые и старые вещи, но и потреблять их, а также продолжать развивать экономику новым и непохожим образом. Это экономическая передача от тех, кто рожден, к тем, кто создан.
Безусловно, это самый мощный и пронзительный текст недели, который вызвал бурю обсуждений и море комментариев в англоязычной интеллектуальной среде. Настоятельно рекомендую прочитать каждому. Особенно родителям, которые задумываются о будущем своих детей, и, более того, стоит дать его почитать и самим детям, чтобы они поразмыслили о мире, в котором будут жить завтра. В тексте, по сути, говорится о самом наболевшем, насущном и судьбоносном — о том, что формирует наш мир сегодня и определяет грядущие десятилетия.
Мир на пороге цивилизационного сдвига. Все говорят о циркулярной экономике как о панацее от ресурсного кризиса и климатической катастрофы. Римский клуб и инициатива Earth4All призывают к «Гигантскому скачку» — радикальной перестройке системы. Цель благая: сократить ежегодное использование первичных сырьевых материалов в индустриальных странах как минимум вдвое. Но когда ресурсы станут слишком ценными, а владение ими сконцентрируется в руках ограниченного числа игроков, мы рискуем потерять главное — собственность и свободу выбора. Вы перестанете быть владельцем, став клиентом системы, где общество или специализированные компании будут управлять всем: от жилья до электроники и транспорта, предоставляя доступ «по подписке». Это не просто новая бизнес-модель, это новая цивилизационная система, где привычное понятие собственности исчезает, а автономия пропадает. Кто будет определять, что справедливо в этом мире?