На днях товарищ вспомнил вдруг о Донелле Медоуз и ее работах. Подумал, что стоит развернуть тему. Ее наиболее известная самостоятельная книга — «Мышление в системах» (Thinking in Systems), опубликованная в 2008 году уже после ее смерти на основе лекций и рукописей Медоуз. Книга стала культовой в профессиональных кругах среди системных аналитиков, управленцев и бизнес-консультантов, специалистов по стратегии и операционному менеджменту, людей, работающих с моделированием сложных систем, но не более того. Тем не менее, это абсолютная классика и о книге должно знать значительно большее количество людей. Книга хороша тем, что можно применять ее идеи почти в любых сферах и она действительно помогает ориентироваться в своей личной конкретной жизни. Проблемы, которые раньше казались неразрешимыми, после нее выглядят вполне ясными. Ситуации, которые раньше воспринимались как личные неудачи, после нее видятся как предсказуемое поведение систем. И важно, что это не какая-то современная хайповая книга по саморазвитию.
Метка: Теория
Сегодня мир стоит на пороге перемен, которые по своему масштабу могут превзойти даже промышленную революцию. То, что мы привыкли называть искусственным интеллектом, перестает быть просто темой для разговоров программистов и становится силой, способной перекроить всю нашу жизнь, общество и экономику. Чтобы понять, что происходит и к чему нам готовиться, нужно разобрать по полочкам основные идеи этого процесса, который уже вовсю набирает обороты. Каковы три основных подхода к тому, как относиться к искусственному интеллекту? Что в данной ситуации делать государствам?
Пит Хегсет: сделан в США
Историческая преемственность Хегсета прослеживается в его связи с традицией «беспощадных поселенцев», которые вели войны против коренных народов, продвигаясь на Запад. Он является наследником не тех благородных революционеров, о которых пишут в идеализированных книгах, а тех «первобытных головорезов из глубинки», чье выживание и успех строились на подчинении наиболее уязвимых. Его приверженность идеям Теодора Рузвельта и его знаменитой цитате о «человеке на арене» подчеркивает стремление к имперскому пути и региональному доминированию, которое закрепилось в американском сознании еще со времен испано-американской войны. Для Хегсета «арена» — это не место для дискуссий, а поле боя, где истинная ценность человека подтверждается только через «пыль, пот и кровь».
Экспорт интеллекта
Профессор экономики Ричард Болдуин пишет: «…Современная Америка живет в плену старой сказки о том, что богатство страны создается на заводах и сталелитейных комбинатах, но реальные цифры говорят совсем о другом. Сегодняшнее очарование производством, романтизация промышленности и товаров в политике США — это лишь эхо прошлого, потому что на самом деле львиную долю рабочих мест и доходов приносят услуги, которые нельзя потрогать руками. Если посмотреть на данные за 2022 год, то экспорт услуг поддерживал жизнь 8,9 миллиона американцев, в то время как продажа товаров за границу давала работу лишь 2,2 миллионам человек. Это значит, что на одного рабочего с завода приходится четверо офисных сотрудников, программистов или консультантов, которые продают свои знания по всему миру…»
Представьте себе обычный ужин в Кремниевой долине, где вместо обсуждения акций или новых гаджетов за столом всерьез говорят о том, что традиционное деторождение уходит в прошлое. Люди, работающие с ИИ, начинают воспринимать биологическое продолжение рода как нечто устаревшее, считая, что нам невероятно повезло родиться именно в ту эпоху, когда сознание можно просто «загрузить» в компьютер и тем самым обрести бессмертие. Сегодня в кругах технологической элиты все чаще звучит мысль, что мы — последнее поколение людей, которому вообще нужно задумываться о биологическом размножении. Идея в том, что физическое тело — это лишь временная оболочка, а все самое важное в нас, наше «я», может существовать в виде программного кода. Вместо того чтобы рожать детей в муках и менять подгузники, предлагается создавать так называемых «наследников разума» — виртуальных сущностей, которые станут следующим шагом в нашей эволюции.
Мир высоких технологий из Кремниевой долины всегда славился своими странными словечками. Когда там говорят про «вайб-кодинг», «нативность для ИИ» или «пост-дефицит», чаще всего это просто красивый способ сказать, что у компании закончились деньги и ей срочно нужны новые инвестиции. Однако среди этого потока пустой болтовни появилось одно выражение, которое звучит совсем не смешно и пугает даже самых богатых айтишников: «перманентный низший класс». Очередной модный термин? Или предчувствие великого раскола человечества?
Письмо №582
Знаменитый венчурный инвестор Элад Гил уверен, что ИИ сегодня — это беспрецедентный экономический сдвиг: компании в этой сфере выходят на миллиардные выручки в разы быстрее, чем в предыдущие технологические эпохи. Меняется сама модель рынка: вместо продажи софта все чаще продаются «единицы интеллектуального труда» — по сути, когнитивные способности, реализованные через модели и алгоритмы. Появился феномен «персональных IPO», когда ведущие специалисты получают вознаграждения на уровне, сопоставимом с выходом компании на биржу. Рынок постепенно смещается к олигополии, где конкуренция временно сдерживается физическими ограничениями — нехваткой вычислительных ресурсов и памяти. Для основателей открыто короткое окно в 12–18 месяцев для максимизации оценки до того, как технологии станут массовым товаром. Успех все сильнее зависит от агрессивной дистрибуции и тесной связки с Кремниевой долиной, где сосредоточено около 91% капитализации частных ИИ-компаний.
Профессор Гад Саад считает, что чрезмерное сострадание уничтожает современный мир. Мир сегодня болен болезнью, которую трудно заметить на первый взгляд, потому что она маскируется под добродетель. То, что мы привыкли считать лучшими человеческими качествами — сопереживание, доброта и терпимость, — в своих крайних формах превратились в инструменты самоуничтожения. Общество теряет способность защищать себя, своих детей и свое будущее, потому что его защитные механизмы были «взломаны» и перенастроены на саморазрушение. Чтобы выжить, нам нужно разобраться, как это произошло и какие идеи ведут нас к обрыву. Илон Маск в восторге от мыслей Саада. Почему?
Мы привыкли к классическому голливудскому образу злого гения, который в одиночку создает в секретной лаборатории невероятную технологию, чтобы уничтожить или запугать половину человечества. Этот одиночка обычно окружен сложнейшими приборами, которые работают безупречно, но в реальности такая ситуация — абсолютная фантазия. Даже в обычных условиях поддерживать работу сети из трех компьютеров в одиночку — задача не из легких, а если бы кто-то действительно изобрел нечто принципиально новое и сверхсложное, оно бы постоянно ломалось. Скорее всего, у такого «злого гения» раз в месяц заедало бы автоматический люк в логове, так что верить в безупречную работу секретного «луча смерти», обслуживаемого одним человеком, просто невозможно. На самом деле ни один гений-одиночка не может уничтожить мир, потому что такая огромная власть требует масштабного сотрудничества.
Наш старый знакомый Росс Даутат (Росс — колумнист в NY Times, также известный американской общественности своими многочисленными выступлениями по общественно-религиозным вопросам. На многие вещи, касающиеся общества и технологического развития человечества, Росс смотрит с религиозной и консервативной точки зрения, на его мировоззрение сильно повлиял католицизм. Без всякого сомнения Росс является одним из самых ярких представителей современной американской интеллектуальной элиты) пишет:
