Метка: Книги

Современность характеризуется фундаментальным сдвигом в экономической и геополитической архитектуре. Многосторонняя торговля фрагментируется на региональные блоки и протекционистские меры. Модель государства всеобщего благосостояния трещит под давлением оборонных приоритетов. Экономические реформы Китая 1980-90х изменили мировую экономику и углубили связи с Западом, открыв эру свободной торговли и многостороннего сотрудничества. Новые книги анализируют этот период, показывая, как первоначальный оптимизм сменился национализмом, протекционизмом и стратегическим соперничеством.

Современные ИИ-компании, такие как OpenAI, стали новыми империями. Во-первых, они присваивают ресурсы, не принадлежащие им — например, персональные данные миллиардов людей без согласия. Во-вторых, они эксплуатируют дешевый труд — модераторы контента работают за копейки. В-третьих, они контролируют производство знаний: все больше ИИ-исследований происходит внутри компаний, а не в университетах. В-четвертых, они ведут агрессивную конкуренцию, оправдывая свои действия необходимостью «победить Китай». И, наконец, они действуют под флагом «цивилизаторской миссии» — обещая спасти человечество и построить утопию с помощью ИИ. Это не научно обосновано, но подается как религия — с утопистами (boomers) и паникерами (doomers). Оба лагеря хотят контролировать развитие ИИ. Все это делает их по сути цифровыми империями нового типа.

Бен Гертцель — одна из ярких и эксцентричных фигур, визионер AGI, предвосхитивший эру сверхразумных машин еще в детстве, вдохновленный «Проектом Прометей». Он открыто говорит о симбиозе человека и машины, опциональном биологическом теле и масштабируемом сознании. Переход от AGI к суперинтеллекту (ASI) будет очень быстрым и займет всего 1-3 года. Главный риск — не сам ИИ, а гонка за его создание и неспособность общества принять ответственность за «инженерную задачу» по проектированию собственного будущего и разума. Сможет ли человечество справиться с собственными глупостью, культурой, эго, инерцией и страхом перед будущим, которое уже проектируется? Как «выровнять» AI с человеческими ценностями, которые сами по себе противоречивы и непостоянны? Нужны эмпатия, сострадание и мета-цели у AGI.

Когда сегодня мы беспокоимся о влиянии на трудоустройство и занятость, мы переживаем о потере работы, о необходимости переучиваться и менять профиль, о необходимости учиться технологиям, мы пытаемся понять, куда попадут наши дети-выпускники университетов или на кого учиться школьникам. Тревог много. Но это тревоги уже или еще живых людей.