Навеяло недавними выступлениями. Когда мы говорим о технологиях, мы все время говорим о конечных улучшающихся бытовых удобствах (сеть, телефон, доставка, еда, одежда, кофемашины, мгновенные переводы денег, космос, батарейки и так далее) и порой про пугающее развитие чисто технических военных изощренных способов эффективнее убивать друг друга. Мало тех, кто пишет, как технологии меняют политику и способы управления обществом.
Харари часто объясняет масштаб текущей технологической трансформации через историческую аналогию с индустриализацией. Да, конечно, его отправная точка — признание того, что индустриальная революция в конечном счете действительно сделала человеческие общества богаче и технологически мощнее. Однако этот результат был достигнут не прямой и мирной эволюцией, а через длительный и крайне болезненный исторический процесс. Сам путь индустриализации сопровождался масштабными социальными конфликтами, войнами и политическими экспериментами, многие из которых оказались катастрофическими.
Харари обращает внимание на то, что в XIX и XX веках человечество фактически училось управлять новой технологической мощью методом проб и трагических ошибок. Индустриальные машины — паровые двигатели, железные дороги, механизированные фабрики, электричество — радикально увеличили производительность и военную силу государств. Но эти новые возможности оказались встроены в старые политические и геополитические структуры. В результате государства начали стремиться к контролю над сырьевыми источниками и рынками сбыта, что подпитывало империалистическую экспансию и конкуренцию великих держав. Мир активно насильно завоевывали и перекраивали, утопив в крови.
Одновременно индустриальная экономика потребовала новых форм мобилизации общества. Массовое производство и тотальная война требовали централизованного управления ресурсами и людьми. На этом фоне возникли различные политические модели, которые пытались «подчинить» индустриальную мощь государству: от жесткого национализма и фашизма до коммунистических систем централизованного планирования. В исторической ретроспективе это можно интерпретировать как отчаянные попытки человечества научиться управлять новой производственной энергией индустриальной эпохи. Цена этого обучения оказалась чрезвычайно высокой — две мировые войны, многочисленные региональные конфликты и десятки, а возможно и сотни миллионов погибших.
Для Харари важен вывод из этого исторического эпизода. Индустриализация сама по себе не была «злом» — она стала фундаментом современной экономики и уровня жизни. Но дорога к этому результату заняла около двух столетий и сопровождалась огромным количеством катастроф, потому что политические институты и социальные системы не были готовы к новым технологическим силам.
Именно здесь он проводит параллель с искусственным интеллектом — и одновременно показывает принципиальное отличие. По его мнению, даже индустриальные машины оставались всего лишь инструментами. Паровой двигатель, железная дорога или фабричный станок могли многократно усиливать человеческую силу, но они не принимали решений, не создавали идеи и не участвовали в управлении обществом. В конечном счете решения принимали люди — политики, генералы, предприниматели.
С искусственным интеллектом ситуация может быть иной. Харари утверждает, что впервые в истории человечество создает технологию, которая потенциально способна не только увеличивать человеческие возможности, но и самостоятельно участвовать в производстве идей, решений и информационных структур. ИИ может генерировать тексты, анализировать данные, управлять системами и даже влиять на общественное мнение через информационные сети. Это означает, что новая технологическая революция происходит не просто в сфере энергии или производства, а в самой области мышления и коммуникации — то есть в той сфере, которая определяет политическую власть и социальные институты.
Поэтому, с точки зрения Харари, главный риск заключается не столько в конечном результате развития ИИ, сколько в переходном периоде. Если индустриальная революция привела к двум столетиям политических потрясений, то аналогичный период адаптации к интеллектуальным машинам может оказаться еще более сложным. Мы можем столкнуться с новыми формами политической власти, экономической концентрации и информационного контроля, которые человечество еще не умеет регулировать.
Отсюда его предупреждение: человечество стоит на пороге формирования новой социально-технологической системы, которую можно описать как гибридное общество людей и искусственного интеллекта. В такой системе люди уже не будут единственными субъектами, создающими идеи, принимающими решения и формирующими информационные сети. В отличие от индустриальной эпохи, когда машины усиливали человеческие мышцы, новая эпоха может усилить — или частично заменить — человеческое мышление.
Именно поэтому Харари призывает рассматривать развитие ИИ в долгой исторической перспективе. По его словам, последствия этой технологии могут разворачиваться на протяжении столетий, а не десятилетий. Ошибка современного мира — думать о ней только в рамках ближайших экономических выгод или технологической конкуренции. Если индустриальная революция изменила экономику и геополитику, то революция искусственного интеллекта может изменить саму структуру человеческого общества и роль человека в нем.
**