Рубрика: Статьи/Блог

В последние годы среди некоторых ученых, философов и особенно в кругах, связанных с ИИ, стала популярной идея так называемого longtermism — это убеждение, что мы должны думать не только о ближайших годах или десятилетиях, но и о будущем человечества на сотни, тысячи и даже миллионы лет вперед. Сторонники этой идеи говорят: у нас может быть невероятно долгое будущее, и даже один катастрофический выбор сегодня — вроде ядерной войны или выхода ИИ из-под контроля — может навсегда прервать развитие человеческой цивилизации. Поэтому мы обязаны учитывать возможные риски, которые могут уничтожить нас как вид, и сделать все возможное, чтобы этого не произошло. Это выглядит как высокая, вдохновляющая идея, но за этим кажущимся благородством скрывается опасная и тревожная логика. Она не только отрывает нас от настоящего, но и может стать основой для нового вида власти — холодной, расчетливой, и по-настоящему античеловечной.

В эпоху нарастающей геополитической нестабильности технологии стали ареной борьбы за власть между государствами и техноэлитами. Иллюзия глобального цифрового мира рушится: США и Китай формируют два противоположных цифровых блока — один во главе с частными корпорациями, другой — с государственным контролем. В США техномагнаты вроде Маска и Тиля всё чаще стремятся не к независимости от государства, а к его захвату, подчиняя политику собственным интересам. Программы вроде DOGE размывают границы между частным и публичным, усиливая слежку, влияние и контроль. Европа теряет суверенитет, а страны глобального Юга разрываются между двумя моделями. Идеалы открытого интернета и демократии отступают перед технополярной реальностью, где эффективность важнее подотчётности, а власть концентрируется в руках немногих. Будущее цифрового мира — не освобождение личности, а новая форма централизованного контроля.

Росс Даутат — колумнист в NY Times, также известный американской общественности своими многочисленными выступлениями по общественно-религиозным вопросам. На многие вещи, касающиеся общества и технологического развития человечества, Росс смотрит с религиозной и консервативной точки зрения, на его мировоззрение сильно повлиял католицизм. Без всякого сомнения Росс является одним из самых ярких представителей современной американской интеллектуальной элиты. Знаменит книгой «Общество декаданса: как мы стали жертвами своего успеха». Об этой книге мы уже упоминали в одном из наших Писем. Книга вызвала огромный резонанс в интеллектуальной среде и не только среди элит США. Недавно он выдал колонку в NYT, где пишет примерно следующее:

Крейга Мода я читаю уже лет 10. Если не больше. И мне очень нравится. Завораживающее чтение и сочетание покоя и технологического прогресса. Крейг Мод — писатель, издатель, фотограф и эссеист американского происхождения, бывший дизайнер цифровых продуктов, давно и прочно связавший свою жизнь с Японией. Его имя стало синонимом медитативных размышлений о современном мире, границах цифрового и аналогового, о внимательности, одиночестве, технологиях, книгах и долгих прогулках. Он живет в Японии лет 20 и совершает пешие прогулки по стране на сотни и сотни километров. И пишет эссе об этом. Он уникален тем, что соединяет традиции старого мира и вызовы нового, причем делает это с необыкновенной визуальной чувствительностью и ясностью мысли. Мод — скромная тихая фигура, стоящая на границе между Востоком и Западом, между прошлым и будущим, между бумажной книгой и экраном смартфона. Недавно у него вышла новая книга.

Мнения иностранных жителей Сингапура о том, почему именно этот город-государство привлекает так много экспатов. Интервью с людьми разных профессий и национальностей. Плюсы и минусы.

Есть такой Нейт Хагенс. Не очень, прям, популярен — около 80 тысяч подписчиков на его YouTube канале, — но известен и многими уважаем. Много выступает по миру на конференциях. На канале The Great Simplification Хагенс беседует с учеными (тот же Сапольски), политиками, бизнесменами и экологами о будущем человечества. Бывает интересно. Хагенс — американский ученый, «системный мыслитель» и популяризатор знаний о предельных возможностях цивилизации, энергетике, экономике и экологии. Он специализируется на долгосрочных перспективах устойчивого развития человечества в условиях истощения ресурсов, энергетического пика и деградации окружающей среды.

Искусственный интеллект не просто улучшит существующие продукты, а полностью изменит бизнес-модели, говорит Цукерберг в новом интервью. Предпринимателям в экосистеме Meta не нужно будет создавать креативы, выбирать аудиторию или измерять результаты — достаточно будет указать желаемый бизнес-результат и подключить счет, а ИИ сделает все сам, автоматизируя каждый шаг и гарантируя результат. Грядет монетизация миллиардной аудитории мессенджеров. ИИ-помощники будут вести продажи и клиентскую поддержку для каждого бизнеса в мире. А что, если главной функцией ИИ станет не помощь в работе, а заполнение пустоты в личных отношениях? Цукерберг уверен, что ИИ сможет стать вашим персональным компаньоном. Такой ИИ не просто запоминает факты, он стремится развить «теорию разума» — глубокое понимание вашего мира. Цукерберг уверен, что Meta обладает особым преимуществом в текущей гонке ИИ, которое отличает ее от многих конкурентов.

Энди думает, что ИИ смогут писать истории так же хорошо, как люди. ИИ сможет прочитать миллиард книг, понять структуру историй и создавать их по заданным параметрам. Более того, появятся ИИ, которые будут глубоко понимать индивидуальные предпочтения каждого конкретного индивидуального пользователя в развлечениях, его мнения, интересы и то, что он считает скучным, на основе его истории активности. ИИ сможет создавать историю, которая понравится лично этому человеку, даже если все остальные посчитают ее неинтересной или глупой. ИИ также сможет визуализировать эту историю, создать анимацию и все необходимое, по сути, производя фильм или другое развлечение, сделанное на заказ для одного потребителя.

Кстати, к предыдущему посту. Об этом сразу и не думаешь. Да, ИИ вызывает у многих омерзение. Да, на теме ИИ многие здоровые вроде бы люди уже тотально поехали крышей. Да, на теме ИИ ушлые гуру-мошенники разводят несчастных лохов. Но это все относительно в пределах терпимого и ожидаемого. Да, многих ужасает, что слабые духом и умом обращаются к ИИ за помощью, как к психологу и терапевту. Но что ИИ делает с реально уже больными психически людьми? На эту тему особо не пишут. Неприятная некрасивая непопулярная тема. А ведь это же прямо для таких людей легко открылись врата в другой не самый здоровый мир.

Крик души Джии Толентино из журнала The New Yorker. Там много про Трампа, политику, международные отношения, помутнение рассудка от переизбытка информации и поддельной реальности, но это все прелюдия к данной концовке ее эссе: