Письмо №375

«…Несмотря на непрекращающуюся шумиху, я считаю, что ИИ в целом недооценен. Долгосрочные последствия ИИ повлияют на наше общество в большей степени, чем электричество и огонь, но для того, чтобы проявились все его последствия, потребуются столетия. Это означает, что мы будем спорить, обсуждать и бороться с изменениями, вызванными ИИ, в течение следующих 10 десятилетий. Поскольку ИИ работает в пространстве так близко к нашему внутреннему «я» и идентичности, нас ожидает вековой кризис идентичности. Этот промежуток времени особенно примечателен, потому что мы уже обсуждаем последствия ИИ целых 100 лет. На самом деле, никогда прежде люди так тщательно не репетировали что-то настолько далеко вперед, как ИИ. Задолго до его появления мы представляем себе его плюсы и минусы и пытаемся предвидеть его на протяжении нескольких поколений. Такая серьезная репетиция является улучшением нашей культуры, и мы должны продолжить ее для других технологий, таких как генная инженерия, метавселенная и так далее. Плюсом длительной репетиции является то, что по прибытии мы не должны быть слишком удивлены. Недостатком долгой репетиции является то, что существует больше вариантов того, что что-то пойдет не так, пойдет не столь правильно, а у нас было время подумать обо всех ужасных вещах, так что позитивные предположения кажутся мифическими и нереальными…»