В 2025 и 2026 годах ИИ-агенты будут постепенно совершенствоваться. В 2027 году кодирующие (программирующие) агенты наконец-то станут достаточно хороши, чтобы существенно подстегнуть НИОКР в области ИИ, что приведет к взрыву интеллекта, который достигнет уровня человеческого где-то в середине 2027 года и достигнет уровня суперинтеллекта к началу 2028 года. Правительство США начинает понимать, что к чему, где-то в начале 2027 года, потенциально увидев, что ИИ может стать решающим стратегическим преимуществом в кибервойнах, и начинает втягивать ИИ-компании в свою орбиту — не полностью национализируя их, но подталкивая их к более оборонно-контрактным отношениям. Примерно в это же время просыпается Китай, крадет параметры (weights) ведущих американских ИИ-моделей и сохраняет почти равное с США положение. Возникает гонка вооружений, которая побуждает обе страны срезать углы в безопасности и добиваться полной автоматизации, несмотря на возражения общественности; это происходит крайне быстро, и к ~2029 году большая часть экономики автоматизирована. Если ИИ будет неправильно настроен, он может выступить против человека уже в 2030 году (то есть после того, как он автоматизирует достаточную часть экономики, чтобы выжить без нас).
Письмо №523
