Письмо №473

«…Сторонники Китая утверждают, что они, не колеблясь, будут использовать искусственный интеллект и обучать ему всех своих сотрудников, и таким образом это будет внедряться быстрее в Китае. Сторонники США утверждают, что мы, вероятно, опережаем Китай. Возможно, крупные языковые модели на самом деле не являются коммунистическими. Может быть, если вы не можете спросить у большой языковой модели, кто такой Винни-Пух, вам придется переделать ее так сильно, что она даже не будет работать, или что-то в этом роде. Я думаю, есть интуиция, что эффективные альтруисты — это не просто представители пятой колонны Коммунистической партии Китая, которые пытаются саботировать нас, но они на самом деле просто делают то, чего хочет КПК, то есть на самом деле останавливают LLM, и это очень разрушительно. Есть вариант, когда ИИ помогает США больше, чем Китаю. У Китая был план победы с низкой волатильностью, в котором они просто собирались медленно победить западный мир. Если у вас теперь есть технология, повышающая волатильность, с которой Китай не может справиться, не ускоряет ли это сроки выполнения графика Китаем? И не становится ли Китай похожим на Россию, где вы в конечном итоге проиграете, и, возможно, вам придется вторгнуться на Тайвань в ближайшие год или два, и вы не можете ждать еще десять лет?..»