Бен Гертцель: Человек 2.0 и гонка суперинтеллектов

Бен Гертцель — одна из ярких и эксцентричных фигур, визионер AGI, предвосхитивший эру сверхразумных машин еще в детстве, вдохновленный «Проектом Прометей». Он открыто говорит о симбиозе человека и машины, опциональном биологическом теле и масштабируемом сознании. Переход от AGI к суперинтеллекту (ASI) будет очень быстрым и займет всего 1-3 года. Главный риск — не сам ИИ, а гонка за его создание и неспособность общества принять ответственность за «инженерную задачу» по проектированию собственного будущего и разума. Сможет ли человечество справиться с собственными глупостью, культурой, эго, инерцией и страхом перед будущим, которое уже проектируется? Как «выровнять» AI с человеческими ценностями, которые сами по себе противоречивы и непостоянны? Нужны эмпатия, сострадание и мета-цели у AGI.