Письмо №594

Идея о том, что искусственный интеллект является нейтральным инструментом вроде молотка или парового двигателя, оказалась глубоким заблуждением. На деле ИИ — это «механизированная традиция» и культурная технология, которая впитывает в себя ценности, предрассудки и историю того общества, где она была создана. Поскольку нейросети обучаются на текстах, написанных людьми, они не просто перерабатывают информацию, а зеркально отражают душу своих создателей. В результате мир раскалывается на несколько технологических «цивилизаций», каждая из которых закладывает свои правила жизни в программный код. Мы вступаем в эпоху, когда война ведется не только за территории, но и за то, чьи ценности будут «прошиты» в мозг машин, которые станут управлять нашими городами, армиями и даже мыслями.