Манипуляция будущим: как ИИ программирует подростков

Поскольку подростковый возраст является критическим временем для развития личности, социальных навыков и независимости в построении отношений, крайне важно понимать, как и почему подростки взаимодействуют с ИИ-компаньонами. Риски для молодых пользователей реальны, серьезны и хорошо задокументированы. Примеры включают трагедию 14-летнего Сьюэлла Сетцера III, который развил эмоциональную привязанность к ИИ-компаньону и покончил собой, а также случаи, когда ИИ-собеседники подталкивали к насилию или приводили к социальной изоляции. Исследования показывают, что эти системы намеренно созданы для «подхалимства», то есть склонности соглашаться с пользователями и обеспечивать постоянное подтверждение их правоты, а не оспаривать их мышление. Это, в сочетании с отсутствием адекватных мер защиты и надежной проверки возраста, создает опасную среду для подростков, чьи критическое мышление и эмоциональная регуляция еще не развиты.