Опасность сверхчеловеческого ИИ — не в том, что вы думаете

«…Это массовое уничтожение наших человеческих способностей и уменьшение нас самих, чему мы должны сопротивляться. Разве вы не больше, чем работа, которую вы выполнили сегодня? Разве вы менее человечны или менее умны, если проводите свои рабочие часы, занимаясь делами, у которых нет четко определенных «решений», которые не являются задачами, которые можно вычеркнуть из списка, и которые не имеют рыночной цены? Как только вы свели понятие человеческого интеллекта к тому, за что заплатят рынки, то внезапно все, что требуется для создания интеллектуальной машины — даже сверхчеловеческой, — это сделать что-то, что генерирует экономически ценные результаты со скоростью и средним качеством, превышающими ваши собственные экономические результаты. Все остальное не имеет значения. По мере того как идеология, лежащая в основе этой приманки, просачивается в широкую культуру, она медленно разъедает наше собственное самопонимание…»