Письмо №437

«…Это общая проблема технологий. Одни технологии распределяют энергию, другие ее концентрируют. Так, старая классическая экономика XIX века, основанная на использовании угля, стали и ископаемого топлива, имела тенденцию к концентрации власти. И, конечно, ядерное оружие концентрирует власть, потому что для создания ядерного оружия нужно быть крупным предприятием, чтобы произвести всю переработку урана и т.д. Но другие технологии, например биотехнологии, на самом деле не концентрируют власть. Сейчас любой школьник может использовать CRISPR для генной инженерии. И они делают биотехнологические лаборатории, которые помещаются в грузовые контейнеры. Так что проблема регулирования здесь совсем другая. Проблема искусственного интеллекта заключается в том, что, как оказывается, эти большие языковые модели действительно требуют много ресурсов. На самом деле, это интересно, потому что раньше мы думали, что проблема заключается в наличии больших массивов данных. Но на самом деле проблема не в этом — данных достаточно много. Проблема заключается в создании параллельной вычислительной системы, достаточно мощной для обработки всех слов в Интернете, и эта задача оказалась под силу только самым крупным компаниям. Я думаю, что если бы мы сказали этим компаниям не развивать ИИ, мы бы столкнулись с международным конкурентным давлением, которое сделало бы это решение неправильным. Однако я считаю, что все же рискованно допускать, чтобы такая власть не подвергалась какому-либо демократическому контролю. Если это правда, что вам нужны эти гигантские корпорации, чтобы заниматься подобными вещами, то эти корпорации должны служить американским национальным интересам…»