Метка: ИИ

«…Мы часто думаем о том, как антиутопическая история может повлиять на людей. Многие люди, которые пишут антиутопические истории или снимают фильмы такого рода, считают, что они делают эти истории, чтобы отговорить людей от реализации этого будущего. С другой стороны, если вы посмотрите «Бегущего по лезвию», вы подумаете, что это может выглядеть довольно круто, и, возможно, это заставит вас смириться с антиутопическим будущим в такой его вариации. Мы еще не очень хорошо понимаем эти вещи. Я считаю, что это огромная область исследований — думать о том, как нарративы формируют человеческое поведение. Я думаю, что люди начинают понимать, что нам нужно рассказывать хорошие более оптимистичные истории. Я надеюсь, что мы будем рассказывать истории, включающие будущее, в котором человечество отправится в космос и узнает о других планетах нашей Солнечной системы столько же, сколько мы узнали об этой…»

«…Давайте представим, что мы создаем систему искусственного интеллекта, которая изучает поведение людей и выявляет слабые места. Скажем, например, что я доверяю некоему человеку: что бы вы ни говорили, я сначала вам поверю. Это называется эффектом привязки. И давайте представим, что компьютерная система может определить, как привязать меня ко лжи. Нынешняя проблема дезинформации будет детской игрой по сравнению с множеством людей, пытающихся манипулировать моим впечатлением об окружающем мире с помощью этой технологии. Это проблема, которую нужно решить. Мы все в сети. Все эти системы будут изучать то, что нас волнует, но тогда нами можно будет манипулировать. Это будет иметь такое же большое влияние, как и обсуждения, которые мы ведем, например, в условиях конфликта…»