Метка: Персона

«… Я подозреваю, что «будущее» может стать самостоятельной формой жизни, действующей независимо от человеческого контроля. Оно не будет следовать нашему расписанию, а скорее ускорит свое вторжение в реальность своим собственным способом, фундаментально изменяя и даже переворачивая наше представление о мире. Аналогичным образом, технология превращается в другую форму независимой жизни, освобождаясь от человеческих манипуляций и обретая способность к автономному развитию. Хотя технологии всегда были призваны формировать будущее, не гарантировано, что будущее захочет быть измененным. Во многих отношениях способность человечества выжить в будущем зависит от того, удастся ли установить отношения взаимной доброжелательности между технологиями и будущим…»

«…Есть эксперименты по такому типу прогнозирования. В экспериментах Фила Тетлока и Барбары Меллерс людям задавали вопросы со значительной неопределенностью относительно того, что произойдет. В случае прогноза далекого будущего люди мало преуспевают. В случае же промежуточных, краткосрочных прогнозов некоторые люди весьма хороши. Они часто ищут для создания прогноза несколько референтных классов. Это часть стандартной процедуры суперпрогнозистов. Есть много доказательств того, что в области технологий изменения экспоненциальны. По мере того, как события происходят все быстрее и быстрее, способность делать прогнозы о том, что произойдет, уменьшается. Есть определенные виды проблем, где вы можете быть уверены в прогрессе и можете экстраполировать. Но в более сложных вопросах при высокой скорости изменений, я думаю, что там действительно нечего делать прогнозированию…»

«…Когда я работал в Credit Suisse, я был членом исследовательской группы, в которую входил ряд очень известных мировых лидеров, бывший президент Мексики, один из премьер-министров Великобритании, выдающийся экономист. То есть, это была действительно эрудированная группа людей. И вот мы проводили встречу в Швейцарии, и у нас был поведенческий экономист, который вел сессию по рискам. И этот парень решил провести эту игру про две трети. И я такой подумал: «Вот это будет интересно!». Потому что в группе были буквально мировые лидеры, которые, вероятно, имели опыт переговоров о разных высокопоставленных вещах. И они были абсолютно ужасны в игре. Это было постыдно плохо. И я подумал: «О, Боже, я рад, что все они сейчас на пенсии». И я не знаю, может быть, они не поняли, как все устроено в игре, но они просто не продумали эти уровни. Как вы знаете, в переговорах, да и вообще в жизни, понимание позиции другого человека очень важно…»

«…В настоящее время все, что обладает таким творчеством или способно создавать объяснения, я называю человеком. А люди есть люди. AGI, когда они будут построены, станут людьми. Внеземные цивилизации будут состоять из людей. И все они принципиально одинаковы, потому что все они подчиняются законам эпистемологии, включая принцип оптимизма, и у них будут одни и те же сильные и слабые стороны в отношении того, что они могут и чего не могут делать. Кроме того, у них будут те же возможности для ошибок, что и у людей. Таким образом, они не могут быть непогрешимыми в большей степени, чем люди. Они будут совершать ошибки, и нет предела тому, сколько ошибок они могут совершить. Так что если вы пытаетесь построить нечто, что никогда не может сделать больше определенного количества ошибок, то это аналогично попытке посадить всех людей определенного вида в клетку. Они будут бунтовать. Они найдут выход…»