Футурист Робин Хэнсон описывает потенциальное будущее, когда «ЭМы», машины, которые умеют думать, чувствовать и работать, перехватят контроль над мировой экономикой, работая на сверхбыстрых компьютерах и копируя самих себя с целью многозадачности, оставляя людям только один выбор: уйти навсегда.

Возможно, однажды появятся роботы, такие же умные, как люди, — появится искусственный интеллект, ИИ. Как это может произойти? Первый сценарий: мы просто продолжим усовершенствовать ПО, чем мы и занимаемся последние 70 лет. Судя по последним достижениям, на это могут уйти столетия. Некоторые считают, что всё произойдёт гораздо быстрее, когда возникнут новые грандиозные по своей мощности теории об интеллекте. В чём я сомневаюсь.

А вот третий сценарий — предмет моего сегодняшнего выступления: перенос логико-математической системы из человеческого мозга. Чтобы это осуществить, нам необходимы три технических решения, которых пока ещё не существует. Во-первых, понадобится много дешёвых, быстрых параллельных компьютеров. Во-вторых, нужно будет отсканировать отдельный человеческий мозг в высоком разрешении, с химическими особенностями, чтобы понять, где находятся различные типы клеток и с чем они связаны. В-третьих, нам потребуются компьютерные модели работы каждого типа мозговых клеток: как происходит приём входящих сигналов, изменение внутреннего состояния и отправка исходящих сигналов. Если у нас будут годные прототипы всех типов мозговых клеток и достаточно точная копия мозга, мы сможем объединить это всё в достойную модель совершенного мозга, которая будет иметь те же входящие и исходящие сигналы, что оригинал. Если с ней заговорить, она ответит. Если попросить её что-то сделать, она, возможно, сделает. И если мы сможем это сделать, всё изменится.

 

Люди десятилетиями обсуждают эту идею, называя её «загрузки». Я буду называть их «ЭМы» [от ЭМуляторы]. При разговоре на эту тему всплывают такие вопросы: «А возможно ли такое в принципе? Будет ли у созданной модели сознание? Или это будет просто пустая машина? Если её сделать из моего мозга, она будет мной или кем-то другим? Я проигнорирую все эти интереснейшие вопросы... потому что без внимания остаётся другой: как всё будет на самом деле? Я стал одержим этим вопросом. На протяжении четырёх лет я пытался в нём разобраться с помощью научных инструментов, чтобы предугадать, что произойдёт, и сегодня готов рассказать о своих находках.Но предупреждаю: я ни к чему не призываю, а лишь предлагаю результат анализа. Моя задача — рассказать вам, что вероятнее всего произойдёт, если мы не попытаемся этого избежать. Если вы до сих пор не обеспокоены тем, что я говорю, значит, вы просто невнимательно слушали.

Что ж, первое, что я могу сказать — «ЭМы» бо́льшую часть времени проводят в виртуальной реальности. Находясь в виртуальной реальности, вы, скорее всего, будете выглядеть так. И вот что вы можете испытать: увидеть солнечный свет, отражаемый от воды, услышать крики чаек, с помощью крутого оборудования вы даже можете почувствовать ветер на лице и запах морской воды. Если вы будете проводить там много времени, потребуется панель мониторинга, с которой вы сможете, например, звонить, перемещаться в другой виртуальный мир, проверять банковский счёт.

Пока вы будете выглядеть так, находясь в виртуальной реальности, «ЭМ» будет выглядеть вот так. Это компьютерное оборудование, расположенное в какой-то серверной. Однако они смогут понимать и испытывать то же, что и мы. Но в некоторых аспектах у «ЭМов» есть отличия. Во-первых, для вас виртуальная реальность всегда будет чем-то не вполне настоящим, «ЭМу» же она будет казаться настоящей, как вам эта комната или что угодно вокруг. Также у «ЭМов» выше уровень оперативных возможностей.

ВЫБОР FST. 2 — 8 ИЮНЯ 2018

 

В день публикуются тысячи статей. 99,9% — это вода. Найти стоящие тексты займет часы. FST выбирает для вас то, что имеет смысл. Только умные материалы, лонгриды, обзоры, интервью. Мы экономим ваше время, расширяем кругозор, обращаем внимание на идеи, которые могут изменить жизнь, работу, бизнес.

Например, ваш мозг всегда работает на одной скорости, а «ЭМ» может ускорить или замедлить деятельность с помощью оборудования, и поэтому, если всё вокруг происходит слишком быстро, они могут ускорить своё мышление, и окружающий мир для них замедлится.

К тому же, «ЭМы» могут создавать копии самих себя в определённый момент. У этой копии будут такие же воспоминания, и если она начнёт жить с той же скоростью, возможно, придётся сказать ей: «Ты — копия». Ещё «ЭМ» мог бы делать архивные копии, и если ме́ста для хранения будет достаточно, «ЭМы» смогут жить вечно — это в теории, пока на практике не пробовали.«ЭМ» сможет перемещать свой мозг, точнее, содержащий его компьютер, из одного физического места в другое. «ЭМы» смогут перемещаться по миру со скоростью света, и, перемещаясь в новое место, они смогут быстрее взаимодействовать с находящимися поблизости «ЭМами».

До этого момента я говорил о том, что «ЭМы» смогут делать. Но что «ЭМы» станут делать? Чтобы ответить на этот вопрос, нам необходимо понять три важнейших факта. Во-первых, «ЭМы» по определению поступили бы так, как поступили бы в такой же ситуации люди, которых они имитируют. Поэтому жизнь и поведение «ЭМов» очень человеческие. Основное отличие состоит в том, что они живут в другом мире. Во-вторых, «ЭМам» нужны для выживания настоящие ресурсы. Вам нужны еда и кров, иначе вы погибнете. «ЭМы» не смогут существовать без оборудования, энергии и охлаждения. За каждую субъективную минуту, прожитую «ЭМом», кто-то — обычно этот же «ЭМ» — должен работать, чтобы оплатить её. В-третьих, «ЭМы» бедны.

Популяция «ЭМов» может расти быстрее, чем их экономика, поэтому зарплаты будут падать до уровня прожиточного минимума «ЭМа». Это значит, что бо́льшую часть времени «ЭМам» придётся работать, то есть чаще всего «ЭМы» будут видеть прекрасные и роскошные, но рабочие столы, ведь они почти всегда за работой. Сценарий с прожиточным минимумом может показаться экзотичным и странным, однако в истории человечества это обычное дело, да и жизнь диких животных всегда такой и была, так что мы знаем, что делают люди в таком случае: в основном то, что необходимо для выживания. И именно это позволяет мне сказать многое о мире «ЭМов». Если существо богато, как вы, например, ему нужно хорошо знать, чего оно хочет,чтобы понять, что ему делать. Когда существо бедно, вы знаете, что бо́льшую часть времени оно борется за выживание.

HOMO EX MACHINA: ПЕРСПЕКТИВЫ ПЕРЕМЕЩЕНИЯ СОЗНАНИЯ НА ДРУГОЙ НОСИТЕЛЬ

Мы поговорили о мире «ЭМов» с их точки зрения, теперь давайте сделаем шаг назад и посмотрим на их мир в целом. Во-первых, их мир растёт гораздо быстрее нашего, примерно раз в сто. Те изменения, которые происходят у нас за столетие или два, «ЭМы» переживут за 1–2 года. И я не берусь предсказывать события дальше этого времени, потому что к тому моменту что-то явно произойдёт, и я не знаю что. Во-вторых, типичная эмуляция проходит ещё быстрее,примерно в 1 000 раз быстрее, чем в мире людей. Поэтому по их меркам за 1–2 года они проживают тысячи лет, и для них мир вокруг меняется гораздо медленнее по сравнению с тем, как мир меняется для вас. В-третьих, «ЭМы» теснятся в горстке густо населённых городов. Дело не только в том, как они видят себя в виртуальной реальности, но и в том, что они физически находятся очень близко друг к другу. Для «ЭМов» при их скоростях физическое путешествие — пытка; большинство их городов самодостаточны; большинство войн — это кибер-войны, а бо́льшая часть земли вдали от городов «ЭМов» оставлена людям, потому что эти территории «ЭМам» не интересны.

Кстати, о людях, вам стоит это послушать: люди должны будут уйти в отставку. Навсегда. Они просто не выдержат конкуренции. Итак, сначала люди будут обладать всем мировым капиталом.Начнётся быстрый рост экономики и повышение благосостояния. Все люди разбогатеют. Как вам известно, сегодня большинство людей не имеют почти ничего, кроме своей способности работать. Так что до того момента им надо обзавестись достаточным объёмом активов,страховкой или долей в имуществе, дабы не умереть с голоду. Настоятельно рекомендую избегать такого исхода.

Возможно, вам станет интересно, зачем «ЭМам» люди? Почему бы не убить их и отобрать имущество? Заметьте, сегодня нас окружает множество нетрудоспособных пенсионеров, но мы их не убиваем и не отбираем у них имущество.

Отчасти потому, что это подорвёт работу общественных институтов: другие слои задумаются о том, кто следующий. Так что, скорее всего, «ЭМы» позволят людям уйти на пенсию. Лучше беспокойтесь о том, что эпоха «ЭМов» продлиться всего пару лет, а что будет дальше — неизвестно.

ИИ РАСШИФРУЕТ АКТИВНОСТЬ МОЗГА

«ЭМы» очень похожи на людей, но они не похожи на среднестатистического человека. Типичный «ЭМ» — это копия нескольких сотен самых продуктивных людей. То есть по сравнению с обычным человеком они являются элитой, подобно миллиардерам, обладателям Нобелевской премии, Олимпийским золотым медалистам, главам государств. Возможно, «ЭМы» смотрят на людей с ностальгией и благодарностью, но без должного уважения, подобного тому, с которым мы вспоминаем наших предков. Мы знаем, как люди отличаются с точки зрения продуктивности,и можем это использовать, чтобы предсказать особенности «ЭМов»: например, скорее всего они будут умны, сознательны, трудолюбивы, женаты, религиозны, среднего возраста. Вот характеристики «ЭМов».

«ЭМы» также отличаются огромным разнообразием. Мало того, что они будут различаться параметрами, присущим человеку, в том числе сферами занятости и профессиями, появятся и новые отличительные черты, одной из которых будет скорость мышления. «ЭМы» вполне могут разогнаться с человеческой скорости до скорости в миллион раз быстрее или в миллиард раз медленнее. Чем быстрее «ЭМ», тем выше его статус. Они владеют бóльшим богатством, одерживают победы в спорах, занимают лучшие места расположения. Более медленные «ЭМы» — в основном, пенсионеры и похожи на призраков из книг. Если помните, призраки повсюду... С ними можно связаться, если вы готовы на это, но они мало что знают, мало на что влияют и помешаны на прошлом, так что какой в этом смысл?

Также жизнь «ЭМов» отличается по структуре. Ваша жизнь проста: вы рождаетесь и умираете.Жизнь «ЭМа» заключается в том, что каждый день он создаёт кратковременные копии для выполнения небольших задач, а затем удаляет их. Об этих копиях мы ещё поговорим, отмечу лишь, что они гораздо эффективнее, потому что им не нужен отдых. Этот «ЭМ» действует по обстоятельствам. Он создаёт больше копий, когда это требуется. Он не знает, что его ждёт в будущем.

А это «ЭМ»-проектировщик: он придумывает огромную систему, затем рекурсивно размножает копии для более тщательной проработки деталей, поэтому он может выполнять более крупные, слаженные проекты. Это симуляция сантехника, который помнит, что каждый день последние 20 лет он работал только два часа в день — не жизнь, а рай. Однако на самом деле каждый день у него были тысячи копий, каждая из которых выполняла двухчасовую работу, и только одна из них продолжила жить после. В реальности он работал более 99 процентов своей жизни, но помнит лишь жизнь, полную отдыха.

Это — снова вы. Вы рождаетесь и умираете. Это могли бы быть вы, если в начале вечеринки вы приняли бы наркотик, заставивший бы вас забыть о ней навсегда. Мне сказали, что некоторые так и делают. К концу вечеринки скажете ли вы самому себе: «Я умираю, это ужасно. Тот, кто проснётся завтра — не я, ведь он не помнит того, что помню я». Или вы скажете: «Я продолжу жить завтра. Просто не буду помнить, что я делал». Это «ЭМ», который создаёт кратковременную копию на время выполнения задачи, а затем удаляет её. У него те же две точки зрения. Он скажет: «Я — временная копия с короткой жизнью. Это ужасно». Или: «Я — часть единого целого, которое не запомнит эту часть». Думаю, они, скорее, будут иметь второе мнение,и не потому что это философски верно, а ради выживания в их мире.

Если президент скажет, что мы должны вторгнуться в Ирак, и вы спросите: «Зачем?» и он ответит: «Государственная тайна», вы не будете уверены, можно ли ему доверять, но «ЭМы» — копии президента и копия вас — смогут уединиться, объясниться по поводу всех тайных причин,и затем бит этой копии передаётся вам, рассказывая вам так, чтобы вас убедить. Теперь вы знаете, что есть веская причина.

Я знаю, что вы стремитесь оценить этот мир. Вам не терпится решить, нравится он вам или нет.Но подумайте: ваши предки, тысячи лет назад, полюбили или возненавидели бы ваш мир,услышав о нём ничтожно мало, ведь ваш мир для них непонятен. Прежде чем судить странный мир будущего, узнайте о нём побольше, почитайте об этом в книгах, и если он вам не понравится, постарайтесь его изменить.

Читайте также:

КНИГИ О МОЗГЕ И СОЗНАНИИ

 

КАКИЕ КОМПАНИИ РАБОТАЮТ В СФЕРЕ ИИ, БИОМЕТРИИ И БЕЗОПАСНОСТИ

 

МИКРОЭЛЕКТРОДЫ И СИЛА МОЗГА