Рубрики
Статьи/Блог

Харари, ИИ, взлом человека

Харари на днях появился в эфире телепрограммы «60 минут» на канале CBS и снова высказал свои опасения: «…Возможно, самое большое и важное, с чем мы сталкиваемся сегодня, — это действительно своего рода эволюционное расхождение. В течение миллионов лет разум и сознание шли рука об руку. Сознание — это способность чувствовать такие вещи, как боль и удовольствие, любовь и ненависть. Интеллект — это способность решать проблемы. Но у компьютеров или ИИ нет сознания. У них просто есть интеллект. Они решают проблемы совершенно иначе, чем мы. Сейчас в научной фантастике часто предполагается, что по мере того, как компьютеры будут становиться все более и более интеллектуальными, они неизбежно также обретут сознание. Но на самом деле, гораздо страшнее то, что они смогут решать все больше и больше проблем лучше, чем мы, не имея никакого сознания, никаких чувств…»

«…Мы, возможно, последнее поколение Homo sapiens. Через один или два века на Земле будут доминировать организмы, которые так же сильно будут отличаться от нас, как мы отличаемся от неандертальцев или шимпанзе. Потому что в будущем мы научимся видоизменять наше тело, мозг и наш разум. И это станет главным продуктом экономики XXI столетия. Не материалы, не оружие, и не машины. А именно тело, человеческий мозг и разум. Скоро у нас будет возможность перестроить наши тела и мозг, будь то с помощью генной инженерии или путем прямого подключения мозга к компьютерам, или путем создания полностью неорганических сущностей, искусственного интеллекта, который вообще не основан на органическом теле и органическом мозге. И эти технологии развиваются с головокружительной скоростью…

…Одна из опасностей заключается в том, что в ближайшие десятилетия мы увидим процесс… большего неравенства, чем в любое предыдущее время в истории, потому что впервые это будет настоящее биологическое неравенство. Если новые технологии будут доступны только богатым или только людям из определенной страны, тогда Homo sapiens разделится на разные биологические касты, потому что у них будут действительно разные тела и — и разные способности…

…Люди в Кремниевой долине немного боятся своей собственной силы. Они осознали огромное влияние, которое они оказывают на мир, на протяжении всей эволюции. И я думаю, что это пугает, по крайней мере, некоторых из них. И это хорошо. И именно поэтому они в какой-то степени открыты для информации…

…Возможно, самое большое и важное, с чем мы сталкиваемся сегодня, — это действительно своего рода эволюционное расхождение. В течение миллионов лет разум и сознание шли рука об руку. Сознание — это способность чувствовать такие вещи, как боль и удовольствие, любовь и ненависть. Интеллект — это способность решать проблемы. Но у компьютеров или ИИ нет сознания. У них просто есть интеллект. Они решают проблемы совершенно иначе, чем мы. Сейчас в научной фантастике часто предполагается, что по мере того, как компьютеры будут становиться все более и более интеллектуальными, они неизбежно также обретут сознание. Но на самом деле, гораздо страшнее то, что они смогут решать все больше и больше проблем лучше, чем мы, не имея никакого сознания, никаких чувств…

…Сегодня в мире данные стоят гораздо больше, чем деньги. Десять лет назад крупные корпорации платили миллиарды и миллиарды за WhatsApp, за Instagram. И люди задавались вопросом: «Они что, сумасшедшие? Почему они платят миллиарды, чтобы получить это приложение, которое не приносит никаких денег?» И по какой причине? Потому что они производили данные. Мир все больше делится на сферы… сбора данных. Во времена холодной войны у вас был Железный занавес. Теперь у нас есть Кремиевый занавес между США и Китаем. И куда уходят эти данные? В Калифорнию или в Шэньчжэнь, Шанхай и Пекин?..

…Что такое биометрические данные? Это данные о том, что происходит внутри моего тела. До сих пор корпорации и правительства собирают данные о том, куда мы ходим, с кем встречаемся, какие фильмы смотрим. Следующий этап – наблюдение за тем, что происходит у нас под кожей. Фитнес трекер – это агент КГБ на вашем запястье. И он может приносить вам пользу. Я имею в виду, все дело в том, что это не просто антиутопия. Это и утопия в том числе. Я имею в виду, что такого рода данные также могут позволить нам создать лучшую систему здравоохранения в истории. Вопрос в том, что еще делается с этими данными? И кто за этим следит? Кто это регулирует?..

…Одно из ключевых правил заключается в том, что если вы получаете мои данные, они должны использоваться для того, чтобы помочь мне, а не для того, чтобы манипулировать мной. Еще одно ключевое правило: всякий раз, когда вы усиливаете наблюдение за отдельными лицами, вы должны одновременно усиливать наблюдение за корпорацией, правительствами и людьми на самом верху. И третий принцип заключается в том, что никогда не позволяйте всем данным быть сосредоточенными в одном месте. Это рецепт диктатуры…

…Netflix говорит нам, что смотреть, а Amazon — что покупать. В конце концов, через 10, 20 или 30 лет такие алгоритмы также могут сказать, чему учиться в колледже, где работать, за кого выйти замуж и даже за кого голосовать. Взломать человека — значит узнать его лучше, чем он сам себя знает. И исходя из этого, все больше манипулировать вами. У этой внешней системы есть потенциал запомнить все. Все, что вы когда-либо делали. А также анализировать и находить закономерности в этих данных и получать гораздо лучшее представление о том, кто вы есть на самом деле. Я стал геем, когда мне был 21 год. Мне, должно было быть очевидно, когда мне было 15, что я гей. Но что-то в сознании заблокировало это. Теперь, если вы подумаете о подростке сегодня, Facebook может узнать, что он гей, или Amazon может узнать, что он гей, задолго до того, как подросток это поймет сам, просто основываясь на анализе паттернов. Представьте, что через 20 лет, когда вся личная история каждого журналиста, каждого судьи, каждого политика, каждого военного офицера будет храниться кем-то в Пекине или в Вашингтоне? Ваша способность манипулировать ими не будет похожа ни на что в истории…

…Когда люди пишут код, они меняют политику, экономику, этику и структуру человеческого общества. Вы не думаете о программистах и инженерах, как о философах и поэтах, именно так о них и надо думать, потому что они все чаще решают философские и поэтические вопросы. Вы разрабатываете самоуправляемый автомобиль, а самоуправляемый автомобиль должен будет принимать этические решения. Как будто внезапно перед машиной выскакивает ребенок. И единственный способ… предотвратить наезд на ребенка — это свернуть в сторону и попасть под грузовик. И владелец самоуправляемого автомобиля, который спит на заднем сиденье, может быть… может быть убит. Вам нужно указать алгоритму, что делать в этой ситуации. Так что вам нужно на самом деле решить философский вопрос, кого убивать…

…Безусловно, сейчас мы находимся в точке, когда нам необходимо глобальное сотрудничество. Нельзя регулировать взрывную силу искусственного интеллекта только на национальном уровне. Я не пытаюсь предсказать, что произойдет. Я пытаюсь предупредить людей о наиболее опасных вариантах в надежде, что мы сделаем что-то в настоящем, чтобы предотвратить их…»

**