Какими будут последствия решений, принятых сегодняшними исследователями в области искусственного интеллекта и робототехники, которым все легче выбирать между расширением возможностей и заменой «человека в контуре управления» в создаваемых системах и продуктах?
Джон Маркофф
 
Machines of Loving Grace: The Quest for Common Ground between Humans and Robots.
 
Homo Roboticus? Люди и машины в поисках взаимопонимания. Альпина нон-фикшн, 2016
 
***
 

От издателя

Хотим мы этого или нет, но скоро нам придется сосуществовать с автономными машинами. Уже сейчас мы тратим заметную часть времени на взаимодействие с механическими подобиями людей в видеоиграх или в виртуальных системах - от FAQbots до Siri. Кем они станут - нашими слугами, помощниками, коллегами или хозяевами?

Автор пытается найти ответ на философский вопрос о будущих взаимоотношениях людей и машин и представляет читателям группу компьютерщиков, программистов, робототехников и нейробиологов, считающих, что мы подходим к переломному моменту, когда искусственный интеллект превзойдет человеческий и наш мир безвозвратно изменится. Однако место человека в этом новом мире специалисты видят по-разному, и автор знакомит нас со всем спектром мнений.

Центральная тема книги - двойственность и парадоксальность, присущие деятельности разработчиков, которые то расширяют возможности человека, то заменяют людей с помощью создаваемых систем.

 
***
 

Отрывок из книги

 

Предисловие

Как-то весной 2014 г. я припарковался у небольшого кафе возле поля для гольфа в Стэнфорде. Рядом остановилась Tesla, и женщина, сидевшая за рулем, достала сумку для клюшек. Потом она повернулась и пошла к полю для гольфа, а сумка последовала за ней — сама. Я был поражен, но запрос «роботы — сумки для клюшек» в Google показал, что в таком помощнике нет ничего необычного. Робот — сумка для клюшек CaddyTrek стоимостью $1795 — всего лишь один из множества предметов роскоши, которые можно увидеть в наше время на поле для гольфа в Кремниевой долине.

Роботы все прочнее входят в нашу повседневную жизнь. Дешевые датчики, мощные компьютеры, программы искусственного интеллекта делают их все более самостоятельными. Они помогают нам, они заменяют нас. Они преобразуют здравоохранение и уход за пожилыми точно так же, как это произошло с характером боевых действий. Вместе с тем, хотя роботы не один десяток лет фигурируют в литературе и кинематографе, мы не готовы к появлению нового мира.

Присоединяйся к FastSaltTimes в FacebookВконтактеТелеграмTwitter

Идея этой книги зародилась в 1999–2001 гг., когда я брал интервью, превратившиеся в конце концов в книгу «Что сказал Соня: Как контркультура шестидесятых сформировала индустрию персональных компьютеров» (What the Dormouse Said: How the Sixties Counterculture Shaped the Personal Computer Industry). Мое первоначальное исследование походило на упражнение по изложению «автобиографии в обратном порядке». Я рос в Пало-Альто — городе, который стал впоследствии сердцем Кремниевой долины — в 1950-х гг. и первой половине 1960-х гг., но уехал в решающее десятилетие, когда соединение компьютерных и коммуникационных технологий заложило фундамент индустрии персональных компьютеров и современного интернета.

Вернулся я в момент зарождения компьютерной эры, которая вскоре захватила мир, преобразуя все, что она затрагивала. Годы спустя, собирая материалы для «Сони», я обратил внимание на поразительное расхождение намерений разработчиков первых интерактивных компьютерных систем. В начале века информации будущее компьютерной индустрии находилось в руках двух независимых исследователей. Их лаборатории располагались примерно на одном расстоянии от кампуса Стэнфордского университета. В 1964 г. математик и специалист по информатике Джон Маккарти, придумавший термин «искусственный интеллект», начал разрабатывать технологии для воссоздания человеческих способностей. Он полагал, что этот проект можно завершить всего лишь за десятилетие.

В это же время по другую сторону от кампуса Дуглас Энгельбарт, мечтавший усовершенствовать мир, считал, что компьютеры следует использовать для «усиления» или расширения способностей человека, а не для его копирования или замены. Он занялся созданием системы, которая позволяла бы небольшим группам работников умственного труда быстро увеличивать интеллектуальные возможности и трудиться совместно. Если один исследователь пытался заменить человека умными машинами, то другой стремился расширить возможности человека. Конечно, в целом такое расхождение характеризуется и двойственностью, и парадоксальностью. Парадокс заключается в том, что технологии, которые расширяют интеллектуальные возможности человека, могут и заменять его.

В этой книге я попытался показать подходы ученых, инженеров и программистов к решению вопросов углубления взаимосвязи человека и машины. Иногда разработчики стараются не задумываться о парадоксальности связи между искусственным интеллектом и усилением интеллекта. Нередко все сводится к экономическим аспектам. Сейчас быстро растет спрос на роботов с возможностями, значительно превосходящими возможности промышленных роботов прошедшего полувека. Даже в таких уже в высокой степени автоматизированных отраслях, как сельское хозяйство, новое поколение сельскохозяйственных роботов управляет тракторами и уборочными машинами, занимается орошением, уничтожением сорняков, ведет наблюдение с воздуха и в целом увеличивает продуктивность ферм.

Немало случаев, когда ученые всерьез задумываются об этом парадоксе, и многие из них решительно встают на сторону Энгельбарта. Например, исследователь из компании Microsoft Эрик Хорвиц, доктор медицины и в прошлом президент Ассоциации развития искусственного интеллекта, который не один десяток лет работает над системами для расширения возможностей человека при работе в офисе. Он создал роботов с функциями секретарей, выполняющих такие задачи, как отслеживание календарных графиков, встреча посетителей и контроль соблюдения режима работы. Он создает машины, которые одновременно расширяют возможности человека и заменяют его.

Другие, подобно уроженцу Германии Себастьяну Труну, исследователю искусственного интеллекта и специалисту в области робототехники (а также соучредителю компании дистанционного образования Udacity), выстраивают мир, наполненный автономными машинами. Как основатель проекта Google car, Трун возглавлял разработку технологии беспилотного транспорта, который когда-нибудь заменит миллионы водителей. В обоснование необходимости таких нововведений он указывает, сколько жизней будет спасено и как снизится травматизм.

КАК ВНЕДРЯЮТ ИИ В СМАРТФОНЫ. ТРЕНДЫ ОТ ЛИДЕРОВ ОТРАСЛИ

Центральная тема этой книги — двойственность и парадоксальность, присущие деятельности разработчиков, которые то расширяют возможности человека, то заменяют людей с помощью создаваемых систем. Нагляднее всего это проявляется в контрастирующих философиях Энди Рубина и Тома Грубера. Рубин был первым архитектором империи роботов Google, а Грубер — ключевой разработчик Siri, интеллектуального помощника Apple. Оба они входят в число самых ярких представителей Кремниевой долины, и их проекты основываются на работе предшественников: Рубин — отражение Джона Маккарти — стремится к замене людей, а Грубер — последователь Дуга Энгельбарта, старающийся расширить возможности человека.

Сегодня и робототехника, и программы для искусственного интеллекта все более и более вызывают воспоминания о начале эры персональных компьютеров. Как и увлеченные своим делом люди, создавшие в свое время индустрию персональных компьютеров, разработчики искусственного интеллекта и робототехники одержимы техническим прогрессом, новыми продуктами и передовыми компаниями.

Вместе с тем многие из разработчиков программного обеспечения и инженеров-робототехников чувствуют себя неловко, когда встает вопрос о потенциальных последствиях их изобретений, и нередко просто отшучиваются. Этот вопрос, однако, очень важен. Не существует «слепого часовщика» (аллегория, использованная Ричардом Докинзом, английским биологом и по- пуляризатором науки, для обозначения слепого естественного отбора), определяющего эволюцию машин. Куда мы пойдем — в сторону расширения возможностей человека или замены его автоматами — зависит от решений конкретных разработчиков.

Легко, конечно, представить одну группу как героев, а другую — как злодеев, но последствия слишком многогранны, чтобы делить все на черное и белое. Это лишь два полярных видения перспектив искусственного интеллекта и робототехники, а между ними лежит будущее, которое может вести к утопии, антиутопии или еще бог знает куда. Стоит ли добиваться повышения уровня жизни и избавления от тяжелой работы, если это также означает отказ от свободы и неприкосновенности частной жизни? Существуют ли правильный и неправильный подходы к разработке этих систем? Я думаю, что ответ зависит от самих разработчиков. Одна группа создает мощные машины, которые позволяют людям выполнять то, что ранее казалось немыслимым, вроде роботов для исследования космоса, а другая пытается заменить людей машинами, как это делают создатели искусственного интеллекта, позволяющего роботам выполнять работу врачей и адвокатов.

Важно, чтобы эти два лагеря не теряли контакта друг с другом. То, как мы разрабатываем все более автономные машины и взаимодействуем с ними, определяет характер нашего общества и экономики. От этого все в большей мере зависит каждый аспект современного мира, начиная с того, будем ли мы жить в более или менее стратифицированном обществе, и заканчивая тем, какой смысл мы будем вкладывать в понятие «человек».

Соединенные Штаты находятся в самом центре вновь вспыхнувшего спора о последствиях развития искусственного интеллекта и робототехники и их влиянии на занятость и качество жизни. Мы живем в удивительное время — автоматизация поражает ряды рабочих мест белых воротничков с такой же стремительностью, как она изменяла заводские цеха в начале 1950-х гг.

Но возобновление «великого спора об автоматизации» спустя полвека после его начала напоминает сцены из фильма «Расёмон»: все видят одно и то же, но интерпретируют по-разному, кому как выгоднее. Несмотря на все более громкие предупреждения о страшных последствиях компьютеризации, количество работающих американцев продолжает расти. Аналитики на основании одних и тех же данных Бюро трудовой статистики предрекают одновременно и глобальное сокращение числа рабочих мест, и новый трудовой ренессанс. Независимо от того, что происходит с живым трудом, исчезает он или видоизменяется, ясно одно — новая эра автоматизации оказывает глубокое влияние на общество. Менее понятно, несмотря на огромное количество сказанного и написанного, куда в действительности идет технологическое общество.

У тех немногих, кто имел дело с огромными мейнфреймами выпуска 1950-х и 1960-х гг., нередко возникало ощущение зловещего контроля с их стороны. В 1970-х гг. появились персональные компьютеры, которые стали восприниматься как нечто более дружественное, — их можно было потрогать, а значит, и управлять ими. Сегодня мы являемся свидетелями рождения «интернета вещей», и компьютеры вновь начинают «исчезать», становясь частью предметов повседневного пользования, которые в результате приобретают магические свойства — детекторы дыма умеют говорить и слышать, телефоны, аудиоплееры и планшеты имеют более значительные возможности, чем суперкомпьютеры всего несколько десятилетий назад.

ICO ДЛЯ "ЧАЙНИКОВ": КТО, КАК И НА ЧТО ПОХОЖЕ

Со «сплошной компьютеризацией» мы вошли в век умных машин. В ближайшие годы искусственный интеллект и робототехника изменят мир сильнее, чем персональные компьютеры и интернет за прошлые три десятилетия. Автомобили будут ездить сами, а роботы возьмут на себя работу служащих FedEx и, конечно, врачей и адвокатов. Новая эра сулит нам огромные физические и вычислительные возможности, однако вновь ставит вопрос, впервые возникший больше 50 лет назад: кто кого будет контролировать, мы эти системы или они нас?

Джордж Оруэлл сформулировал этот вопрос предельно красноречиво. Его роман «1984» известен описанием государства тотального надзора, но там есть также идея о том, что государственный контроль можно осуществлять, сжимая письменную и устную речь, чтобы было труднее выражать и, соответственно, воспринимать альтернативные идеи. Оруэлл ввел в обращение вымышленный язык, «новояз», который эффективно ограничивал свободу мысли и самовыражения.

Имея интернет с его миллионами каналов, мы на первый взгляд сегодня как никогда далеки от оруэлловского кошмара, однако все чаще умные машины принимают решения за нас.

Если бы такие системы просто давали советы, вряд ли это можно было бы считать «контролем» в оруэлловском смысле. Но так превозносимый в наши дни мир «больших данных» сделал интернет совсем не таким, каким он был всего десятилетие назад. Интернет расширил сферу использования компьютерной техники и начал трансформировать нашу культуру.

Фактически мы получаем неооруэлловское общество с более мягкой формой контроля. Интернет несет с собой беспрецедентные свободы и одновременно, как это ни парадоксально, выводит контроль и надзор далеко за пределы того, что предполагал Оруэлл. Каждый шаг и каждое высказывание теперь отслеживаются и регистрируются если не Старшим братом, то растущей армией коммерческих «младших братьев».

Интернет стал всепроникающей технологией, которая касается каждого аспекта нашей культуры. Сегодня смартфоны, ноутбуки и настольные компьютеры слушают нас вроде бы по нашему желанию, а их камеры наблюдают за нами, надо думать, с лучшими намерениями. Нарождающийся «интернет вещей» вводит в наши дома незаметных, всегда находящихся в состоянии готовности и, наверное, полезных роботов, подобных Echo компании Amazon и Jibo Синтии Бризил.

Будет ли мир, за которым присматривают те, кого поэт 1960-х Ричард Бротиган назвал «машинами благодати и любви», свободным? Свободным в смысле «свободы слова», а не «бесплатного пива». Лучший способ получить ответ на вопрос о контроле в мире, полном умных машин, — понять ценности тех, кто фактически создает эти системы.

В Кремниевой долине среди оптимистически настроенных специалистов популярно мнение, что сочетания силы инноваций и закона Мура — удвоения вычислительной мощности каждые два года — достаточно для объяснения технического прогресса. Мало кто задумывается о том, почему одна технология берет верх над другими или почему та или иная технология появляется в определенный момент. Это представление — полное отрицание того, что социологи называют «социальным конструированием технологии», т.е. понимания того, что мы формируем наши методы, а не они нас.

Мы уже не один век сосуществуем с машинами вроде экскаватора, которые заменяют работников физического труда, но умные машины, приходящие на смену белым воротничкам и работникам умственного труда, — явление новое. Информационные технологии не просто заменяют людей, они демократизируют определенные процессы. Использование персонального компьютера не только позволяет обходиться без секретаря. Интернет и сеть значительно уменьшили стоимость, например, новостных изданий, они не только полностью изменили издательский процесс, но и коренным образом трансформировали сбор информации и представление новостей. Аналогичным образом технологии коррекции тона позволяют петь любому, просто нажав на кнопку, без обучения, а множество компьютеризированных музыкальных систем дают возможность каждому желающему стать композитором и музыкантом.

АЭРОФЕРМЫ – БЕЗ ЗЕМЛИ И СОЛНЦА

От того, какими будут эти системы, зависит, что нас ждет — невиданный ренессанс или нечто мрачное, мир, где профессии людей будут полностью переданы машинам. Идеи Маккарти и Энгельбарта привели к началу новой эры, в которой компьютеры должны преобразовать экономику и общество в такой же мере, в какой это сделала промышленная революция.

Недавние эксперименты с гарантированным «базовым доходом» для беднейшей части мира также могут пролить свет на будущее работы в условиях наступления блистательных машин. Результаты этих экспериментов оказались поразительными, поскольку они опровергли широко распространенную идею о том, что экономическая защищенность подавляет желание работать.

Эксперимент в нищей индийской деревушке в 2013 г., гарантировавший удовлетворение базовых потребностей, дал противоположный результат. Бедные не расслабились, получив правительственные субсидии, а стали более ответственными и эффективными. Не исключено, что у нас скоро появится возможность провести такой же эксперимент в промышленно развитых странах. Идея обеспечения базового дохода уже включена в политическую повестку дня в Европе. Эта идея, родившаяся в 1969 г. в администрации Никсона в форме отрицательного подоходного налога, в настоящее время политически неприемлема в Соединенных Штатах. Однако ситуация быстро изменится, если технологическая безработица распространится достаточно широко.

Что произойдет, если наша рабочая сила больше не будет нужна? Что, если рабочие места складских рабочих, мусорщиков, врачей, адвокатов и журналистов займут роботы? Конечно, никто не знает, каким именно окажется будущее, но, на мой взгляд, общество увидит, что у людей внутренне заложено желание работать или иным образом производить что-то, имеющее ценность. Новая экономика создаст рабочие места, которые невозможно представить себе сегодня.

Писатели-фантасты, впрочем, уже хорошо поработали в этой области. Почитайте «Мать штормов» (Mother of Storms) Джона Барнса или «Аччелерандо» (Accelerando) Чарли Стросса, чтобы представить, как может выглядеть экономика будущего. Простой ответ заключается в том, что творческий потенциал человека безграничен, и если о наших базовых потребностях будут заботиться роботы и искусственный интеллект, то мы найдем возможности развлекаться, учиться и заботиться друг о друге новыми способами. Ответы могут быть туманными, но вопросы становятся все более четкими. Кем будут эти взаимодействующие с нами и заботящиеся о нас интеллектуальные машины — нашими союзниками или поработителями?

ТАЙЛЕР КОУЭН. СРЕДНЕГО БОЛЕЕ НЕ ДАНО. ОТРЫВОК ИЗ КНИГИ

В этой книге я представляю читателям разнородную группу специалистов по информатике, программистов, робототехников и нейробиологов. Все они считают, что мы подходим к переломному моменту, за которым нас ждет мир машин, заменяющих людей и даже превосходящих их по некоторым качествам. Они предлагают целый спектр мнений о нашем месте в этом новом мире.

В первой половине нынешнего столетия обществу придется принять трудные решения относительно умных машин, которые могут потенциально быть нашими слугами, партнерами или хозяевами. На заре компьютерной эры в середине прошлого столетия Норберт Винер предупреждал о потенциальных последствиях автоматизации. «Мы можем быть смиренными и спокойно жить в окружении машин-помощников, — писал он, — или проявить самонадеянность и погибнуть».

Это предупреждение по-прежнему актуально.

Джон Маркофф Сан-Франциско, Калифорния Январь 2015 г.  

Глава 1

Выбор направления — человек или машина

К тому времени как Билл Дюваль бросил колледж, он уже был классным программистом. Довольно быстро Дюваль подключился к разработке Shakey, шестифутового робота на колесах. Звездный час Shakey наступил в 1970 г., когда журнал Life назвал его первой «электронной личностью». Если взять для сравнения персонажей саги «Звездные войны», то Shakey попадал скорее в категорию мобильных роботов R2-D2, чем человекоподобных C-3PO. В принципе это был электронный агрегат с датчиками и электроприводом на колесах, управляемый сначала по проводам, а позднее по радио расположенным неподалеку мейнфреймом.

Shakey не был первым в мире мобильным роботом, но его создавали как первого по-настоящему автономного робота. В рамках одного из первых экспериментов в области искусственного интеллекта Shakey должен был анализировать окружающую обстановку, планировать собственные действия и выполнять задания. Он мог находить и двигать предметы или перемещаться по заданному маршруту в своем очень структурированном мире. К тому же как предвестник будущего он играл роль прототипа гораздо более перспективных машин, которые должны были жить, выражаясь военным языком, во «враждебной обстановке».

Хотя этот проект сейчас почти забыт, создатели Shakey впервые применили компьютерные технологии, которыми сегодня пользуются более миллиарда человек. Навигационные программы, применяемые повсеместно — от автомобилей до смартфонов, строятся на принципах, разработанных создателями Shakey. Их алгоритм A* — самый известный способ нахождения кратчайшего пути между двумя пунктами. Ближе к концу проекта в числе исследовательских задач появилось управление речью, и сегодняшний сервис Siri компании Apple — отдаленный потомок машины, начавшей жизнь как совокупность исполнительных механизмов и датчиков.

СОЗДАТЕЛЬ ROOMBA: ПОЧЕМУ ДОМАШНИЕ РОБОТЫ СТАНУТ НЕВИДИМЫМИ

Дюваль вырос на полуострове к югу от Сан-Франциско и был сыном физика, участвовавшего в разработках военного назначения в Стэнфордском исследовательском институте, где находился Shakey. Он прошел все курсы программирования, которые предлагал Калифорнийский университет в Беркли в середине 1960-х гг. Через два года Дюваль бросил учебу в университете, чтобы присоединиться к команде, где работал его отец, и оказался в нескольких милях от кампуса Стэнфорда в замкнутой группе избранных, для которых мейнфрейм был эквивалентом первобытного божества.

Для молодого человека, одержимого вычислительной техникой, Стэнфордский исследовательский институт, вскоре переименованный в SRI International, открывал ворота в мир, где высококвалифицированные программисты создавали изящные программы для машин. В 1950-х гг. в SRI разработали первые компьютеры для обработки чеков. Дювалю поручили автоматизацию операций одного из английских банков, но тот был поглощен другим банком, и проект заморозили на неопределенное время. Дюваль превратил неожиданный перерыв в свой первый отпуск в Европе, а затем направился в Менло-Парк, чтобы возобновить роман с компьютерами в команде исследователей искусственного интеллекта, занимавшихся Shakey.

Как и многие другие программисты, Дюваль был одиночкой. В средней школе за десятилетие до выхода в свет фильма «Уходя в отрыв» (Breaking Away) он вступил в местный велосипедный клуб и колесил на байке по холмам за Стэнфордом. В 1970-х гг. этот фильм изменил отношение американцев к велогонкам, но в 1960-е гг. они все еще были богемным спортом, привлекавшим разного рода индивидуалистов и белых ворон. Это вполне подходило Дювалю. До поступления в среднюю школу он учился на полуострове в альтернативном учебном заведении, где считали, что дети должны обучаться в процессе практической деятельности и в соответствии с собственным темпом. Одним из его учителей был Айра Сандперл, ученик Ганди, завсегдатай книжного магазина Кеплера возле кампуса Стэнфорда. Именно Сандперл, в число подопечных которого входила также Джоан Баэз, привил Дювалю независимый взгляд на знания, учебу и мир в целом.

Дюваль был представителем первого поколения асов в сфере программирования, небольшой группы со своей субкультурой, которая зародилась в Массачусетском технологическом институте, где работа на компьютере была самоцелью, где свободно распространялись знания и коды, необходимые для оживления машин. Эта культура быстро распространилась по Западному побережью, где она пустила корни в центрах компьютерных разработок вроде Стэнфорда и Калифорнийского университета в Беркли.

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В ТЯЖЕЛОЙ ПРОМЫШЛЕННОСТИ

В ту эпоху компьютеры были невероятной редкостью — гигантскими машинами могли похвастаться лишь банки, университеты и финансируемые правительством исследовательские центры. В SRI Дюваль получил неограниченный доступ к машине размером с комнату, которую когда-то приобрели для элитного финансируемого военными проекта, а затем стали использовать для управления Shakey. В SRI и в расположенной рядом Стэнфордской лаборатории искусственного интеллекта (Stanford Artificial Intelligence Laboratory — SAIL), прятавшейся в холмах за Стэнфордским университетом, существовала тесно связанная группа исследователей, уже тогда веривших в возможность создания машины, обладающей способностями человека. Для членов этой группы Shakey был прообразом будущего, и они верили, что всего через несколько лет научный прорыв позволит машинам действовать подобно людям.

Тогда, в середине 1960-х гг., в небольшом сообществе исследователей искусственного интеллекта на обоих побережьях царил фактически безграничный оптимизм. В 1966 г., когда SRI и SAIL в Калифорнии уже работали над созданием роботов и программ искусственного интеллекта, на другом конце страны, в Массачусетском технологическом институте, еще один пионер в сфере искусственного интеллекта, Марвин Мински, дал студенту последнего курса задание решить проблему машинного зрения. По его представлениям, этот проект можно было выполнить за лето. Действительность оказалась обескураживающей. Хотя искусственный интеллект, возможно, и должен был изменить мир, Дюваль, который уже поучаствовал в нескольких проектах SRI до переключения на Shakey, сразу понял, что роботу еще невообразимо далеко до чего-то реального.

Shakey жил в большой пустой комнате с покрытым линолеумом полом и парой электронных блоков. Вокруг были разбросаны похожие на коробки объекты, чтобы робот мог с ними «играть». Вместилище интеллекта, мейнфрейм, располагалось поблизости. Датчики Shakey фиксировали окружающую картину, а затем он стоял и «думал» в течение нескольких минут, прежде чем возобновить движение в своем замкнутом и контролируемом мире. Это было сродни наблюдению за ростом травы. Помимо прочего, робот часто ломался или у него разряжался аккумулятор после нескольких минут работы.

За несколько месяцев Дюваль выжал максимум из своего положения. Ему было ясно, что расстояние до заявленной цели проекта — создание автоматического часового или разведчика — измеряется световыми годами. Он пытался утешиться программированием дальномера, громоздкого устройства с вращающимся зеркалом, но в нем постоянно подводила механика, что превращало разработку программного обеспечения в упражнение по предсказанию сбоев и их устранению.

Один из руководителей сказал, что проекту нужно «вероятностное дерево решений» для усовершенствования системы зрения робота. Поэтому вместо того, чтобы работать над этим специальным механизмом, Дюваль стал заниматься созданием программы, которая могла бы генерировать подобные деревья. Система зрения Shakey работала лучше, чем дальномер. Даже при простейшей программе обработки видеоданных робот мог различать края и базовые формы — важнейшие элементы для ориентирования и перемещения в пространстве.

БЕЗУСЛОВНЫЙ БАЗОВЫЙ ДОХОД КАК ОТВЕТ НА ТЕХНОЛОГИЧЕСКУЮ БЕЗРАБОТИЦУ

Руководитель Дюваля считал, что в его команде «наукой» должны заниматься только «ученые». Программистам отводилось место чернорабочих низкого ранга, которые воплощали идеи старших коллег. Хотя лидеры группы, наверное, имели представление о том, куда нужно двигаться, проект был организован по-военному, и это делало работу неинтересной для программистов низшего уровня вроде Дюваля, писавших драйверы устройств и другие интерфейсные программы. Такая ситуация не устраивала молодого человека, одержимого компьютерами.

Роботы казались ему модной идеей, но до выхода на экраны «Звездных войн» привлекательных образчиков было не так много. В 1950-х гг. существовал робот Robby из фильма «Запретная планета» (Forbidden Planet), но в остальном мало что вызывало вдохновение. Shakey просто работал не слишком хорошо. К счастью, Стэнфордский исследовательский институт был большой организацией, и вскоре внимание Дюваля привлек более интригующий проект.

В холле, куда выходила лаборатория Shakey, он часто сталкивался с представителями другой группы исследователей, которая занималась разработкой компьютера для реализации системы NLS (oN-Line System). Если управление в лаборатории Shakey было иерархическим, то группа под руководством ученого-компьютерщика Дуга Энгельбарта работала совершенно по-другому. Исследователи Энгельбарта, разношерстное собрание консервативных инженеров в белых рубашках и длинноволосых программистов, двигались в сфере вычислительной техники настолько в ином направлении, что оно находилось в другой системе координат.

Проект Shakey был нацелен на имитирование умственной и физической деятельности человека. Энгельбарт ставил совсем другую цель. Во время Второй мировой войны он наткнулся на статью Ваннивара Буша, который предложил поисковую систему Memex для работы с информацией на микрофишах. Позже Энгельбарт решил, что такую систему можно воссоздать с использованием только что появившихся компьютеров. На его взгляд, наступило время для создания интерактивной системы сбора знаний и организации информации таким образом, чтобы позволить небольшой группе людей — ученых, инженеров, преподавателей — творить и сотрудничать более эффективно. К этому времени Энгельбарт уже изобрел компьютерную мышь, а также выдвинул идею гипертекстовых ссылок, которая десятилетия спустя станет основой Всемирной паутины. Как и Дюваль, он был чужим в изолированном мире компьютерной науки, где основой считали теорию и абстракцию.

Культурный разрыв между миром искусственного интеллекта и его антиподом — идеей Энгельбарта, получившей название «усиление интеллекта», — был очевидным. Когда Энгельбарт приехал в Массачусетский технологический институт в 1960-х гг. для демонстрации своего проекта, Марвин Мински посетовал, что это пустая трата выделенных на исследования денег, которая приведет к созданию всего лишь не в меру расхваленного текстового процессора.

ЗАХАРИ МЭЙСОН. ЗВЕЗДА НЕИЗВЕСТНОСТИ, СОЦИАЛЬНОГО РАССЛОЕНИЯ И ИИ

Хотя Энгельбарт и не добился уважения влиятельных специалистов по информатике, его совершенно не смущал отход от мейнстрима академического мира. Участвуя в регулярных обзорных совещаниях Агентства перспективных оборонных исследований (DARPA) Пентагона, где ученые делились информацией о результатах своей работы, он всегда предварял презентации словами: «Это не теория вычислительных машин». Затем Энгельбарт излагал свои взгляды на использование компьютеров для «загрузки» в них проектов с целью обмена информацией, обучения и продвижения инноваций.

Несмотря на то что эти идеи не совпадали с мейнстримом компьютерной науки, они захватили Билла Дюваля. Вскоре он перебрался на другую сторону холла — в лабораторию Энгельбарта. Менее чем за год он прошел путь от попыток создать программы для первого полезного робота до работы над программным обеспечением для системы связи, которая, позволив соединить два компьютера, стала прообразом интернета. Поздно вечером 29 октября 1969 г. Дюваль подключил систему NLS Энгельбарта в Менло-Парке к компьютеру в Лос- Анджелесе, которым управлял другой молодой программист, по арендованной у телефонной компании линии передачи данных. Билл Дюваль стал первым, кто переключился с исследований в области замены человека компьютером на использование вычислительной техники для усиления интеллекта человека, и одним из первых, кому удалось побывать по обе стороны от невидимой линии, разделяющей и сегодня два соперничающих лагеря разработчиков.

Интересно отметить, что разработки, начатые в 1960-х гг., получили применение в 1970-е гг. в третьей лаборатории, также расположенной возле Стэнфорда. Исследовательский центр компании Xerox в Пало-Альто развил задумки, выпестованные в лабораториях Маккарти и Энгельбарта, и превратил их в идеи персонального компьютера и компьютерной сети, которые в свою очередь были успешно реализованы компаниями Apple и Microsoft. Среди прочего индустрия персональных компьютеров инициировала то, что венчурный инвестор Джон Дорр в 1990-х гг. назвал «самым крупным законным накоплением богатства в истории».

Большинству Дуг Энгельбарт известен как изобретатель мыши, однако его гораздо более грандиозная идея заключалась в использовании компьютерных технологий с тем, чтобы небольшие группы людей могли работать над «загруженными» проектами, используя мощные программные средства организации деятельности и создавая, как он выражался, «коллективный IQ», превосходящий возможности отдельного человека. Мышь была просто гаджетом, облегчавшим взаимодействие с компьютером.

Влияние на мир Маккарти, создавшего Стэнфордскую лабораторию искусственного интеллекта, было во многих отношениях не меньше влияния Энгельбарта. Его лаборатория дала компании Xerox, а затем и Apple Computer таких разработчиков, как Алан Кей и Ларри Теслер, внесших немалый вклад в создание современного персонального компьютера. Уитфилд Диффи вынес оттуда идеи, которые привели к появлению метода криптографии, обеспечивающего безопасность нынешней электронной торговли.

Впрочем, в SRI и SAIL тогда были еще два направления ра- бот, которые только сейчас начинают оказывать значительное влияние на мир: роботы и искусственный интеллект. Они не только трансформируют экономику, они ведут к новой эре умных машин, фундаментально меняющих наш образ жизни.

ОТПЕЧАТОК ТЕХНОЛОГИЙ: ЧТО СТАНЕТ С ПРЕСТИЖНЫМИ ПРОФЕССИЯМИ

Появление вычислительной техники и роботов было предсказано до организации этих лабораторий. Еще на заре компьютерной эры, в 1948 г., Норберт Винер сформулировал концепцию кибернетики. В своей книге «Кибернетика» (Cybernetics) он обозначил контуры новой прикладной науки, которая занималась вопросами управления и коммуникации и предвосхищала обе технологии. Винер также предвидел последствия этих новых направлений техники: через два года после «Кибернетики» вышла следующая книга — «Кибернетика и общество» (The Human Use of Human Beings), где автор рассуждал о ценности и опасности автоматизации.

Винер был одним из первых, кто задумался об оборотной стороне информационной технологии — возможности ее выхода из-под контроля людей и подчинения их себе. Еще важнее то, что он первым выступил с критикой машинного интеллекта, указав на опасность передачи принятия решений системам, которые в отсутствие способности мыслить абстрактно будут принимать решения с чисто утилитарной точки зрения, а не с учетом более широких человеческих ценностей.

Энгельбарт в 1950-х гг. работал электронщиком в Научно-исследовательском центре Эймса NASA и наблюдал, как инженеры-авиастроители сначала создают небольшие модели для аэродинамических испытаний, а затем масштабируют их до полноразмерных самолетов. Он быстро понял, что новые кремниевые компьютерные чипы можно масштабировать в обратную сторону — уменьшать вплоть до того, что будут называть «микросхемами».

Миниатюризация позволит размещать больше схем в одном и том же пространстве при тех же затратах. А главное, увеличение плотности схем должно оказывать на производительность не аддитивный, а мультипликативный эффект. Для Энгельбарта это было решающим. Уже через год после появления первого современного компьютерного чипа в конце 1950-х гг. у него не осталось сомнений в том, что в конечном итоге появятся сравнительно дешевые вычислительные мощности, которые изменят лицо цивилизации.

Идея экспоненциального роста — закон Мура, в частности, — является одним из фундаментальных достижений Кремниевой долины. Энгельбарт и Мур понимали, что мощность компьютеров будет возрастать все быстрее. Аналогичным образом должна падать их стоимость так, что очень скоро мощные компьютеры окажутся доступными даже беднейшим нациям. За последнюю половину десятилетия это ускорение обеспечило быстрое развитие технологий, которые необходимы для создания искусственного интеллекта: машинное зрение, распознавание речи, контактное восприятие и манипуляторы. Машины уже умеют чувствовать вкус и запах, однако более существенные инновации приходят из сферы моделирования нейронов человека с помощью электронных схем, где наметился прогресс в распознавании образов.

Ускорение развития в области искусственного интеллекта позволило кое-кому — взять хотя бы специалиста по вычислительной технике Моше Варди из Университета Райса — провозгласить неминуемое вытеснение человека из очень многих сфер уже к 2045 г. В соответствии с еще более радикальными представлениями компьютеры развиваются настолько быстро, что превзойдут по интеллекту человека через одно или самое большее через два поколения.

Писатель-фантаст и специалист по вычислительной технике Вернор Виндж рассуждает о компьютерной «сингулярности» — таком быстром развитии машинного интеллекта, при котором он переходит некий порог, а потом в результате пока неопределенного скачка становится сверхчеловеческим.

Это очень интересное предположение, однако пока что рано рассматривать его всерьез. В связи с этим стоит вспомнить замечание, сделанное долгое время работавшим в Кремниевой долине обозревателем Полом Саффо по поводу комплексного воздействия вычислительной техники на мир. Он постоянно напоминал элите компьютерной индустрии Кремниевой долины: «Не путайте ясное видение с тем, что хорошо видно вблизи». Тем, кто верит, что за несколько десятилетий живой труд уйдет в прошлое, не следует забывать, что даже на фоне глобализации и автоматизации в 1980–2010 гг. численность работающих в США постоянно возрастала. Экономисты Фрэнк Леви и Ричард Мюрнейн недавно показали, что с 1964 г. в экономике было создано 74 млн рабочих мест.

Экономист из Массачусетского технологического института Дэвид Отор предложил детальное объяснение последствий текущей волны автоматизации. По его словам, ликвидация рабочих мест происходит не повсеместно, а сфокусирована на рутинных задачах, выполняемых теми, кто находится в средней части структуры рабочих мест — белыми воротничками, появившимися после Второй мировой войны. Расширение продолжается в нижней и верхней частях пирамиды, страдает средняя часть, зато развиваются рынки неквалифицированного и высококвалифицированного труда.

Меня, однако, интересуют не дебаты, а совсем другой вопрос, тот, что впервые был поставлен Норбертом Винером, когда он высказывал свои опасения относительно последствий автоматизации.

К чему приведут подходы Маккарти и Энгельбарта? Какими будут последствия решений, принятых сегодняшними исследователями в области искусственного интеллекта и робототехники, которым все легче выбирать между расширением возможностей и заменой «человека в контуре управления» в создаваемых системах и продуктах? Иначе говоря, какие социальные последствия повлечет за собой появление интеллектуальных систем, которые заменяют людей или взаимодействуют с ними в бизнесе, развлечениях и повседневной жизни?

В компьютерном мире сложились два технических сообщества со своими традициями, ценностями и приоритетами. Одно из них — сообщество искусственного интеллекта — стремится к автоматизации различных аспектов деятельности человека. Другое — сообщество человеко-машинного взаимодействия — в большей мере занято развитием идеи «человеко-машинного симбиоза», который предвидел психолог-новатор Джозеф Ликлайдер на заре современной компьютерной эры. Следует заметить, что Ликлайдер в качестве директора Технического офиса информационных проектов DARPA в середине 1960-х гг. финансировал и Маккарти, и Энгельбарта. Именно во времена Ликлайдера DARPA было в буквальном смысле организацией по финансированию «прожектов», в этот период, как считают многие, агентство оказало наибольшее влияние на развитие науки и техники.

Винер первым забил тревогу по поводу проблемы взаимоотношений человека и вычислительных машин. Десятилетие спустя Ликлайдер указал на принципиальное значение грядущего повсеместного использования вычислительной техники и на то, чем ее внедрение отличается от предыдущей эпохи индустриализации...

Источник

Читайте также:

ТРАНСПОРТНАЯ ИНФРАСТРУКТУРА США УЖЕ НЕ SEXY?

 

ВОЗВРАЩЕНИЕ ТЕХНО-ТРИЛЛЕРА

 

ХАШЕМ АЛЬ ГАИЛИ – ЕВАНГЕЛИСТ ХАЙТЕКА И ЗВЕЗДА FACEBOOK