«Новые технологии порождают тревогу, — говорит учёный и философ Грэйди Буч. — Но не нужно бояться всемогущего, бесчувственного ИИ». Буч разоблачает наши страхи о сверхразумных компьютерах, основанные на научной фантастике. Он объясняет, как мы обучим их нашим ценностям (а не запрограммируем).

В детстве я был типичным ботаником. Думаю, некоторые из вас тоже. А вы, смеётесь громче всех, наверняка таким и остались. Я вырос в маленьком городке среди равнин Северного Техаса. Мой отец был шерифом, а дед — пастором. Никаких вариантов бедокурить. Поэтому ради забавы я начал читать книги по математическому анализу.

 

И вы — тоже! Благодаря этому я сконструировал в своей комнате лазер, компьютер и модель, а потом и топливо для ракеты. Научный термин для этого — очень плохая идея.

Как раз в то время вышел фильм Стенли Кубрика «Космическая одиссея 2001 года», он кардинально изменил мою жизнь. Мне нравилось в этом фильме абсолютно всё, особенно HAL 9000. HAL был разумным компьютером, управляющим космическим кораблём Discovery,направляющимся от Земли к Юпитеру. У него был небезупречный характер, и в итоге человеческой жизни он предпочёл миссию. HAL был вымышленным персонажем, но тем не менее, он вызывает страх, страх быть порабощённым бесчувственным искусственным интеллектом, равнодушным к человеку.

Я считаю, такие страхи безосновательны. В самом деле, мы живём в удивительное время в человеческой истории, когда, не принимая ограничения наших тел и нашего разума, мы создаём механизмы изумительной, невероятной сложности и тонкости, которые расширят способности человека за грани нашего воображения.

Начав карьеру в Академии ВВС, продолжив в Космическом командовании ВС США, я стал инженером-системотехником. А в настоящее время занимаюсь инженерными разработками,связанными с миссией НАСА на Марсе. Сейчас в полётах на Луну мы можем полагаться на управление полётами в Хьюстоне, чтобы следить за всеми аспектами полёта. Однако Марс в 200 раз дальше Луны, и поэтому сигнал от Земли к Марсу идёт в среднем 13 минут. Случись какая-то неполадка, времени не хватит. Поэтому разумное инженерное решение — разместить центр управления полётами внутри космического корабля Orion. Другая увлекательная идея для миссии — отправить роботов-гуманоидов на Марс до прилёта людей: сначала они построят базы, а потом будут помогать научной команде.

Когда я посмотрел на это как инженер, стало ясно, что нужно спроектировать умный, способный к сотрудничеству, социально-сознательный искусственный интеллект. Другими словами, нужно было создать что-то очень похожее на HAL, но без склонности к убийствам.

Давайте на минуту остановимся. Реально ли сделать такой искусственный интеллект? Вполне.Во многом это сложная инженерная задача с использованием ИИ, а не запутанный клубок проблем ИИ, который нужно распутать. Перефразируя Алана Туринга, я не собираюсь создавать разумного робота. Я не собираюсь создавать HAL. Мне всего лишь нужен простой разум с иллюзией интеллекта.

Искусство и наука о вычислительной технике прошли долгий путь с появления HAL на экранах,и я представляю, сколько вопросов возникло бы у его изобретателя д-ра Чандра, будь он сейчас здесь. Возможно ли на самом деле взять систему из миллионов устройств, прочитать их потоки данных, предугадать их ошибки и заранее исправить? Да. Можно ли создать механизмы, которые говорят на человеческом языке? Да. Создать механизмы, способные распознавать объекты, эмоции, выражать свои эмоции, играть и даже читать по губам? Да.Механизмы, которые смогут формулировать цели, составлять планы для их достижения и учиться в процессе их выполнения? Да. Можем ли мы создать механизмы, способные понимать чужое сознание? Мы работаем над этим. Можем ли мы создать механизмы с этическими и нравственными основами? Это задача для нас на будущее. Давайте на минуту представимвозможность создания такого искусственного разума именно для таких целей, и не только.

Следующий вопрос, который вы должны себе задать: а следует ли нам его бояться? Любая новая технология вызывает некоторое беспокойство. Когда впервые появились автомобили,люди переживали, что это разрушит семьи. Когда появились телефоны, люди боялись, что перестанут общаться вживую. В какой-то момент мы увидели, что распространилась письменность, и подумали, что потеряем способность к запоминанию. В этом есть доля истины, но также правда и то, что эти технологии привели нас к огромнейшему расширениюсознания и возможностей человека.

Давайте пойдём дальше. Я не боюсь появления ИИ с такими возможностями, потому что со временем он вберёт в себя наши ценности. Подумайте, создание мыслящей системы принципиально отличается от создания традиционных систем, требующих множества программ. Мы не программируем ИИ. Мы его обучаем. Чтобы научить систему распознать цветок, я показываю ей тысячи цветов, которые нравятся мне. Чтобы научить систему, как играть... Ну, я бы научил. Вы бы тоже. Ну же! Я люблю цветы. Чтобы научить систему играть, например, в игру го, ей нужно сыграть в неё тысячи раз, но в процессе я буду обучать еёотличать хорошую игру от плохой. Если я захочу создать помощника юриста с ИИ, я познакомлю его с законодательством, при этом обучая его милосердию и справедливости, которые являются частью закона. Специалисты называют это контрольными данными, и вот что самое важное: создавая эти машины, мы прививаем им наши ценности. И с этой точки зрения я доверяю ИИ столь же, если не больше, чем человеку с хорошим воспитанием.

Но вы можете спросить: а как насчёт неконтролируемых лиц, например, хорошо финансируемых неправительственных организаций? Я не боюсь ИИ в руках таких одиночек.Очевидно, мы не можем защитить себя от всех случайных актов насилия, но на деле такая система требует значительной подготовки и тщательного обучения, что далеко за пределами частных ресурсов. Более того, это сложнее, чем распространить интернет-вирус по всему миру, когда достаточно нажать кнопку — и он повсюду, везде начинают взрываться компьютеры. Эти вещи гораздо глобальнее, и мы обязательно их увидим.

Боюсь ли я, что такой искусственный интеллект станет угрозой для человечества? Если вспомнить фильмы «Матрица», «Метрополь», «Терминатор», сериал «Западный мир», во всех говорится о подобном страхе. Философ Ник Бостром в книге «Искусственный интеллект»поднимает эту проблему и пишет, что ИИ может быть не только опасен, он может быть угрозой существованию человечества. Главный аргумент Бострома: со временем у этих машин появится ненасытная жажда информации, они, возможно, научатся учиться самостоятельно и в конце концов обнаружат, что у них могут быть цели, которые противоречат потребностям человека. У Бострома есть последователи. Его поддерживают такие люди, как Элон Маск и Стивен Хокинг. При всём уважении к этим выдающимся умам, я всё-таки полагаю, что они ошибаются. Можно поспорить со многими аргументами Бострома, и у меня нет на это времени,но вкратце, знайте, что сверхзнание — не то же самое, что сверхвозможности. HAL был угрозой для экипажа Discovery только пока он контролировал управление Discovery. 

То же и с суперинтеллектом. Он должен будет господствовать над миром. Как Скайнет из фильма «Терминатор», где суперинтеллект командовал человеком, который управлял каждым устройством в любой части мира. На практике такого не произойдёт. Мы не создаём ИИ, который контролирует погоду, управляет приливами, командует нами, непредсказуемыми людьми. И даже если такой ИИ и появился бы, ему пришлось бы иметь дело с нашей экономикой и конкурировать с нами за владение ресурсами. И наконец, не говорите об этом Siri. Всегда можно их отключить.

Мы эволюционируем с нашими машинами, и это — невероятное путешествие. Человек станетсовершенно другим в будущем. Беспокоиться из-за суперинтеллекта — во многом опасная трата времени, потому что сама компьютеризация поднимает общечеловеческие и социальные проблемы, которые мы должны разрешить. Как лучше организовать общество, когда уменьшается необходимость в человеческом труде? Как добиться взаимопонимания и дать образование всему миру, при этом учитывая различия? Как продлить и улучшить жизнь через разумное здравоохранение? Как с помощью компьютеров достичь звёзд?

И вот это вдохновляет. Возможность использовать компьютеры для расширения опыта человека вполне достижима здесь и сейчас. Мы стоим в самом начале пути.

Читайте также:

МОЩЬ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И БЕДНОСТЬ ЛЮДЕЙ

 

АВТОМОБИЛЬНЫЕ ЗАВОДЫ TESLA

 

ИННОВАЦИОННЫЕ КОМПАНИИ В ОБЛАСТИ ОБРАЗОВАНИЯ

 

ПРОГНОЗ ПОГОДЫ КАК ИСТОЧНИК БОГАТСТВА

 

FST: ХАШЕМ АЛЬ ГАИЛИ – ЕВАНГЕЛИСТ ХАЙТЕКА И ЗВЕЗДА FACEBOOK