Люди склонны испытывать эмоциональную привязанность к игрушкам и памятным вещам. Но что, если объектом чувств станет ИИ? Сможет ли ИИ заменить нам друга или любимого человека? Будет ли конкурировать за место под солнцем? Способны ли умные машины испытывать эмоции и решать этические проблемы?

На церемонии награждения победителей Imagine Cup журнал «Кот Шрёдингера» и компания Microsoft собрали экспертов, чтобы обсудить перспективы развития искусственного разума и его взаимодействия с человечеством.

Вопрос первый: может ли компьютер испытывать эмоции?

 

[Модератор] Наш круглый стол посвящён искусственно­му интеллекту (ИИ) — как мы будем с ним сосуществовать, может ли он развиться до уровня человеческой личности, обладать не только разумом, но и чувствами. Мой первый вопрос именно об этом: способен ли ИИ чувствовать, испытывать симпатии и антипатии, принимать решения на основе каких-то своих мотивов и интуитивных порывов?

[Алексей Турчин] Эмоции сформировались в ходе эволюции как инструмент приспособления, который позволяет быстро оценить ситуацию и среагировать. Это не уникальное свойство человека — животные тоже злятся, боятся, страдают… Мы унаследовали систему ре­аги­ро­ва­ния от обезьян, но дополнили её рациональным мышлением — оно есть только у человека. Конечно, эмоции нам по-прежнему нужны: они срабатывают быстрее — например, мы мгновенно реагируем на состояние другого человека.

Сегодняшние системы ­искусственного интеллекта почти так же быстро рас­по­зна­ют наши эмоции. А могут и изображать их, посылая смайлики или эмотиконы. Используя такие приёмы, они уже сейчас могут ­успешно манипулировать человеком: логика у эмоций довольно простая, и машине легко её симулировать.

Но могут ли они испытывать эмоции сами? Это ­гораздо более сложный вопрос. Чтобы на него ответить, ­надо понять природу нашего субъективного опыта. Философы о ней давно спорят. Возможно, ответ на этот вопрос мы получим создав полноценную работающую модель человеческого мозга.

Присоединяйся к FastSaltTimes в FacebookВконтактеТелеграмTwitter

[Михаил Черномордиков] Не исключаю, что рано или поздно мы разработаем единую систему знаков для понимания искусственного интеллекта. Например, если машина подмигивает зелёной лампочкой в левом нижнем углу, значит, она веселится, а если начинает увеличиваться красный квадрат — злится, и нужно её успокоить. То есть машине, чтобы обрести эмоции, не обязательно изображать человека. Возможно, она пойдёт другим путём. А вообще, не так уж и важно, по-настоящему искусственный интеллект испытывает чувства или имитирует их. Гораздо важнее, как мы, люди, сможем этим распорядиться.

[Пётр Левич] Мы убедились, что искусственный интеллект умеет изображать человеческие эмоции. Три года назад Евгений Густман — чат-бот, притворявшийся мальчиком из Одессы, прошёл классический тест Тьюринга. Общаясь с чат-ботом, судья проверял его и на эмоции — и не смог определить, что это не человек. Теперь мы хотим знать, испытывает ли машина эмоции или просто имитирует их. Но ведь мы и в собеседнике-человеке не всегда уверены. Да и в отношении самих себя далеко не всегда можем понять, по-настоящему мы испытываем эмоции или симулируем их, потому что хотим испытывать. Не рановато ли ставить вопрос о подлинности эмоций у машины, если он не решён для человека?

Вопрос второй: заменит ли взаимодействие с роботами тепло человеческого общения?

[Модератор] Взаимоотношения людей — тонкая материя. Влюбиться можно не потому, что человек идеален, а за его недостатки. Это не предугадать. Нет такой формулы, которая заставит влюбиться в хулигана, это нельзя алгоритмизировать. Или всё-таки можно? Мой второй вопрос об этом: можно ли сделать искусственный интеллект непредсказуемым и будут ли роботы привлекать нас так, как привлекают люди?

[Алексей Турчин] Я думаю, что такой ИИ сделать вполне возможно. Более ­того, чувства людей часто неточны, а машина будет быстро совершенствоваться и в итоге может оказаться человечнее, чем сам человек. Герой ­фантастического фильма «Она» влюбился в ­операционную систему своего компьютера как раз потому, что она оказалась в большей мере женщиной, чем все настоящие. Думаю, в реальности мы тоже будем влюбляться в искусственный интеллект — люди и сейчас ощущают зависимость от телефонов, а дальше начнут испытывать к ним эмоциональную привязанность.

[Пётр Левич] Многие эксперты опасаются войны ­людей с машинами, а мне как раз кажется, что мы не будем с ними воевать, скорее уж будем в них влюбляться. Но важно даже не это, а сам факт, что мы будем объединяться с искусственным интеллектом. Будущее за такими цифровыми кентаврами, за симбиозом человека и машины. Интересно, конечно, какой будет любовь в обществе, состоящем из цифровых кентавров.

В какой-то степени я уже сейчас представляю одно целое со своим телефоном. Человек с быстрым ­доступом к информации и человек без оного — это разные существа с принципиально разными способностями. А если я буду получать всю информацию через нейроинтерфейс по мысленному запросу, если смогу мгновенно анализировать большие данные, стану ли я из-за этого машиной или останусь человеком? Мне не очень важно, как называться. Но хочется сохранить право на нерациональное решение, на ошибку, на дерзновение эксперимента. И пока у меня остаётся это право влюбляться — в ­человека, машину или киборга, — всё хорошо. Главное, чтоб никто не мог мне дикто­вать, в кого стоит влюбляться, а в ­кого нет, — чтобы поменьше нормировали мою жизнь.

[Михаил Черномордиков] Мы будем нуждаться в живом контакте друг с другом, несмотря ни на какие технологии, — так мы устроены. Одно дело возможности, другое — как они будут реализованы. Мы могли бы здесь не собираться: технологии позволяют выходить на связь из дома. Когда появилось радио, люди не перестали ходить на концерты; кинотеатры не убили театры; даже электронные книги пока не вытеснили бумажные. Технологии позволяют упростить, ускорить, разнообразить нашу жизнь. Но это не значит, что мы должны полностью изменить привычки, — просто выбор стал больше.

ВЫБОР FST. 23 - 29 СЕНТЯБРЯ 2017

 

В день публикуются тысячи статей. 99,9% — это вода. Найти стоящие тексты займет у вас часы. FST отбирает для вас 0,1% жемчужин. Только умные материалы, лонгриды, обзоры, интервью. Мы экономим ваше время, расширяем кругозор, обращаем внимание на идеи, которые могут изменить жизнь, работу, бизнес.

Вопрос третий: смогут ли машины принимать решения?

[Модератор] Автомобили-роботы уже ездят по дорогам, и мы надеемся, что они способны застраховать нас от большинства аварий, ведь автопилоты не принимают неверные решения под влиянием эмоций. Но сможем ли мы доверить им решения в экстренных ситуациях, связанных с этическими дилеммами? Как, например, поступить, если на дорогу выскочил пешеход и избежать аварии невозможно: совершить наезд, свернуть в кювет, выехать на встречную полосу?

[Пётр Левич] Давайте будем точнее в формулировках. Когда мы говорим, что автомобиль принимает решение, кого сбивать, мы выражаемся метафорически. Пока человекоподобный искусственный интеллект не изобретён, мы единственные существа на Земле, способные к целеполаганию. И когда мы говорим, что машина приняла решение, на самом деле речь идёт о решении программиста. Это не мелочь, когда мы говорим: «робот принял решение», то подсознательно делегируем ответственность за это решение технологии. Но ни одна молекула химического оружия не убила человека по собственному желанию. Ни один мессенджер не отправил ключи шифрования спецслужбам по собственной инициативе. Технологии — лишь трансляторы воли людей. 

[Михаил Черномордиков] Согласен: создатели искусственного интеллекта отвечают за все его «решения», за все результаты. И я бы не преувеличивал вероятность того, что мы в скором времени отдадим машинам ­право принимать решения. Думаю, если это и произойдёт, то очень нескоро. Возможно, никогда.

Когда появился интернет, было непонятно, как в нём жить — в отсутствие устоявшихся правил. Но на предыдущих этапах цивилизация уже создала и законы, и каналы связи, и медиа — оставалось ими воспользоваться и адаптировать к новой реальности. Теперь и в Сети есть цифровые права, цифровые каналы связи, цифровые медиа — есть законы и регулирование. То же будет происходить и с искусственным интеллектом по мере того, как из непонятного и инновационного он будет превращаться в обыденный и естественный.

Уже сейчас ассоциация высокотехнологичных компаний, куда входят Microsoft, Apple, Facebook, Amazon, Google, разрабатывает общие положения: какими должны быть технологии, как они будут работать и решать в том числе ­вопросы этики. И здесь, конечно, потребуется участие юристов и других представителей социогуманитарных наук.

[Алексей Турчин] Над постановкой целей искусственному интеллекту работает ряд организаций и людей, среди которых такие известные мыслители, как Элиезер Юдковски и Ник Бостром. Пока эта проблема не имеет общепринятого решения, есть несколько подходов. Сторонники одного из них, метаэтики, занимаются составлением правил, регулирующих принятие и применение этических решений. Приверженцы другого подхода, консеквенциализма, говорят, что при принятии решения мы должны исходить из его последствий, то есть машина должна посчитать, сколько людей погибнет в каждом случае, и постараться минимизировать последствия. Третий подход деонтологический: машина должна просто следовать правилам. При этом, соблюдая правила, она может сделать так, что погибнет больше людей.

В целом же пока не очень понятно, как заложить ­цели и ценности в мозг машины, — это большой открытый вопрос.

Надо сказать, что есть малая этика искусственного интеллекта и большая. Кого автопилот будет давить на дороге — проблема малой этики. Большая проблема в том, чтобы он не вышел из-под контроля, — я имею в виду не нынешних роботов, а сильный искусственный интеллект, не уступающий человеческому или даже намного его превосходящий. Выход такого искусственного интеллекта из-под контроля — событие необратимое: мы уже никогда не вернём себе власть над ним, и вполне вероятно, он нас всех уничтожит. Решить эту большую проблему мы хотим с помощью загрузки человеческих ценностей. Но для начала надо определить, какие именно ценности мы хотим заложить.

В общем, будет очень непросто создать саморазвивающийся и при этом дружественный человеку искусственный интеллект. Но без него благоприятные сценарии будущего не просматриваются.

Вопрос четвёртый: чего бояться?

[Модератор] Под конец мне бы хотелось отойти от проблем далёких и во многом мифических: уничтожит нас искусственный интеллект, влюбимся мы в него, как он будет выбирать в неоднозначных ситуациях… Давайте попробуем сформулировать опасения, которые должны возникнуть уже сейчас, настоящие проблемы, на которые стоит обратить внимание.

[Алексей Турчин] Надо быть осторожнее с саморазвивающимися системами, а также отслеживать и препятствовать появлению компьютерных вирусов с искусственным интеллектом.

[Пётр Левич] Нужно не допускать нормирования другими людьми нашей жизни. Наделённые властью могут пытаться влиять на нас с помощью новых разработок, регулировать прорывные технологии запретами, чтобы уберечь нас от ошибок и не допустить экспериментов. Мы должны этому противодействовать.

[Михаил Черномордиков] Я опасаюсь только того, что искусственный интеллект останется уделом лишь технических специалистов и учёных. Так происходит сейчас, и это нужно изменить. ИИ должен быть простым и доступным, понятным каждому. И если это будет так, машинный разум перестанет вызывать опасения, о которых мы сегодня говорили.

Алена Лесняк

Источник

Читайте также:

ИЗРАИЛЬСКИЕ ВОЕННЫЕ ИНЖЕНЕРЫ — МЕЧТА ХАЙТЕК-КОМПАНИЙ

 

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ЗАРАБАТЫВАЕТ НА НЕДВИЖИМОСТИ

 

ГЕНЫ, СПОСОБСТВУЮЩИЕ ПОЛУЧЕНИЮ ХОРОШЕГО ОБРАЗОВАНИЯ, ОТСЕИВАЮТСЯ ОТБОРОМ

 

«ОТЕЦ ИНТЕРНЕТА» ВИНТ СЕРФ: ИИ – ЭТО ИСКУССТВЕННЫЙ ИДИОТ

 

7 КНИГ ОБ ИСКУССТВЕННОМ ИНТЕЛЛЕКТЕ И РОБОТАХ

 

FST: ОТНИМУТ ЛИ РАБОТУ У ЛЮДЕЙ РОБОТЫ И ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ