Рубрики
Статьи/Блог

Ватикан не спит и думает об искусственном интеллекте

На этой неделе в Ватикане снова рассмотрели культурное влияние ИИ на общество. Тема прошедшего мероприятия в Риме: «Вызов искусственного интеллекта человеческому обществу и идея человеческой личности». В симпозиуме приняли участие эксперты из Google, Алленовского института по изучению головного мозга, Университета Гете, Бостонского колледжа, Технологического центра Института инженеров электротехники и электроники, Агентства ЕС по правам человека, Папского университета Святого Фомы Аквинского и других организаций.

Темы включали этические и философские проблемы ИИ, его значение в католицизме и в религии, и может ли ИИ «воспроизводить сознание». Цель всего этого состояла в том, чтобы «понять культурное влияние ИИ, а также предупредить людей, которые играют важную роль в формировании политики и в руководстве обществом и церковью» по поводу влияния ИИ на человечество. Мероприятие было организовано Папским советом по культуре и посольством Германии при Святом Престоле.

Епископ Пол Тиге:

«…ИИ заставляет нас еще раз подумать, а что значит быть человеком, если искусственный интеллект, особенно общий искусственный интеллект, сможет в какой-то степени стать автономным, способным перепрограммировать себя и делать вещи, которые мы считали в прошлом связанными исключительно с человеческой деятельностью? Это побуждает нас задуматься о том, что на самом деле делает нас людьми. Что делает нас другими? Что мы знаем о сознании? Как работает наш мозг? Могут ли машины имитировать сознание и достигать тех же результатов? Или есть что-то другое в человеческом сознании, о чем нам нужно задуматься? Как философия помогает обществу в целом задуматься о том, как ИИ, который грядет, будет интегрирован в наш образ жизни, в наши политические процессы, в нашу рабочую среду? Как ИИ заставляет нас задуматься о проблемах, которые нас всегда волновали в католической доктрине, католическом нравственном учении? Возникают проблемы с применением ИИ. Что мы думаем о возможности того, что ИИ может быть вовлечен в военные ситуации? Как это заставляет нас думать о смертоносном и автономном оружии? Как это может изменить мир труда? Как в отношении к ИИ отражается наша католическая традиция? И, возможно, что более важно, ИИ заставляет нас задуматься о том, что если вы возьмете ИИ в сочетании с нанотехнологиями, с нашими развивающимися когнитивными науками, с редактированием генов, то что мы, люди, думаем о будущем, где мы сможем в некотором смысле взять нашу эволюцию в свои руки и запрограммировать нашу эволюцию? Мы можем видеть ценности с точки зрения исправления болезней и, возможно, человеческих ограничений, а если станем больше заниматься улучшением-аугментированием самих себя? Что мы думаем об ИИ в мире, который уже поражен неравенством, и о вероятности того, что ИИ может увеличить это неравенство?…

…Я вижу реальную пользу в том факте, что, в частности, популярная культура занялась вопросами интеллекта, искусственного интеллекта, и создала множество фильмов. Некоторые приводят в ужас людей, работающих в этой области, и они говорят: смотрите, они создают вымышленные идеи искусственного интеллекта и без необходимости пугают людей вещами, которые мы, к счастью, даже не смогли бы развить. Я думаю, что сейчас появляются некоторые фантастически интересные ответы или размышления, исходящие из мира искусства. Я думаю, что этим летом или ранее в феврале этого года была опубликована замечательная книга Кадзуо Исигуро под названием «Клара и солнце», которая была написана с точки зрения искусственного интеллектуального компаньона, интересного и искусственного интеллекта, который был разработан, чтобы помочь детям справиться с одиночеством. Изображается искусственный интеллект, который учится наблюдать за людьми и почти похож на наивного ребенка или инопланетное по своей природе существо, и который многое раскрывает о человеческом обществе. Я думаю, Кадзуо Исигуро хочет сказать, что прежде чем мы будем слишком сильно беспокоиться об искусственном интеллекте, нам нужно подумать, каковы реальные ценности, которыми мы обладаем в человеческом обществе. Какие вещи делают жизнь стоящей того, чтобы ее прожить? Каковы типы дружбы и отношений, которые придают нам ценность и ценность в нашей жизни, и как мы продвигаем эти ценности? В интересном интервью Кадзуо Исигуро сказал, что его беспокоит не столько захват власти искусственным интеллектом, сколько то, что люди каким-то образом станут роботами, что люди потеряют способность быть по-настоящему людьми. Если дети воспитываются, имея дело с искусственным интеллектом, который должен отвечать на их прихоти, отвечать на все их потребности, задавать им вопросы, может ли это обусловить то, как они думают об отношениях? Если есть кто-то другой, кто должен быть мне полезен, чтобы исполнять мою волю, то в этом сценарии он теряет свою собственную автономию. Как эти установки могут укорениться в человеческих личностях и к чему они могут привести нас в отношениях с другими человеческими существами?…»

Можно вспомнить, что, кажется, еще в 2019 году посольство США в Ватикане проводило симпозиум по этике искусственного интеллекта. Представители церкви считали, что ИИ, роботы и виртуальная реальность потенциально могут побудить людей относиться друг к другу как к машинам, люди могут потерять чувство собственного достоинства и перестать пытаться изменить мир к лучшему. Люди не будут видеть себя активными участниками мира, а станут пассивными объектами манипулирования машинами или элитами, что может привести к расстройствам психического здоровья и «духовному недомоганию». Есть угроза, что машины станут все более похожи на людей, а люди – на машины.

Никто не скрывает, что при нынешнем Папе Римском церковь стала проявлять повышенный интерес к ИИ и сам Папа лично просил своих коллег углубиться в эту тему. Понтифик неоднократно подчеркивал, что технологиям необходимы теоретические и практические моральные принципы, потому что достижения в области ИИ «могут привести к новой форме варварства, где общее благо сброшено верховенством слова сильнейшего».

Потом зимой 2020 года официальные лица Ватикана представили принципы этического использования искусственного интеллекта, разработанные при поддержке Microsoft и International Business Machines (IBM). Тогда было много шума. Церковь говорила, что наступает время искусственного интеллекта, когда важные решения нередко принимаются совместно человеком и алгоритмом. Отношения между ними требуют дополнительных научных исследований, потому что не всегда легко «предвидеть все последствия» и «распределить обязанности», и этот вопрос остаётся проблематичным. Технологии, населяющие современную «цифровую галактику», являются даром Божьим, но их нельзя назвать «нейтральными инструментами»: по своей природе они заходят так далеко, что «размывают границы, которые до сих пор считались хорошо различимыми: между неорганической и органической материей, между реальным и виртуальным, между стабильными субъектами и событиями в непрерывном отношении друг с другом».

Папа говорит, что «Мы молимся, чтобы прогресс робототехники и искусственного интеллекта всегда служил человечеству».

https://fastsalttimes.com/tag/религия/

https://fastsalttimes.com/tag/ии/