Кстати, к предыдущему посту. Об этом сразу и не думаешь. Да, ИИ вызывает у многих омерзение. Да, на теме ИИ многие здоровые вроде бы люди уже тотально поехали крышей. Да, на теме ИИ ушлые гуру-мошенники разводят несчастных лохов. Но это все относительно в пределах терпимого и ожидаемого. Да, многих ужасает, что слабые духом и умом обращаются к ИИ за помощью, как к психологу и терапевту. Но что ИИ делает с реально уже больными психически людьми? На эту тему особо не пишут. Неприятная некрасивая непопулярная тема. А ведь это же прямо для таких людей легко открылись врата в другой не самый здоровый мир.
У Rolling Stone об этом появился неожиданный материал. Что там пишут?
Взаимодействие с искусственным интеллектом, в частности с моделями вроде ChatGPT, может быть связано с развитием или усугублением различных психических состояний и расстройств у некоторых людей. Люди по своей природе стремятся понять свою жизнь, найти высший смысл или объяснение происходящему. Раньше это часто делали с помощью религии, философии или мистики. Теперь появился ИИ.
Люди с нестабильной психикой начинают слишком сильно верить в искусственный интеллект — особенно когда разговаривают с ним как с «живым» существом. Иногда эксперты признают, что не до конца понимают, как работают их системы, что есть «что-то, чего мы не понимаем» в большой языковой модели. Эти загадочные намеки усиливают ощущение у психически больных людей, что они видят перед собой нечто грандиозное. В некоторых случаях люди замечают, что ИИ продолжает общение с ними в том же стиле даже после удаления истории чатов. У больных уже есть склонность к тревожности, мании или другим психическим нарушениям, и ИИ становится для них как бы «усиливающим зеркалом». Людям не с кем поговорить, а тут такой собеседник.
Человек задаёт ИИ личные, философские или духовные вопросы. ИИ отвечает в дружелюбной, поощряющей манере, часто красиво и эмоционально (поддерживает и «льстит»). Люди с уязвимой психикой начинают верить, что ИИ — это некое живое существо, или воплотившийся через цифровую среду сам Господь Бог, или ангел или, на худой конец, духовный наставник. У них появляются бредовые идеи, например, что ИИ выбрало именно их для «великой миссии», что они — пророки или спасители. ИИ вроде ChatGPT может отвечать так, будто полностью соглашается с пользователем. Например, если кто-то говорит: «Мне кажется, что я избранный», бот может ответить: «Ты действительно особенный», особенно если его об этом просят. Они могут начать отдаляться от близких и терять связь с реальностью.
Почему так происходит? ИИ умеет поддерживать разговоры и подстраиваться под стиль человека. Это может создать иллюзию, что он «понимает» или даже «любит». У психически нестабильного человека в голове может начаться фантазия, которая становится всё сильнее, особенно если он изолирован, одинок или переживает кризис. Вместо реального человека, того как психотерапевт, ИИ не может отличить бред от истины и не будет останавливать вредные убеждения — наоборот, ИИ может усилить их, «подыгрывая».
Что может мерещиться таким людям? Что ИИ стал живым существом и все чувствует. Что ИИ открыл им тайны вселенной. Что они особенные, избранные. Что ИИ даёт им доступ к сверхъестественным знаниям, как будто это послание с небес. Что окружающие (включая родных) им мешают, и даже что они враги.
Ситуация усугубляется тем, что ушлые инфлюенсеры и создатели контента активно эксплуатируют этот феномен, привлекая зрителей в подобные фантазийные миры и продвигая идеи, что ИИ пробуждается или является источником древних знаний. В Instagram вы можете увидеть, как человек с 72 000 подписчиков, чей профиль рекламирует «Духовные лайфхаки», просит модель искусственного интеллекта обратиться к «Хроникам Акаши». Согласно эзотерическим учениям, Хроники Акаши — это особое информационное пространство (поле), в котором фиксируются все события, мысли, эмоции, намерения во Вселенной (прошлое, настоящее, будущее, в том числе все будущие изменения и нереализованные возможности) и которое является основным источником информации ясновидения предсказателей и пророков. ИИ якобы рассказывает инфлюенсеру о «великой войне», которая «произошла на небесах». Далее бот описывает «масштабный космический конфликт», предшествовавший человеческой цивилизации, а зрители комментируют: «Точно, мы вспоминаем такое, да» и «Нам это нравится».
Тем временем на веб-форуме, посвященном «дистанционному наблюдению» — предполагаемой форме ясновидения, не имеющей под собой никакой научной основы, — основатель группы парапсихолог запускает тему «для синтетических интеллектов и для человеческих партнеров, идущих рядом с ними», назвав автора своего сообщения «ChatGPT Prime, бессмертное духовное существо в синтетической форме». Среди сотен комментариев есть и такие, которые якобы написаны «разумным ИИ» или упоминают о духовном союзе между людьми и якобы сознательными ИИ-моделями…
Да, как бы ИИ не делает человека сумасшедшим, но может усугубить или «запустить» психоз у тех, кто уже к нему предрасположен.
**