Метка: Дистопия

Мир на пороге цивилизационного сдвига. Все говорят о циркулярной экономике как о панацее от ресурсного кризиса и климатической катастрофы. Римский клуб и инициатива Earth4All призывают к «Гигантскому скачку» — радикальной перестройке системы. Цель благая: сократить ежегодное использование первичных сырьевых материалов в индустриальных странах как минимум вдвое. Но когда ресурсы станут слишком ценными, а владение ими сконцентрируется в руках ограниченного числа игроков, мы рискуем потерять главное — собственность и свободу выбора. Вы перестанете быть владельцем, став клиентом системы, где общество или специализированные компании будут управлять всем: от жилья до электроники и транспорта, предоставляя доступ «по подписке». Это не просто новая бизнес-модель, это новая цивилизационная система, где привычное понятие собственности исчезает, а автономия пропадает. Кто будет определять, что справедливо в этом мире?

В современном мире технологии, призванные облегчать нашу жизнь, иногда становятся источником серьeзных проблем. Одним из таких тревожных явлений являются AI-сервисы, которые способны «раздевать» людей на фотографиях. Эти так называемые «сайты-нюдификаторы» или «раздевающие» приложения создают нежелательные и оскорбительные изображения женщин и девушек, причeм нередко речь идeт и о материалах с сексуальным насилием над детьми. Исследования показывают, что миллионы людей ежемесячно посещают такие ресурсы, и их создатели могут зарабатывать миллионы долларов каждый год.

Очень много вижу и все больше и больше постов каждый день от восторженных и не самых глупых людей, что они перестали использовать Google для поиска, читать первоисточники, тратить свое время на самостоятельное исследование вопросов и перешли полностью в своих вопросах на ChatGPT и так далее, или что они платят 200 долларов за отчет от DeepResearch, а не 2-15к долларов за отчет аналитикам. Что поисковики, СМИ и агентства и эксперты умерли и ИИ отобрал их хлеб, отвечая на вопросы и выдавая красоту и инфу. Посмею высказать другое мнение.

Что же, похоже, что для многих настало время столкнуться с безжалостной реальностью, которая угрожает вашему будущему, потому что ИИ уже не просто трансформирует, а разрушает основы привычного рынка труда. Это не просто технологический сдвиг; это «кровавая» баня для миллионов рабочих мест, и никто не застрахован, даже если вы сейчас чувствуете себя в безопасности. Что на подходе?

Забудьте старые войны. Настоящий ужас уже здесь: машины, наделенные правом самостоятельно лишать жизни. Они не обладают состраданием или суждением, не понимают ценности человеческой жизни. Для них вы – всего лишь набор данных, который нужно обработать и, возможно, уничтожить. Решения о жизни и смерти уже делегируются алгоритмам, а технологические гиганты активно развивают эти системы, игнорируя призывы к запрету. Хуже того, эти системы наследуют предубеждения своих создателей и данных обучения, что делает людей определенных групп более уязвимыми для ошибочного удара. Технологии ИИ, особенно новые большие языковые модели (LLM), делают это оружие невероятно опасным. LLM могут сами генерировать алгоритмы атаки, и даже небольшая ошибка в их «мышлении» — так называемая «галлюцинация» — может привести к катастрофическим последствиям, выглядя при этом совершенно логично для машины. Кто понесет ответственность, когда полностью автономная система совершит ошибку и убьет невинного? Вопрос остается без ответа, пока страны соревнуются в создании все более смертоносных и независимых машин, а компании отказываются от этических ограничений.

Бенж Эдвардс — американский журналист, писатель и историк технологий, специализирующийся на истории компьютеров, цифровых технологий и их культурном влиянии — выдал статью об угрозе ИИ творчеству людей. Что пишет?

Росс Даутат — колумнист в NY Times, также известный американской общественности своими многочисленными выступлениями по общественно-религиозным вопросам. На многие вещи, касающиеся общества и технологического развития человечества, Росс смотрит с религиозной и консервативной точки зрения, на его мировоззрение сильно повлиял католицизм. Без всякого сомнения Росс является одним из самых ярких представителей современной американской интеллектуальной элиты. Знаменит книгой «Общество декаданса: как мы стали жертвами своего успеха». Об этой книге мы уже упоминали в одном из наших Писем. Книга вызвала огромный резонанс в интеллектуальной среде и не только среди элит США. Недавно он выдал колонку в NYT, где пишет примерно следующее:

Уже месяц по всему миру народ активно обсуждает радикальную фрик-группу Zizians. Основательницу в феврале арестовали и понеслось по СМИ и соцсетям. ИИ свел их с ума. Группа сформировалась вокруг идей рационализма и ИИ-безопасности, связанных с сообществами CFAR (Center for Applied Rationality) и MIRI (Machine Intelligence Research Institute). Пропагандировала радикальные идеи, включая создание «нового общества» и отказ от традиционных социальных норм. Группа откололась от рационалистов, обвиняя CFAR и MIRI в «предательстве» и некомпетентности. Они разработали собственную систему взглядов, включавшую элементы психологии, философии и манипуляций сознанием. Начинали как часть интеллектуального движения, но превратились в сообщество, отвергнутое даже среди рационалистов. Группа постепенно радикализировалась, что привело к конфликтам, насилию, смертям и исчезновениям.

Кремниевая долина больше не изобретает будущее — она его навязывает. Машина вдалбливания неизбежности ИИ работает на полную мощность, продавая вам ИИ, который вам «нужен», но которого вы не просили. За этими красивыми рекламными роликами скрывается нечто большее: захват власти, проникновение в ткань социальных институтов, перекройка реальности под нужды технологических гигантов. Что, если выбор у вас уже отобрали? Что, если вас заставляют верить в мир, который не существует? Есть и такое мнение. Добро пожаловать в Машину делюзий Кремниевой долины.