Метка: Дистопия

Тридцать лет назад нанотехнологии обещали радикально изменить мир: от излечения рака и простуды до бессмертия через загрузку разума в цифровое пространство. Самовоспроизводящиеся наноботы должны были строить что угодно атом за атомом. Это видение породило также и кошмар «серой слизи», поглощающей материю. Не сбылось, хотя фантастические наноботы остаются краеугольным камнем «магического мышления» Кремниевой долины, поддерживая фантазии о терраформировании планет и колонизации космоса. Фантазии, обещающие вселенную, лишенную страданий и физических ограничений, являются центральной темой и для утопий Рэя Курцвейла и Илона Маска, которые предсказывают наступление «общего ИИ» через три-пять лет. Можно провести параллели между нанотехнологической манией прошлого и нынешним хайпом вокруг сверхразумного ИИ и его «экзистенциальных рисков».

Мир на пороге цивилизационного сдвига. Все говорят о циркулярной экономике как о панацее от ресурсного кризиса и климатической катастрофы. Римский клуб и инициатива Earth4All призывают к «Гигантскому скачку» — радикальной перестройке системы. Цель благая: сократить ежегодное использование первичных сырьевых материалов в индустриальных странах как минимум вдвое. Но когда ресурсы станут слишком ценными, а владение ими сконцентрируется в руках ограниченного числа игроков, мы рискуем потерять главное — собственность и свободу выбора. Вы перестанете быть владельцем, став клиентом системы, где общество или специализированные компании будут управлять всем: от жилья до электроники и транспорта, предоставляя доступ «по подписке». Это не просто новая бизнес-модель, это новая цивилизационная система, где привычное понятие собственности исчезает, а автономия пропадает. Кто будет определять, что справедливо в этом мире?

В современном мире технологии, призванные облегчать нашу жизнь, иногда становятся источником серьeзных проблем. Одним из таких тревожных явлений являются AI-сервисы, которые способны «раздевать» людей на фотографиях. Эти так называемые «сайты-нюдификаторы» или «раздевающие» приложения создают нежелательные и оскорбительные изображения женщин и девушек, причeм нередко речь идeт и о материалах с сексуальным насилием над детьми. Исследования показывают, что миллионы людей ежемесячно посещают такие ресурсы, и их создатели могут зарабатывать миллионы долларов каждый год.

Очень много вижу и все больше и больше постов каждый день от восторженных и не самых глупых людей, что они перестали использовать Google для поиска, читать первоисточники, тратить свое время на самостоятельное исследование вопросов и перешли полностью в своих вопросах на ChatGPT и так далее, или что они платят 200 долларов за отчет от DeepResearch, а не 2-15к долларов за отчет аналитикам. Что поисковики, СМИ и агентства и эксперты умерли и ИИ отобрал их хлеб, отвечая на вопросы и выдавая красоту и инфу. Посмею высказать другое мнение.

Что же, похоже, что для многих настало время столкнуться с безжалостной реальностью, которая угрожает вашему будущему, потому что ИИ уже не просто трансформирует, а разрушает основы привычного рынка труда. Это не просто технологический сдвиг; это «кровавая» баня для миллионов рабочих мест, и никто не застрахован, даже если вы сейчас чувствуете себя в безопасности. Что на подходе?

Забудьте старые войны. Настоящий ужас уже здесь: машины, наделенные правом самостоятельно лишать жизни. Они не обладают состраданием или суждением, не понимают ценности человеческой жизни. Для них вы – всего лишь набор данных, который нужно обработать и, возможно, уничтожить. Решения о жизни и смерти уже делегируются алгоритмам, а технологические гиганты активно развивают эти системы, игнорируя призывы к запрету. Хуже того, эти системы наследуют предубеждения своих создателей и данных обучения, что делает людей определенных групп более уязвимыми для ошибочного удара. Технологии ИИ, особенно новые большие языковые модели (LLM), делают это оружие невероятно опасным. LLM могут сами генерировать алгоритмы атаки, и даже небольшая ошибка в их «мышлении» — так называемая «галлюцинация» — может привести к катастрофическим последствиям, выглядя при этом совершенно логично для машины. Кто понесет ответственность, когда полностью автономная система совершит ошибку и убьет невинного? Вопрос остается без ответа, пока страны соревнуются в создании все более смертоносных и независимых машин, а компании отказываются от этических ограничений.

Бенж Эдвардс — американский журналист, писатель и историк технологий, специализирующийся на истории компьютеров, цифровых технологий и их культурном влиянии — выдал статью об угрозе ИИ творчеству людей. Что пишет?