FastSaltTimesЧто же, похоже, что для многих настало время столкнуться с безжалостной реальностью, которая угрожает вашему будущему, потому что ИИ уже не просто трансформирует, а разрушает основы привычного рынка труда. Это не просто технологический сдвиг; это «кровавая» баня для миллионов рабочих мест, и никто не застрахован, даже если вы сейчас чувствуете себя в безопасности. Что на подходе?
Забудьте старые войны. Настоящий ужас уже здесь: машины, наделенные правом самостоятельно лишать жизни. Они не обладают состраданием или суждением, не понимают ценности человеческой жизни. Для них вы – всего лишь набор данных, который нужно обработать и, возможно, уничтожить. Решения о жизни и смерти уже делегируются алгоритмам, а технологические гиганты активно развивают эти системы, игнорируя призывы к запрету. Хуже того, эти системы наследуют предубеждения своих создателей и данных обучения, что делает людей определенных групп более уязвимыми для ошибочного удара. Технологии ИИ, особенно новые большие языковые модели (LLM), делают это оружие невероятно опасным. LLM могут сами генерировать алгоритмы атаки, и даже небольшая ошибка в их «мышлении» — так называемая «галлюцинация» — может привести к катастрофическим последствиям, выглядя при этом совершенно логично для машины. Кто понесет ответственность, когда полностью автономная система совершит ошибку и убьет невинного? Вопрос остается без ответа, пока страны соревнуются в создании все более смертоносных и независимых машин, а компании отказываются от этических ограничений.
Бенж Эдвардс — американский журналист, писатель и историк технологий, специализирующийся на истории компьютеров, цифровых технологий и их культурном влиянии — выдал статью об угрозе ИИ творчеству людей. Что пишет?
Росс Даутат — колумнист в NY Times, также известный американской общественности своими многочисленными выступлениями по общественно-религиозным вопросам. На многие вещи, касающиеся общества и технологического развития человечества, Росс смотрит с религиозной и консервативной точки зрения, на его мировоззрение сильно повлиял католицизм. Без всякого сомнения Росс является одним из самых ярких представителей современной американской интеллектуальной элиты. Знаменит книгой «Общество декаданса: как мы стали жертвами своего успеха». Об этой книге мы уже упоминали в одном из наших Писем. Книга вызвала огромный резонанс в интеллектуальной среде и не только среди элит США. Недавно он выдал колонку в NYT, где пишет примерно следующее:
Уже месяц по всему миру народ активно обсуждает радикальную фрик-группу Zizians. Основательницу в феврале арестовали и понеслось по СМИ и соцсетям. ИИ свел их с ума. Группа сформировалась вокруг идей рационализма и ИИ-безопасности, связанных с сообществами CFAR (Center for Applied Rationality) и MIRI (Machine Intelligence Research Institute). Пропагандировала радикальные идеи, включая создание «нового общества» и отказ от традиционных социальных норм. Группа откололась от рационалистов, обвиняя CFAR и MIRI в «предательстве» и некомпетентности. Они разработали собственную систему взглядов, включавшую элементы психологии, философии и манипуляций сознанием. Начинали как часть интеллектуального движения, но превратились в сообщество, отвергнутое даже среди рационалистов. Группа постепенно радикализировалась, что привело к конфликтам, насилию, смертям и исчезновениям.
Кремниевая долина больше не изобретает будущее — она его навязывает. Машина вдалбливания неизбежности ИИ работает на полную мощность, продавая вам ИИ, который вам «нужен», но которого вы не просили. За этими красивыми рекламными роликами скрывается нечто большее: захват власти, проникновение в ткань социальных институтов, перекройка реальности под нужды технологических гигантов. Что, если выбор у вас уже отобрали? Что, если вас заставляют верить в мир, который не существует? Есть и такое мнение. Добро пожаловать в Машину делюзий Кремниевой долины.
Благодаря неинвазивным носимым устройствам, таким как EEG и fNIRS, можно отслеживать мозговую активность в реальном времени, оптимизируя производительность труда и выявляя усталость. Рынок этих нейротехнологий, определяемых как любые технологии, взаимодействующие с нервной системой, к 2026 году, по прогнозам, достигнет 21 миллиарда долларов США. Однако, этические вопросы использования нейротехнологий на рабочем месте крайне важны: конфиденциальность данных о мозговой активности и потенциал дискриминации требуют новых законов и регулирования, чтобы защитить права работников.
В 1960-х годах американский исследователь Джон Кэлхун провел серию экспериментов, которые сегодня кажутся пугающе пророческими. Создав для мышей идеальные условия существования – неограниченный доступ к пище, воде и пространству – он невольно смоделировал процессы, которые мы наблюдаем в современных развитых обществах. То, что начиналось как утопия, завершилось полным коллапсом сообщества грызунов, несмотря на отсутствие внешних угроз и материальных лишений. Тогда эксперимент в эпоху бурного роста населения и урбанизации воспринимался как символ угрозы перенаселения планеты. Но прошли десятилетия и ситуация изменилась. Интересно посмотреть снова на эксперимент Кэлхуна, а особенно на его последние стадии. Спустя полвека после знаменитого эксперимента «Вселенная-25» мы видим тревожные параллели с современным обществом: падение рождаемости в развитых странах достигло исторических показателей, растет социальная атомизация, молодое поколение все чаще отказывается от традиционных отношений и создания семьи, молодежь не вступает в интимные отношения, женщины не выходят замуж за «неудачников» и ищут альфа-самцов, мужчины-инцелы погружаются в депрессию, идет социальное и материальное расслоение и увеличение неравенства, общество погружается в гедонизм, кумирами становятся «красавчики». На фоне материального благополучия происходит размывание социальных связей, усиление авторитарных тенденций и рост социальной апатии. Возможно ли, что «прекрасный новый мир» комфорта и изобилия таит в себе механизмы саморазрушения, которые Кэлхун обнаружил в своей мышиной утопии? В этой статье мы рассмотрим, как эксперимент полувековой давности может помочь нам понять текущие социальные процессы и, возможно, избежать повторения судьбы обитателей «Вселенной-25».
Обсуждаются как перспективы, так и этические проблемы технологии интерфейсов мозг-компьютер (BCI). Рассматривается их потенциал в лечении психических заболеваний, таких как депрессия, ПТСР и когнитивные нарушения, с помощью малоинвазивных имплантов, которые стимулируют определенные участки мозга для улучшения исполнительных функций и эмоциональной регуляции. При этом поднимаются серьезные вопросы о конфиденциальности, возможности манипуляции личностью и социальном расслоении между людьми с имплантами и без них. Подчеркивается необходимость этического подхода по мере развития нейротехнологий.
Показательная статья Vox о проблеме нехватки солдат в современном мире, особенно в контексте потенциальных конфликтов высокой интенсивности.
— Рост числа вооруженных конфликтов и увеличение военных бюджетов стран мира происходят на фоне острой нехватки личного состава во многих армиях.
— Истощение людских ресурсов армий является мировой тенденцией, затрагивающей как развитые, так и развивающиеся страны. Например, в США армия сокращает свои ряды из-за хронической нехватки новобранцев, в то время как в Европе, несмотря на увеличение военных расходов после начала конфликта на Украине, ситуация ещё хуже.