Метка: Теория

Известный эксперт в области искусственного интеллекта Ян Лекун считает, что современные большие языковые модели (LLM) приближаются к своему пределу из-за неспособности адекватно моделировать сложность реального мира. Вместо них появятся более совершенные системы ИИ, обладающие способностью к абстрактному мышлению и пониманию физической реальности. Лекун предвидит появление «Сообщества машин», в котором AI будут взаимодействовать, контролировать и даже корректировать поведение друг друга, а некоторые из них смогут объяснять свою работу и принятые решения на понятном для человека языке.

На LessWrong дюжина авторов-специалистов в сфере ИИ выдала огромную статью (которая в свою очередь является выжимкой из их более крупной статьи) по поводу того, стоит ли нам (и как) регулировать ИИ. Авторы опасаются, что мы в итоге зарегулируем ИИ к чертям и унифицируем и в итоге под соусом «выравнивания интересов ИИ и человека» придем к диктатуре, насилию и прогнем ИИ под какую-то одну «ценность», или же те или иные массы людей не будут довольны каким-либо «строгим» ИИ и начнут бунтовать, а это все не есть хорошо.

В последние годы человечество стало свидетелем поразительного роста вычислительных мощностей, используемых для работы с системами искусственного интеллекта. Современные большие языковые модели, а также другие сложные архитектуры машинного обучения, требуют колоссальных объёмов энергии и вычислительных ресурсов. Постоянная работа дата-центров, поддерживающих эти системы, уже сейчас оказывает существенное влияние на мировое энергопотребление. По оценкам специалистов, к 2030 году на ИИ-дата-центры может приходиться до 10-15% всей электроэнергии, производимой на планете.

The Economist выдал прикольную статью о Европе. Чувствительные люди могут даже заплакать от умиления от такой наивности, а с другой стороны…Реальные проблемы Европы в сравнении не кажутся такими уж плохими.

За последние несколько лет в мире произошло одно из самых масштабных и незаметных культурных завоеваний в истории человечества. Cуть завоевания заключается в том, что искусственный интеллект, а именно крупные языковые модели, которые, хотя и кажутся техническими и нейтральными, на самом деле несут в себе ценности и представления тех обществ, которые их создают. И поскольку подавляющее большинство передовых моделей разрабатываются в США и странах Запада, именно западные идеи, нормы и способы мышления становятся невидимым, но крайне влиятельным культурным экспортом по всему миру. Эти модели интегрируются в повседневную жизнь на планете, в том числе в таких странах, как Китай, и они представляют собой массовую, беспрецедентную форму культурного и идеологического влияния. Что имеется в виду?

Среди военных стратегов распространено заблуждение о возможности быстрых побед. Несмотря на примеры скоротечных конфликтов, история войн демонстрирует тенденцию к затягиванию и превращению войн в изнурительные противостояния. Стратеги часто недооценивают ресурсы противника и переоценивают собственную способность к быстрому разгрому. Планирование, ориентированное исключительно на короткие войны, создает уязвимости при переходе к затяжным конфликтам, требующим иных ресурсов и стратегий. Необходима разработка реалистичных политических целей и гибких военных стратегий, учитывающих вероятность длительных конфликтов, чтобы предотвратить их возникновение и избежать катастрофических последствий.

Мы живем в мире, где технологии каждый день обещают сделать нас свободнее, а на деле — загоняют в еще более изнуряющую гонку. Искусственный интеллект решает задачи быстрее человека, автоматизация сокращает усилия, цифровые сервисы упрощают быт — но почему же мы все больше устаем? Иллюзия легкости превращает жизнь в бесконечный список дел, где отдых — повод для вины, а пауза кажется слабостью. Мы идем все быстрее — но куда? Мы работаем все эффективнее — но ради чего? Как остаться живым, уязвимым, настоящим в мире бесконечных возможностей и ускорений? Продуктивность без смысла обесценивает самое главное: наше время, наши чувства, нас самих.

Организация НАТО по науке и технологиям (STO) опубликовала всеобъемлющий обзор социально-технологических тенденций, которые, как ожидается, будут определять технологический ландшафт в период с 2025 по 2045 год. В докладе исследуются связи между новыми и прорывными областями науки и технологий, а также их макроэкономические, геополитические и социальные последствия и факторы, способствующие их развитию. В отчёте выделены шесть основных тенденций, включая эволюцию сфер конкуренции, гонку за превосходство в области искусственного интеллекта и квантовых технологий, биотехнологическую революцию, доступ к ресурсам, фрагментацию общественного доверия, а также интеграцию технологий и зависимость от них.