Метка: Теория

Из книги «Прозрачность Зла» (аж от 1990 года)

…Если люди придумывают или создают «умные» машины, то делают это потому, что в тайне разочаровались в своём уме или изнемогают под тяжестью чудовищного и беспомощного интеллекта; тогда они загоняют его в машины, чтобы иметь возможность играть с ним (или на нём) и насмехаться над ним. Доверить свой интеллект машине — значит освободиться от всякой претензии на знание, подобно тому, как делегирование власти политикам позволяет нам смеяться над всякой претензией на власть…

Конкуренция между Китаем и США в области ИИ касается не только технологического превосходства — оно связано с контролем над будущим. Искусственный интеллект следует рассматривать как создание виртуального мира. Ведь человеческий разум также является созданием виртуального мира. Разум всегда представляет собой мир, модель реальности. Мы строим в голове представление о том, как устроен мир вокруг нас, и хотя наш разум считает, что реальный мир существует сам по себе, независимо от нас (то есть имеет «независимое существование»), сама модель мира в нашей голове такой независимостью не обладает. Она полностью зависит от нашего сознания и существует только в нем. Проще говоря: мы воспринимаем мир как нечто реальное и независимое от нас, но наше восприятие этого мира — это лишь картинка в нашей голове, которая не может существовать отдельно от нашего сознания. В этом смысле вызов, который ставит перед нами ИИ, заключается вовсе не в появлении какого-то мощного превосходящего человеческий разум интеллекта, не в появлении супер-интеллекта, действующего в том же мире, что и мы, а в появлении новых миров, заменяющих наш собственный. Вот в чем на самом деле главный вопрос. И, как можно догадаться, борьба за мир завтрашнего дня — это прежде всего геополитическая битва.

Мы на FST об этом миллион раз говорили еще десять лет назад. Об этом говорят и миллиардеры Кремниевой долины. Вопрос демографии — это вопрос доступности жилья. Не вопрос эмансипации и амбиций женщин и их экономической независимости от мужчин или их образовательного и карьерного роста, не вопрос запредельной стоимости воспитания ребенка, не вопрос страха людей перед безработицей и ростом цен, не вопрос неуверенности в будущем, не вопрос смены ценностей и взлета индивидуализма или влияния соцсетей и виртуальных миров. Это банальный вопрос жилья. Жилья. В первую очередь. Растущая недоступность нормального жилья — это самоубийство цивилизации. Залить карманными деньгами, скромными сертификатами и льготными процентами на огромные суммы и отпусками это не получится. Как и никакой пропагандой и религией. Только жилье.

Мы — очень странные существа. Ученые отмечают парадоксальную медлительность человеческого поведения. Несмотря на огромный поток сенсорной информации, воспринимаемой органами чувств (а это около 10^9 бит/с), информационная пропускная способность сознательного поведения человека ограничена примерно 10 битами в секунду. Это несоответствие поднимает фундаментальные вопросы о работе мозга: какой нейронный субстрат ограничивает скорость нашего существования, зачем мозгу миллиарды нейронов для обработки 10 бит в секунду, и почему мы можем думать только об одной вещи в каждый момент времени. Этот парадокс имеет значение для различных областей нейронауки, от нейротеории до вспомогательных технологий. Ключевой вопрос заключается в том, почему мы можем выполнять только одну задачу одновременно, в то время как наша периферическая нервная система обрабатывает тысячи элементов параллельно.

Старая тема, но становится все актуальнее. ИИ по фото определяет черты вашей личности и анализирует их влияние на успех в трудовой деятельности. Исследование, основанное на данных выпускников MBA на LinkedIn, показывает, что ИИ-программа прогнозирует различные карьерные результаты, такие как ранг университета, компенсация, продвижение по службе и мобильность. Программа обладает предсказательной силой, сопоставимой с традиционными факторами, такими как когнитивные навыки, раса и внешняя привлекательность, что поднимает важные этические вопросы о статистической дискриминации и использовании подобных технологий в процессе найма. Авторы, конечно, на всякий случай страхуются и утверждают, что целью работы является лишь пассивная оценка прогностической силы программы на рынке труда, а не пропаганда ее использования, и тщательно подчеркивают необходимость обсуждения потенциальных негативных последствий широкого применения распознавания лиц для оценки личности и карьерных перспектив.

Происходит замедление инноваций, несмотря на значительные инвестиции в исследования и разработки. Простое добавление технологий недостаточно для достижения настоящих инноваций. Ключевым фактором инноваций представляется «креативное разрушение» – необходимость замены устаревших продуктов и технологий, даже если они приносят прибыль, чтобы стимулировать конкуренцию и подталкивать компании к самосовершенствованию. Можно выделить несколько факторов, препятствующих инновациям: возросшие издержки на новые идеи, избыточное регулирование, неопределенность в регулировании новых технологий и преобладание пассивных институциональных инвесторов, заинтересованных в стабильности, а не в рискованных инновациях.

Ключевая идея — использование ИИ под предлогом повышения эффективности государственного управления для подрыва демократических институтов. По мнению автора материала, Илон Маск и его команда, используя генеративный ИИ, стремятся заменить государственных служащих, устраняя политическое участие людей и принятие решений людьми в пользу автоматизированных систем. Это достигается путем создания искусственного кризиса, демонстрирующего якобы неэффективность государственной машины, что обосновывает замену людей машинами. В итоге, это ведет к концентрации власти в руках технологической элиты, способной контролировать и обслуживать эти системы, и исключению людей из политической жизни. Это интересная точка зрения, безотносительно страны происходящего, персон и их, возможно, личных мотивов. Интересна сама идея перекладывания в будущем политических решений на ИИ.

Представьте себе мир, где цена акций определяется не только финансовыми отчетами, но и твитами с эмодзи, мнениями блогеров и даже слухами о романе генерального директора со знаменитостью. Добро пожаловать в новую реальность фондового рынка, где традиционные законы о ценных бумагах сталкиваются с мощной волной «неразумных» инвесторов. Сегодня «мемные» акции и «финфлюенсеры» меняют правила игры, создавая «рынок отдельных акций», где спрос и личные предпочтения играют не меньшую роль, чем финансовые показатели. Традиционные методы оценки стоимости акций оказываются неэффективными в мире, где инвесторы руководствуются эмоциями, политическими взглядами и даже модой. И как это все регулировать на законодательном уровне? Добро пожаловать в захватывающее путешествие в мир новой финансовой реальности, где каждый, от опытного трейдера до «мемного» инвестора, должен пересмотреть свои представления о фондовом рынке и его законах.