Метка: Прогресс

В последние годы среди некоторых ученых, философов и особенно в кругах, связанных с ИИ, стала популярной идея так называемого longtermism — это убеждение, что мы должны думать не только о ближайших годах или десятилетиях, но и о будущем человечества на сотни, тысячи и даже миллионы лет вперед. Сторонники этой идеи говорят: у нас может быть невероятно долгое будущее, и даже один катастрофический выбор сегодня — вроде ядерной войны или выхода ИИ из-под контроля — может навсегда прервать развитие человеческой цивилизации. Поэтому мы обязаны учитывать возможные риски, которые могут уничтожить нас как вид, и сделать все возможное, чтобы этого не произошло. Это выглядит как высокая, вдохновляющая идея, но за этим кажущимся благородством скрывается опасная и тревожная логика. Она не только отрывает нас от настоящего, но и может стать основой для нового вида власти — холодной, расчетливой, и по-настоящему античеловечной.

Росс Даутат — колумнист в NY Times, также известный американской общественности своими многочисленными выступлениями по общественно-религиозным вопросам. На многие вещи, касающиеся общества и технологического развития человечества, Росс смотрит с религиозной и консервативной точки зрения, на его мировоззрение сильно повлиял католицизм. Без всякого сомнения Росс является одним из самых ярких представителей современной американской интеллектуальной элиты. Знаменит книгой «Общество декаданса: как мы стали жертвами своего успеха». Об этой книге мы уже упоминали в одном из наших Писем. Книга вызвала огромный резонанс в интеллектуальной среде и не только среди элит США. Недавно он выдал колонку в NYT, где пишет примерно следующее:

Есть такой Нейт Хагенс. Не очень, прям, популярен — около 80 тысяч подписчиков на его YouTube канале, — но известен и многими уважаем. Много выступает по миру на конференциях. На канале The Great Simplification Хагенс беседует с учеными (тот же Сапольски), политиками, бизнесменами и экологами о будущем человечества. Бывает интересно. Хагенс — американский ученый, «системный мыслитель» и популяризатор знаний о предельных возможностях цивилизации, энергетике, экономике и экологии. Он специализируется на долгосрочных перспективах устойчивого развития человечества в условиях истощения ресурсов, энергетического пика и деградации окружающей среды.

The Economist выдал прикольную статью о Европе. Чувствительные люди могут даже заплакать от умиления от такой наивности, а с другой стороны…Реальные проблемы Европы в сравнении не кажутся такими уж плохими.

Происходит замедление инноваций, несмотря на значительные инвестиции в исследования и разработки. Простое добавление технологий недостаточно для достижения настоящих инноваций. Ключевым фактором инноваций представляется «креативное разрушение» – необходимость замены устаревших продуктов и технологий, даже если они приносят прибыль, чтобы стимулировать конкуренцию и подталкивать компании к самосовершенствованию. Можно выделить несколько факторов, препятствующих инновациям: возросшие издержки на новые идеи, избыточное регулирование, неопределенность в регулировании новых технологий и преобладание пассивных институциональных инвесторов, заинтересованных в стабильности, а не в рискованных инновациях.

Кремниевая долина больше не изобретает будущее — она его навязывает. Машина вдалбливания неизбежности ИИ работает на полную мощность, продавая вам ИИ, который вам «нужен», но которого вы не просили. За этими красивыми рекламными роликами скрывается нечто большее: захват власти, проникновение в ткань социальных институтов, перекройка реальности под нужды технологических гигантов. Что, если выбор у вас уже отобрали? Что, если вас заставляют верить в мир, который не существует? Есть и такое мнение. Добро пожаловать в Машину делюзий Кремниевой долины.

Сегодня я не собираюсь говорить о «безопасности ИИ», как это было темой конференции пару лет назад. Я здесь, чтобы говорить о возможностях искусственного интеллекта. Когда на таких конференциях, как эта, собираются, чтобы обсудить передовые технологии, зачастую, как мне кажется, наша реакция — быть слишком осторожными, слишком боязливыми к риску. Но никогда прежде я не встречал технологический прорыв, который так явно призывал бы нас поступать совершенно наоборот. Наша администрация, администрация Трампа, убеждена, что искусственный интеллект будет иметь бесчисленное множество революционных применений — в области экономики и инноваций, создания рабочих мест, национальной безопасности, здравоохранения, свободы самовыражения и многого другого.