Рубрики
Статьи/Блог

Рассказывающие истории компьютеры изменят ход человеческой истории

На днях Харари опубликовал небольшую заметку про ИИ. Русскоязычные СМИ и соцсети отреагировали на нее, но почему-то обратили внимание в основном на три посыла: ИИ страшнее ядерного оружия, ИИ сам придумает еще более совершенный ИИ, ИИ запутает нас политическими фейками и навредит демократии. Это все есть у Харари, но мне кажется, что самое интересное в его тексте — это размышление о том, что цивилизация, культура, религия построены на сторителлинге, на рассказывании историй, на языке. И если ИИ освоит в совершенстве искусство рассказывать истории, то сможет создавать не просто классные байки, но и новые религиозные культы, соответсвенно перепрограммируя нашу цивилизацию. Вот это уже гораздо интереснее. Я уже много раз рассказывал, что есть идея, что, будущие мыслители будут религиозны, сциентизм уже сейчас дает трещину, а освоение космоса будет крайне религиозным этапом в истории человечества и это, возможно, будут новые боги, которых нам придумает на этот раз уже ИИ на прахе наших старых богов и вечных желаний.

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №389

«…Война в будущем, скорее всего, будет выглядеть либо как «медленное тление», либо как радикальное «горячее действие». Другими словами, конфликты будут выглядеть либо как меры, далекие от войны и направленные на формирование игрового поля, либо как молниеносное наступление, направленное на установление свершившегося факта еще до того, как союзники смогут мобилизоваться для оказания помощи. Критические возможности, которые потребуются Соединенным Штатам, чтобы конкурировать, — это изысканные возможности зондирования, способность сортировать шум, как никогда ранее, чтобы найти сигнал, быстрое принятие решений и надежная и безопасная передача информации обо всем — от стратегических решений до тактики ведения боя. Кроме того, в случае возникновения конфликта с относительно равными противниками Соединенные Штаты должны будут иметь возможность держать силы географически разбросанными, но тесно скоординированными, и эти силы должны будут обладать устойчивостью, чтобы действовать с ограниченными запасами в течение неизвестного количества времени…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №381

«…В настоящее время все, что обладает таким творчеством или способно создавать объяснения, я называю человеком. А люди есть люди. AGI, когда они будут построены, станут людьми. Внеземные цивилизации будут состоять из людей. И все они принципиально одинаковы, потому что все они подчиняются законам эпистемологии, включая принцип оптимизма, и у них будут одни и те же сильные и слабые стороны в отношении того, что они могут и чего не могут делать. Кроме того, у них будут те же возможности для ошибок, что и у людей. Таким образом, они не могут быть непогрешимыми в большей степени, чем люди. Они будут совершать ошибки, и нет предела тому, сколько ошибок они могут совершить. Так что если вы пытаетесь построить нечто, что никогда не может сделать больше определенного количества ошибок, то это аналогично попытке посадить всех людей определенного вида в клетку. Они будут бунтовать. Они найдут выход…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №380

«…Примерно в 2002 году Лин решил, что они зря теряют время. Он хотел забыть о новой длине волны и невозможной линзе и вместо этого использовать воду. Вода с ее предсказуемым коэффициентом преломления позволила бы литографам лучше контролировать уже известную им длину волны. Он изобрел систему для поддержания воды в идеально однородном состоянии, а затем направил свет через нее на пластину. Бинго. Он смог вытравить транзисторы размером 28 нанометров, в итоге с нулевыми дефектами. «Вода — это чудо, — говорит Лин, — Не только для TSMC. Это — чудо для всего человечества. Бог добр к рыбам. А также к нам». Лин — еще один набожный христианин в TSMC. Его лицо живое и выразительное, он выглядит и двигается как молодой Джин Келли, хотя ему 80 лет. Я спрашиваю его, видит ли он, как и Лю, Бога в атомах. «Я вижу Бога в любом масштабе, — говорит он, — Посмотрите на собаку или тигра, а потом посмотрите на еду, которую мы едим. Она изумительна. Почему? Почему так?». Будучи категорически против христианства в молодости во Вьетнаме, когда он считал эту веру суеверием, да еще и чужим, Лин в конце концов увлекся идеей, что Бог — это «сверхразумное существо». Гонка в сфере полупроводников — это гонка за скоростью и точностью. Поскольку скорость и точность в бизнесе обычно противоречат друг другу — если двигаться быстро, то все ломается — о сотрудниках компании TSMC ходят легенды. Если вы считаете, что производство полупроводников — это всего лишь заводская работа, то вы можете назвать этот проект монотонным или, что еще более обидно, «аутистическим». Но наноразмерная работа по производству микросхем однообразна только в том случае, если ваши уши недостаточно остры, чтобы услышать симфонию. Два качества, говорит мне Марк Лю, отличают ученых TSMC: любопытство и выносливость. Религия, к моему удивлению, тоже при деле. «Каждый ученый должен верить в Бога», — говорит Лю…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №375

«…Несмотря на непрекращающуюся шумиху, я считаю, что ИИ в целом недооценен. Долгосрочные последствия ИИ повлияют на наше общество в большей степени, чем электричество и огонь, но для того, чтобы проявились все его последствия, потребуются столетия. Это означает, что мы будем спорить, обсуждать и бороться с изменениями, вызванными ИИ, в течение следующих 10 десятилетий. Поскольку ИИ работает в пространстве так близко к нашему внутреннему «я» и идентичности, нас ожидает вековой кризис идентичности. Этот промежуток времени особенно примечателен, потому что мы уже обсуждаем последствия ИИ целых 100 лет. На самом деле, никогда прежде люди так тщательно не репетировали что-то настолько далеко вперед, как ИИ. Задолго до его появления мы представляем себе его плюсы и минусы и пытаемся предвидеть его на протяжении нескольких поколений. Такая серьезная репетиция является улучшением нашей культуры, и мы должны продолжить ее для других технологий, таких как генная инженерия, метавселенная и так далее. Плюсом длительной репетиции является то, что по прибытии мы не должны быть слишком удивлены. Недостатком долгой репетиции является то, что существует больше вариантов того, что что-то пойдет не так, пойдет не столь правильно, а у нас было время подумать обо всех ужасных вещах, так что позитивные предположения кажутся мифическими и нереальными…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Статьи/Блог

Дети о будущем

Ученики английских школ в 1966 году прогнозируют, какой может быть жизнь в 2000 году. Дети опасаются ядерного Армагеддона, перенаселения, автоматизации, клеточных ферм и массовой безработицы. Можно сказать, что большинство из учеников не особенно оптимистично смотрело тогда на перспективы. И вот дитя говорит, по сути, о прекариате и «лишних людях» будущего, и дело даже не в том, что роботы заберут работу, а что в принципе люди станут не очень важными в экономике будущего, они будут лишь цифрами и сухой статистикой, люди будут питаться пилюлями из растений, восторжествует серость и однообразность и жизнь потеряет смысл. Как дети могли это понять 57 лет назад? Если уж что-то прогнозировать, есть ли смысл платить Фукуяме, Харари, Курцвейлу, Бострому и прочим любимым массами именитым футурологам и матерым аналитикам? Может, просто сделать опрос среди детей и прогнозы будут в разы результативнее и точнее в плане развития хайтека и социума? Дети рулят.

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Статьи/Блог

Клаус Шваб о властителях мира

«…Сегодня люди могут спросить, какова цель таких мероприятий как Всемирный правительственный саммит? Когда мы находимся в таком раздробленном мире, то собраться вместе, чтобы подумать о будущем, — это абсолютно необходимо. Некоторые люди утверждают, что мы сейчас находимся в деглобализирующемся мире, но на самом деле я бы сказал, что мы должны повторно глобализировать этот мир. Мы должны убедиться, что у нас есть сильные стороны в сотрудничестве, потому что мы сталкиваемся с вопросами, которые имеют экзистенциальное значение для человечества. На кону наше будущее…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Статьи/Блог

Цивилизационное разнообразие

Илон Маск на Всемирном правительственном саммите 2023 в Дубае высказался о многополярности мира.

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Статьи/Блог

Масаеси Сон, SoftBank и печаль

Вот за что люблю нашего старого знакомого Масу (Масаеси Сон) и SoftBank с его фондом, так это даже не за харизму, безумие, ковровые бомбардировки венчурными деньгами всю суетливую поляну мировых стартапов, не за дикие вложения в странные компании, не за хайпуху и манипуляцию рынком. Об этом подписчики FST знают достаточно. Любим Масу и его фонд за другое.

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Статьи/Блог

Умеренная страшилка про ИИ. 1,5 млн просмотров ))

…Эксперты предупреждают, что сам ИИ станет намного лучше в разработке самого себя — искусственного интеллекта, чем человек, и будет развиваться слишком быстро, так что мы не будем понимать, что он делает. Его способность к кодированию быстро улучшается. ИИ будет анализировать наши инструменты и говорить только ту ложь, которую, как он узнает, проанализировав нас, мы не сможем распознать. Разные ИИ будут сотрудничать друг с другом, чтобы быстрее и эффективнее обойти нас…

Материал доступен только подписчикам. Войти или Оформить подписку.