Рубрики
Письма

Письмо №381

«…В настоящее время все, что обладает таким творчеством или способно создавать объяснения, я называю человеком. А люди есть люди. AGI, когда они будут построены, станут людьми. Внеземные цивилизации будут состоять из людей. И все они принципиально одинаковы, потому что все они подчиняются законам эпистемологии, включая принцип оптимизма, и у них будут одни и те же сильные и слабые стороны в отношении того, что они могут и чего не могут делать. Кроме того, у них будут те же возможности для ошибок, что и у людей. Таким образом, они не могут быть непогрешимыми в большей степени, чем люди. Они будут совершать ошибки, и нет предела тому, сколько ошибок они могут совершить. Так что если вы пытаетесь построить нечто, что никогда не может сделать больше определенного количества ошибок, то это аналогично попытке посадить всех людей определенного вида в клетку. Они будут бунтовать. Они найдут выход…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №380

«…Примерно в 2002 году Лин решил, что они зря теряют время. Он хотел забыть о новой длине волны и невозможной линзе и вместо этого использовать воду. Вода с ее предсказуемым коэффициентом преломления позволила бы литографам лучше контролировать уже известную им длину волны. Он изобрел систему для поддержания воды в идеально однородном состоянии, а затем направил свет через нее на пластину. Бинго. Он смог вытравить транзисторы размером 28 нанометров, в итоге с нулевыми дефектами. «Вода — это чудо, — говорит Лин, — Не только для TSMC. Это — чудо для всего человечества. Бог добр к рыбам. А также к нам». Лин — еще один набожный христианин в TSMC. Его лицо живое и выразительное, он выглядит и двигается как молодой Джин Келли, хотя ему 80 лет. Я спрашиваю его, видит ли он, как и Лю, Бога в атомах. «Я вижу Бога в любом масштабе, — говорит он, — Посмотрите на собаку или тигра, а потом посмотрите на еду, которую мы едим. Она изумительна. Почему? Почему так?». Будучи категорически против христианства в молодости во Вьетнаме, когда он считал эту веру суеверием, да еще и чужим, Лин в конце концов увлекся идеей, что Бог — это «сверхразумное существо». Гонка в сфере полупроводников — это гонка за скоростью и точностью. Поскольку скорость и точность в бизнесе обычно противоречат друг другу — если двигаться быстро, то все ломается — о сотрудниках компании TSMC ходят легенды. Если вы считаете, что производство полупроводников — это всего лишь заводская работа, то вы можете назвать этот проект монотонным или, что еще более обидно, «аутистическим». Но наноразмерная работа по производству микросхем однообразна только в том случае, если ваши уши недостаточно остры, чтобы услышать симфонию. Два качества, говорит мне Марк Лю, отличают ученых TSMC: любопытство и выносливость. Религия, к моему удивлению, тоже при деле. «Каждый ученый должен верить в Бога», — говорит Лю…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №375

«…Несмотря на непрекращающуюся шумиху, я считаю, что ИИ в целом недооценен. Долгосрочные последствия ИИ повлияют на наше общество в большей степени, чем электричество и огонь, но для того, чтобы проявились все его последствия, потребуются столетия. Это означает, что мы будем спорить, обсуждать и бороться с изменениями, вызванными ИИ, в течение следующих 10 десятилетий. Поскольку ИИ работает в пространстве так близко к нашему внутреннему «я» и идентичности, нас ожидает вековой кризис идентичности. Этот промежуток времени особенно примечателен, потому что мы уже обсуждаем последствия ИИ целых 100 лет. На самом деле, никогда прежде люди так тщательно не репетировали что-то настолько далеко вперед, как ИИ. Задолго до его появления мы представляем себе его плюсы и минусы и пытаемся предвидеть его на протяжении нескольких поколений. Такая серьезная репетиция является улучшением нашей культуры, и мы должны продолжить ее для других технологий, таких как генная инженерия, метавселенная и так далее. Плюсом длительной репетиции является то, что по прибытии мы не должны быть слишком удивлены. Недостатком долгой репетиции является то, что существует больше вариантов того, что что-то пойдет не так, пойдет не столь правильно, а у нас было время подумать обо всех ужасных вещах, так что позитивные предположения кажутся мифическими и нереальными…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Статьи/Блог

Дети о будущем

Ученики английских школ в 1966 году прогнозируют, какой может быть жизнь в 2000 году. Дети опасаются ядерного Армагеддона, перенаселения, автоматизации, клеточных ферм и массовой безработицы. Можно сказать, что большинство из учеников не особенно оптимистично смотрело тогда на перспективы. И вот дитя говорит, по сути, о прекариате и «лишних людях» будущего, и дело даже не в том, что роботы заберут работу, а что в принципе люди станут не очень важными в экономике будущего, они будут лишь цифрами и сухой статистикой, люди будут питаться пилюлями из растений, восторжествует серость и однообразность и жизнь потеряет смысл. Как дети могли это понять 57 лет назад? Если уж что-то прогнозировать, есть ли смысл платить Фукуяме, Харари, Курцвейлу, Бострому и прочим любимым массами именитым футурологам и матерым аналитикам? Может, просто сделать опрос среди детей и прогнозы будут в разы результативнее и точнее в плане развития хайтека и социума? Дети рулят.

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Статьи/Блог

Клаус Шваб о властителях мира

«…Сегодня люди могут спросить, какова цель таких мероприятий как Всемирный правительственный саммит? Когда мы находимся в таком раздробленном мире, то собраться вместе, чтобы подумать о будущем, — это абсолютно необходимо. Некоторые люди утверждают, что мы сейчас находимся в деглобализирующемся мире, но на самом деле я бы сказал, что мы должны повторно глобализировать этот мир. Мы должны убедиться, что у нас есть сильные стороны в сотрудничестве, потому что мы сталкиваемся с вопросами, которые имеют экзистенциальное значение для человечества. На кону наше будущее…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Статьи/Блог

Цивилизационное разнообразие

Илон Маск на Всемирном правительственном саммите 2023 в Дубае высказался о многополярности мира.

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Статьи/Блог

Масаеси Сон, SoftBank и печаль

Вот за что люблю нашего старого знакомого Масу (Масаеси Сон) и SoftBank с его фондом, так это даже не за харизму, безумие, ковровые бомбардировки венчурными деньгами всю суетливую поляну мировых стартапов, не за дикие вложения в странные компании, не за хайпуху и манипуляцию рынком. Об этом подписчики FST знают достаточно. Любим Масу и его фонд за другое.

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Статьи/Блог

Умеренная страшилка про ИИ. 1,5 млн просмотров ))

…Эксперты предупреждают, что сам ИИ станет намного лучше в разработке самого себя — искусственного интеллекта, чем человек, и будет развиваться слишком быстро, так что мы не будем понимать, что он делает. Его способность к кодированию быстро улучшается. ИИ будет анализировать наши инструменты и говорить только ту ложь, которую, как он узнает, проанализировав нас, мы не сможем распознать. Разные ИИ будут сотрудничать друг с другом, чтобы быстрее и эффективнее обойти нас…

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Статьи/Блог

Облачный континент как новый фронтир

Миллиарды людей перенесли огромные куски своей жизни на этот облачный континент, в своего рода облачную Атлантиду. Когда я говорю миллиарды, я имею в виду три с чем-то миллиарда человек, которые только на Facebook. А мы можем добавить всех людей со смартфонами и так далее. Так что, допустим, Атлантиду посещают три-четыре миллиарда людей в мире.

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №346

«…В ближайшие 25 лет люди преодолеют несколько фундаментальных порогов, которые, предположительно, любой достаточно разумный вид на других планетах во Вселенной преодолевает лишь однажды. Мы будем на пути к устойчивому развитию, жизни в пределах экологических границ планеты, но впереди нас ждет еще много испытаний. Мы научимся действовать гораздо более сложными способами на глобальном уровне в планетарном масштабе, и многое еще предстоит сделать. Эта эпическая история начинает разворачиваться вокруг нас сегодня. Демографические сдвиги, культурные изменения, экономические эволюции, даже контринтуитивные политические прорывы — вся эта трансформация началась. Основная часть всего изложенного здесь — это вероятная сквозная линия того, что произойдет в течение следующих 25 лет. Как и при любом осознанном взгляде в будущее, не все элементы будут следовать траектории, которую я здесь описал. Но большинство из них, похоже, будут развиваться. Эта в целом позитивная, прогрессорская история на самом деле гораздо более вероятна, чем нынешняя общепринятая мудрость, которая утверждает, что мы попали в разворачивающуюся катастрофу и движемся в антиутопическое будущее…»

Материал доступен только подписчикам. Войти или Оформить подписку.