Метка: Теория

Аарон Леви, глава компании Box, полагает, что мы находимся в начале грандиозного технологического сдвига, который он сравнивает с рождением компьютерной эпохи и Всемирной паутины. Он призывает взглянуть на развитие ИИ как на процесс, полный парадоксов, но обладающий невероятной экономической ценностью. Что говорит?

Рэй Далио, будучи опытным инвестором с более чем пятидесятилетним стажем, всегда стремился не только к финансовому успеху, но и к тому, чтобы делиться накопленными знаниями о том, как устроена реальность и какие принципы помогают успешно с ней справляться. Большая часть его философии сосредоточена на уроках истории. Он считает, что многие кризисы и экономические циклы повторяются по одним и тем же причинам. Далио предупреждает об особой опасности, возникающей, когда большие финансовые пузыри (то есть нереалистично раздутые цены на активы) совпадают с огромными разрывами в благосостоянии между людьми.

Наши современные представления об экономике и прогрессе могут оказаться устаревшими перед лицом стремительного развития искусственного интеллекта. Чтобы понять возможные изменения, важно взглянуть на прошлое. Как отмечал экономист Стивен Лaндсбург, первые современные люди появились около 100 тысяч лет назад. В течение последующих 99 800 лет жизнь почти не менялась. Люди жили примерно на уровне, эквивалентном 400–600 долларам в год, то есть еле сводили концы с концами. И только пару сотен лет назад — всего лишь около 10 поколений назад — доходы на душу населения начали расти, достигая невероятного темпа около трех четвертей процента в год на Западе. Этот прорыв положил начало миру, который мы знаем. Сегодня искусственный интеллект обещает стать следующим, и, возможно, более радикальным переломным моментом.

Мы стоим перед лицом беспрецедентной глобальной катастрофы, вызванной сочетанием снижения рождаемости и увеличением продолжительности жизни. Пока политики ищут решение, мир сталкивается с двойным ударом: депопуляцией на богатом Севере и климатическим кризисом на Юге, что делает массовую миграцию в XXI веке неизбежной. Как получилось, что в богатейших странах люди чувствуют себя слишком бедными для воспроизводства? Причина кроется в «цене возможностей». В процветающем обществе время становится самым дорогим ресурсом. Родительство требует огромного количества времени, а чем больше выбора у нас есть в жизни, тем больше мы боимся, что дети его ограничат. Этот процесс не является обратимым, так как для этого нам потребуется массовое и непопулярное перераспределение ресурсов от пожилых к молодым, что почти невозможно в обществах, где пожилые избиратели имеют численное превосходство.

Однa из самых острых и спорных тем современности — это возможность генетического отбора эмбрионов не только для предотвращения болезней, но и для «улучшения» детей, что обещает родителям возможность выбирать желаемые характеристики будущего ребенка, начиная от здоровья и заканчивая цветом глаз, интеллектом и даже моральными качествами. Это новая область науки, где передовые генетические тесты дают родителям беспрецедентный контроль над будущим их потомства, что немедленно вызывает как восхищение, так и глубокие этические опасения относительно социального равенства и возрождения идеологии евгеники. Является ли это новым этапом в эволюции человека, всего лишь маркетинговым ходом или несет в себе нечто более опасное?

Читая такие новости, я вспоминаю наш материал про Дэниэла Хиллиса, гибридных ИИ-корпорациях и эмергентности. Для затравки: WSJ вчера пишет, что в Южной Корее планируется строительство крупного дата-центра стоимостью до $35 млрд, который впервые будет полностью спроектирован, построен и управляться искусственным интеллектом. Инвестиционная группа Stock Farm Road совместно со стартапом Voltai, поддерживаемым Стэнфордским университетом, реализует проект под названием Project Concord, где ИИ будет принимать все ключевые решения — от проектирования до эксплуатации, включая управление энергопотреблением и водными ресурсами. Люди останутся лишь в роли наблюдателей. Объект строится в провинции Южная Чолла, его мощность составит до 3 гигаватт (что редкость для одного дата-центра в мире), а завершение запланировано на 2028 год. Что мы можем сразу заметить?

В ближайшие годы человечество ждет культурный шок, который превзойдет всю шумиху вокруг потери работы: появление высокоэмоционального ИИ. Мы можем рационально принять интеллект машин, считая собственный мозг компьютером, но принять машинное творчество, а тем более синтетические эмоции, гораздо сложнее, поскольку это кажется противоположностью рациональности. Однако эмоциональные агенты уже приходят, и мы наблюдаем проблески глубоких, выразительных отношений, которые устанавливают люди с ИИ, даже до целенаправленного внедрения эмоций. ИИ наделяют эмоциями по нескольким причинам: это улучшает интерфейс, делает взаимодействие естественным, и, главное, рынок будет отдавать предпочтение дружелюбным, приятным агентам. Отношения людей с ИИ будут такими же реальными и значимыми, как и любые другие человеческие связи. Настоящий вопрос не в том, будут ли связи тесными (будут!), а в том, на кого работает ваш эмоциональный агент и можете ли вы быть уверены, что он не будет вами манипулировать.