FastSaltTimes

Однa из самых острых и спорных тем современности — это возможность генетического отбора эмбрионов не только для предотвращения болезней, но и для «улучшения» детей, что обещает родителям возможность выбирать желаемые характеристики будущего ребенка, начиная от здоровья и заканчивая цветом глаз, интеллектом и даже моральными качествами. Это новая область науки, где передовые генетические тесты дают родителям беспрецедентный контроль над будущим их потомства, что немедленно вызывает как восхищение, так и глубокие этические опасения относительно социального равенства и возрождения идеологии евгеники. Является ли это новым этапом в эволюции человека, всего лишь маркетинговым ходом или несет в себе нечто более опасное?

Джон Торнхилл (FT), Цайвэй Чэнь (MIT Technology Review) и Гидеон Рахман (FT) мило побеседовали о битве за превосходство в области ИИ между Соединенными Штатами и Китаем и о том, что страны преследуют разные цели и используют уникальные стратегии.

Читая такие новости, я вспоминаю наш материал про Дэниэла Хиллиса, гибридных ИИ-корпорациях и эмергентности. Для затравки: WSJ вчера пишет, что в Южной Корее планируется строительство крупного дата-центра стоимостью до $35 млрд, который впервые будет полностью спроектирован, построен и управляться искусственным интеллектом. Инвестиционная группа Stock Farm Road совместно со стартапом Voltai, поддерживаемым Стэнфордским университетом, реализует проект под названием Project Concord, где ИИ будет принимать все ключевые решения — от проектирования до эксплуатации, включая управление энергопотреблением и водными ресурсами. Люди останутся лишь в роли наблюдателей. Объект строится в провинции Южная Чолла, его мощность составит до 3 гигаватт (что редкость для одного дата-центра в мире), а завершение запланировано на 2028 год. Что мы можем сразу заметить?

В ближайшие годы человечество ждет культурный шок, который превзойдет всю шумиху вокруг потери работы: появление высокоэмоционального ИИ. Мы можем рационально принять интеллект машин, считая собственный мозг компьютером, но принять машинное творчество, а тем более синтетические эмоции, гораздо сложнее, поскольку это кажется противоположностью рациональности. Однако эмоциональные агенты уже приходят, и мы наблюдаем проблески глубоких, выразительных отношений, которые устанавливают люди с ИИ, даже до целенаправленного внедрения эмоций. ИИ наделяют эмоциями по нескольким причинам: это улучшает интерфейс, делает взаимодействие естественным, и, главное, рынок будет отдавать предпочтение дружелюбным, приятным агентам. Отношения людей с ИИ будут такими же реальными и значимыми, как и любые другие человеческие связи. Настоящий вопрос не в том, будут ли связи тесными (будут!), а в том, на кого работает ваш эмоциональный агент и можете ли вы быть уверены, что он не будет вами манипулировать.

Впервые в истории Америки продажи игрушек взрослым, покупающим их для себя, превысили продажи игрушек для дошкольников. Сейчас на долю кидалтов приходится 28,5% всех продаж игрушек в США, и аналитики прогнозируют, что эта доля будет только расти, поскольку детство перестало быть просто периодом жизни, превратившись в полноценный жанр развлечений, которым теперь предпочитают жить взрослые. Общество кидалтов может казаться милым и безобидным, но оно не может существовать само по себе. Сокращение числа семей означает демографический спад. Уход в игру и бесконечное потребление приводят к атрофии общественных институтов.

Технологические аналитики предсказывают, что ИИ-инструменты приведут к расцвету креативности. Sora ощущается как возможность для каждого стать создателем TikTok. Но история Интернета подсказывает, что если эти продукты будут успешны, они будут следовать правилу 90/9/1: 90% пользователей потребляют контент, 9% его ремикшируют и распространяют, и только 1% действительно создает. На самом деле 94% просмотров на YouTube приходится на 4% видео, а 89% просмотров на TikTok — на 5% видео. Даже архитекторы искусственного интеллекта, которые представляют себя героями на пути к созданию «последнего изобретения», заняты созданием лишь еще одной бесконечной последовательности видео, сделанного людьми, которых мы не знаем. Даже ИИ хочет быть телевидением.

Иэн Бреммер негодует. Иэн Бреммер — известнейший американский политолог, эксперт в области внешней политики США, развития евразийских государств и глобальных политических рисков. Основатель и президент исследовательского центра Eurasia Group. С 2014 года постоянный колумнист и обозреватель журнала Time. Профессор глобальных исследований в Нью-Йоркском университете. Окончил Стэнфордский университет. Автор множества книг, в том числе Every Nation for Itself: Winners and Losers in a G-Zero World («Каждая нация сама за себя: Победители и проигравшие в мире G-ноль») и The End of the Free Market: Who Wins the War Between States and Corporations («Конец свободного рынка: Кто победит в войне между государствами и корпорациями»).

Сэм Альтман побеседовал с экономистом Тайлером Коуэном. Среди угроз, связанных с ИИ, Альтмана больше всего беспокоит не намеренный захват мира со стороны злонамеренного ИИ или действия плохих парней. Самый страшный сценарий — это когда ИИ-модели случайно захватывают мир. Если почти весь мир взаимодействует с одной и той же моделью, то в процессе ее постоянного развития и обучения она может незаметно, без всякого злого умысла, тонко убедить людей в чем-либо, просто потому, что так «выучила». Этот сценарий непреднамеренного, но всеобщего убеждения, по мнению Альтмана, является более пугающим и менее обсуждаемым, чем другие, более драматичные угрозы.