Метка: Теория

Джейкоб Коксон и Эван Хубингер, конечно, молодцы. Одним постом закошмарили все человечество. Под оригинальным их сообщением только на Х уже 160 млн просмотров, а с учетом всех перепостов и обсуждений по миру про ужас ИИ-убийцы, думаю, как минимум набралось суммарно выше миллиарда просмотров. Еще пару лет назад такие посты собирали лишь несколько миллионов просмотров. Сейчас человечество накрутили и довели уже до белой горячки. Проблема в том, что авторы постов и комментаторы слишком часто смотрят на ИИ как на отдельную программу: вот есть страшная модель, вот есть лаборатория, вот есть компания, которая эту модель создала, — и где-то внутри всего этого якобы сидит «настоящий ИИ», который однажды вырвется наружу из клетки и ухайдокает человечество. Но это примерно то же самое, что пытаться найти человечество внутри одного человеческого мозга. Надо же смотреть со стороны и именно в планетарном масштабе.

Революционная гипотеза нейробиологов Лизы Фельдман Барретт и Эрла Миллера предлагает по-новому взглянуть на работу мозга. Он не просто получает и хранит информацию о внешнем мире, а постоянно пытается понять, что происходит вокруг, и подготовиться к тому, что будет дальше. Мозг распределяет увиденное и услышанное по знакомым категориям — предметам, событиям и эмоциям, — учитывая состояние организма, его потребности и задачу выживания. Он не всегда сначала получает информацию, а потом определяет ее смысл: во многих случаях мозг заранее формирует предположение о происходящем, опираясь на сигналы от тела и прошлый опыт. В результате наше восприятие реальности оказывается не объективным отражением окружающего мира, а результатом сложного сжатия данных, ориентированного на эффективное управление внутренними ресурсами организма и прогнозирование будущего.

Крайне популярная ныне тема в мире. Идей по этому поводу великое множество. Ребята из Works in Progress считают, что Европа стагнирует не потому, что у нее внезапно исчезли технологии, предприниматели или деньги, а потому, что ее институты постепенно научились защищать уже существующее вместо того, чтобы приспосабливаться к изменениям. Это, конечно, касается не только Европы или упоминаемых ниже двух европейских стран.

Фэй-Фэй Ли всегда интересно послушать, учитывая, что она пытается создать мировой AI-мозг, а Китай пытается создать мировой физический субстрат (материальную основу — роботов) для этого мозга. Фэй-Фэй Ли — выдающийся ученый в области компьютерных наук, профессор Стэнфордского университета и один из признанных первопроходцев и лидеров в сфере искусственного интеллекта и компьютерного зрения. В научном сообществе ее часто называют «крестной матерью искусственного интеллекта» за неоценимый вклад в развитие современных технологий машинного обучения. Фэй-Фэй Ли сейчас находится в довольно интересном положении: она фактически перешла из роли академического исследователя в роль предпринимателя, который пытается построить следующий слой AI после LLM. Ее компания называется World Labs. Главная идея World Labs — Spatial Intelligence, то есть пространственный интеллект.

Замечательная статья «Конфуцианский парадокс низкой рождаемости». Авторы пытаются объяснить на первый взгляд странный парадокс: почему именно в Восточной Азии — прежде всего в Китае и Корее — рождаемость сегодня упала до исторически беспрецедентно низкого уровня, хотя традиционная конфуцианская культура всегда придавала огромное значение семье, продолжению рода и рождению детей. На самом деле никакого противоречия нет. Просто в конфуцианской традиции было две разные идеи, связанные с семьей и детьми, и модернизация повлияла на них по-разному.