1/ Двойная стратегия достижения ОИИ: масштабирование и инновации
Хассабис утверждает, что для достижения ОИИ необходим двойной подход, объединяющий две стратегии. Он делит усилия своей команды фактически 50% на 50%: половина работы направлена на масштабирование существующих систем (то есть увеличение их размеров и вычислительной мощности), а вторая половина — на научные инновации, то есть на разработку принципиально новых идей. Хассабис всегда считал, что для достижения ОИИ понадобятся обе составляющие.
2/ Решение фундаментальных проблем
Большая часть работы его компании направлена на решение так называемых «корневых узловых проблем» (root node problems) — фундаментальных научных задач, которые, будучи решены, принесут огромную пользу во многих смежных областях. Крупнейшим доказательством возможности такого подхода стало создание AlphaFold 2, которому исполняется около пяти лет с момента его анонса миру. AlphaFold, решивший проблему сворачивания белка, стал подтверждением того, что ИИ способен совершать прорывы в фундаментальной науке.
3/ Термоядерный синтез как «Святой Грааль»
Одной из самых важных «корневых узловых проблем» является термоядерный синтез. Хассабис называет его «Святым Граалем» и считает, что его решение могло бы полностью трансформировать мир. Хотя солнечная энергия очень перспективна, модульные реакторы синтеза могут обеспечить почти неограниченное, возобновляемое и чистое электричество.
4/ Исчезновение других проблем благодаря дешевой энергии
Решение проблемы термоядерного синтеза помогло бы не только справиться с климатическим кризисом и загрязнением. Если бы энергия стала сверхдешевой или почти бесплатной и чистой, это сделало бы возможным множество других проектов. Например, можно было бы повсеместно развернуть заводы по опреснению воды, что решило бы проблему доступа к воде. Также это облегчило бы производство ракетного топлива из морской воды, поскольку для расщепления воды на водород и кислород требуется много энергии.
5/ «Зазубренный интеллект» и нехватка последовательности
Несмотря на впечатляющие успехи, современные системы ИИ обладают так называемым «зазубренным интеллектом» (jagged intelligence), что означает крайнюю неравномерность их производительности. Они могут быть на уровне кандидата наук в одних задачах (например, побеждать на Международной математической олимпиаде и брать золотые медали), но совершать тривиальные ошибки в других, более простых логических или даже школьных математических задачах. Это отсутствие последовательности является главным признаком того, что системы еще не являются ОИИ.
6/ Необходимость улучшить «мышление» и проверку ответов
Одной из причин недостаточной последовательности является неэффективность механизмов рассуждения. Сейчас существуют системы, которые тратят больше времени на «мышление» во время вывода (то есть на обдумывание ответа), и они дают лучшие результаты. Но эта функция пока нестабильна: модели не всегда используют это время полезно для проверки своего ответа или для использования инструментов. Хассабис предполагает, что в этом направлении мы продвинулись только на 50%.
7/ AlphaGo против AlphaZero в современных моделях
Современные большие языковые модели и фундаментальные модели, по мнению Хассабиса, больше похожи на AlphaGo, который начинал с изучения всех человеческих знаний (данных из интернета). Следующий, более сложный шаг, который пока не достигнут, — это создание системы, похожей на AlphaZero, которая начинает открывать знания сама для себя без предварительного обучения на человеческом опыте. Главная проблема сегодня не в нехватке человеческих знаний, а в том, как надежно использовать существующие системы для полезного рассуждения.
8/ Отсутствие непрерывного онлайн-обучения
Еще одной критически важной недостающей частью современных систем является их неспособность к постоянному (непрерывному) онлайн-обучению (online learn). Модели обучают, балансируют, дообучают и выпускают в мир, но они не продолжают учиться, находясь в реальном взаимодействии с миром, как это делают люди. Это ключевой элемент, который будет необходим перед достижением ОИИ.
9/ Упущенная «чистая научная» возможность
Хассабис признается, что если бы его воля была на то, он бы дольше оставил ИИ в лаборатории для «более чистого научного подхода». Он хотел, чтобы до появления ОИИ технология использовалась для продвижения науки и медицины — например, для создания технологий, которые могли бы вылечить рак. Коммерческая гонка, возникшая после появления чат-ботов, создала излишнее «сумасшествие», что затрудняет строгое научное исследование.
10/ Отсутствие потолка в масштабировании, но снижение темпов
Вопреки распространенным опасениям, что масштабирование вычислительных систем достигнет потолка или затормозится из-за нехватки данных, Хассабис не видит этого. Он признает, что наблюдается «снижение отдачи» — теперь каждое новое поколение не удваивает производительность по всем показателям, как это было в самом начале. Однако улучшения (например, как показал Gemini 3) остаются значительными и полностью оправдывают инвестиции.
11/ Решение проблемы нехватки данных с помощью синтеза
Проблема нехватки доступных данных для обучения, которую многие считают потенциальным ограничением масштабирования, может быть решена. Хассабис указывает, что системы уже достаточно хороши для генерации собственных данных, особенно в тех областях, где ответ поддается проверке (например, в программировании и математике). Это открывает возможность для создания неограниченного объема синтетических данных.
12/ Необходимость оценки уверенности для борьбы с галлюцинациями
Галлюцинации в моделях (выдача ложной информации) часто происходят потому, что система заставляет себя ответить, даже когда на самом деле не уверена. Для решения этой проблемы, помимо улучшения рассуждений, необходимо научить системы интроспекции (самоанализу), чтобы они могли выводить оценку уверенности вместе с ответом, по аналогии с тем, как это делает AlphaFold. Это позволило бы системе признавать свою неуверенность и не галлюцинировать.
13/ Важность «физических моделей мира» для пространственного понимания
Модели мира и симуляции являются давней страстью Хассабиса. Они важны, потому что, хотя языковые модели удивительно хорошо понимают мир через язык, они с трудом справляются с пространственной динамикой, физическим контекстом и тем, как мир функционирует механически. Многие знания (например, моторные углы, запахи, сенсорный опыт) трудно или невозможно описать словами, и их можно получить только через опыт в симуляции.
14/ Моделирование в науке и создание новых знаний
Модели такого рода будут иметь огромное значение в науке, позволяя создавать обучаемые симуляции сложных систем (погоды, материалов на атомном уровне, биологических процессов) на основе сырых данных. Это позволит воссоздавать динамику этих систем гораздо эффективнее, чем при помощи традиционных вычислительных методов.
15/ Социальные симуляции и происхождение сознания
Симуляции также являются мощнейшим инструментом для ответа на глубокие философские и научные вопросы, такие как происхождение жизни и сознания. Хассабис хотел бы запустить эксперименты, которые бы воспроизвели эволюцию или социальную динамику (например, в стиле экспериментов, где агенты в виртуальных мирах изобретали рынки и банки). Симуляции позволяют проводить контролируемые эксперименты миллионы раз со статистической точностью, что невозможно в реальном мире.
16/ Преобразование общества: 10x быстрее и 10x масштабнее
Хассабис предупреждает, что ИИ принесет изменения, которые будут в 10 раз масштабнее и произойдут в 10 раз быстрее (примерно за десятилетие, а не за столетие), чем промышленная революция. Поскольку нынешние экономические системы не смогут функционировать в мире после ОИИ, общество должно готовиться к новым экономическим моделям (например, более совершенным, чем просто базовый безусловный доход) и системам, подобным прямой демократии.
17/ Фундаментальный вопрос: предел машины Тьюринга
Центральный философский вопрос в жизни Хассабиса — это вопрос о пределе машины Тьюринга: что может быть вычислено, а что нет. Он склонен считать, что все во Вселенной является вычислимым (никто пока не обнаружил ничего невычислимого), и потому классический компьютер может смоделировать все. Именно ОИИ, который будет построен, и его сравнение с человеческим разумом, должны помочь найти ответ на вопрос о том, что уникального останется в человеческом сознании (возможно, эмоции, креативность или сновидения).
Демис Хассабис о будущем ИИ