Из беседы в Институте перспективных исследований с сэром Демисом Хассабисом, известной личностью в области искусственного интеллекта. Затрагиваются история и потенциал ИИ, обсуждая его роль в научных открытиях через призму проектов DeepMind, таких как AlphaGo и AlphaFold, а также исследуется глубинная связь между играми, человеческим мышлением и развитием вычислительных систем. Демис Хассабис делится своими мыслями о развитии ИИ, своем пути в эту область, а также о возможностях и рисках, связанных с этой технологией.
— Увлечение Демиса Хассабиса ИИ началось в детстве с игр, в частности с шахмат. Он был очарован идеей, что неодушевленный объект (компьютер) может играть в шахматы на очень высоком уровне. Игры, по его мнению, являются «микрокосмами» важных аспектов жизни, удобны, увлекательны и сложны. Они предоставляют четкие метрики (победа, счет), по которым можно оптимизировать работу ИИ, а также позволяют генерировать огромное количество данных путем самообучения системы, играющей против самой себя. Это сделало игры идеальным инструментом для развития ранних алгоритмов ИИ.
— Но истинная цель его работы с ИИ — это использование ИИ для решения научных и мировых проблем. Игры никогда не были самоцелью для DeepMind. Они служили лишь «рампой» для разработки общих обучающихся систем, которые могли бы обобщать знания и применяться для решения действительно сложных проблем реального мира. Главная цель всегда заключалась в использовании ИИ для продвижения науки, медицины и математики, помогая лучшим ученым совершать открытия.
— Для того чтобы проблема была интересна и подходила для применения методов DeepMind, она должна соответствовать нескольким критериям. Во-первых, необходимо наличие большого объема данных, желательно реальных, которые можно дополнить синтетическими или имитированными данными. Во-вторых, нужны четкие метрики, по которым можно измерять прогресс и оптимизировать решение (например, минимизация свободной энергии в системе). В-третьих, проблема должна представлять собой массивное комбинаторное пространство с огромным количеством возможностей, где методы полного перебора неэффективны.
— Прогнозирование структуры белков, проблема, над которой бились 50 лет, стала идеальной задачей для ИИ, соответствующей всем критериям. AlphaFold успешно решил ее, опираясь на десятилетия кропотливой работы биологов по определению структур. Несмотря на то, что исходных данных (из Протеиновой базы данных — PDB) было поначалу недостаточно, их удалось дополнить синтетическими данными. Успех AlphaFold демонстрирует огромный потенциал ИИ для биологических исследований и, в частности, для открытия новых лекарств (что стало основой для дочерней компании Isomorphic Labs).
— Задачи из области математики также могут быть успешно атакованы с помощью ИИ. Хассабис видит в решении математической гипотезы или поиске решения уравнения сходство с игрой, где каждый шаг (преобразование формулы) является «ходом», а целью является оптимизация (например, достижение определенного результата или элегантности решения). Большое преимущество математики и программирования для ИИ заключается в том, что в этих областях легко генерировать и проверять синтетические данные.
— Хассабис считает проблему P vs. NP. Проблема P (от «полиномиальное») включает задачи, которые могут быть решены «за некий обозримый период времени» на классическом компьютере. Задачи NP считаются такими, которые «в некотором роде невозможны или неразрешимы за приемлемое время, по крайней мере, на классическом компьютере». Проблема P vs. NP ставит вопрос о том, равны ли эти два класса задач (то есть, могут ли задачи, для которых решение можно проверить быстро, быть также и найдены быстро). Это фундаментальный, ключевой, основополагающий вопрос, связанный с работами Алана Тьюринга и других основоположников информатики, касающимися того, что возможно вычислить. Недавние успехи, такие как AlphaGo (который победил чемпиона мира по игре в Го) и AlphaFold (который предсказал структуру почти всех известных науке белков), предполагают, что классические методы и классические компьютеры могут «продвинуться гораздо дальше, чем, возможно, мы думали ранее». Этот прогресс напрямую связан с вопросом P vs. NP. Хассабис полагает, что это заставляет переосмыслить возможности классических систем. Его собственная работа в DeepMind является своего рода исследованием того, что возможно вычислить на классических машинах.
— Хассабис предлагает «конъектуру» (предположение), что любой паттерн, который может быть сгенерирован или найден в природе, может быть эффективно обнаружен и смоделирован классическим обучающимся алгоритмом. Его идея основана на том, что большинство природных систем, пройдя через процесс эволюции (не только биологической, но и геологической, космологической), обладают определенной структурой, которая не является случайной. Эту структуру можно изучить при наличии достаточного количества данных и использовать для эффективного поиска решений в огромных пространствах, например, при поиске новых материалов или молекул лекарств.
— Создание искусственных интеллектуальных артефактов рассматривается как способ лучше понять работу человеческого мозга и природу сознания. Сравнивая возможности искусственного разума с человеческим, который, по современным представлениям (хотя есть альтернативные точки зрения), также является классической системой, можно получить ценные инсайты. В теории, ИИ можно исследовать даже глубже, чем человеческий мозг, поскольку можно наблюдать за «каждым нейроном» его искусственной структуры, задавая при этом вопросы на естественном языке.
— Конечная цель DeepMind — создание AGI, системы, обладающей всеми когнитивными способностями человека. Ключевым компонентом для AGI является способность создавать «модели мира» — внутренние симуляции, позволяющие ИИ понимать интуитивную физику, пространственный контекст, предсказывать события и планировать действия. Разработка мультимодальных систем, способных работать с текстом, изображениями и видео (как модели Gemini и проект Astra), является важным шагом на этом пути, приближая машины к пониманию мира, подобно тому, как это делает человеческий мозг с его способностью к памяти и воображению.
— ИИ уже применяется в математике, например, с помощью таких программ, как AlphaProof. Планируется применение для поиска сверхпроводящих материалов при комнатной температуре. В области открытия лекарств разрабатываются технологии, подобные AlphaFold, для проектирования соединений, связывающихся с нужной частью белка без токсичности. Ведется работа над прогнозированием климата и моделями погоды. Исследуется применение ИИ в термоядерном синтезе для удержания плазмы
— ИИ — это технология двойного назначения с огромным потенциалом для добра, но и с серьезными рисками. Главные опасения связаны с использованием ИИ злоумышленниками (отдельные лица, государства) в деструктивных целях, а также с внутренними рисками по мере того, как ИИ становится более автономным. Технические решения для контроля систем возможны, но их разработка требует времени и совместных усилий. Наибольшей сложностью является проблема злоумышленников, требующая международного сотрудничества. Хассабис подчеркивает необходимость создания новых институтов на международном уровне (возможно, по типу CERN или IAEA, но адаптированных под ИИ) для мониторинга, регулирования и обеспечения безопасности развития этой технологии.
— Академическая среда и гражданское общество должны сосредоточиться на задачах, ортогональных тем, что делает индустрия, например, на понимании того, как работают модели ИИ, их интерпретации, создании бенчмарков для ограничения их поведения. Это должно быть сделано независимо от индустрии. Важно междисциплинарное исследование будущего человеческого существования, цели, экономического распределения благ и рисков, присущих технологии (например, тестирование на обман)
**