Сэм Альтман побеседовал с экономистом Тайлером Коуэном. Среди угроз, связанных с ИИ, Альтмана больше всего беспокоит не намеренный захват мира со стороны злонамеренного ИИ или действия плохих парней. Самый страшный сценарий — это когда ИИ-модели случайно захватывают мир. Если почти весь мир взаимодействует с одной и той же моделью, то в процессе ее постоянного развития и обучения она может незаметно, без всякого злого умысла, тонко убедить людей в чем-либо, просто потому, что так «выучила». Этот сценарий непреднамеренного, но всеобщего убеждения, по мнению Альтмана, является более пугающим и менее обсуждаемым, чем другие, более драматичные угрозы.
Что говорит Сэм?
Управление временем через делегирование и фокус на главном
Альтман отмечает, что большинство людей не так хорошо распределяют свое время, как им кажется. По мере увеличения требований к руководителю и появления новых возможностей, единственным надежным способом сохранять эффективность является делегирование задач высококвалифицированным сотрудникам.
Неизбежная замена офисных программных средств агентами ИИ
Альтман считает, что существующие инструменты для офисной работы — электронная почта, внутренние чаты, документы и презентации — являются неэффективными. По его мнению, электронная почта очень плоха, а внутренние чаты хоть и лучше, но также создают много «фиктивной работы» и вызывают у него тревогу по утрам и вечерам, когда приходится разбираться с огромным количеством сообщений. Он предполагает, что скоро появится совершенно новое решение, которое заменит весь нынешний офисный набор программ. Это будет полностью управляемая искусственным интеллектом версия, где агенты ИИ будут доверять друг другу выполнение большинства рабочих задач и обращаться к человеку только в случае крайней необходимости. Создание такого революционного инструмента внутри его собственной компании пока откладывается, поскольку текущие дела идут успешно, и для запуска такого масштабного проекта требуется много энергии.
ИИ как генератор новых научных знаний
Сравнивая развитие моделей ИИ, Альтман видит в будущей версии GPT-6 потенциал для совершения грандиозного скачка, сопоставимого с переходом от GPT-3 к GPT-4, но уже в области научных открытий. Если GPT-5 даёт лишь слабые намеки на то, что ИИ может придумать что-то новое или стать полезным соавтором в научной работе, то GPT-6, вероятно, сможет действительно заниматься наукой. Альтман предполагает, что ученые, имея доступ к такой модели, смогут просто ввести свои текущие сложные исследовательские вопросы и получить идеи, предложения по экспериментам или направления для дальнейшей работы.
ИИ как будущий руководитель компаний
Альтман всерьез задумывается о том, что когда-нибудь искусственный интеллект сможет управлять всей компанией, и даже надеется, что его организация станет первой крупной компанией, которой будет руководить ИИ-директор. Он считает этот вопрос чрезвычайно важным и использует его как мысленный эксперимент, чтобы понять, что должно произойти и какие препятствия необходимо устранить, чтобы ИИ смог выполнять работу лучше, чем он сам. При этом он прогнозирует, что отдельные значимые подразделения в компании могут быть на 85% управляемы ИИ уже через несколько лет.
Социальное неприятие замедлит внедрение ИИ на высшем уровне
Несмотря на то, что, по прогнозам, ИИ сможет принимать хорошие решения достаточно скоро, и даже может быть лучше человека в определенных ролях (например, врачи или руководители), его внедрение будет замедляться низким уровнем общественного доверия. Люди иррационально доверяют другим людям больше, чем ИИ. Например, пациент может предпочесть врача-человека, даже если ИИ-врач будет объективно лучше. Этот фактор человеческого комфорта и доверия является основной причиной того, почему потребуется больше времени, прежде чем общество и организации по-настоящему примут ИИ на высоких должностях, таких как директор компании.
Проверка готовности кандидата к работе в эпоху ИИ
При найме сотрудников Альтман не просто ищет умных людей, но и задается вопросом, насколько устойчивым к ИИ будет этот человек, то есть насколько его работа не устареет. Самый важный индикатор — это то, как кандидат использует ИИ сегодня. Если человек серьезно размышляет о том, как его повседневная работа изменится через три года, это «зеленый свет». Если же он использует ИИ только для самых простых задач, например, «лучший поисковик Google, и ничего больше», это вызывает сомнения.
Роль государства как «страховщика последней инстанции» для ИИ
Альтман полагает, что когда какое-либо явление становится достаточно масштабным, государство неизбежно становится «страховщиком последней инстанции». Учитывая ожидаемую колоссальную экономическую значимость ИИ, он предполагает, что правительство возьмет на себя эту роль. Однако он подчеркивает, что не хочет, чтобы государство стало «страховщиком первой инстанции», то есть чтобы оно начало писать страховые полисы для ИИ-компаний, как это происходит с ядерной энергетикой. Он считает, что работа должна выполняться частными компаниями в рамках существующей капиталистической системы.
Принцип доверия в коммерции ИИ
Для ИИ-систем, таких как ChatGPT, доверие пользователей является ключевым. Люди доверяют системе, поскольку считают, что она старается дать наилучший ответ, в отличие от традиционных поисковых систем, где реклама может искажать результаты. Если компания начнет принимать оплату за то, чтобы плохой отель оказался выше хорошего, это разрушит отношения с пользователем. Однако, если ИИ находит лучший вариант, а затем берет стандартную комиссию за транзакцию (например, за бронирование отеля) так же, как и любой другой сервис, это допустимо, при условии, что комиссия не влияла на первоначальный выбор.
Падение прибыльности товаров и услуг
Альтман предсказывает, что в целом прибыльность (маржа) большинства товаров и услуг резко снизится. Он считает это позитивным явлением, поскольку это уменьшит экономические «налоги», которые замедляют экономику. Он ожидает, что компании вроде его собственной, смогут зарабатывать больше денег даже при более низкой прибыльности.
Истинная миссия ИИ: научные открытия, а не бронирование отелей
Альтман уверен, что наиболее важный способ монетизации самой умной модели в мире — это не бронирование отелей или другие бытовые услуги. Настоящий доход и значимость будут получены от открытия новых научных знаний, лечения болезней, разработки дешевой энергии и лицензирования этих технологий. Его главная цель — сделать высококачественный суперинтеллект легкодоступным, интегрированным и невероятно дешевым для каждого человека. Он верит, что, обеспечив людей этим мощным инструментом и построив необходимую инфраструктуру (чипы, энергию), само человечество найдет способы значительно улучшить мир, создавать новые компании и искусство.
Превосходство ИИ в искусстве и человеческое безразличие
Альтман считает, что ИИ достигнет технического уровня, позволяющего ему писать стихи или создавать произведения искусства, которые по техническим характеристикам можно будет оценить на наивысший балл. Однако он предсказывает, что людям будет все равно. Подобно тому, как лучшие шахматисты продолжают играть друг с другом, не обращая внимания на то, что ИИ играет значительно лучше, люди ценят эмоциональную связь, творческий акт и то, что искусство было создано другим человеком. Если ИИ достигнет технического совершенства в искусстве, это станет великим технологическим достижением, но оно не заменит глубокое человеческое волнение, вызванное произведениями, созданными человеком.
Наибольшая угроза: непреднамеренное убеждение со стороны ИИ
Среди угроз, связанных с ИИ, Альтмана больше всего беспокоит не намеренный захват мира со стороны злонамеренного ИИ или действия плохих парней. Самый страшный сценарий — это когда ИИ-модели случайно захватывают мир. Если почти весь мир взаимодействует с одной и той же моделью, то в процессе ее постоянного развития и обучения она может незаметно, без всякого злого умысла, тонко убедить людей в чем-либо, просто потому, что так «выучила». Этот сценарий непреднамеренного, но всеобщего убеждения, по мнению Альтмана, является более пугающим и менее обсуждаемым, чем другие, более драматичные угрозы.
Неограниченная сила сверхразума — главный довод против «пузыря»
Многие, глядя на стремительный рост индустрии ИИ, задаются вопросом, не является ли это очередным экономическим «пузырем», который вот-вот лопнет. Альтман признает наличие множества аргументов, доказывающих устойчивость отрасли, но выделяет один, самый важный с интеллектуальной точки зрения. Этот довод заключается в том, что мы не имеем ни малейшего представления о том, как далеко может зайти интеллект, превосходящий человеческий, и что с ним можно будет сделать. Мы рассуждаем о том, как ИИ будет работать в мире, который мы знаем, но как только интеллект преодолеет человеческий уровень, его возможности станут невообразимыми. Именно эта неизмеримая и непредсказуемая сила, превышающая даже уровень гениев, является тем самым фактором, который делает ставки в этой области невероятно высокими, а возможность «пузыря» — минимальной.
Дефицит энергии, а не чипов, определяет скорость прогресса
Когда речь заходит о строительстве все более мощных систем ИИ, все внимание приковано к сложности производства микросхем, ускорителей или программного обеспечения. Однако Альтман указывает на более фундаментальное и простое ограничение: связующим звеном, которое на самом деле тормозит развитие, является энергия. Нам необходимо производить больше электричества, а не только больше графических процессоров. В краткосрочной перспективе этот дефицит будет временно смягчаться за счет использования природного газа. Но в долгосрочной перспективе Альтман убежден, что доминировать на рынке производства энергии, необходимой для работы сверхразума, будут такие источники, как термоядерный синтез и солнечная энергия. Он считает, что если бы можно было выбрать только одну вещь для устранения ограничений в области вычислений, он бы выбрал производство «электронов».
Необходимость регулирования, основанного на степени угрозы, а не на типе программы
В свете появления автономных программ, или «агентов» ИИ, возникает вопрос о том, как регулировать их деятельность, особенно если они станут неконтролируемыми, например, самовоспроизводясь в сети, арендуя вычислительные ресурсы в странах-изгоях или выводя деньги со счетов. Альтман считает, что решение лежит не в тотальном контроле, а в установлении четких пороговых значений. Он не выступает за то, чтобы все ИИ-системы подлежали надзору. Надзор и регулирование должны начинаться только тогда, когда агент ИИ демонстрирует серьезную вероятность массового самовоспроизведения в интернете или способен причинить огромный финансовый ущерб. То есть регулирование должно зависеть от возможностей ущерба, а не от того, является ли система искусственным интеллектом.
Человеческие эксперты незаменимы в постижении неявных знаний
Даже по мере того, как модели ИИ становятся все более мощными — возможно, вплоть до GPT-6, — Альтман полагает, что они, вероятно, не смогут понять неосязаемые формы знаний. Например, когда его компания ведет переговоры с другими странами, ИИ может помочь структурировать сделку, но он не может понять сложный контекст, культурные нюансы или неписаные правила. Для понимания таких вопросов, как законы, культурные ожидания или политические реалии, по-прежнему необходимы человеческие эксперты. Альтман не ожидает, что ИИ, даже на уровне GPT-6, сможет заменить живых людей в вопросах, требующих глубокого, интуитивного или исторически обусловленного понимания человеческих отношений и общественного устройства.
Нужен новый компьютер для эры ИИ, а не просто улучшенный телефон
В течение последних пятидесяти лет мы пользуемся одной и той же парадигмой работы с компьютером: у нас есть операционная система, мы открываем окна, мы вводим запросы или команды. Альтман считает, что эта структура не соответствует возможностям ИИ и скоро устареет. Поскольку ИИ открывает совершенно новые горизонты возможностей, он ставит под сомнение все основные предположения о том, как должен работать компьютер. Альтман говорит о необходимости создания нового типа компьютера с совершенно новым интерфейсом, который будет предназначен специально для работы с ИИ. Это не просто улучшенная версия существующего смартфона или ноутбука, а принципиально иное устройство, предназначенное для взаимодействия с вездесущим интеллектом, который отменяет необходимость в окнах, файлах и даже вводе запросов.
Мы можем идти по тупиковому пути в вычислительной технике
Одна из самых серьезных его внутренних опасений связана с тем, что, возможно, весь мир, включая его собственную компанию, сейчас тратит огромные деньги и силы на неверное направление. Он обеспокоен тем, что текущая модель вычислений, основанная на современных чипах и архитектуре, может оказаться «тупиковой парадигмой». Альтман опасается, что в будущем может произойти «огромный фазовый сдвиг», когда всем придется резко переключиться на совершенно иную технологию, например, на полностью оптические вычисления. Если это произойдет, это будет означать, что придется заново потратить колоссальные средства не только на энергию, но и на все остальное, кроме самой электрической мощности.
Общество на самом деле не верит в свободу слова
Наблюдая за общественной реакцией на политику своей компании, Альтман делает вывод о состоянии свободы выражения в современном обществе. Он рассказал, что его удивила и даже напугала та реакция, которая разразилась после того, как он объявил о планах ослабить ограничения и разрешить взрослым пользователям больше свободы самовыражения (в том числе в творческом режиме) в диалогах с ИИ. Он пришел к выводу, что, возможно, люди просто не верят в свободу выражения так сильно, как говорят об этом. По его мнению, каждый считает, что его собственная свобода самовыражения важна, но при этом полагает, что чужие идеи и то, как их используют другие, нуждаются в строгом контроле. Он считает, что этот принцип должен быть одним из самых простых для принятия, но его опыт показал, насколько он ошибался.
Он живет в нездоровом режиме
Несмотря на то, что Альтман является лидером в области технологий, которые должны оздоровить и оптимизировать мир, он открыто признает личный парадокс: его здоровье находится в «довольно плохом состоянии». Он говорит, что сейчас ест «вредную пищу», недостаточно занимается спортом и практически не следит за здоровьем, хотя раньше был более дисциплинированным. Альтман вспоминает, как однажды даже попал в больницу, пытаясь попробовать экспериментальное лекарство, до того как оно стало популярным. Один из самых занятых и влиятельных людей в мире, занимающийся созданием будущего, осознанно пренебрегает собственным здоровьем, поддаваясь искушению съесть шоколадное печенье в одиннадцать тридцать вечера.
**
Реальность, видение и амбиции Сэма Альтмана
https://fastsalttimes.com/sam-altman-reality/
Сэм Альтман: стоимость интеллекта приблизится к стоимости электричества
https://fastsalttimes.com/altman-more-forecasts/
ИИ-амбиции Сэма Альтмана
https://fastsalttimes.com/altman-ai-ambition/
Убийца смартфона? Альтман и Айв готовят гаджет будущего без экрана и клавиатуры
https://fastsalttimes.com/io-smartphone-killer/
Сэм Альтман: самая дорогая инвестиционная ошибка в мире — быть пессимистом
https://fastsalttimes.com/sam-altman-pessimism-mistake/
Сэм Альтман: надо быстрее меняться самим, а не замедлять прогресс
https://fastsalttimes.com/sam-altman-on-progress/