Рубрика: Статьи/Блог

Забудьте старые войны. Настоящий ужас уже здесь: машины, наделенные правом самостоятельно лишать жизни. Они не обладают состраданием или суждением, не понимают ценности человеческой жизни. Для них вы – всего лишь набор данных, который нужно обработать и, возможно, уничтожить. Решения о жизни и смерти уже делегируются алгоритмам, а технологические гиганты активно развивают эти системы, игнорируя призывы к запрету. Хуже того, эти системы наследуют предубеждения своих создателей и данных обучения, что делает людей определенных групп более уязвимыми для ошибочного удара. Технологии ИИ, особенно новые большие языковые модели (LLM), делают это оружие невероятно опасным. LLM могут сами генерировать алгоритмы атаки, и даже небольшая ошибка в их «мышлении» — так называемая «галлюцинация» — может привести к катастрофическим последствиям, выглядя при этом совершенно логично для машины. Кто понесет ответственность, когда полностью автономная система совершит ошибку и убьет невинного? Вопрос остается без ответа, пока страны соревнуются в создании все более смертоносных и независимых машин, а компании отказываются от этических ограничений.

Из выступления Алекса Карпа, генерального директора Palantir, в Экономическом клубе Чикаго. Карп обсуждает историю Palantir, ее уникальную культуру и ее роль в оборонной и коммерческой сферах. Он подчеркивает приверженность компании меритократии, работе с правительством США и разработке «операционного» ИИ, который приносит реальную пользу. Карп также высказывает свои спорные взгляды на высшее образование и подчеркивает важность американского военного превосходства в поддержании глобальной безопасности.

Роджер Пенроуз — знаменитый британский физик и математик, работающий в различных областях математики, общей теории относительности и квантовой теории. Одно из его недавних выступлений посвящено вопросу, который давно занимает умы ученых и инженеров: можно ли создать сознание, используя только вычисления, как это делают современные компьютеры? Пенроуз много лет размышляет над этим и предлагает другую точку зрения. Он считает, что, возможно, одной лишь классической вычислимости недостаточно для возникновения сознания.

В 2012 году, возглавив Коммунистическую партию Китая, Си Цзиньпин столкнулся с серьезной проблемой: страна стремительно развивалась, но оставалась зависимой от импорта нефти и угля. Риски перебоев в поставках через стратегически важные морские пути угрожали национальной безопасности. Ответом стало масштабное переосмысление энергетической политики: ставка на электрификацию и развитие возобновляемых источников энергии. Сегодня Китай на пути к тому, чтобы стать первым в мире «электрогосударством», где экономика опирается на чистые технологии. Секторы чистой энергетики уже составляют 10% ВВП и обеспечивают четверть экономического роста страны. Эта трансформация не только укрепляет энергетическую независимость Китая, но и дает ему стратегическое преимущество в условиях глобальной геополитической напряженности.

Microsoft под руководством Сатьи Наделлы адаптируется к революции в области ИИ, рассматривая ее как центральный элемент своей стратегии. Наделла видит будущее ИИ в его «коммодитизации» (превращении в широкодоступный и дешевый ресурс), руководствуясь «парадоксом Джевонса». Microsoft активно развивает собственные модели ИИ, такие как MAI-2, стремясь к экономической эффективности и снижению зависимости от одного партнера. Наделла видит в ИИ не только инструмент, но и возможность стимулировать экономический рост, аналогично предыдущим технологическим революциям, полагая, что повышение эффективности использования ИИ приведет к увеличению спроса на соответствующие сервисы.

Корни проблем лежат в неприятии риска, строгом регулировании и недостатке динамичного финансирования. Культура бизнеса и сложности с трудовым законодательством и опционами на акции замедляют рост стартапов. Отмечается меньший объем венчурного капитала по сравнению с США и общая медлительность процессов – от привлечения инвестиций до найма сотрудников. Фокус на этике и регулировании вместо инноваций, а также высокие затраты на комплаенс (до 40% ИТ-бюджетов) вынуждают европейские стартапы переезжать в США или быть поглощенными американскими компаниями. Континент не создает новых, революционных компаний с высокой рыночной капитализацией такими же темпами, как США. Европа, похоже, упускает текущую волну инноваций, особенно в области ИИ, тогда как США и Китай активно инвестируют в эти направления.

ИИ меняет поведение, интерфейсы и привычки пользователей. OpenAI купила компанию Джони Айва за $6,5 млрд — ради создания «загадочного» устройства на базе ИИ. Сэм Альтман и легендарный дизайнер iPhone намерены переосмыслить само понятие персонального гаджета. Смартфон, каким мы его знали, возможно, уходит в прошлое. Джони Айв и Сэм Альтман избегают слова «смартфон», но намекают на прорывное устройство, которое заменит браузеры, экраны и кнопки. Что мы получим взамен — аксессуары, работающие с голосом, или новую форму взаимодействия с ИИ? Комментарий к сделке.

Отношения между Китаем и США вступили в фазу высокой неопределенности — эксперты признают, что предсказать поведение Пекина становится все труднее. Один из западных аналитиков обсуждает, как за последние десятилетия изменилось восприятие Китая на Западе: от надежд на либерализацию к настороженности и конфронтации. Он анализирует рост технологической мощи Китая — как в промышленности, так и в программном обеспечении — и влияние внутренних решений партии на международную политику. Отдельно подчеркиваются трудности, с которыми сталкиваются западные исследователи при работе в Китае. В таких условиях важно не только пересматривать прежние подходы, но и изучать новые серьезные книги о Китае, чтобы глубже понять его мотивацию и место в мире.

Повседневное взаимодействие с ИИ постепенно изменяет нашу сущность. Мы передаем ИИ части своих мыслительных процессов, таких как память, мышление и принятие решений, а взамен получаем искаженные отражения самих себя. Эти цифровые двойники, созданные на основе наших данных и коллективных шаблонов, начинают влиять на наши решения и поведение, формируя новое, гибридное «я». ИИ не просто инструмент, а творец химерических существ. Границы между человеком и машиной становятся все более размытыми. Как человеку сохранить подлинность и осознанность в эпоху, когда технологии все глубже проникают в наше сознание?