FastSaltTimesЕсть такой автор — Виктор Швец. Он практически (вообще) неизвестен русскоязычной аудитории, но в 2020 году он написал одну книгу, которая периодически всплывает в дискуссиях о будущем общества и роли ИИ и недавно снова попала в свет прожекторов.
«…Goldman Sachs, который был одним из первых сторонников тезиса о «ревущих двадцатых», теперь прогнозирует анемичный рост в будущем году. Кроме того, одна из самых оптимистичных тенденций в сфере технологий — переход на удаленную работу — возможно, не оправдает надежд. Некоторые все еще ожидают, что удаленная работа изменит нашу экономику в положительную сторону, но ряд новых исследований показывает, что физическое разделение работников может снизить обмен информацией, и многие компании теперь требуют, чтобы работники вернулись за свои рабочие места. Так что еще предстоит выяснить, будет ли «удаленка» способствовать повышению производительности труда. Но, несмотря на все эти проблемы, вопросы и препятствия, посмотрим на грядущие годы с оптимизмом…»
Чуть более года назад соучредитель Spotify Даниел Эк пообещал выделить 1 млрд евро (1,2 млрд долларов) из своего личного состояния на финансирование moonshot-проектов в области глубоких технологий в течение следующих 10 лет. Недавно он определился с одним из таких проектов. Prima Materia, инвестиционная компания Эка, вложила €100 млн в ИИ-стартап в сфере обороны Helsing (отличное название, отсылающее к Хельсингу).
На этой неделе в Ватикане снова рассмотрели культурное влияние ИИ на общество. Тема прошедшего мероприятия в Риме: «Вызов искусственного интеллекта человеческому обществу и идея человеческой личности». В симпозиуме приняли участие эксперты из Google, Алленовского института по изучению головного мозга, Университета Гете, Бостонского колледжа, Технологического центра Института инженеров электротехники и электроники, Агентства ЕС по правам человека, Папского университета Святого Фомы Аквинского и других организаций.
«…Пришло время начать думать о крупнейших технологических компаниях как об акторах, подобных государствам. Эти компании распространяют определенную форму суверенитета над быстро расширяющейся сферой, которая выходит за пределы досягаемости регулирующих органов: цифровым пространством. Они привлекают ресурсы для геополитической конкуренции, но сталкиваются с ограничениями, касательно их возможности действовать. Они поддерживают международные отношения и отвечают перед заинтересованными сторонами, включая акционеров, сотрудников, пользователей и рекламодателей. Политологи используют широкий спектр терминов для классификации государств: существуют «демократии», «автократии» и «гибридные режимы», которые сочетают в себе элементы первых двух. Но у политологов нет таких же инструментов для понимания Big Tech. Пришло время начать их разрабатывать, потому что не все технологические компании работают одинаково. Несмотря на то, что технологические компании, как и страны, не поддаются четкой классификации, существуют три основные силы, которые определяют их геополитические позиции и мировоззрение: глобализм, национализм и техноутопизм…»
«…Давайте представим, что мы создаем систему искусственного интеллекта, которая изучает поведение людей и выявляет слабые места. Скажем, например, что я доверяю некоему человеку: что бы вы ни говорили, я сначала вам поверю. Это называется эффектом привязки. И давайте представим, что компьютерная система может определить, как привязать меня ко лжи. Нынешняя проблема дезинформации будет детской игрой по сравнению с множеством людей, пытающихся манипулировать моим впечатлением об окружающем мире с помощью этой технологии. Это проблема, которую нужно решить. Мы все в сети. Все эти системы будут изучать то, что нас волнует, но тогда нами можно будет манипулировать. Это будет иметь такое же большое влияние, как и обсуждения, которые мы ведем, например, в условиях конфликта…»
«…Вдохновленные выдумками Айн Рэнд технологические либертарианцы Кремниевой долины с горящими глазами стремятся «выйти», совершить «экзит», из юрисдикции существующих национальных государств. Не довольствуясь налоговыми убежищами, закрытыми сообществами и огромным политическим влиянием, они теперь хотят «отказаться» от самого национального государства как такового и построить свои собственные частные государства по образцу корпораций. Суверенное национальное государство с его гражданами и выборами будет заменено частным государственным «поставщиком услуг», когда заказчики и потребители выбирают и покупают услугу, которая является ключевой для либертарианцев: военизированная защита собственности. Столь же тревожно, что современные стратеги «экзита» заинтересованы не только в том, чтобы просто уйти. Скорее, они предполагают появление целого ряда микро-стран, которые будут создавать свои собственные правовые и политические системы и будут конкурировать за граждан, так же, как компании конкурируют за потребителей, снижая «транзакционные издержки» отказа от одного государства и перехода к другому. Можно было бы думать о них как о буквальных физических «маркетплейсах»…»
«…Как люди, мы должны гордиться любыми системами искусственного интеллекта, которые мы создаем, как если бы они были нашими детьми. Точно так же, как мы обучаем наших детей, мы могли бы снабдить такие системы планом их будущего взаимодействия с миром. Это будет включать наш предпочтительный набор ценностей, целей и руководящих принципов, которые позволят им учиться на опыте и справляться с реальностью. В конечном счете, мы можем запустить наши системы искусственного интеллекта в межзвездные путешествия в отдаленные пункты назначения, такие как обитаемые планеты вокруг других звезд, где они могли бы воспроизводить себя с помощью сопутствующих 3D-принтеров. Если другие технологические цивилизации предшествовали нам, они, возможно, уже сделали это…»
«…Возникает два вопроса. Первый вопрос: почему подобные фантастически успешные инвестиции в людей остаются таким изолированным редким примером? Нет никаких сомнений, что каждый год в колледжах учится не два десятка, а гораздо больше умных людей, которых можно заставить бросить учебу и начать что-то строить в качестве предпринимателей. Второй вопрос был: разве это не то же самое, что и покровительство как в старые добрые времена? И вообще, что случилось с прямым финансовым покровительством? Как ни странно, мы можем найти очень мало современных примеров того, как отдельные люди финансируют отдельных лиц. Хотя в сегодняшнем мире в теории возможна гораздо более децентрализованная и более масштабируемая версия патронажа, которая легко могла бы быть достижима для больших групп людей. Вам даже не нужно формально создавать для этого современный аналитический центр…»
«…В условиях жесткой конкуренции за лучшие сделки строгость due diligence снижается. Сделки со стартапами обычно влекли за собой дни и недели звонков и исследований на начальном этапе и на этапе серии А или позже. Теперь посевные сделки можно заключать в течение нескольких часов, а серии — в течение нескольких дней. Циклы due diligence стали намного более сжатыми. Больше нет времени на разговоры. Это уже циклы принятия решений от 24 до 48 часов. Инвесторы выходят за рамки «упреждающих» сделок, когда они стремятся инвестировать в компанию до того, как она начнет искать финансирование. Одна из новых стратегий: венчурные фирмы могут отправить term sheet стартапу еще до встречи и первого знакомства; некоторые VC даже нанимают фирмы, занимающиеся due diligence, для выполнения этой работы за них. Все говорят: «Я просто не могу позволить себе пропустить следующую Snowflake в сериях A, B или C». Это не просто страх упустить что-то. Теперь это страх упустить ту компанию, которая может стоить 100 миллиардов долларов. Этот страх среди VC обостряется. Среди венчурных капиталистов распространено мнение, что каждый год от силы лишь 15 до 20 стартапов будут иметь огромный успех, и это единственные компании, которые имеют значение для повышения доходности инвесторов. Но это приводит в итоге к сделкам более низкого качества. Например, компании, которые не были раскуплены ведущими инвесторами, затем поддерживаются новыми инвесторами, которые пытаются проникнуть в отрасль. И они обращают еще меньше внимания на due diligence, чем устоявшиеся фирмы…»