Рубрики
Статьи/Блог

Ватикан не спит и думает об искусственном интеллекте

На этой неделе в Ватикане снова рассмотрели культурное влияние ИИ на общество. Тема прошедшего мероприятия в Риме: «Вызов искусственного интеллекта человеческому обществу и идея человеческой личности». В симпозиуме приняли участие эксперты из Google, Алленовского института по изучению головного мозга, Университета Гете, Бостонского колледжа, Технологического центра Института инженеров электротехники и электроники, Агентства ЕС по правам человека, Папского университета Святого Фомы Аквинского и других организаций.

Рубрики
Письма

Письмо №236

«…Пришло время начать думать о крупнейших технологических компаниях как об акторах, подобных государствам. Эти компании распространяют определенную форму суверенитета над быстро расширяющейся сферой, которая выходит за пределы досягаемости регулирующих органов: цифровым пространством. Они привлекают ресурсы для геополитической конкуренции, но сталкиваются с ограничениями, касательно их возможности действовать. Они поддерживают международные отношения и отвечают перед заинтересованными сторонами, включая акционеров, сотрудников, пользователей и рекламодателей. Политологи используют широкий спектр терминов для классификации государств: существуют «демократии», «автократии» и «гибридные режимы», которые сочетают в себе элементы первых двух. Но у политологов нет таких же инструментов для понимания Big Tech. Пришло время начать их разрабатывать, потому что не все технологические компании работают одинаково. Несмотря на то, что технологические компании, как и страны, не поддаются четкой классификации, существуют три основные силы, которые определяют их геополитические позиции и мировоззрение: глобализм, национализм и техноутопизм…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №232

«…Давайте представим, что мы создаем систему искусственного интеллекта, которая изучает поведение людей и выявляет слабые места. Скажем, например, что я доверяю некоему человеку: что бы вы ни говорили, я сначала вам поверю. Это называется эффектом привязки. И давайте представим, что компьютерная система может определить, как привязать меня ко лжи. Нынешняя проблема дезинформации будет детской игрой по сравнению с множеством людей, пытающихся манипулировать моим впечатлением об окружающем мире с помощью этой технологии. Это проблема, которую нужно решить. Мы все в сети. Все эти системы будут изучать то, что нас волнует, но тогда нами можно будет манипулировать. Это будет иметь такое же большое влияние, как и обсуждения, которые мы ведем, например, в условиях конфликта…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №221

«…Вдохновленные выдумками Айн Рэнд технологические либертарианцы Кремниевой долины с горящими глазами стремятся «выйти», совершить «экзит», из юрисдикции существующих национальных государств. Не довольствуясь налоговыми убежищами, закрытыми сообществами и огромным политическим влиянием, они теперь хотят «отказаться» от самого национального государства как такового и построить свои собственные частные государства по образцу корпораций. Суверенное национальное государство с его гражданами и выборами будет заменено частным государственным «поставщиком услуг», когда заказчики и потребители выбирают и покупают услугу, которая является ключевой для либертарианцев: военизированная защита собственности. Столь же тревожно, что современные стратеги «экзита» заинтересованы не только в том, чтобы просто уйти. Скорее, они предполагают появление целого ряда микро-стран, которые будут создавать свои собственные правовые и политические системы и будут конкурировать за граждан, так же, как компании конкурируют за потребителей, снижая «транзакционные издержки» отказа от одного государства и перехода к другому. Можно было бы думать о них как о буквальных физических «маркетплейсах»…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №215

«…Как люди, мы должны гордиться любыми системами искусственного интеллекта, которые мы создаем, как если бы они были нашими детьми. Точно так же, как мы обучаем наших детей, мы могли бы снабдить такие системы планом их будущего взаимодействия с миром. Это будет включать наш предпочтительный набор ценностей, целей и руководящих принципов, которые позволят им учиться на опыте и справляться с реальностью. В конечном счете, мы можем запустить наши системы искусственного интеллекта в межзвездные путешествия в отдаленные пункты назначения, такие как обитаемые планеты вокруг других звезд, где они могли бы воспроизводить себя с помощью сопутствующих 3D-принтеров. Если другие технологические цивилизации предшествовали нам, они, возможно, уже сделали это…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №212

«…Возникает два вопроса. Первый вопрос: почему подобные фантастически успешные инвестиции в людей остаются таким изолированным редким примером? Нет никаких сомнений, что каждый год в колледжах учится не два десятка, а гораздо больше умных людей, которых можно заставить бросить учебу и начать что-то строить в качестве предпринимателей. Второй вопрос был: разве это не то же самое, что и покровительство как в старые добрые времена? И вообще, что случилось с прямым финансовым покровительством? Как ни странно, мы можем найти очень мало современных примеров того, как отдельные люди финансируют отдельных лиц. Хотя в сегодняшнем мире в теории возможна гораздо более децентрализованная и более масштабируемая версия патронажа, которая легко могла бы быть достижима для больших групп людей. Вам даже не нужно формально создавать для этого современный аналитический центр…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №211

«…В условиях жесткой конкуренции за лучшие сделки строгость due diligence снижается. Сделки со стартапами обычно влекли за собой дни и недели звонков и исследований на начальном этапе и на этапе серии А или позже. Теперь посевные сделки можно заключать в течение нескольких часов, а серии — в течение нескольких дней. Циклы due diligence стали намного более сжатыми. Больше нет времени на разговоры. Это уже циклы принятия решений от 24 до 48 часов. Инвесторы выходят за рамки «упреждающих» сделок, когда они стремятся инвестировать в компанию до того, как она начнет искать финансирование. Одна из новых стратегий: венчурные фирмы могут отправить term sheet стартапу еще до встречи и первого знакомства; некоторые VC даже нанимают фирмы, занимающиеся due diligence, для выполнения этой работы за них. Все говорят: «Я просто не могу позволить себе пропустить следующую Snowflake в сериях A, B или C». Это не просто страх упустить что-то. Теперь это страх упустить ту компанию, которая может стоить 100 миллиардов долларов. Этот страх среди VC обостряется. Среди венчурных капиталистов распространено мнение, что каждый год от силы лишь 15 до 20 стартапов будут иметь огромный успех, и это единственные компании, которые имеют значение для повышения доходности инвесторов. Но это приводит в итоге к сделкам более низкого качества. Например, компании, которые не были раскуплены ведущими инвесторами, затем поддерживаются новыми инвесторами, которые пытаются проникнуть в отрасль. И они обращают еще меньше внимания на due diligence, чем устоявшиеся фирмы…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №210

«…Мысль об умной детской игрушке, подслушивающей и подсматривающей за семьей в режиме 24/7, вызывает тревогу. Умные игрушки могут быть полезными образовательными инструментами для детей, но они также создают риски для конфиденциальности. В период с 2014 по 2017 год компания по производству игрушек Genesis Toys продавала игрушку My Friend Cayla в качестве интерактивной куклы, которая могла слушать детей и реагировать на их действия. Проблема в том, что она записывала свои разговоры с детьми, а также разговоры с родителями, братьями и сестрами и кем-либо еще вокруг куклы и могла делиться данными со сторонними компаниями. В США было подано несколько жалоб в Федеральную торговую комиссию. Германия просто полностью запретила игрушку, назвала ее скрытым шпионским устройством и приказала семьям уничтожить игрушку, если таковая была у них дома…»

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №209

Мы все ожидаем прорывов в ИИ, энергетике, люди жаждут полностью беспилотных летающих машин, более мощных компьютеров, квантовых вычислений, успехов в генной инженерии и финтехе, интернета вещей и просто еще более быстрого интернета, космической экспансии, классных роботов, управления гаджетами силой мысли, блокчейна, умных городов, секс-роботов, персонализированной медицины и так далее. Все довольно предсказуемо. Но все это, с нашей точки зрения, меркнет перед тем, что может произойти, если человечество научится влиять на мозг напрямую.

Материал доступен только подписчикам. Войти или Оформить подписку.
Рубрики
Письма

Письмо №206

Когда я посетил фабрику в Шэньчжэне, которая производит чехлы для телефонов Android и на которой работает бок о бок много роботов и людей, меня поразило неожиданное чувство — это была своего рода безмятежность. Настроение было спокойным, а не безумным. Некоторые вещи двигались быстро, но тихо, в то время как другие были совершенно неподвижны, как будто ожидали своей очереди. Это не было похоже на «фабрику» в смысле Чарли Чаплина; это было гораздо больше похоже на сад машин в смысле Ричарда Бротигана. Я заметил своему коллеге, что мне бы очень хотелось провести время и в подобном кафе, что это было бы прекрасным местом для общественных собраний. Говоря это, я понял, что это не шутка. Автоматизация неизбежно распространится на город, и, по мере того, как это происходит, мы должны осознавать обманчиво простой факт, что автоматизация создает особый вид атмосферы. Это больше, чем форма, следующая за функцией; это функционализм, становящийся тонкой средой. Или, по крайней мере, так это может быть. Чтобы избежать жалкого будущего, в котором городская вычислительная автоматизация в первую очередь ориентирована на оптимизацию самых произвольных и банальных аспектов пространственной логистики человека (парковка, безопасность, торговля и т.д.), необходимо другое понимание автоматизации.

Материал доступен только подписчикам. Войти или Оформить подписку.