Метка: Фантастика

«… Я подозреваю, что «будущее» может стать самостоятельной формой жизни, действующей независимо от человеческого контроля. Оно не будет следовать нашему расписанию, а скорее ускорит свое вторжение в реальность своим собственным способом, фундаментально изменяя и даже переворачивая наше представление о мире. Аналогичным образом, технология превращается в другую форму независимой жизни, освобождаясь от человеческих манипуляций и обретая способность к автономному развитию. Хотя технологии всегда были призваны формировать будущее, не гарантировано, что будущее захочет быть измененным. Во многих отношениях способность человечества выжить в будущем зависит от того, удастся ли установить отношения взаимной доброжелательности между технологиями и будущим…»

«…Все это волнует с точки зрения национальной конкурентоспособности и благосостояния. Сейчас у нас слишком много технологий в слишком малом количестве мест с невероятными накапливающимися побочными эффектами. Между тем, хотя цифровая экономика является доминирующей в мире, а у нас относительно мало действительно значимых центров. Я думаю, что нам нужно больше таких центров, чтобы конкурировать хотя бы и с Китаем. Китай создал десятки центров, целые десятки. Нам нужно больше таких центров в более широком спектре мест. Здесь есть и политэкономический аспект: мы теряем чувство консенсуса в отношении инноваций и даже технологий, потому что большая часть страны считает, что цифровые технологии — это какое-то чрезвычайно оторванное от нее занятие, что это лишь занятие прибрежной элиты и только. И поэтому по всем этим причинам, я думаю, нам нужно делать больше…»

«…Вместо того, чтобы брать интервью у Уоррена Баффета и пытаться выяснить, какие правила он использует, чтобы делать то, что он делает, вы вместо этого получаете множество больших данных о том, как Уоррен Баффет инвестирует, как он перемещает деньги и так далее. И вы попытаетесь заставить машину выработать свои собственные правила, просто просматривая эти данные. Это и есть машинное обучение. Оно тоже было довольно ограниченным, пока примерно в начале 2010-х годов не появилась область глубокого обучения, в которой используются нейронные сети, гораздо более сложные, чем те, которые использовались в 1980-х годах. Сеть учится на огромном количестве данных, которые теперь доступны людям благодаря интернету, и мы можем обрабатывать их с помощью чрезвычайно быстрого параллельного вычислительного оборудования. И это действительно позволило всей области ИИ как бы «взорваться» множеством новых приложений и успехов, хотя у этого тоже есть свои ограничения…»

Создадим ли мы машины, которые будут являться так называемыми моральными агентами — способными выносить моральные суждения, основанные на некотором понятии добра и зла, и нести ответственность за свои действия? Мы можем думать об этом с трех разных позиций. Во-первых, можем ли мы это сделать? Во-вторых, сделаем ли мы это? И третий вопрос: должны ли мы вообще это сделать?