Метка: Фантастика

«…Вместо того, чтобы брать интервью у Уоррена Баффета и пытаться выяснить, какие правила он использует, чтобы делать то, что он делает, вы вместо этого получаете множество больших данных о том, как Уоррен Баффет инвестирует, как он перемещает деньги и так далее. И вы попытаетесь заставить машину выработать свои собственные правила, просто просматривая эти данные. Это и есть машинное обучение. Оно тоже было довольно ограниченным, пока примерно в начале 2010-х годов не появилась область глубокого обучения, в которой используются нейронные сети, гораздо более сложные, чем те, которые использовались в 1980-х годах. Сеть учится на огромном количестве данных, которые теперь доступны людям благодаря интернету, и мы можем обрабатывать их с помощью чрезвычайно быстрого параллельного вычислительного оборудования. И это действительно позволило всей области ИИ как бы «взорваться» множеством новых приложений и успехов, хотя у этого тоже есть свои ограничения…»

Создадим ли мы машины, которые будут являться так называемыми моральными агентами — способными выносить моральные суждения, основанные на некотором понятии добра и зла, и нести ответственность за свои действия? Мы можем думать об этом с трех разных позиций. Во-первых, можем ли мы это сделать? Во-вторых, сделаем ли мы это? И третий вопрос: должны ли мы вообще это сделать?