Письмо №232

«…Давайте представим, что мы создаем систему искусственного интеллекта, которая изучает поведение людей и выявляет слабые места. Скажем, например, что я доверяю некоему человеку: что бы вы ни говорили, я сначала вам поверю. Это называется эффектом привязки. И давайте представим, что компьютерная система может определить, как привязать меня ко лжи. Нынешняя проблема дезинформации будет детской игрой по сравнению с множеством людей, пытающихся манипулировать моим впечатлением об окружающем мире с помощью этой технологии. Это проблема, которую нужно решить. Мы все в сети. Все эти системы будут изучать то, что нас волнует, но тогда нами можно будет манипулировать. Это будет иметь такое же большое влияние, как и обсуждения, которые мы ведем, например, в условиях конфликта…»