Забудьте старые войны. Настоящий ужас уже здесь: машины, наделенные правом самостоятельно лишать жизни. Они не обладают состраданием или суждением, не понимают ценности человеческой жизни. Для них вы – всего лишь набор данных, который нужно обработать и, возможно, уничтожить. Решения о жизни и смерти уже делегируются алгоритмам, а технологические гиганты активно развивают эти системы, игнорируя призывы к запрету. Хуже того, эти системы наследуют предубеждения своих создателей и данных обучения, что делает людей определенных групп более уязвимыми для ошибочного удара. Технологии ИИ, особенно новые большие языковые модели (LLM), делают это оружие невероятно опасным. LLM могут сами генерировать алгоритмы атаки, и даже небольшая ошибка в их «мышлении» — так называемая «галлюцинация» — может привести к катастрофическим последствиям, выглядя при этом совершенно логично для машины. Кто понесет ответственность, когда полностью автономная система совершит ошибку и убьет невинного? Вопрос остается без ответа, пока страны соревнуются в создании все более смертоносных и независимых машин, а компании отказываются от этических ограничений.
