Письмо №176

Другая интересная проблема — это поведение роя. Если у вас есть около 10 000 дронов, даже очень небольшая вероятность ошибок может привести к всевозможным ошибкам другого уровня. У вас есть беспилотники, которые «разговаривают» друг с другом и способны общаться и обмениваться информацией с точки зрения ошибок, что создает дополнительные уровни проблем. Потому что если у вас есть один из этих дронов, который совершает ошибку, а затем сообщает об этом всем 10 000, то теперь у вас есть 10 000 дронов, которые совершили ошибку. Таким образом, у вас есть потенциальное распространение ошибки по всей системе. И есть также опасения по поводу эмерджентного поведения — это одно из интересных свойств роения, когда что-то, работающее по простым правилам, приводит к созданию сложного поведения, и многие военные заинтересованы в нем. Если мы говорим о скворцах и их действительно причудливых стайных образованиях в воздухе и поведении, то мы не можем указать, где и что делает по сути одна конкретная птица, птицы основывают поведение на простых правилах того, как они работают вместе. Так как же это будет работать, если у вас есть такая же перспектива ошибки для роя смертоносных дронов? Например, что делать, если ваша ошибка на самом деле не в конкретной автономной системе, когда производится ошибочная идентификацию гражданского лица как солдата или наоборот, а скорее небольшие кусочки информации, которые все могут быть правильно прочитаны, но в конечном счете они приводят к проблематичным выводам, когда вы двигаетесь в масштабе.