Военный беспилотник впервые атаковал людей без приказа оператора
Боевой беспилотник, находясь в автономном режиме работы, совершил атаку на людей. Об этом сообщают «The Independent» и еще ряд англоязычных СМИ со ссылкой со ссылкой на доклад группы экспертов ООН.
В отчете говорится, что инцидент произошел в Ливии в марте прошлого года. Под обстрелом оказались военные Ливийской национальной армии под руководством фельдмаршала Халифы Хафтара. Их атаковал дрон Kargu-2, произведенный турецкой военно-технической компанией STM, передает РБК.
Эксперты назвали Kargu-2 «летальным автономным оружием», который был запрограммирован для атаки целей без необходимости команд от оператора. Беспилотники этого типа оснащаются взрывчаткой и могут быть наведены на цель для самоподрыва. Также отличительной особенностью Kargu-2 является способность группироваться с другими такими же дронами (до 20 штук) и совершать более масштабные атаки.
Как сообщает ТАСС, доклад был представлен Совету безопасности ООН в марте 2021 года, однако на упоминание полностью автономных летательных аппаратов ряд англоязычных СМИ обратил внимание только сейчас. В публикациях речь идет о том, что полностью самостоятельный беспилотник впервые убил человека, но в докладе прямых подтверждений нет.
Если среди солдат армии Хафтара все же оказались жертвы, то эту атаку можно назвать первым случаем в истории, когда оружие, управляемое искусственным интеллектом, совершило нападение с летальным исходом без прямого приказа человека.
Полностью автономные ударные беспилотники могли использоваться силами Правительства национального единства (ПНЕ) во время боев в окрестностях Триполи в марте 2020 года. Турция не подтверждала передачу Kargu-2 ПНЕ и использование их в Ливии.
Как пишет американский журнал «Bulletin of the Atomic Scientists», дроны Kargu-2 принимают решение об атаке на основе машинного обучения. Беспилотники работают на программных алгоритмах, которые позволяют искусственному интеллекту распознавать различные объекты, будь это школьный автобус, трактор или танк. «Но наборы данных, на которых они обучаются, могут быть недостаточно сложными или надежными, в результате чего искусственный интеллект может «усвоить» неправильный урок», — утверждается в публикации.
Беспилотники и барражирующие боеприпасы регулярно используются для ударов по противнику, однако управляют ими люди. Полностью автономная работа означает, что аппарат должен сам определить цель и принять решение об ударе. Поскольку речь идет о жизнях людей и боевых операциях, цена ошибки может быть слишком велика, поэтому подобные аппараты остаются под управлением человека. Применялись ли прежде подобные системы в полностью автономном режиме – не известно.
