В научно-фантастическом рассказе «Хоровод» 1942 года писатель Айзек Азимов описал три главных правила робототехники. Во-первых, роботы не должны причинять людям вред. Во-вторых, роботы должны исполнять все приказы человека, если они не противоречат первому правилу. В-третьих, роботы должны заботиться о своей безопасности в той мере, пока это не противоречит первому и второму правилу. Недавно в отчете ООН появилось упоминание случая, когда робот впервые в истории совершил нападение на людей по собственному желанию — то есть, он нарушил сразу два упомянутых выше правила. Это произошло в 2020 году на территории Ливии. Атаку совершил беспилотный дрон-камикадзе Kargu-2, который оснащен осколочным оружием и камерами для отслеживания врагов. Давайте рассмотрим подробности этого происшествия и выясним, могут ли такие дроны по ошибке напасть на мирных людей? Спойлер: да, могут.
Робот впервые самостоятельно совершил атаку на людей. Давайте разбираться в подробностях
Нападение робота на человека
По данным издания New Scientist, умышленное нападение робота на людей произошло в марте 2020 года. Справедливости ради стоит отметить, что жертвами военного дрона стали солдаты одной из воюющих сторон в Ливии. Большая часть данных об этом происшествии засекречена, так что количество смертей (и есть ли они вообще), неизвестно. Логично предполагать, что в произошедшем столкновении люди все-таки погибли, потому что нападение совершил дрон-камикадзе Kargu-2. В отчете говорится, что эти аппараты несли на себе груз со взрывчаткой, а объекты нападения не были обучены защите от таких противников и отступали в беспорядке.
Дрон-камикадзе Kargu-2
Kargu-2 — это военные дроны турецкого производства, производство которых было начато в 2019 году. Управление дроном осуществляется оператором с земли — он может направлять аппарат на любые объекты и давать команду на совершение атаки. Но при необходимости дрон Kargu-2 может работать и в автономном режиме, находя врагов при помощи встроенной камеры с искусственным интеллектом. Дрон может нести на себе осколочное оружие и взрываться, сталкиваясь с врагом, что и явно произошло в описанном выше случае. Но также устройство можно оснастить оружием для поражения бронированной техники и поражения целей в замкнутом пространстве.
Демонстрация возможностей военного дрона Kargu
Каждый дрон Kargu-2 весит 15 килограммов и способен находиться в воздухе до 30 минут. При необходимости они могут объединяться в рой из 20 беспилотников и врезаться в цель для его поражения. В 2020 году власти Турции купили 356 дронов Kargu-2 и на данный момент они используются только в ее армии.
Читайте также: Могут ли дроны быть оружием массового поражения?
Опасность военных дронов
Безо всяких сомнений, военные дроны вызывают восхищение. Но при этом это одна из самых опасных технологий современности. Против разработки автономных дронов выступает целое общественное движение «Остановить роботов-убийц», в которое входит 160 неправительственных организаций из 65 стран мира. В 2016 году они даже отправили в ООН письмо с требованием запретить разработку военных дронов с искусственным интеллектом на международном уровне. По данным The Guardian, это письмо было подписано самим Илоном Маском и Мустафой Сулейманом, который является создателем компании DeepMind.
Против автономных дронов выступает даже глава SpaceX и Tesla Илон Маск
Интересный факт: компания DeepMind занимается исследованиями в области искусственного интеллекта и мы часто упоминали ее на страницах нашего сайта. Например, в 2019 году разработанный ею искусственный интеллект начал учиться предсказывать будущее на основе прошлого.
Но у дронов-убийц, как ни странно, есть и сторонники. Они утверждают, что дроны наподобие Kargu-2 ни за что не будут атаковать мирных жителей. Однако критики считают совершенно иначе. В 2021 году на страницах журнала Bulletin of the Atomic Scientists вышла статья специалиста по национальной безопасности Захари Калленборна (Zachary Kallenborn), где он уверяет, что дроны не могут точно отличить военных от фермеров.
Фермеры могут держать винтовку, чтобы защитить свою землю, а солдаты могут использовать грабли, чтобы опрокинуть орудийную башню, — объясняет Захари.
И ведь действительно, любое автономное устройство может выйти из строя и стать причиной ужасных событий. На нашем канале на Яндекс.Дзен есть целая статья про роботов, которые убили людей — такие случаи фиксируются аж со второй половины XX века! А что вы думаете об автономных дронах, нужно ли их запретить? Пишите в комментариях или нашем Telegram-чате.
