Весной 2020 года в мире произошел еще один значительный переворот, который к сожалению не привлек к себе достаточно внимания. Впрочем, он и не мог, потому что мир о нем узнал ровно на год позже. Что случилось? В Ливии, в ходе военных действий, автономный боевой дрон успешно уничтожил цель.
Ну и что такого? На войне как на войне, люди во время войн регулярно гибнут и в этом нет ничего особенного. Война и смерть идут рука об руку. Но эта ситуация действительно особенная. Как минимум потому, что устранивший живую цель дрон не управлялся оператором. То есть он автономно взлетел, автономно выследил объект и самостоятельно принял решение о ликвидации. И ни в одном из этапов убийства живого человека, разве что кроме создания и запуска этой боевой машины другой человек участия не принимал.
В этом материале мы не станем рассуждать о том, как плохо убивать людей и о том, какая страшная штука – война. Никаких длинных и эмоциональных предложений сложить оружие и призывов к миру во всем мире. Скорее, мы хотим порассуждать о том, какой может быть война с новыми технологиями. А также война против новых технологий.
Глупое оружие
Ещё сорок лет назад весь мир жил в постоянном страхе ядерной войны. В Америке даже строили частные бункеры, чтобы семья обладающая таким бункером могла оперативно спуститься в персональное бомбоубежище прямо из своей гостиной и там пережить атомный взрыв, вместе с его последствиями. К счастью, не пригодилось. В девяностые годы мировая расстановка сил поменялась и угроза ядерной войны стала гораздо менее реалистичной. К тому же, ядерная война – это война не на захват или оборону, это война на уничтожение сразу целых цивилизаций. Потому как бы близко мир не подбирался к точке невозврата, стоя у этого рубежа владельцы ядерных кнопок понимали, что победителей в такой войне не будет. Будут только проигравшие. Вне зависимости от того, кто нанесет первый удар, кто будет защищаться и без разбора, кто будет прав, а кто – виноват.
Идея о неизбежном взаимном уничтожении сторон конфликта как раз и удерживает мир от такого откровенного безумства по сегодняшний день. Впрочем, сейчас бояться ядерной войны уже не так модно как в семидесятых. Да и поколение выросшее в ощущении постоянной опасности ядерного конфликта делает всё возможное, чтобы не допустить осуществления своего детского страха. Тем не менее, жить в мире мир не умеет и потому на замену мощной, опасной, но совершенно тупой ядерной дубине приходит новый вид оружия, ничуть не менее опасный, а в перспективе скорее даже более ужасающий: оружие умное.
Умное оружие
Эра разрушительных дубин с зарядом плутония уходит в прошлое. Нет, они никуда не денутся, потому что лучшего оружия сдерживания найти невозможно, но едва ли кто-нибудь решится применить их в реальном боестолкновении. Кроме фанатичных террористов, но давайте допустим, что этой угрозы мировому сообществу удастся избежать. На смену разрушительным бомбам, без разбора сносящим все на своем пути приходит новое, технологичное оружие, которое действует с точностью хирургического лазера, устраняя только тех, кого необходимо устранить и не задевая всех остальных. В теории.
У Российской Федерации, США и Китая уже имеется в распоряжении такое оружие, но пока реальных случаев его применения задокументировано не было. И вот здесь всплывает значимое «кроме». Кроме случая в Ливии, с которого мы начали этот материал.
Что такое умное оружие?
Высокотехнологичный гаджет, который имеет «под капотом» все те технологии, к которым мы привыкли в повседневной жизни: технологии распознавания лиц, многочисленные датчики, сенсоры и камеры, каналы коммуникации, процессор для просчета действий в реальном времени и разработанный под конкретные задачи слабый искусственный интеллект. Оружие, которое по техническим характеристикам весьма похоже на тот смартфон, который вы ежедневно берете в руки.
Зачем все эти технологии в оружии?
Самая простое применение умных систем в оружейной отрасли – идентификация пользователя. После того, как в июне 2014 года Сирийские боевики захватили город Мосул – в их распоряжении оказались огромные склады с трофейным оружием армии США. Конечно террористы не могли не воспользоваться таким подарком от американцев и вскоре стали использовать пушки против своих же создателей. А оружие нужно заметить у американцев было весьма эффективное. Кроме всего прочего, боевикам удалось захватить несколько экземпляров современных ПЗРК, что конечно весьма обеспокоило американское командование. Тут и начались разговоры о том, что в оружие следует встраивать умные системы идентификации пользователя, чтобы впредь таких ситуаций не повторялось. Чтобы даже если вдруг оружие попадет в руки неприятеля – воспользоваться тот им все равно не смог. А на госзаказ – всегда найдется исполнитель. И вот через некоторое время компания iGun Technology приступила к разработке систем оружейной идентификации. Первый прототип представлял собой ружье, которое производило выстрел только в случае, если человек, нажимающий на спусковой крючок имел на пальце специальное кольцо с низкочастотным чипом, вроде тех, которые уже давно используются в автомобилях. Впрочем, это только один из прототипов. Другие компании разработали свои системы, где применялись отпечатки пальцев или чипы RFID.
Кроме систем усложняющих использование краденого (в случае военных действий корректнее было бы сказать «трофейного») оружия, ведутся разработки умных пуль и снарядов. В том же 2014 году DARPA запустило проект Exacto (бэкроним от «Extreme Accuracy Tasked Ordinance«). В рамках проекта американское военное агентство разработало пулю стандартного НАТОвского калибра .50, способную в полете корректировать свое направление. Такая пуля должна повысить эффективность стрельбы снайперов, а также уменьшить расход боеприпасов. В пулю смогли встроить оптическую систему и датчики, анализирующие полет, а также хвостовое оперение с динамической геометрией, способное корректировать траекторию движения. Испытания такая пуля прошла успешно и поразила заданную цель на расстоянии 1.5 километров даже несмотря на то, что выпущена была со значительным отклонением.
Впрочем, больше всего страха вызывает не то оружие, которое блокируется от неавторизованных пользователей и не оружие, которое может гораздо эффективнее находить и устранять цель. Самым опасным применением современных технологий в вооружении становится автономное оружие. Именно такое и было использовано в Ливии в прошлом году.
Автономные системы вооружения или если говорить более человеческим языком – роботы-убийцы – это сложные роботизированные системы на основе ИИ, способные без вмешательства человека отыскать, выявить и поразить цель. То есть, если в предшествующих случаях использования современных технологий, оружие все равно было завязано на человеке и решение принимал человек, то в случае с автономным вооружением – участие человека в процессе устранения другого человека не требуется. Такие системы могут выглядеть как гусеничные роботы, как БПЛА, как автоматическая турель. В целом, не так важно, какую форму принимает робот, способный уничтожить человека. Важно то, что все эти машины могут сделать это самостоятельно. И это – главная отличительная черта автономного оружия.
Здесь пожалуй можно прерваться на видеовставку. Потому что лучше всего про такое умное оружие рассказали на YouTube канале Alter в небольшой художественной зарисовке Slaughterbots.
Появление автономного оружия поднимает важный этический вопрос: может ли программа независимо решать, кого следует устранять, а кого – нет? Какими критериями будет руководствоваться такая система и кто понесет ответственность в случае ее ошибки?
Ещё недавно много этических вопросов породил автопилот в обычных автомобилях. Что следует делать машине в случае, если на дороге оказался пешеход и объехать его нет возможности? Пожертвовать пешеходом или водителем? А в случае, если сразу несколько пешеходов? А если на дорогу выбежали дети? Какие решения должен принимать робот и кто будет нести ответственность за решения такого робота? Оружие снабженное «автопилотом» принимает куда более сложные решения. Убивать или не убивать? Убивать, если это может задеть невинных лиц? Убивать, если нет уверенности в опасности? Если с автомобилем, который пытается спасти человека нет этической ясности, то откуда может появиться ясность в отношении автономного оружия, которое принимает куда более сложные решения. Потому множество значимых международных организаций выступили решительно против создания автономных систем вооружения, а значимые корпорации подписали декларацию, в которой договорились не работать над созданием ИИ для вооружения.
Впрочем, развитие автономного интеллектуального оружия уже не остановить. Согласно опять же американским отчётам, уже сейчас таким оружием обладает Китай, Америка и Россия. А в будущем подобные системы могут появиться у многих других стран.
Низкий порог вхождения
На самом деле будет большим заблуждением, сказать что разработка автономного умного оружия – это что-то невероятно сложное. С сегодняшней доступностью всех необходимых электронных компонентов (датчиков, сенсоров, аппаратно-программных средств) собрать прототип умного оружия в домашних условиях не так уж и тяжело, как и написать программу, которая способна управлять такой системой.
Здесь для людей отдаленных от темы разработки ПО нужно внести небольшое уточнение: большинство частей подходящего программного кода уже лежит в готовом виде в интернете. Его нужно только адаптировать под конкретную задачу. В самом простом примере, можно взять готовую базу – компьютер Adruino, докупить к нему необходимых датчиков, найти части кода в открытом доступе, скомпилировать все воедино и добавить к этому «оружейный компонент» и все. Умное оружие сделано. На коленке, за неделю, не выходя из дома. А если это так просто, то есть хотя бы одна причина, по которой этого не могут сделать террористы или какие-либо другие опасные фанатики?
Наконец, когда оружие становится умным – оно получает уязвимость к хакерским атакам. И если раньше для того, чтобы обратить трофейное оружие против его изначального владельца, его нужно было физически отнять – теперь люди с достаточным пониманием технологий смогут делать это удаленно. Опять же, в теории.
Имба на поле боя
Если вы играли в компьютерные игры, то слово «имба» вам знакомо. Если нет – не пугайтесь, это слово означает какой-либо предмет, который вносит дисбаланс и даёт на поле боя преимущество одной из сторон виртуальной схватки. В реальных боевых действиях умное оружие становится как раз этой самой «имбой». Дело в том, что человек от природы весьма несовершенен. У него достаточно медленная скорость реакции, весьма посредственное зрение, а на принятие решения у него уходит хотя и незначительное, но все таки время. Машина всех этих недостатков лишена. Она молниеносна, умеет видеть в темноте, если необходимо – умеет анализировать тепловое излучение, слышать мельчайшие звуковые колебания и принимает решения значительно быстрее, чем самый быстрый человек. Чтобы представить, как это, бороться с машиной, вспомните, как тяжело уничтожить обычную домашнюю муху? Здесь дело в разной частоте слияния мельканий. По сути – разной частоте кадров зрения. У человека эта частота составляет ~46 Гц, у Мухи ~240 Гц. То есть муха видит мир гораздо быстрее, чем человек. И для нее все действия человека выглядят как замедленная съёмка. Потому мухе совершенно не тяжело заметить как вы замахиваетесь на нее и оперативно слинять из зоны поражения. Для робота эта частота будет еще выше. Потому любое действие человека робот может проанализировать и предотвратить без лишних проблем, если такая программа будет в него заложена. К тому же робот в теории может видеть в ИК-диапазоне. И «наводиться» на тепло. Представляете, каким опасным противником на поле боя станет такой робот? А учитывая то, насколько сейчас вся электроника занимает мало места, то и размер такого робота-убийцы будет незначительно больше мухи. В худшем случае – с привычный вам смартфон.
И наконец выводы и заключение
В целом, разрушительная сила умного оружия должна стать ниже и точнее, чем у оружия «глупого». Но дать ему отпор будет гораздо сложнее. Потому с одной стороны развитие умного оружия станет благом. Страх атомной бомбы, превращающей в пепел все в радиусе нескольких километров постепенно уйдет в прошлое. Умное оружие может с идеальной точностью устранять конкретных людей. Как смартфон, который безошибочно разблокируется при виде своего хозяина. С другой, в отличие от тех же атомных бомб, умное оружие очень легко может оказаться в «неправильных руках», потому что «неправильные руки» вполне смогут сделать его сами. И если оно окажется (а оно окажется однажды), то совершенно не ясно, как нам ему противостоять.
ОМФ