В фильме «Терминатор» заменили Шварценеггера на не менее известного актера Сталлоне. Это сделали с помощью нейросети, которую «научили» различать оба изображения, а затем кадр за кадром поменяли изображение. Технология дипфейк может сделать любого человека героем любого видео. Этот пример - еще одно подтверждение тому, как много уже может искусственный интеллект. Об этом рассуждает кандидат философских наук, доцент школы философии НИУ ВШЭ Кирилл Мартынов.

Полицейская операция
Его лекция, которую можно было послушать на научном фестивале «42», называлась «Настоящее восстание машин. Как войны боевых роботов перевернут мир».
В последние пять лет очень много говорят и пишут о том, что машины успешно заменяют человека в разных сферах. В настоящее время компьютерные программы учатся оформлять юридические жалобы, ставить медицинские диагнозы и уже решают, предоставлять нам кредит в банке, впускать в ту или иную страну.
Но есть такая профессия - солдат, задача которого обеспечивать безопасность своей страны. Это в том числе и люди, которые занимаются военной логистикой и активно используют новейшие технологии. И возникает вопрос: смогут ли машины, имеющие доступ к качественным данным и обладающие большими вычислительными мощностями, заменить людей и стать профессиональными солдатами? Насколько они будут эффективны?
В фильме «Терминатор» компьютеры, которые управляют ядерным оружием США, провоцируют ядерную атаку и мир сгорает в третьей мировой войне. Выживших людей добивают агрессивные машины... Это утопический сюжет упускает нечто важное.
Очень возможно, что в будущем будут воевать не люди, а машины, в первую очередь друг с другом, и это очень изменит представления и о войне, и о мире.
Последний выпуск философского журнала «Логос» посвящен новым войнам. В средние века воевали все со всеми: наемники, феодалы, крестьянские бунты также считались войной. Тогда было трудно понять, когда война начинается, и то, когда она заканчивается. Не было разделения на тех, кто сражается и кто считается мирными жителями. Так было вплоть до нового времени. Согласно германскому военному теоретику и писателю Карлу фон Клаузевицу, начиная с 1648 года войны ведут преимущественно государства с помощью своих армий. Их целью становится заключение мира, то есть победа одной из сторон. В этом случае справедлив тезис о том, что мир - это нормально, а война нет.
Сейчас опять меняются правила игры: снова воевать может кто угодно с кем угодно, и все меньше и меньше остается различий между войной и полицейской операцией. Войны с террористами не что иное, как бесконечная антитеррористическая операция. Это боевые действия без объявления войны против каких-либо группировок на чужой территории. Если войну сложно отличить от мира, то она может длиться вечно, и непонятно, есть ли у нее какой-нибудь конец. Стирание границ между войной и политической операцией ведет к невозможности ее морального осуждения.
Война технологий
С другой стороны, известно, что конкуренция государств в ходе военных действий имеет большое значение для развития технологий. Войны стимулируют технический прогресс - так было во время ядерной гонки вооружения.
Мы пользуемся системой GPS, разработанной американцами как ответ на советскую космическую ракетную программу. Телевидение, к которому все так привыкли, на самом деле появилось для нужд разведки. Требовалось помимо звука (радио уже было) передавать графическую информацию на расстояние.
Интернет - тоже разработка военных. Он создавался как распределенная компьютерная сеть. Это было важно, так как если бы был единый центр управления, то в ходе предполагаемой ядерной войны он мог быть уничтожен, а военные и научные центры американской армии остались бы без управления. Ответом на создание баллистических ракет и стала разработка первых компьютерных сетей.
Ведущие мировые державы (США, Китай и Россия) в первую очередь сегодня конкурируют в области создания технологий, связанных с искусственным интеллектом. Искусственный интеллект - это способность машины обработать большое количество данных и принять какое-то решение, которое окажется эффективным.
Три года назад американцы создали первый небольшой беспилотный катер «Морской охотник», который способен к долгому автономному плаванью без участия людей. Это первый шаг.
Кроме того, есть ударная система воздушных беспилотников «Гремлин», также созданная американцами. Турбовинтовой самолет «Геркулес» загружает боевые установки, и с этого самолета в нужном месте стартует целый рой дронов, каждый из которых несет боеголовку. Они могут поражать цели на большом расстоянии от самолета. Дроны могут выпускать боеголовки и возвращаться на самолет, загружать новые заряды. Это принципиально новое слово в военном деле, так как основной самолет управляется с земли, а каждый дрон самостоятельно принимает решение о поражении цели. Тактика боя с дронами сейчас отрабатывается… А американцы уже ведут разработки беспилотных транспортных самолетов.
Кто ходит в разведку
Военные эксперты говорят, что у нас неправильное представление о том, как должны выглядеть военные роботы.
Это будет не терминатор! Всю логистику и принятие тактических решений на поле боя постепенно делегируют машинам-роботам. Это произойдет по двум причинам: во-первых, люди принимают решение долго, во-вторых, нам свойственно ошибаться. Если будет война людей и машин, то по умолчанию победят машины, так как они качественно на другом уровне управления. Уже сейчас в армии США, Китая и России вся разведка и сбор данных связаны с использованием специальных программ.
Сегодня людей больше всего пугает, что стратегическое командование тоже когда-нибудь перейдет к машинам. И это неизбежный процесс. Во все элементы управления армией приходят компьютеры. Есть ли здесь опасность?
- Есть мнение, что компьютер делает только то, на что его запрограммировали. Но это не совсем так. Например, программа гугл-переводчик переведет любую фразу для большинства известных языков. И на сегодняшний день качество переводов технических текстов вполне удовлетворительное. Однако никто не программировал гугл-переводчик переводить все фразы на все языки. Эта программа работает, основываясь на статистических моделях и имеет доступ к гигантской базе данных. Результат, который она выдает, в некоторым смысле непредсказуем. То же самое произойдет с боевыми роботами, - утверждает Кирилл Мартынов.
Однако люди создают боевых роботов не для того, чтобы их запрограммировать убивать, а для того, чтобы поручили им следить за безопасностью. И в случае опасности не спрашивать у человека разрешения на ответную атаку, так как человек слишком долго думает. Люди протестуют против этого конкретного вида машин - автономного летального (несущего смерть) вооружения, которое может убивать, не спрашивая. Это вторжение в человеческую этику, так как то, кому жить, а кому умирать, всегда решали люди. Война - тоже всегда была исключительно человеческим делом. Проблема, на взгляд Кирилла Мартынова, не в том, что роботы являются потенциальными убийцами, а в том, что они действуют автономно.
Записала Александра Махлина.

На фото: В фильме «Терминатор» компьютеры спровоцировали войну.

Вопрос дилетанта
- Как изменится образ войны, если будут воевать роботы?
- В литературе и искусстве проводится мысль, что никакие военные действия не оправданы и нужно стоять на принципах пацифизма. Война также связана с подвигом, который совершает человек, защищающий свою страну и своих близких.
Один из ответов на вопрос о том, почему у людей есть какие-либо права, состоит в том, что государству граждане могут в любой момент потребоваться в качестве солдат. А что если людей заменят боевые роботы, дроны? Тогда может вестись война без людей и даже без человеческих жертв. В этом случае может возникнуть парадоксальная ситуация - будет непонятно, зачем нужны люди, если работают и воюют за них машины? - говорит Кирилл Мартынов.