Искусственный интеллект (ИИ) привлекают для решения все большего числа задач. Виртуальный помощник на базе ИИ – ChatGPT уже вовсю конкурирует с человеком. Он генерирует текст по запросу, ведет диалог и понимает контекст, решает математические задачи, умеет писать стихи и кодировать (программировать).
Но помимо очевидных благ активное использование ИИ несет в себе угрозы, о которых люди уже сегодня задумываются. Сценарии фантастических фильмов о том, где машины доминируют над людьми, могут стать реальностью. Как это может произойти и что с этим делать, об этом на своей лекции в Нижнем Новгороде рассказал вице-президент по стратегии и инновациям МТС, CEO Future Crew Евгений Черешнев. 

Прогибает мир под себя.

На планете Земля живет 8 миллиардов человек. Но в процентном отношении – люди в конце списка – нас всего 0,01 процента от общей биомассы. Простейших организмов и то больше – 0,4 процента, животные составляют 0,2 процента, грибы – 1,5 процента. Почему же тогда люди доминируют, если нас так мало? 

Человек доминирует в силу того, что является эдификатором. Эдификатор – в широком смысле организм, деятельность которого серьезно изменяет окружающую среду. Пример эдификатора – лесообразующие растения, торфяники, кораллы. В Таиланде, например, есть мангровые заросли, которые растут корнями в соленой воде, создают определенную среду и формируют таким образом вокруг себя собственный биомир. Человек является таким же эдификатором последние 5,5 тысячи лет, то есть с момента, когда древние шумеры изобрели клинопись. Благодаря письменности человек, который умер, смог передать свой жизненный опыт тому, кто еще не родился. Современный человек, куда бы он ни пришел, в любом месте возводит строения из бетона, строит электростанции, проводит интернет, засевает поля нужными растениями, содержит животных.

Вкалывают роботы.

Сегодня люди живут в информационной среде. Нашей планете примерно 4,5 миллиарда лет, человек современной анатомии – Homo sapiens возник около 300 000 лет назад, а конкретно наш вид появился 70 тысяч лет назад. При этом технологическому прогрессу всего 5,5 тысячи лет, столько же, сколько письменности. 

О том, как шел технологический прогресс ранее, неизвестно. Как были построены пирамиды, мы не знаем, а только представляем в теории. 

– Я убежден в том, что человеческая цивилизация – это текст, – говорит Евгений Черешнев. – Основные религиозные постулаты записаны в Библии, Коране, Торе. Правовые отношения описаны в Гражданском, Уголовном, Трудовом кодексах. Деньги как значимая часть экономических взаимоотношений – это тоже текст – буквенно-цифровая комбинация. Способность к передаче информации с помощью написания книг, сценариев, художественных произведений – это то, что отличает человека от животных. 

Сегодня же мы отдаем свою возможность творить чужеродной системе – искусственному интеллекту. Конечно, никакого ИИ, действующего осознанно, пока нет. Но машина на основании оцифрованных миллионов книг, фильмов, картин уже может синтезировать некий контент, который воспринимается как новый. ИИ пишет научные работы, рефераты, сочинения. Уже есть прецеденты, когда он справляется лучше человека. В ютубе есть удивительные генерации. Скажем, Виктор Цой, поющий песни, которые он не исполнял при жизни. 

Бесспорный плюс ИИ в том, что он может создавать новые вещи, которые придумать человеку не под силу. Например, студия промышленного дизайна, которая рисует дорогие спорткары, смогла с помощью машины создать шасси дешевле и легче. 

Люди стали сенсорами.

Большая опасность связана с тем, что сегодня человек из пользователя превращается в сенсора, отправляющего сигналы, которые считывает система. В современном мире происходит активный сбор цифровых данных самыми различными структурами – медицинскими организациями, бизнесом, государством, спецслужбами.

Может наступить момент, когда удастся собрать все данные воедино. В 1992 году интернет насчитывал всего миллион пользователей, и компьютер воспринимался как инструмент. Сегодня мы все его пользователи. Есть прогноз, что к 2030 году на восемь с небольших миллиардов человек будет приходиться 500 миллиардов устройств. Мы не особо задумываемся о том, что все устройства (наши гаджеты, камеры на улицах, интернет-сервисы) передают в сеть данные о нас, где мы бываем, что покупаем, едим и т. д. Данные обобщаются, и на основе этой информации выдаются рекомендации – интернет нам постоянно что-то «подсовывает». Мы смотрим и говорим: «О, это интересно!» Но большой вопрос: наш ли это выбор? 

Часто люди, сами того не подозревая, сливают о себе информацию в Сеть. В ней есть множество тестов, например, «Кто я в «Звездных войнах» или «Кто вы были в прошлом». Казалось бы, прохождение этих опросников представляет собой безобидное развлечение. Но это не так. Скажем, женщина прошла тест: «Какая я мама». И теперь кто-то узнал, что она мать, далее по ответам можно понять, пол ребенка, возраст, количество детей. Это предопределяет жизнь женщины – теперь известно, когда ей продавать памперсы, а когда депрессанты. 

Есть опасность, что анализ нашей мимики позволит скоро читать мысли человека как открытую книгу. Уже по микроэмоциям учат ИИ определять состояние человека и производятся попытки автоматизировать этот процесс. Конечно, подобные вещи стараются использовать во благо человека, например, таким образом можно вычислять террористов и преступников с плохими намерениями. Но эти технологии могут провоцировать нас совершать покупки, манипулировать на переговорах. 

С помощью ИИ сегодня уже удается успешно выявлять онкологию на ранних стадиях. Но если со временем человечество решит полностью заменить врачей искусственным интеллектом, то это весьма спорная и опасная перспектива. 

Интернет-компании вкладывают огромные деньги в сбор картографической информации, транзакции и поисковые запросы. Объединение информации в одной точке позволит делать массу далеко идущих выводов. Например, если создать карту платежеспособности населения, то эта информация будет бесценна для страховой компании, так как станет сразу понятно, где более высокоплатежное население. 

Умный дом сегодня переживает второе рождение. Камеры становятся меньше, и это открывает новые возможности. В Японии небывало высокий уровень цифровизации… унитазов. К слову, еще один тренд – это анализ биоданных человека. Главный вопрос только в том – куда идут эти данные и кто ими может воспользоваться. Скажем, узнать, как вы себя чувствуете в тот или иной момент времени.

Смертельный орешек.

Итак, сегодня пишется все, но пока не существует централизованного хранилища данных. Однако государства стремятся такие базы данных создать. Польза от этого очевидна, но и существует побочная сторона такой концентрации информации – она представляет лакомый кусочек для хакеров, для которых, как показывает практика, порой не составляет труда взломать код доступа. Тотальный сбор данных опасен именно по этой причине. Допустим, есть человек с аллергией на орехи, для которого этот продукт смертелен. Данная информация попадает в базу, а затем кто-то ее извлекает. Теперь уничтожить данного человека проще простого – жертве в нужное время достаточно подсунуть орешек, способный вызвать анафилактический шок. То, что сегодня государство «закручивает гайки» тем, кто хранит и отвечает за сбор и хранение данных о гражданах и различной информации, свидетельствует о понимании этой проблемы на самом высоком уровне. 

Войны будущего – это войны искусственных интеллектов. Широкое применение дронов в специальной военной операции, в других конфликтах, разрешаемых с помощью оружия в различных частях света, четко иллюстрирует такую перспективу. Пока беспилотники конкурируют на поле боя с другими системами вооружения по точности, скорости перемещения, степени защиты, но они управляются людьми, операторами. Они постоянно совершенствуются, и в какой-то момент управление дронами может быть передано машине, которая реагирует на ситуацию быстрее человека. И самое страшное в этой ситуации, что принимать решение о подрыве или выстреле тоже будет машина.

Вопрос дилетанта.

– Возможно ли восстание машин? 

– Сегодня машины еще «тупые». Но если человек в какой-то момент поставит перед ней задачу оптимизировать целеполагание, сформулировать правильно задачу, то этот момент станет точкой невозврата. 

– Возможности ИИ постоянно растут. Не вытеснит ли ИИ человека? 

– Благоприятный для нас сценарий – это синтез с ИИ, слияние биологической и технологической форм, чтобы ИИ давал усиление людям на наших условиях. Илон Маск это хорошо понимает и поэтому делает нейролинк. Если человек усилит себя машиной, то это будет симбиотическая форма жизни. В эволюции выживает сильнейший. Может наступить момент, когда машина будет выполнять 99 процентов работы. И тогда встанет вопрос – зачем нужны люди? Конкуренция с машинами должна быть на наших условиях. Иначе человечество вымрет. 

Александра Махлина. Фото Александра Воложанина.