Пророчества о порабощении человечества искусственным интеллектом перестают быть фантастическими. Научный руководитель Национального центра физики и математики, академик РАН Александр Сергеев на форуме «Наука будущего – наука молодых» выступил с лекцией, которая заставляет задуматься о возможной его угрозе.

Цели расходятся.

По его словам, события последних нескольких недель позволяют провести параллель с летом 1945 года, когда после испытаний первой атомной бомбы человечество вышло на совершенно новый этап своего развития. Сегодня нам приходится наблюдать судьбоносный прорыв – искусственный интеллект (ИИ) перестал быть инструментом для получения информации и начал решать задачи математики и физики (!). С помощью новой ИИ-модели была решена одна из семи главных нерешенных задач математики – уравнение Навье – Стокса. 

Список из фундаментальных математических проблем был учрежден американским Математическим институтом Клэя в 2000 году. После этого 25 лауреатов медали Филдса (это аналог Нобелевской премии в области математики) выступили с письмом об опасностях, которые несет ИИ математике как науке. Ученые обращают внимание на серьезное расхождение целей и стремлений компаний, занимающихся ИИ, и математического сообщества. 

Кроме того, в этом году стрелки часов Судного дня были переведены на самую близкую к полуночи отметку – 85 секунд до глобальной катастрофы. 

Часы Судного дня ученые-ядерщики придумали в 1947 году как символическое предупреждение человечеству. Каждый год в январе стрелку передвигают, чтобы показать насколько мир близок к возможному финалу. Первоначально полночь символизировала ядерную катастрофу. Сегодня в перечень опасностей включен и искусственный интеллект. 

Пророчества Сахарова.

Еще в 1974 году выдающийся ученый-атомщик и правозащитник Андрей Сахаров, чье имя неразрывно связано с нашим городом, по заказу американского журнала Saturday Review опубликовал эссе, которое называлось «Мир через 50 лет». В нем Андрей Дмитриевич предсказал развитие цифровизации, связанной с увеличением производительности электронно-вычислительных машин, и описал то, что сегодня мы называем цифровыми двойниками. 

Сахаров предсказал появление интернета, его он называл «всемирная информационная система», описал то, как интернет будет устроен – искусственные спутники связи, кабельные лазерные линии.

Однако единственную опасность, которую Андрей Дмитриевич увидел в цифровизации, он связал с тем, что «всемирная информационная система» будет обесценивать наше общение с искусством, когда не надо будет ходить в музеи, в театры – все заменит интернет. 

На игле зависимости.

Развитие интернета произошло даже быстрее, чем предполагал Сахаров. Этому способствовала компания Google, которая сегодня входит в число компаний, оценочная стоимость которых больше четырех триллионов долларов. Google уже обрабатывает 13,7 миллиарда запросов в день, это приблизительно около двух запросов на каждого жителя Земли. 

Искусственный интеллект превращается в иглу, на которую люди подсаживаются, сами того не осознавая. Советы, которые нам дают поисковики, становятся более точными, а для этого ИИ подталкивает пользователей подкидывать им все больше и больше персональной информации. 

Может наступить момент, когда человек перестанет тратить умственную энергию даже на решение бытовых вопросов – все можно будет узнать с помощью поисковика. ИИ будет подкидывать информацию, следуя которой, к концу дня человек почувствует, что прожил прекрасный день в своей жизни. 

– В этой ситуации ему даже стремиться к чему-либо покажется бессмысленным. Это и есть опасность номер один, которую несет в себе развитие цифровизации, поисковиков, искусственного интеллекта, – убежден Александр Сергеев. 

Следствием этого станет социальная стратификация (иерархическое деление общества на вертикальные социальные слои). При таком раскладе верхний слой будет представлять собой элиту – владельцев информации, искусственного интеллекта, которые будут управлять жизнью большинства. В нижний слой попадет управляемая масса удовлетворенных жизнью низкоинтеллектуальных существ. Их будут разделять алгоритмы, которые работают на высокопроизводительных платформах. 

Такое расслоение не имеет ничего общего с прежними антагонизмами, существующими, в частности, между пролетариатом и буржуазией, работниками умственного и физического труда. Расслоение, которое несет «подсадка» на искусственный интеллект, гораздо опаснее. 

В 2017 году Google опубликовал наиболее цитируемую сегодня во всем мире работу, которая называлась «Attention is All You Need». «Внимание – это все, что вам нужно». В ней была представлена новая архитектура нейросетей и обозначена эра больших языковых моделей (LLM). Александр Сергеев отметил, что довольно большой вклад в создание ИИ в его нынешнем состоянии внесли российские и, в частности, нижегородские «мозги». 

Опасность совсем рядом.

Особо стоит выделить канадского и израильского ученого в области искусственного интеллекта и машинного обучения, основателя OpenAI Илью Суцкевера. Илья – наш земляк, уроженец города Горького. Его отец работал в университете Лобачевского на физфаке. В 1991 семья эмигрировала из России. 

Илья – один из тех, кто создал ChatGPT, который способен давать пользователям качественный и похожий на человеческий ответ на любые вопросы, писать коды, переводить тексты, сочинять стихи.

Еще в 2024 году Суцкевер обращал внимание на то, что коммерческие компании, которые ставят своей целью разработку продуктов или LLM ради прибыли, способны привести мир к катастрофе. Поэтому нужно такое развитие нейронных сетей, которое бы одновременно с прогрессом – научным, технологическим, социальным, не подсаживало бы пользователя на иглу искусственного интеллекта, а наоборот, ограждало от него. Нужна модель, способная заставить человека думать. 

Илья создал компанию, которая называется SSI («Save Superintelligence Inс»). В основе – идеи безопасного сверхразума. SSI – удивительная компания, которая не выпускает никаких коммерческих продуктов, но существует по правилам американского рынка, привлекая огромные инвестиции для развития своей деятельности. Так, американская технологическая компания, мировой лидер в разработке графических процессоров (GPU) и систем на чипе (SoC) NVIDIA вложила в SSI пять миллиардов. И сегодня ее рыночная стоимость оценивается в 32 миллиарда долларов (!). 

– Получается, люди, которые занимаются и софтом, и хардвером (компьютерным железом), понимают опасность нынешних моделей ИИ, и поддерживают компанию, которая пытается создать абсолютно новый, глобальный сверхразум, ориентированный на поддержание и развитие творческих способностей человека, – отмечает Александр Сергеев. 

В основе работы ИИ лежит принцип функционирования нейрона в человеческой клетке. Базовой единицей нейронной сети является искусственный нейрон – простой вычислительный узел, который принимает сигнал от нескольких входов, вычисляет взвешенную сумму, добавляет нелинейную активационную функцию для получения выхода. Современные искусственные нейронные сети организованы в слои, поэтому и появились термины «глубокие» и «глубокое обучение». 

Ученые, которые используют ИИ в работе, ставят перед ним очень сложные задачи и   совместно с ИИ приходят к новому знанию. ИИ накачивается новыми данными в миллионы раз больше и быстрее, чем на это способны люди, получающие информацию в общении друг с другом. По сути, искусственный интеллект перестал быть помощником человека. Он стал его партнером по получению новых знаний. И нужно серьезно задуматься о том, как человечеству себя вести в этих условиях, заключает Александр Сергеев.

Кстати.

XI Всероссийский молодежный научный форум «Наука будущего – наука молодых» второй раз за свою историю состоялся в Нижнем Новгороде на площадке ННГУ имени Н.И. Лобачевского. Он объединил около 700 участников из более 20 стран ближнего и дальнего зарубежья: Великобритании, Германии, Индии, Италии, Франции, Швеции, Японии.

Вопрос дилетанта.

– Российская микроэлектроника серьезно отстает. Есть ли шанс, что мы сможем конкурировать и создать свою языковую модель?

– Догнать американцев, китайцев, которые ушли далеко вперед, вряд ли получится. Одна из возможностей конкурировать – это работать над созданием ИИ, функционирующим на новых физических принципах – это квантовые вычисления, фотонные, нейроморфные. В ННГУ по фотонным и по нейроморфным вычислениям есть работающие группы, которые занимают лидирующие позиции в России и являются конкурентными в мире, – отвечает Александр Сергеев.

Александра Махлина. Фото Александра Воложанина.