Прорыв в науке чаще случается на стыке разных дисциплин. В настоящее время биологи и специалисты в области IT-технологий решают задачу по созданию вычислительных систем, имитирующих принципы работы головного мозга.
О том, зачем нужны нейроморфные технологии искусственного интеллекта, рассказала лауреат премии президента России, директор НИИ нейронаук ННГУ, руководитель центра нейроморфных вычислений АНО «Неймарк» Сусанна Гордлеева.
Во имя экономии.
Современные вычислительные системы построены по принципу архитектуры фон Неймана, где блоки хранения (память) и обработки данных физически разделены между собой. И данные миллиарды раз в секунду передаются между ними. Такой параметр, как количество циклов передачи информации между блоками описывается тактовой частотой процессоров в компьютерах. Это огромные величины – до 10 в 6 степени ГГц и выше. На такой постоянный обмен информацией между блоками затрачивается огромное количество времени и электроэнергии, а для обеспечения работы созданных на их основе вычислимых систем необходимы огромные мощности.
Острота проблемы растет, так как технологии искусственного интеллекта (ИИ) все активнее входят в нашу повседневную жизнь. Яркий пример тому – языковая модель ИИ ChatGPT. Предыдущая версия содержит 300 миллиардов настроечных параметров, которые задействованы при работе в реальном времени со 100 миллионами пользователей. Следующая версия модели ChatGPT будет содержать 100 триллионов настроечных параметров. И если количество пользователей увеличится всего в два раза и достигнет 200 миллионов, то всей энергетики США, например, не хватит для поддержания ее работы.
Еще один интересный факт для размышления – самый большой суперкомпьютер в нашей стране производит в процессе вычисления 10 мегаватт «паразитной» теплоэнергии, которую нужно утилизировать. В то же время человеческий мозг тратит на обработку информации всего 10 ватт.
Простое движение пальцами при захвате карандаша, например, приводит в действие 50 разных групп мышц. Чтобы выбрать оптимальную комбинацию этих мышц, требуется обработать таковых 10 в 15 степени. Для этого нужен процессор с тактовой частотой 10 в 6 степени ГГц и огромное количество электроэнергии. Наш мозг не потребляет такое количество электроэнергии, а частота генерации сигналов в наших нейронных сетях не достигает и 100 Гц.
Совмещение блоков обработки информации и блоков ее хранения называется нейроморфным принципом построения процессоров. Совмещение данных блоков в физическом пространстве может дать значительную экономию электроэнергии. Перед учеными нашей страны поставлена задача разработать такой нейропроцессор к 2030 году. И для него потребуется создать нейроморфное программное обеспечение.
– Наша научная группа занимается разработкой нейроморфной алгоритмики, или математических моделей нейронных сетей, которые строятся на биолого-правдоподобных принципах, – рассказывает Сусанна Гордлеева.
В биологических нейронных сетях, отвечающих за обработку информации, сигнал генерируется очень кратковременно, и важно только знать, в какой момент возникает импульс, тогда как в формальной нейронной сети один элемент – это нелинейная пороговая функция, которая постоянно описывает состояние этого элемента. То есть информация в головном мозге кодируется во временном частотном формате, а не в постоянном, как это делает формальная нейронная сеть. Это накладывает свой отпечаток на алгоритм обучения таких нейронных сетей.
Память избирательна.
В нашем головном мозге нейронные сети обучаются за счет механизмов синаптической пластичности. Напомним, нейрон имеет тело и отростки, по которым бежит электрический сигнал. Место контакта с другим нейроном называется синапс. А синаптическая пластичность – это их способность менять свое местоположение, площадь контакта в зависимости от прохождения или от непрохождения сигнала, от этого зависит усиление или ослабление синаптических связей.
Вот пример, описывающий синаптическую пластичность и формирование памяти в нашем головном мозге. Молодой человек видит симпатичную девушку и просит у нее назвать номер ее телефона. В зависимости от того, насколько сильно она ему понравилась, он сможет или нет «донести» эту информацию до какого-то носителя – бумаги, телефона – и записать. Наш обмен информацией с внешним миром происходит через рабочую или кратковременную память. В зависимости от важности информации, нашего стрессового состояния и необходимости полученных данных для выживания, информация перейдет в долговременную память или исчезнет навсегда.
Уже удалось создать простейшую биоподобную нейронную сеть для управления игрушечным лего-роботом со встроенными датчиками для измерения расстояния до препятствия. Использование принципа синоптической пластичности дает возможность достаточно эффективно управлять роботом с помощью всего шести (!) нейронов, причем энергоэффективность возрастает в разы по сравнению с системой управления, реализованной на вычислительных компьютерах.
Сейчас классические технологии искусственного интеллекта работают, используя принцип машинного обучения. Это слабый ИИ. Такие модели знают ровно то, чему мы их обучили. Например, вам нужна система, которая распознает морды кошек. Огромное количество их изображений подается «на вход», ИИ обучается и может распознавать только мордашки кошек. Сильный ИИ сможет сам обучаться, причем адаптивно – человек будет подавать мультимодальные данные на вход, по-разному их окрашивая, а разумный или генеративный ИИ научится распознавать нужные данные.
Разработка биоподобных технологий будет способствовать созданию сильного искусственного интеллекта.
Также ученые смогут разработать такие высокоэнергоэффективные вычислительные системы, которые можно будет использовать в любых бортовых компьютерах, в том числе и тех, что не подключены к постоянному электропитанию. Это даст импульс развитию робототехники, беспилотных транспортных систем и нейроинтерфейсов.
Астроциты слышат нейроны.
Наш головной мозг состоит не только из нейронов, но и глиальных клеток или астроцитов. Они создают гематоэнцефалический барьер для защиты мозга от проникновения токсичных веществ, которые попадают в кровь из окружающей среды. Также астроциты могут выполнять и сигнальные функции. Они «слышат» активность нейронов, активируются в ответ и способны воздействовать на передачу сигналов в нейронных сетях.
Когда изучали головной мозг Эйнштейна, то было обнаружено, что у великого ученого астроцитов на 50 процентов больше, чем у обычных людей. Возможно, именно астроцитам принадлежит ведущая роль в процессе обработки информации. Но пока достоверно известно, что астроциты не способны генерировать электрический сигнал. Они производят кратковременные импульсы химической активности, что проявляется во внутриклеточном повышении кальция в ответ на активность нейронного ансамбля, который взаимодействует с этим астроцитом.
– Чтобы понять роль астроцитов в головном мозге, наша научная группа 15 лет моделировала и разрабатывала детализированные биолого-правдоподобные биофизические модели нейронно-астроцитарного взаимодействия как на клеточном уровне, так и на сетевом. Оказалось, что такая астроцитарная модуляция синоптической передачи приводит к улучшению синхронизации в нейронных ансамблях.
Связано ли это с процессами обработки информации в мозге? Оказывается, да. Поскольку характерная длительность кальциевых сигналов сопоставима как раз с длительностью функционирования кратковременной памяти, мы решили разработать модель нейронно-астроцитарой сети, в которой будет реализована кратковременная или рабочая память, то есть модель, которая за счет астроцитарной модуляции синаптической передачи сможет хранить сигнал короткое время. Астроцитарная модуляция приводит к увеличению производительности спайковой нейронной сети, – рассказала Сусанна Гордлеева.
К слову, спайковые нейронные сети отличаются от классических искусственных нейронных сетей тем, что входом и выходом для них являются не векторы числовых значений, а временные последовательности дискретных событий – спайков. Нижегородским ученым удалось разработать систему, которая превосходит мировые аналоги спайковых нейронных сетей по кратковременному хранению информации.
Вопрос дилетанта.
– Почему ученые пытаются воссоздать принцип работы нейронных сетей нашего мозга?
– Во-первых, построение биолого-правдоподобных детализированных математических моделей нейронных сетей, способных повторять или имитировать сигнализацию клеток головного мозга, поможет понять механизмы обработки и хранения информации в нашем мозге. Во-вторых, такие нейроморфные технологии искусственного интеллекта могут обеспечить высокую энергоэффективность вычислений, так как в основе «мозгоподобных» вычислительных систем лежат совершенно иные принципы работы.
Александра Махлина. Фото автора.