Станет ли человечество жертвой искусственного интеллекта

Станет ли человечество жертвой искусственного интеллекта

Беспилотные автомобили, самоходные роботы, интернет-сервисы - искусственный интеллект уже всюду. Умные машины уже столько всего умеют! Есть программы, которым под силу писать стихи, музыку, ставить диагнозы, прогнозировать погоду. Бережливые дома позволяют экономить ресурсы, а  умные  холодильники сами заказывают еду. Кажется, еще немного, и  искусственный  разум выйдет из-под контроля - захватит мир, поработит человечество,  как это происходит в фантастических фильмах-ужастиках. 

Однако руководитель службы компьютерного зрения компании «Яндекс» Александр Крайнов убежден, что в обозримом будущем этого не произойдет. Свои аргументы эксперт привел на фестивале науки «Пикник 42» в лекции «Искусственный интеллект: мифы и действительность».

В последние годы наблюдается всплеск интереса к искусственному интеллекту (ИИ). Это видно по возросшему количеству запросов в Яндексе. Однако многие люди не понимают, что это такое. Воображение рисует загадочный черный ящик, который все может, или сверхмощного робота-терминатора.

 На самом деле под  термином «искусственный интеллект» сегодня стали понимать то, что раньше называлось машинным обучением. А это автоматическое выделение закономерностей. В любых данных, на основе которых машина или человек принимает решение, содержатся какие-то закономерности.

Например, когда человек идет в лес на тихую охоту, то у него срабатывает интуиция, и он находит гриб. Мы, сами того  не осознавая, во время прошлых походов за грибами обучались их поиску и научились выделять некоторые признаки, подсказки.  

Когда машинное обучение используется для составления прогноза погоды, то это делается на основе накопленных параметров  - данных о температуре, давлении, влажности за прошлые годы. 

Про искусственный интеллект стали говорить относительно недавно, но придуман он очень давно - во времена, когда еще ни о каких компьютерах речи не было. С 1763 года известна теорема Байеса - одна из основных аксиом элементарной теории вероятностей. До сих пор она важнейшая составляющая машинного обучения. Метод максимального правдоподобия, который также используется сейчас, был предложен английским статистиком Роналдом Фишером в начале прошлого века. Идея искусственной нейронной сети была  предложена Фрэнком Розенблатом в 1957 году, и тогда в середине века она была  впервые реализована в виде электронной машины «Марк-1».

Следовательно, искусственный интеллект (ИИ) не появился из ниоткуда. Но все же многие люди видят в нем скрытую угрозу. 

Заблуждение № 1. Искусственный интеллект лишит людей работы. Это подается как некая новая страшная угроза. Действительно, есть профессии, которые в обозримом будущем уйдут в небытие. В их числе таксисты, видеонаблюдатели, телефонные операторы.

Беспилотные автомобили уже сконструированы и готовы, и некоторые можно видеть на улицах. Такой экспериментальный экземпляр ездит в Хамовниках в Москве. Что касается операторов колл-центра, то чаще всего люди, отвечающие на вопросы, не являются специалистами, они порой обслуживают клиентов разных сфер. У такого оператора есть алгоритм ответов на разные случаи. Как только машина научится понимать, что у нее спрашивают, то есть обучится произвольной речи, то необходимость в операторах колл-центра отпадет. К слову, современные голосовые помощники уже неплохо понимают человека.

Сегодня на улицах очень много камер слежения. В обязанности сотрудника службы безопасности входит мониторинг происходящего на видео. Машина это может делать гораздо лучше. Но пока обучить ее  этому не представляется возможным, так как мало записей, на которых совершаются противоправные действия и на которых машина могла бы учиться.

На самом деле машины далеко не первый раз лишают людей работы. То же самое происходило, когда появились тракторы, конвейеры, цифровые фотоаппараты. Машины вытесняют прежде всего  рутинные специальности. 

Заблуждение № 2. Искусственный интеллект может все! Говорят, он научился говорить, научился видеть, и кажется, что вот-вот научится ходить и будет управлять миром и людьми. 

Но конвейеры тоже много могут - они используются для сборки автомобилей, сортировки, выпекания пирожков. Только  это разные конвейеры. С искусственным интеллектом то же самое. Он работает на конкретную узкую задачу, то есть ИИ, который может понимать речь, не обладает возможностью видеть и слышать.  Таким образом, не является универсальным инструментом.  

Чем больше умеет человек, тем легче он осваивает последующие новые задачи. В случае с искусственным интеллектом совсем не так. Да, бывает, что искусственную нейронную сеть дообучают чему-то новому, но это должно быть максимально близко к задаче, которая  ставилась раньше. 

Заблуждение № 3. Искусственный интеллект может решить любую задачу, например, захватить мир.

Для любого машинного обучения нужно дать примеры и посчитать процент ошибки. Но в случае с захватом мира такой возможности нет. Вот если создать десятки тысяч параллельных Вселенных и запустить там разные формулы, оценить полученные результаты, то тогда можно было бы подобрать что-то. Но ИИ невозможно чему-то научить, если нет четкой математической задачи. 

В случае с захватом мира не совсем понятно, что мы  должны получить в качестве конечного результата. При постановке задачи по захвату мира нельзя проводить эксперименты. Понять, приближаемся мы к цели или нет, невозможно. Кроме того, мир очень динамичен, изменчив и очень сложен, он все время требует, чтобы мы к нему адаптировались. Искусственный интеллект же не может полноценно существовать в меняющихся условиях. Таким образом, захват мира ИИ даже в отдаленном будущем невозможен.

Заблуждение № 4. Искусственный интеллект необходимо постоянно контролировать. Мол,  возможно, ИИ мир не захватит, но бед натворит.

Но как можно контролировать формулу?  Пока нет  сформированной модели поведения для многих ситуаций с ИИ. Вот это действительно проблема. Беспилотниками управляет один и тот же алгоритм. Что делать, если произойдет авария, будет насмерть сбит человек. Кого наказывать? Автомобиль? Но это железка. Запретить алгоритм тоже нельзя, он же всеми машинами управляет. Наказывать разработчиков?  Но и они не виноваты. Вывод: применение искусственного интеллекта требует этического регулирования. 

Заблуждение № 5. Искусственный интеллект  - это секретные разработки. В мире искусственного интеллекта есть свои топовые конференции, на которых представляют лучшие разработки. И ученые, ведущие специалисты индустрии съезжаются туда для обмена опытом. Материалы  о лучших разработках публикуются. Все статьи есть в открытом доступе. Знания о ИИ принадлежат всем.

Заблуждение № 6. Искусственный интеллект способен к самообучению и творчеству.

Робот обучается не чему-нибудь, а учится конкретно поставленной задаче. Практика показала, что для машины гораздо эффективнее не обучаться в процессе. Например, если ИИ играет с человеком в го и допускает ошибку, то в следующей партии он совершит ее снова. Как же происходит обучение? После того, как компьютер сыграет большое количество партий, потом запускается новая формула, которая учитывает прошлые ошибки. В отличие от человека  ИИ не может сам ставить себе задачу и ничему не обучается в процессе. 

Сегодня есть версия искусственной нейронной сети, которая написала стихи в стиле групп «Нирвана», «Гражданская оборона» и может писать картины, музыку. 

 - Нейронная сеть  способна на стилизацию, но создать нечто осмысленное не способна. Полноценное творчество для ИИ  недоступно. Следовательно, ИИ не может заменить людей. Это всего лишь мощный инструмент в наших руках. Он будет становиться еще более сложным и совершенным, но останется инструментом,  -  говорит Александр Крайнов. 

Евгения Махлина.

Вопросы дилетанта 

- Можно  ли ИИ привить моральные устои? 

- Если научиться в числах измерять мораль, найти числовой эквивалент, то можно. Но для этого нужно в процентах оценивать,  насколько то или иное действие хорошее или плохое.

- Кто будет обладать авторским правом, когда нечто ценное создаст компьютер? 

- Этот вопрос еще предстоит решить. Само понятие «авторское право» появилось относительно недавно. Когда-то и автора как такового не было. Возможно, будут две противоборствующие силы: одни будут говорить, раз это создала нейронная сеть, то этим могут все пользоваться. Другие скажут так: это я на своем компьютере запустил нейронную сеть и, значит, то, что она создала, мое. Но постепенно сложится законодательство, регулирующее эту сферу.

- Может ли нейронная сеть когда-нибудь в будущем испытывать какую-либо эмоцию? 

- Сложно однозначно определить, что такое эмоция. Эмоция - это наш какой-то сильный отклик на внешний сигнал, который, как правило, связан с тем, что мы накопили некие знания о том или ином событии. У любого живого существа регуляция  осуществляется не только нервной системой, но и гормонами. В основе искусственной нейронной сети формула, которая лишена гормонального  воздействия.

Нейронную сеть можно научить имитации эмоций. Но этим никто не занимается, так как это не имеет практического смысла. Но, скорее всего, будут версии голосовых помощников, имитирующих эмоции. Чтобы ИИ обиделся, его нужно специально на это долго программировать.