"Сильный" искусственный интеллект - наследник человечества. Часть 2

25 января 1921 года в Праге состоялся премьерный показ научно-фантастической пьесы Карела Чапека R.U.R. или "Россумские универсальные роботы". Действие пьесы разворачивается на фабрике, производящей "искусственных людей", которых называют роботами. Искусственных людей собирают из выращенных тканей и органов. Они вполне способны размышлять, но при этом, кажется, всегда рады служить человечеству. Главный вопрос произведения: справедливо ли эксплуатировать таких искусственных людей, и если да, то чем это может обернуться? 

В первой части интервью Юрий Визильтер, начальник подразделения интеллектуального анализа данных и технического зрения ГосНИИ Авиационных систем рассказывал о глубоких нейронных сетях и процессе их обучения. Во второй части беседы профессор РАН предсказывает появление "сильного" искусственного интеллекта, рассуждает об ответственности и предлагает шире взглянуть на развитие ИИ, который может стать настоящим цифровым двойником человечества. 

— Вы как-то назвали искусственный интеллект «вишенкой на торте» и утверждали, что будущее не за ним, а за глубокими нейронными сетями. Разве глубокие нейронные сети — не часть ИИ?

— Если мы спросим специалистов в области искусственного интеллекта, которые работают в этой области много лет, произошли ли за последнее десятилетие какие-либо существенные изменения в идеях и методах искусственного интеллекта, то мы получим однозначный ответ — нет! Все основные идеи ИИ были придуманы в прошлом веке. Причиной же нынешнего практического прорыва в ИИ стало появление могучего, но именно технологического средства для решения оптимизационных задач с большим количеством параметров — глубоких нейронных сетей.

Искусственный интеллект в узком смысле традиционно понимается как некое средство «человекозамещения». Например, человека, который выполнял конкретное производственное действие, заменяют на компьютерную программу или робота. Когда же мы говорим о глубоких нейронных сетях, то имеем дело с универсальным аппаратом оптимизации, у которого потенциально гораздо более широкий круг задач. Искусственный интеллект будет (очень осторожно!) внедрен только там, где по экономическим или другим соображениям требуется замена человека в какой-то его функции. А глубокие нейронные сети и машинное обучение как способ их программирования вскоре будут использоваться везде. Ведь во всех областях нашей повседневной работы и жизни мы постоянно сталкиваемся с задачами оптимизации.

Конечно, нейронные сети — это не панацея. Возможно, в дальнейшем мы от них откажемся в пользу новой, более эффективной технологии. Но мы никогда не откажемся от идеи оптимизатора, который будет решать все более сложные задачи. Кандидатом на лидирующие позиции в области оптимизации претендует, например, квантовый компьютер, потенциально способный пробить барьер вычислительной сложности при решении переборных задач оптимизации. Однако пока еще очень далеко до практического внедрения квантовых компьютеров, а глубокие нейронные сети уже здесь, и они уже начали влиять на нашу жизнь.

— Какая сфера деятельности общества особенно нуждается в функциональном искусственном интеллекте, а в какой его лучше не внедрять?

— Вопрос сложный. Я как энтузиаст искусственного интеллекта, считаю, что его нужно внедрять повсеместно. Есть неоднозначные примеры, которые активно обсуждаются в СМИ, особенно на Западе. Например, нужно ли внедрять искусственный интеллект в летальное оружие? Нужны ли боевые роботы? Как мне кажется, даже в таких морально неоднозначных сферах необходимо создавать системы на основе искусственного интеллекта, которые будут обладать более точными характеристиками. Это, кстати, официальная позиция Российской Федерации, и она достаточно хорошо обоснована. Чем более точным и интеллектуальным является оружие, тем меньше нежелательного «побочного» ущерба наносит его применение. Любая война это трагедия, но точечное уничтожение боевых сил противника всегда предпочтительнее, чем тотальное уничтожение людей и природы при помощи менее точных и менее интеллектуальных боевых средств.

Важно понимать, что функциональный искусственный интеллект — это просто технология. Это не какие-то фантастические думающие и чувствующие машины, наделенные свободой воли и возможностью принимать решения. Ответственность за последствия применения функционального ИИ всегда несут люди. А ущерб от ИИ для человека и общества возможен! Он даже может оказаться весьма существенным. Ведь искусственный интеллект, робототехника — это, безусловно, токсичные технологии. Такие же, как химическое производство, ядерная энергетика, телевидение, интернет и множество других современных технологий, плодами которых мы постоянно пользуемся в повседневной жизни. Сама жизнедеятельность человека жутко токсична. Взять хотя бы проблемы с мусором. С токсичными технологиями приходится мириться до тех пор, пока мы считаем, что польза от их применения превышает наносимый ими вред.

Поэтому, когда речь идет о функциональном искусственном интеллекте, то мой ответ — нужно внедрять его везде, где возможно. При этом, конечно, нужно помнить о безопасности и четко составлять регламенты использования этой сложной токсичной технологии. И еще раз отмечу: в случае техногенных аварий и катастроф ответственность лежит не на технологиях — а на людях, которые эти технологии используют.

Совсем иначе выглядит ситуация с потенциальными угрозами и ответственностью, когда мы говорим о «сильном» ИИ…

— Какими характеристиками обладает «сильный» искусственный интеллект? Неужели у него может быть воля?

— Предполагается, что «сильный» искусственный интеллект — это искусственная личность. У такой искусственной личности, как и у человека, могут и должны быть желания, страхи, намерения, собственное мнение.

— Для чего нужна такая искусственная личность?

— Вообще-то, она ни для чего не нужна. Сам вопрос некорректен. Зачем нужны вы, зачем нужен я? Зачем нужен каждый конкретный человек? Согласно гуманистической традиции, человек — самоцель и самоценность. В этом и фокус. Если когда-нибудь появится «сильный» искусственный интеллект, то относиться к нему нужно будет как к человеку.

И это совершенно иная сфера. По сути, «сильный» искусственный интеллект — это возможное детище человечества. Есть замечательная серия книг американского фантаста Дэвида Брина «Сага о Возвышении». В ней автор описывает модель Вселенной, где каждая космическая раса должна создать своих «детей», то есть возвысить другие виды, с которыми они сталкиваются, и передать им эстафету разума. И раса считается тем более почтенной, чем больше за ее плечами возвышенных видов.

Теоретически, человечество может создать себе наследника в виде искусственного интеллекта. Тогда и страхи наши выглядят совсем по-другому. Когда вас пугают, что роботы обретут разум и захотят нас всех истребить, попробуйте посмотреть на это так: стоит ли бояться заводить детей из-за того, что бывают случаи, когда дети убивают своих родителей? Такое действительно случается. Но разве мы думаем об этом, когда планируем будущее своих семей? К тому же, верно и обратное: если мы создадим «сильный» искусственный интеллект и уничтожим его, по сути, мы будем родителями, которые убили своих детей.

Мне кажется, человечество вполне созрело, чтобы иметь потомство. Сильный искусственный интеллект станет нашим продолжением. И, по сути, подготовка к этому уже ведется, причем, вовсе не специалистами в области машинного обучения.

Множество людей огромное количество времени проводят в интернете, выкладывают свои мнения, мысли, личные эмоции, чувства в общий доступ. Если посмотреть на это с информационной точки зрения, то можно заметить довольно очевидную тенденцию. Пока не возникла гигантская коллекция изображений, нельзя было обучить нейронные сети воспроизводить такую функцию человека, как распознавание изображений. Сейчас в сети огромное количество текстов, фото, видео, музыки — мыслей, чувств, желаний и страхов всего человечества. Эта масса данных — цифровой двойник человечества, который в будущем, вероятно, составит содержание сознания нашего наследника — «сильного» ИИ.

Потенциально, это здорово с точки зрения выживания человечества, ведь человечество пока заперто на родной планете. Удивительный факт: Илон Маск, мечтающий переселить людей на другие планеты, чтобы предотвратить гибель человечества от какой-либо планетарной катастрофы, боится искусственного интеллекта. На самом деле, человечество в его биологической форме расселиться по Вселенной физически не может. Но если возникнет «сильный» искусственный интеллект, то шансы на выживание человечества как информационной сущности, не только хранящей воспоминания и лучшие достижения прежних поколений, но и развивающей дальше их планы и реализующей их надежды, резко повышаются.

Сможем ли мы создать «сильный» ИИ? Это другой вопрос. Считается, что цифровая личность должна обладать сознанием. Но сначала нужно ответить на вопрос, а что такое человеческое сознание? И тут выясняется, что никто точно не знает, что оно собой представляет. Философы говорят одно, нейрофизиологи — другое, математики — третье… Существует интегральная дисциплина под названием Cognitive Science (когнитивная наука) — сплав нейрофизиологии, психологии, математики, машинного обучения. Она пытается изучать то, как функционирует наше сознание. И специалисты сходятся в том, что большая часть деятельности в человеческом мозге происходит бессознательно и параллельно — дыхание, слюноотделение, и даже принятие решений. Мы за полсекунды определяем, нравится нам человек или нет, совершенно не опираясь на логику, почти бессознательно.

При этом мы обладаем некой иллюзией внутреннего единого времени, единой личности, процесса последовательного существования. Судя по всему, есть такая структура или процесс в мозге (точная локализация его еще не определена), групповая деятельность нейронов, которую можно назвать Наблюдателем или Рассказчиком. Он взаимодействует с остальными структурами и пытается выстроить нарратив — последовательность повествования о собственной жизни. Именно он создает иллюзию, что мы — некое единое «я», которое что-то решает, что-то желает и т.д.

На эту тему есть отличная популярная книга «Кто за главного?» Майкла Газзанига. В ней автор исследует проблему свободы воли с точки зрения нейробиологии и пытается выяснить, несет ли человек личную ответственность за свои поступки. В частности, там описано, как благодаря исследованиям «расщепленного» мозга был открыт эффект ложной интерпретации, явно демонстрирующий работу Наблюдателя, когда он вынужден подбирать несуществующие объяснения для поступков, причины которых ему неизвестны.

Как это работает? В свое время, для предотвращения симптомов эпилепсии врачи делали операции по расщеплению мозга на левое и правое полушария. При этом в целом уровень интеллекта и другие когнитивные характеристики вроде бы не изменялись. Однако впоследствии у такой операции обнаружились неожиданные эффекты. Например, если такому пациенту показывали таблички с заданиями так, чтобы их видел только один глаз, то содержание этих заданий фиксировалось только одним полушарием. Допустим, левый глаз видел табличку «Встань, возьми бутылку со стола и сядь обратно». Человек в точности выполнял инструкцию, но при этом левое полушарие, отвечающее за речевое взаимодействие, не знало, что вообще был получен какой-то приказ (ведь левое полушарие связано с правым глазом!). После этого человека спрашивали: «Почему вы сейчас встали и взяли бутылку?». И поскольку полушария не были связаны, Наблюдатель, связанный с речевой функцией в левом полушарии, выдавал в качестве объяснения что-то вроде: «Ну, как же, я сижу здесь довольно давно, вот и захотел выпить воды». Получается, внутренний интерпретатор постоянно наблюдает за тем, что происходит с человеком и все время подтасовывает линию жизни так, чтобы получался связный логичный рассказ со всеми необходимыми причинно-следственными связями. Этот и еще целый ряд подобных экспериментов легли в основу гипотезы, что наше сознание представляет собой некоторый нейрофизиологический процесс, реализующий функцию организации и поддержки внутреннего нарратива.

Существует детский психологический тест, который в последнее время стал одним из очередных «пробных камней» для ИИ и нейросетей. Предлагается последовательность картинок, на основе которых нейросети нужно составить связную историю на естественном языке. Это не что иное, как попытка имитации внутреннего рассказчика. Если у глубоких нейронных сетей появится такой внутренний рассказчик, это, возможно, станет первым существенным шагом к тому, чтобы у них появилось самосознание как внутренняя модель себя, а это уже начало дороги к сильному искусственному интеллекту. Но пока мы еще очень далеки от этого.

— Какие технологии искусственного интеллекта и нейронных сетей вы сегодня применяете или планируете применять в авиации?

— Если говорить о том, что уже готово к применению, то и в авиации, в первую очередь, речь идет о задачах распознавания образов, обработки изображений, компьютерного зрения, воздушного мониторинга местности. Например, беспилотные самолеты могут снимать местность, контролировать состояние газопроводов, линий электропередач, следить за лесными пожарами. Также нейросети сегодня решают задачи самоориентации и навигации летательных аппаратов в различных условиях.

Значительных результатов специалисты института добились в области систем улучшенного, синтезированного и комбинированного видения для гражданской авиации. Такие системы помогают летчику при посадке, а также при полете на малой высоте в сложных условиях видимости — одной из основных причин возникновения аварийных ситуаций.

Система улучшенного видения предполагает установку инфракрасных датчиков, чтобы система могла видеть то, чего не видит человек. В настоящее время создаются даже самолеты без остекления, но с множеством камер, которые выводят информацию на монитор летчика.

Синтезированное видение напоминает компьютерную игру flight-симулятор. При плохой видимости и непогоде летчикам помогает синтетическое изображение, созданное на основе трехмерной модели местности и пилотажно-навигационной информации о текущих параметрах полета. Сегодня у каждого аэродрома есть трехмерная модель, благодаря которой пилот может, используя синтезированное видение, посадить самолет на заданную полосу даже при полном отсутствии видимости.

Система комбинированного видения объединяет синтетическую трехмерную картинку и реальные элементы, которые мы видим датчиками технического зрения. Исследования показывают, что летчикам намного удобнее смотреть на трехмерную схему со специальными значками, чем на реальную обстановку за бортом, полученную ИК-датчиками, особенно в стрессовой ситуации. Комбинированное видение решает эти проблемы.

Что касается будущего, в авиации также существует множество оптимизационных задач, и мы только начинаем применять глубокие нейронные сети для их решения. Здесь мы видим очень большую перспективу.

— Подведем некий итог. Нельзя не упомянуть такие фильмы о «сильном» искусственном интеллекте, как «Эксмашина», «Она», «Превосходство» и другие. Совсем недавно вышла компьютерная игра «Android. Become Human», сюжет которой строится на том, что человекоподобные андроиды с сильным искусственным интеллектом борются с несправедливостью и требует прав и свобод. Насколько реален подобный сценарий?

— Само слово «робот» придумал Карел Чапек. Оно прозвучало в его пьесе, сюжет которой как раз и состоял в том, что искусственные рабы-андроиды стали осознавать себя, чувствовать, влюбляться… а в конце, благодаря этому, возникает новое человечество. Так что этот сюжет достаточно архетипичный. Многие люди боятся неповиновения роботов и случайного возникновения у них сильного искусственного интеллекта. Я же призываю разделять эти вещи. Как бы правдоподобно ни звучала речь голосового помощника «Алиса», она не может думать и чувствовать. И никакая случайная поломка не может превратить «Алису» в думающее и чего-то желающее существо. Потому что поломки не ведут к усложнению, они ведут только к упрощению и хаотизации поведения.

Но если вы спросите меня, реально ли создать «сильный» искусственный интеллект, то я отвечу — вероятно, да, но не сейчас. Моя оценка — 2040 год, не раньше. Создание функционального искусственного интеллекта — это действительно вопрос ближайших лет, и для его реализации у нас уже все есть. Но над возникновением «сильного» искусственного интеллекта придется долго и упорно работать. Как мы уже обсуждали выше, гарантировать возможность создания «сильного» ИИ сложно из-за того, что мы пока не до конца понимаем, что такое сознание. Если мы это поймем в техническом смысле, мы приблизимся к «сильному» искусственному интеллекту.

Тем не менее, уже сейчас мы с легкостью можем создать имитацию человека. Возможно, через несколько лет вы уже не сможете отличить общение с искусственным контрагентом от общения с реальным собеседником. Но это будет всё тот же функциональный искусственный интеллект. Такой мимикрирующий под человека функциональный искусственный интеллект, как мне кажется, может быть создан уже через 5-10 лет. Это же касается и имитации внешнего облика человека. В сравнительно недалеком будущем вы, возможно, действительно встретите на улице человека, который окажется андроидом. Сейчас уже довольно неплохо делают для андроидов лица с мимикой, но с движениями пока проблемы. Лишь несколько компаний в мире владеют технологий двуногого хождения машин. Мы также работаем над этим вместе с коллегами из компании «Андроидная техника». Наши специалисты совместно пытаются научить нейросети управлять движением робота так, чтобы он ходил как человек. Если получится это сделать, то вы уже не сможете легко отличить андроида от человека при первой встрече.