Существует ли искусственный интеллект? Что это такое? Возможно ли в принципе его создать? Нет ли здесь противоречий и опасностей? Почему в этом вопросе существуют разные точки зрения? Об этом мы говорим с академиком Николаем Александровичем Кузнецовым, главным научным сотрудником Института радиотехники и электроники им. В.А. Котельникова Российской академии наук.
― Николай Александрович, говорят, что вы до сих пор знамениты в стенах Физтеха. Когда вы там учились, входили в состав квинтета, играли на музыкальных инструментах и замечательно пели. Правда, что вы и сейчас все это умеете?
― Конечно, умею, но, если учитывать возраст, голос уже не тот. Мы были уникальным ансамблем Физтеха, впервые вынесли студенческую песню на телевидение.
Известная «Гренада» в нашем исполнении случилась таким образом. Мы уже были сложившимся ансамблем, побеждали в конкурсах студенческой песни и принимали участие в КВН. Так случилось, что в гостях у художника Иосифа Игина, приятеля Михаила Светлова, нас попросили спеть, что мы и сделали. Иосифу Ильичу так понравилось наше исполнение, что он сказал: «Ребята, я должен через неделю выступать на телевидении. Сделайте “Гренаду”». И мы ее за неделю сделали. С тех пор она стала знаменитой.
Потом мы довольно долго участвовали в КВН. У нас была получасовая передача на телевидении с режиссером Алексеем Габриловичем. Она называлась «Солнце, весна и песни». Каждую неделю в телепередаче «Зовут дороги дальние» мы исполняли бардовские песни. Допелись до того, что композитор Юрий Саульский предложил нам перейти в профессионалы.
― Некоторые ученые так и делают. А вы почему отказались?
― Мы много времени посвящали учебе и науке, уже были аспирантами Физтеха. Надо было выбирать: профессионально заниматься пением или наукой. Мы решили, что пора песенную деятельность прекращать.
Хотя время от времени мы продолжали петь на телевидении. В пионерлагере «Орленок», где мы работали вожатыми, мы познакомились с Александрой Николаевной Пахмутовой и Николаем Николаевичем Добронравовым. Они попросили нас исполнить созданные ими песни «Орлята учатся летать» и «Звездопад». Эти песни мы исполняли на телевидении вместе с Еленой Камбуровой. Было интересно работать с такими авторами. Мы пели прекрасно, поэтому Александра Николаевна пригласила нас для участия в юбилейном сотом «Огоньке», это было в 1964 г. Не раз слышал утверждение, что ни до, ни после нас самодеятельных ансамблей такого уровня не было. Сергей Никитин говорил, что такого никто еще не смог сделать.
― Сергей Никитин, кандидат физико-математических наук, все же ушел на эстраду. А вы решили заниматься наукой. Защитили докторскую и в конце концов стали академиком…
― Да, моя специальность — «автоматика и электроника», так указано в дипломе. Наука об автоматическом управлении позже стала называться кибернетикой. Потом ввели более широкое понятие «информатика», а в последние годы ― «искусственный интеллект».
Надо сказать, что основные идеи искусственного интеллекта были изложены в статье М.А. Айзермана, Э.М. Бравермана и Л.И. Розоноэра в журнале «Автоматика и телемеханика» (1964. Т. 25. Вып. 6). Авторы статьи впервые ввели пространство признаков для решения задач распознавания аналитическим путем в автоматическом режиме. Искусственный интеллект сначала понимался как некоторое распознавание объекта по набору признаков.
― Что это значит?
― Это означает следующее: мы просто берем разные объекты, а потом анализируем их расположение в пространстве признаков и оцениваем концентрацию точек в разных областях пространства. Если мы сможем разделить эти области концентрации с помощью поверхностей в пространстве признаков, значит мы научились распознавать объекты автоматически. Главное — правильно выбрать пространство признаков, тогда распознавание будет успешным. Вот, например, как распознать лица без фотографии?
― Как же?
― Французская жандармерия придумала такой способ. Рассматриваем лицо человека, берем расстояние между глазами, длину носа, выпуклость ушей, длину подбородка и т.д. Теперь мы называем это «пространство признаков». Именно в этом пространстве признаков описывалось лицо человека. По этим описаниям преступников идентифицировали довольно эффективно. Потом уже появились разные нейросети, которые тоже распознают объект, формируя пространство признаков автоматически.
Для разных областей применения разработаны нейросети разного типа. Но я думаю, что этот способ для ленивых. Если бы человек подумал как следует и, применяя колмогоровскую сложность, сформировал пространство признаков, то он бы сделал систему распознавания гораздо быстрее и лучше, чем современные нейросети. Сегодня искусственным интеллектом стали называть все, что раньше называлось управлением и обработкой информации.
― Как это понимать?
― Изначально искусственный интеллект ― это система распознавания объекта или ситуации, как я уже сказал. А теперь то, что называлось оптимальным управлением, тоже называют искусственным интеллектом, и то, что называлось автоматическими системами, ― тоже искусственным интеллектом. Это стало модно. Чуть что ― искусственный интеллект!
― Николай Александрович, в вашем понимании искусственный интеллект вообще существует? И если да, что это такое?
― Давайте порассуждаем. Интеллект ― это прежде всего понимание, верно? Значит, искусственный интеллект тоже должен быть связан с пониманием. Есть ли оно? Возьмем автоматические переводы с одного языка на другой. Вы прочитали текст на английском языке, поняли смысл и передали его на русском или на другом языке.
В 1993 г. в Институте проблем передачи информации им. А.А. Харкевича РАН я, будучи директором института, организовал лабораторию компьютерной лингвистики, которая, как я думал, сможет организовать это искусственное понимание, создать модель смысла. Есть текст, имеющий некоторый смысл. Мы создадим формальную модель «текст — смысл», потом изложим этот смысл на другом языке, используя модель «смысл — текст». То есть попытаемся сделать перевод автоматическим.
Для разработки системы автоматического перевода текстов с одного языка на другой была создана международная программа Eurolinguo, исследования финансировались Организацией Объединенных Наций. Головной институт находился в Японии, а Институт проблем передачи информации отвечал за создание моделей «текст — смысл» и «смысл — текст». К работе были привлечены лучшие лингвисты мирового уровня. Чтобы не создавать систему перевода с каждого языка на все остальные, было предложено создать язык-посредник, используя который, можно было сократить количество создаваемых переводчиков.
― Получилось?
― Да, он был сделан. Он назывался UNL (Universal Networking Language). Это, в общем-то, упрощенный английский, но со специальными лингвистическими значками. Был сделан перевод, по-моему, с шести языков: русского, английского, французского, китайского и т.д. Язык UNL до сих пор существует. Некоторые сотрудники Института проблем передачи информации преподают язык UNL в разных европейских университетах. Но, к сожалению, качество перевода оказалось не очень хорошим.
― А почему? Нет понимания?
― Не удалось создать модель смысла. А Google улучшил качество перевода путем примитивного перебора похожих фраз в словаре-переводчике. При этом используются большие базы данных, переведенных профессиональными переводчиками текстов, хорошие поисковые системы, большие объемы памяти.
― Но понимания они тоже не достигли. А его возможно достичь, как вы думаете? Возможен ли в принципе искусственный интеллект в том понимании, которое мы в это сейчас вкладываем?
― Это самый сложный и самый интересный вопрос. Как я уже сказал, все понимают слова «искусственный интеллект» по-разному. А ведь для интеллекта главное ― это возможность создать что-то новое с учетом понимания и накопленных знаний. Вот создал человек программу, а компьютер ее быстро выполнил. Какой тут интеллект? Никакого интеллекта нет. А в создании нового и состоит самое интересное. Создание нового ― это таинственное дело. Вот, казалось бы, самая формальная наука ― математика. Математик практически всегда предполагает нечто, что потом подкрепляется теоретическими выкладками и расчетами. Самые знаменитые теоремы ― сколько лет их доказывают?
― Может быть, они долго об этом думали, а потом интуитивно прозрели?
― Вот об этом и речь. Так происходит почти в любой области научного знания: человек интуитивно предполагает направления исследований и возможный результат, а потом долго и напряженно доказывает или опровергает это с помощью теоретических и экспериментальных работ.
― То есть в основе интеллекта лежит некая неалгоритмичность, чего нет у машины?
― Да. И это самое ценное. Допустим, в математическом институте придумали автоматическое доказательство теорем. Есть начальная теорема, и она автоматически доказывается. Но ничего интересного так и не доказали формальным образом. Не смогла машина это сделать. В свое время академик В.А. Трапезников в Институте проблем управления академии наук (теперь институт носит его имя) поставил мне задачу: «Подумайте, почему в одной лаборатории генерируют новые идеи, а во второй ― нет? И как эти новые идеи возникают?»
Я был молодым заместителем директора, добросовестно собрал статистику и смог сделать только один вывод: новые идеи часто рождаются в процессе дискуссий на научных семинарах, обсуждениях, хотя есть и талантливые одиночки, которые тоже на это способны. А вот как у них это получается ― большая тайна. Это пока необъяснимо.
― Может быть, все дело в том, что мы просто не понимаем до конца устройство головного мозга, не знаем, как работают нейронные системы?
― Сейчас много говорят ― суперкомпьютер, нейрокомпьютер… Никакого нейрокомпьютера пока не создано. Головной мозг человека содержит миллионы нейронов (более 2 тыс. разных типов), с разными входо-выходными характеристиками. Воссоздать работу такого устройства с таким количеством разнообразных элементов человечество пока не в состоянии. Нельзя пока не только создать такой компьютер ― мы пока не можем даже понять, как происходит обработка информации в мозге.
― Но когда-нибудь это удастся?
― Думаю, что нет. Чтобы понять, как работает система, необходимо для начала оценить ее параметры. Вот, например, система, описываемая линейными стохастическими дифференциальными уравнениями. Чтобы идентифицировать ее параметры, необходимо произвести некоторое количество измерений, характерных для каждой такой системы. Для этого потребуется какое-то, иногда значительное, количество времени и вычислительных возможностей. А для гиперсложных систем, таких как человеческий мозг, потребуется осуществить континуум измерений для понимания работы мозга ― определения структуры передачи информации и алгоритмов ее обработки. Сколько вычислительных мощностей при этом понадобится, предположить не представляется возможным. По крайней мере, такое вряд ли возможно в обозримом будущем.
― А вы задавались когда-нибудь вопросом: каким же это образом слепой природе удалось создать такую сложную систему, которую мы не можем постичь?
― Во-первых, природа не слепа, она очень даже разумно устроена. Во-вторых, на эту тему есть разные теории ― научные и околонаучные, порой даже курьезные. Я не считаю себя специалистом в этом вопросе, но хочется думать о чем-то возвышенном и труднообъяснимом. Хотя, конечно, и теорию эволюции никто не отменял.
― А как вы думаете, может быть, это хорошо, что мы не можем создать искусственный интеллект?
― Может быть. Иначе было бы скучно.
― И опасно. Мы бы создали его, а он бы решил ― зачем мы?
― Это вопросы кибербезопасности. Как сделать робота, чтобы он не напал на человека, ― это целая наука со своими методами и критериями.
― Еще у Айзека Азимова сформулированы принципы поведения роботов, чтобы они не навредили людям.
― Кстати, у него была замечательная статья, в которой говорилось о 12 гроссмейстерах, которые могут сформулировать компьютеру содержательные вопросы. И один из гроссмейстеров стал в компьютер загружать анекдоты, а потом задал ему вопрос: «Зачем на Земле рассказывать анекдоты?» И тот ответил, что с помощью анекдотов внеземная цивилизация тестирует уровень развития землян. И тут гроссмейстер задает компьютеру второй вопрос: «А что будет, если мы узнаем, зачем на Земле рассказывать анекдоты?» А компьютер отвечает: «Все анекдоты забудутся». И точно: потом гроссмейстер не смог вспомнить ни одного анекдота.
― Николай Александрович, какую еще задачу вам бы хотелось решить как ученому?
― Область моих научных интересов ― разработка методов оптимального управления и обработка информации в динамических системах. Теоретическая часть этих исследований изложена в моих монографиях, научных статьях, докладах.
Прикладная часть этих работ лежит в плоскости управления движущимися объектами, в том числе специального назначения. Вот, например, для управления космическим кораблем «Буран» была создана модель посадки и были разработаны алгоритмы управления и обработки информации. Для управления транспортными судами морского флота, составами на железной дороге, так же как и для космических аппаратов, решались задачи распознавания траектории движения динамических систем.
Решение таких прикладных задач стимулирует развитие новых теоретических методов в теории управления, решения задач устойчивости рассинхронизованных систем, создание алгоритмов автоматического управления наблюдениями в динамических системах.
Сегодняшние мои научные интересы посвящены структурному построению систем и методов управления потоками информации в области телекоммуникаций. Эти актуальные вопросы интересны и молодым исследователям, что особенно заметно на примере студентов нашей кафедры на Физтехе. Заметить молодой талант, помочь ему развиться и создать все необходимые условия его работы на благо нашей страны ― в этом я вижу свое предназначение сегодня.
― Если я правильно понимаю, системы, которые сейчас называют искусственным интеллектом, на самом деле могут быть хорошими помощниками человеку, но ни в коей мере не могут его заменить?
― Да, конечно. Наука управления непрерывно развивается и усложняется. Цель любого технического прогресса ― улучшение жизни людей на основе создания совершенных производств и технических систем, и компьютеры, конечно, здесь совершенно незаменимы. Но полностью заменить нас с вами они не смогут никогда. И это прекрасно.
