Экспертный разговор

0 комментариев 1706

«Полностью оптимизированная система всегда нестабильна»

«Полностью оптимизированная система всегда нестабильна»
Где искусственный интеллект может с успехом заменить человека, а где этого делать не нужно? ? Об этом журналист Наталия Лескова беседует с Николаем Колачевским, директором ФИАН им. П.Н. Лебедева РАН, членом-корреспондентом РАН.  

Где искусственный интеллект может с успехом заменить человека, а где этого делать не нужно? Какие разработки с применением ИИ сейчас особенно актуальны? Что представляет собой программа, помогающая распознать кашель при COVID-19? Не случится ли так, что однажды «умные» машины сочтут людей ненужными? Какие меры надо предпринять, чтобы этого не произошло? Об этом журналист Наталия Лескова беседует с Николаем Николаевичем Колачевским, директором Физического института им. П.Н. Лебедева РАН, членом-корреспондентом РАН.  

 

журналист Наталия Лескова беседует с Николаем Николаевичем Колачевским

 

И: Николай Николаевич, представлять вас не нужно, мы вас все уже и так знаем: директор Физического Института Академии наук, член-корреспондент РАН, доктор физико-математических наук Николай Николаевич Колачевский. И наша сегодняшняя тема – искусственный интеллект, те разработки, те работы и, может быть, та история исследований искусственного интеллекта, которые ведутся в стенах вашего замечательного института. А начну я с провокационного вопроса. Недавно президент Путин сказал, что искусственный интеллект никогда не заменит человека. Это высказывание цитировали все средства массовой информации как главную новость. Что вы думаете по этому поводу, прав президент или не совсем?

Колачевский: В принципе, очень не хотелось бы, это неправильно, если мы будем пытаться заменить человека искусственным интеллектом. На самом деле мы говорим про искусственный интеллект и естественный интеллект – это уже очень близкие вещи, когда смотришь на развитие ребенка. Я, может быть, скажу немножко крамольную вещь, но у меня сейчас растёт маленький ребёнок, и ощущение, что это – обучающаяся нейросеть во всех её проявлениях. Другой вопрос, что в тех вещах, которые мы вкладываем в понятие искусственный интеллект сегодня, мы всё-таки говорим про машины, про бездушные структуры. И, не дай бог, честно признаться, чтобы такие системы могли где-то заменять человека. С другой стороны, мы же пользуемся помощником, мы себя окружили помощниками со всех сторон: у нас есть стиральные машины, сотовые телефоны, есть, простите, «Алиса», которая детям подсказывает прогноз погоды. Вот именно как система поддержки принятия решений, то есть для облегчения ряда задач, для оптимизации – это хорошая задача.

Я не буду, естественно, комментировать Владимира Владимировича, что мы всё время стараемся что-то оптимизировать, но есть такая теорема, в общем-то, известная, что любая полностью оптимизированная система становится нестабильной. Это очень легко показать на примере движения немецких поездов и вообще транспорта, потому что это почти полностью оптимизированная система. То есть каждый поезд стыкуется, пересадка там одна минута, как раз чтоб перейти с платформы на платформу, может быть, пересесть на автобус и так далее. Это очень сложная логистическая структура. Но как только в ней происходит один сбой, она «падает» вся целиком. Снегопад, например, проходит или оледенение. Поэтому здесь тоже вопрос, нужно ли нам стремиться к полностью оптимизированным структуре. В этом смысле я тоже здесь дал бы чуть-чуть задний ход.

Поэтому я полностью согласен с президентом, и это мнение, в общем-то, научной общественности: никому не хочется, чтобы кто-то принимал решения, причём решения ответственные, особенно без участия человека.

И: Понятно, что искусственный интеллект не должен, не может и не надо, наверное, стремиться к тому, чтобы он полностью заменил человека, но в каких-то сферах деятельности это совершенно необходимо, особенно там, где это опасно для человека. Вот давайте остановимся на этих моментах и расскажем о том, что у вас конкретно в институте в этом направлении делается.

Колачевский: Физический институт Академии наук ассоциируется с космосом, с физикой конденсированного состояния, с лазерной физикой. Вот сейчас прошёл конкурс мегагрантов, мы выиграли два настоящих физических проекта. Это профессор Кайзер Ральф по астрофизике, молекулярное соединение, и Яковлев Дмитрий из Германии, который будет заниматься тонкими пленками, спинтроникой и так далее. То есть мы движемся в привычном направлении, чтобы не было замены понятий.

Но выясняется, что эти методы теоретической физики, теории игр, некоторые модели, которые используются не только в теоретической физике, а вообще в физике, оказываются очень востребованными. Плюс ко всему, когда мы в движемся в сторону искусственного интеллекта, выясняется, что это нестрогая наука, здесь нестрогие подходы нужны. Физики в этом ориентируются зачастую лучше, чем математики, потому что математики более канонически строгие. Львиная доля задач, которые сегодня приходится решать, – это распознавание образов, оптимизация логистики и так далее – это не строгие задачи, то есть можно угадать, а можно не угадать, они все вероятностные, они такие переливчатые.

Поэтому эти задачи выкристаллизовались фактически у физиков. Мы помним Чернавского, он физик по образованию, но больше вникал в экономику. Сейчас у нас есть профессор Андрей Леонидов, «лицо» искусственного интеллекта в ФИАНе. И если переходить к конкретным задачам, то мы здесь довольно сейчас широким фронтом идём, потому что, как показывает опыт, если разработать какой-то метод, то он оказывается востребован в самой широкой сфере вопросов: и в науке, и финансах, и в блокчейнах, и так далее, и так далее.

Начну конкретизировать, чтобы от интриги перейти уже к задачам. Давайте начнем с простой задачи. Первая простая задача, которую мы перед собой поставили, решена фактически, – это задача понять, действительно, какая организация в нашей в стране занимается научными исследованиями, в какой области и сколько она публикует статей, сколько соавторов и так далее, и так далее. Казалось бы, задача очень простая, на первый взгляд, потому что всё это есть в базах данных, «Web of Science», «Scopus», всё мы это знаем прекрасно, но выясняется, что привязать статью к данной организации бесконечно тяжело. Потому что, например, тот же самый ФИАН, наш любимый Институт имени Лебедева, имеет примерно двести вариантов написания названия института. И выясняется, что вот у тебя есть статья, у тебя есть организация, а идентифицировать – это непростая задача.

Разбор так называемых публикаций мы делаем с помощью подходов, основывающихся на искусственном интеллекте. Это распознавание текстов, и на самом деле это превратилось в очень интересную область деятельности, которой сейчас занимается группа наших коллег в институте. Это система «Зеркало», с которой Академия наук, экспертное сообщество и Министерство науки знакомы. Она позволяет фактически восстановить сегодняшнюю картину публикационной активности объективной организации, понять, какие связи между организациями существуют, выяснить, какое взаимодействие, какой ученый является ключевым связующим звеном между другими участниками исследования. Это такая простая задачка, которая, как подход к снаряду, тренировка.

Следующее развитие этого направления тоже, на мой взгляд, очень любопытное, хотя сильно дискуссионное, – это программа «Потенциал» так называемая, которая является продолжением развития программы «Зеркало». Это моделирование развития научной результативности, мультиагентное моделирование. Оно сложное, не примитивное, когда каждая научная структура, организация представляет собой некоего агента, они взаимодействуют, используют эту теорию игр. И результаты, которые мы видим, немножко наивные, хотя есть неожиданные ситуации. Если мы, предположим, увеличим грантовое финансирование и уменьшим госзадание, то эффективность работы либо сохраняется, либо поддерживается на таком же уровне, либо чуть-чуть растёт, а количество участников падает. То есть количество ученых, которые в эту игру готовы играть, падает. Это действительно неожиданный эффект. К этому надо относиться серьезно. Мы сейчас пытаемся это декомпозировать до уровня организации, чтобы понять, где и какие инструменты поддержки можно было бы обсуждать в зависимости от целей: если мы хотим поднять количество исследователей в стране, что мы должны делать. Просто вбросить денег – это не всегда работает. «Вбросить денег» – по каким правилам, куда наиболее эффективно? Это понятная нам область, это мы сами себя исследуем. Как деятели кино, которые очень любят снимать кино о собственно съёмке кино, то есть не всему обществу это интересно, честно сказать.

Еще одно направление, которое у нас есть, связано с взаимодействием с Росфинмониторингом. Это служба, которая занимается довольно сложными задачами поиска нелегальных взаимоотношений между организациями как внутри страны, так и с иностранными контрагентами. Дело в том, что каждая из операций сама по себе может быть вполне легальна, вполне законна и так далее, но поиск вот таких взаимосвязей раскрывает потенциальную угрозу либо отмывания доходов, либо финансирования терроризма. И выясняется, что задача очень непростая при том количестве банковских операций, которые проводятся ежесекундно в мире и с участием российских контрагентов. Чтобы найти даже самые простые схемы поисковыми методами, оказывается, нужны технологии на уровне как Гугл. В Америке такие технологии сейчас внедряются. Эти вот технологии требуют новых подходов. Мы сейчас должны учиться свои знания, которые накоплены людьми, аналитиками, специалистами, инженерами, перекладывать в некую машиночитаемую форму, то что называется онтологией, и использовать эту машиночитаемую форму уже для поиска в базах данных, либо для конструирования каких-то более сложных задач с поиском неоднозначного решения.

Вот «Сименс» в этом направлении является очень хорошим примером. Что сделал «Сименс» за последние годы? Он все свои технологические процессы именно как знаний положил в некую базу данных. Для того чтобы сделать, скажем, лопатку турбины, нам надо использовать материалы, которые заказывают у поставщиков; нам нужны такие-то станки, которые берутся в таких-то организациях. И дальше, если вы хотите создать новый продукт, вы уже берете знания фактически не от людей, не собираете совет, а хотя бы как предварительное решение вы его ищете вот в такой форме. Поэтому, наверное, это самая глубокая область с использованием искусственного интеллекта, которую мы сейчас прорабатываем.

Оно имеет несколько уже вполне практических применений. Это поиск узловых структур в системе биткоинов, в системе криптовалют, которые позволяют идентифицировать «неприятные» операции, в основном вокруг торговли незаконными средствами. Мы знаем, что торговля наркотиками и даркнет, и криптовалюта – это очень тесно связанные вещи. Но выясняется, что такая система, несмотря на то что она далеко не идеальная, является, на мой взгляд, первой ласточкой, и она уже очень эффективно позволяет противодействовать ряду таких операций.

Другой вопрос, что мы должны понимать: если говорить про криптовалюту, это же трансграничные операции, то есть если это не происходит в России, это будет происходить, например, в Тайване или в Лондоне, или где-то ещё. Это надо учитывать.

Ну, и, наверное, если переходить к самому, пожалуй, близкому для людей сегодня направлению, – это то, что мы разработали очень любопытную систему, дающую возможность предварительного анализа с помощью сотового телефона возможности заражения ковидом.

И: Об этом я слышала. На мой взгляд, это чрезвычайно актуальная разработка. Расскажите, пожалуйста, об этом. Как это работает? Нельзя ли заразиться ковидом в процессе применения этой разработки?

Колачевский: Это зависит от того, как это будет применяться. Дело в том, что кашель может быть очень разным. Вот эта модель кашля, которую мы произносим, оказывается, высоко информативна. Довольно часто, когда приходишь к врачу, тебя просят покашлять. Врачу важно, как звучит сухой кашель, мокрый кашель, бронхиальный и так далее. Выясняется, что для того, чтобы слушать кашель, совершенно не нужен врач, ведь это можно записать на сотовый телефон. Вполне достаточно качества звука, которое обеспечивает распознавание типа кашля.

Естественно, эта система требует обучения. Коллеги записывают звук, раскладывают его по гармоникам и, таким образом, используя системы идентификации, мы можем узнать специфики этого кашля. Дальше на это накладываются некие модели кашлевые, которые обучены с помощью врачей. У нас было взаимодействие с медицинскими центрами, где врачи, прослушивая записи разных кашлевых паттернов, их идентифицировали: вот ковидный кашель, коклюшевый кашель, бронхиальный кашель и так далее. В результате с большой вероятностью, порядка 80-ти процентов, удается поставить преданализ. Конечно, это – не диагноз врача. Диагноз врача – это официальное заключение, а это такой преддиагноз.

Отвечая на ваш вопрос по поводу того, можно или нельзя заразиться, скажу так. Если кашлять в собственный гаджет, то, наверное, заразиться невозможно. Если говорить про терминалы общественные, то здесь дискуссионный вопрос, зависит от мер защиты, и надо, конечно, с Минздравом, с Росздравнадзором это обсуждать.

Но здесь, знаете, ещё есть очень сильные психологические факторы, потому что человек очень любит, когда о нем заботятся. Существенная нагрузка врачей в моём понимании – это просто с людьми разговаривать, когда к тебе приходит человек и ты его либо успокаиваешь, либо как-то предостерегаешь. Вот если бы, особенно в нынешнее тяжёлое время, какие-то нагрузки с врачей или провизоров в аптеках, или с медсестёр можно было бы снять, это, наверное, было бы неплохо.

И: Николай Николаевич, вы сказали, что для того, чтобы слушать кашель, врачи необязательны. Я думаю, что, прочитав это, на нас сейчас с вами обрушатся все врачи России, потому что – как это так, мы не нужны. Наверное, имеется в виду не то что врачи не нужны в этой ситуации, а то, что это помощник для врачей?

Колачевский: Полностью с вами согласен, я имел в виду, что не нужно физическое присутствие врача. Ведь на самом деле можно записать кашель в телефон, переслать его вообще в другой регион, прослушать его…

И: Можно переслать это врачу, который скажет, необходимо прийти немедленно или вызвать скорую, или, например, вам не надо беспокоиться, просто пейте такое-то лекарство.

Колачевский: Да, действительно, физическое присутствие врача здесь необязательно, потому что сейчас это стало очень сложно, врачи перегружены. Онлайн-технологии очень важны, хотя я их не идеализирую. Всё равно конечный диагноз ставит врач, но врач пользуется результатами магниторезонансной томографии, смотрит на тебя изнутри, делает КТ, УЗИ. То есть огромное количество помощников у врача, которые позволяют делать преддиагноз. Можно очертить какое-то образование, опухоль. Я слышал про разработки с искусственным интеллектом, которые по КТ могут обозначить не совсем здоровые области в лёгких, чтобы врачу уже понятно было, куда смотреть. Опять же вопрос спорный, дискуссионный: а вдруг пропустишь главное?

Но если это массовые явления, врачи же работают по протоколам. Задача мировой медицины – это увеличить среднюю выздоровляемость. Это иногда очень обидно, потому что приходит человек, у него какая-то своя сложность, а его всё равно будут лечить по протоколу, потому что этот протокол гарантирует более высокую среднюю выздоровляемость. Речь идет, конечно, сегодня о персонифицированной медицине, мы это обсуждаем, но это еще всё-таки некоторое будущее. Потому что людей на планете очень много, модели заболеваний многие схожие, поэтому все-таки протокольные вопросы сохраняются.

Поэтому мне кажется, что это очень любопытная разработка. Я её совершенно не идеализирую, не считаю, что она является панацеей, но считаю, что это дополнительный метод взаимодействия с врачом и постановки преддиагноза, а также в какой-то степени психотерапия для самих потенциально заболевших людей. У меня много коллег ковидом болеют сейчас, и момент, когда вызывать врача, для людей не всегда понятен.

И: Сейчас это действительно сложно. Скажите, пожалуйста, а этой разработкой уже можно пользоваться, ваши коллеги ею пользуются или она еще находится в процессе доработки?

 

Колачевский: На самом деле ей можно пользоваться, то есть технически она абсолютно готова. Другой вопрос, что как только мы уходим в область медицины, здравоохранения без соответствующих лицензий, разрешений Росздравнадзора и так далее, мы никак не можем идти дальше.

И: Понятно, это дело достаточно долгое. Но ваши коллеги её применяют, диагностируют свой кашель таким образом?

Колачевский: Да, я сам в этот телефон кашлял, так что это работающая система.

И: И что вам система сообщила про ваш кашель?

Колачевский: Ничего интересного: я пока не пациент, это кашель, свойственный здоровому человеку. Так он мне написал.

И: Это будет программа, которую можно установить в свой смартфон, скачать и пользоваться каждому человеку?

Колачевский: Да, да.

И: Это будет касаться только кашля или в будущем можно будет расширить диапазон этих возможностей?

Колачевский: Да. Мы сейчас обсуждаем вопрос подключения других устройств – например, стетоскопа, микрофона, когда, приложив его к грудной клетке, можно записывать дыхание. Для врача это вспомогательная информация. Врач всегда смотрит на комплекс признаков – температура, затруднение дыхания, потливость и так далее. Но как один из методов он вполне годится.

Причём это оказалась довольно простая технология, она не является чем-то сверхсложным, сверхъестественным. И вы правы, она может быть установлена на мобильный телефон или ноутбук, или какие-то приложения в медицинских центрах, если они захотят, могут быть задействованы. Это вопрос уже к медикам. Мы – физики. Мы немножко наивные люди, когда разрабатываем медицинскую технику. Я-то уже неплохо знаю это по другим нашим задачам – по лазерной, ядерной медицине, что в эту вот проблему врачебную всегда в какой-то момент уткнешься, потому что с пациентом работает врач, а не физик. Но это правильно.

Дальнейшее, на мой взгляд, развитие этой темы, причём параллельное, другой группой ведется – это, конечно, квантовый вычислитель. Это тоже нестрогие решения, это методы, в чём-то похожие и конкурирующие с методами искусственного интеллекта. Мы всегда говорим, что у нас есть задача экспоненциальной сложности, то есть мы увеличиваем количество игроков в системе, условно говоря, количество людей или количество машин, и задача растет по сложности, как 2n , где n – количество этих игроков. И эти задачи очень быстро превышают любые возможности современных компьютеров. Поэтому, собственно, и возникает метод искусственного интеллекта, который позволяет редуцировать эти экспоненциальные задачи. И квантовые вычислители позволяют это делать. Поэтому мы сейчас активно включились в дорожную карту по квантовым вычислителям, которые ведет Росатом. Пока это всё, конечно, находится на очень наивном уровне, но с точки зрения хорошей физики это очень сложная система, которая требует чрезвычайно высокой квалификации и, кстати, инженерных решений в большой степени. Поэтому мы сейчас с большим интересом развиваем это направление и ждём, что там лет через пять получится.

И: Николай Николаевич, в каких сферах искусственный интеллект никогда не сможет заменить человека? Мы постоянно видим фильмы и читаем книжки о том, как появляются добрые, заботливые роботы, и сейчас даже вот вы сказали об Алисе, с которой дети общаются, они ведь её очеловечивают. Они стараются придать ей человеческие черты. Возможно ли это в принципе, чтобы представители искусственного интеллекта обладали человеческими душевными качествами, или вообще не надо к этому никогда стремиться?

Колачевский: Я на этот вопрос с некоторым сожалением и с грустью отвечу скорее положительно. Потому что если мощности нейронных сетей достигнут мощности человеческого мозга, то, скорее всего, мы будем видеть очень похожие черты, как у человека.

И: А почему вы говорите об этом с грустью?

Колачевский: Ну, потому что, понимаете, каждый вид в природе себя защищает, то есть я в этом смысле выступаю, как представитель «хомо сапиенс», который хотел бы себя защитить и не сделать подмены людей, с которыми мне интересно, неодушевлёнными предметами. После этого становится неинтересно. Я ещё застал Карпова с Каспаровым, какие это были эмоционально насыщенные битвы. А сейчас эта область вообще исчезла, шахматы перестали представлять интерес в принципе, потому что компьютер делает лучше. Я действительно говорю это с грустью, потому что, если начнут отваливаться вот такие области человеческой жизни, где человек всегда чувствовал себя лидером, – это искусство, музыка, вообще творчество, – то жизнь, на мой взгляд, станет очень-очень ограниченной. Это философское размышление.

И: Да, без философии в этой теме никак не обойтись. А что вы думаете об опасностях, связанных с дальнейшим развитием искусственного интеллекта? Не сможет ли случиться так, что однажды эти умные создания поймут, что человек слишком несовершенен, чтобы иметь его на планете рядом с собой?

Колачевский: Ну, я здесь скорее опасаюсь другого. Если машину посадить на контроль, причём полный контроль каких-то систем вооружений, которые могут представлять глобальную угрозу, то вероятность того, что может произойти глобальная катастрофа сильно возрастает. Такие случаи уже в истории человечества были, они описаны в газетах, когда вместо ракеты в качестве потенциальной угрозы «захватывалась» Луна. И если бы это была машина, а не человек, то должна была ядерная война развязаться. Но человек принял нелогичное с точки зрения машины решение: он взял на себя ответственность и не стал нажимать кнопку. Вот этот вопрос меня больше всего пока беспокоит, потому что не дай бог. Хотя это удобно, это эффективно, не надо сидеть на опорных пунктах, где минус 50 на улице или плюс 50, можно всё делать дистанционно, но это опасно. Мы должны это понимать и всегда об этом помнить.

 

"Экспертный разговор" проведен при поддержке Министерства науки и высшего образования РФ и Российской академии наук.

Колачевский Наталия Лескова Физический институт искусственный интеллект

Назад

Социальные сети

Комментарии

Авторизуйтесь, чтобы оставить комментарий

Информация предоставлена Информационным агентством "Научная Россия". Свидетельство о регистрации СМИ: ИА № ФС77-62580, выдано Федеральной службой по надзору в сфере связи, информационных технологий и массовых коммуникаций 31 июля 2015 года.