На страже информационной безопасности: открытая конференция ИСП РАН проходит в кластере «Ломоносов» МГУ

Открытая конференция Института системного программирования РАН проходит в Москве 11–12 декабря 2024 г. Событие посвящено 30-летию ИСП РАН и 300-летию академии наук и проводится в футуристической атмосфере инновационного кластера «Ломоносов» МГУ. Пленарное заседание форума объединило ученых, представителей крупных IT-компаний, отраслевых ассоциаций, министерств и государственных ведомств. Участники обсудили актуальные вопросы в сфере информационных технологий, в том числе связанные с цифровизацией и развитием искусственного интеллекта.

За три десятка лет своего существования ИСП РАН, носящий имя своего основателя академика Виктора Петровича Иванникова, стал ведущим научным центром страны в области системного программирования. Сейчас институт фокусируется на анализе и трансформации программ, анализе данных, искусственном интеллекте и машинном обучении. Ценной площадкой для обмена опытом в IT-сфере служит ежегодная открытая конференция ИСП РАН.

Перед пленарным заседанием участники конференции почтили минутой молчания память академика Евгения Павловича Велихова, ушедшего из жизни 5 декабря. Ученый внес большой вклад в развитие информационных технологий в России, включая русский сегмент Интернета.

В роли модератора пленарного заседания выступил директор Института системного программирования РАН академик Арутюн Ишханович Аветисян.

«Когда мы начинали [проводить] наши конференции <…>, там было буквально 200–300 человек, и это уже было большим достижением. В прошлом году к нам пришли более тысячи уникальных людей, в этом году зарегистрировались 2,2 тыс. <…> То есть [можно увидеть] естественный рост», — сказал А.И. Аветисян.

«Год от года эта конференция консолидирует вокруг актуальных вопросов развития информационных технологий научное и отраслевое сообщества нашей страны. Отмечу, что сегодня специалисты по информационным технологиям активно участвуют в решении задач по укреплению научно-технологического суверенитета России», — отметил в приветственном слове президент РАН Геннадий Яковлевич Красников.

«Институт системного программирования — это ключевое звено в системе Российской академии наук. Здесь действует исследовательский центр в сфере искусственного интеллекта: команда экспертов создает технологии доверенного ИИ, которые уже успешно масштабируются», — напомнил в видеоприветствии заместитель председателя правительства РФ Дмитрий Николаевич Чернышенко.

«Ваши <…> встречи неизменно отличает содержательная повестка дня, ориентированная на укрепление технологического суверенитета нашей страны, обеспечение информационной безопасности», — подчеркивалось в приветственном слове министра иностранных дел России Сергея Викторовича Лаврова. Кстати, директор Департамента информационного обеспечения МИД России Николай Евгеньевич Мельников рассказал на заседании о важном подспорье для дипломатов — разрабатываемой в настоящее время системе для решения задач в области внешней политики на основе платформы ИСП РАН «Талисман», предназначенной для аналитики с использованием искусственного интеллекта.

Приветствия гостям форума передали представители государственных ведомств, институтов, Российской академии наук, включая заместителя председателя Правительства РФ Ю.Д. Воробьева, вице-президента РАН В.Я. Панченко, ректора МГИМО А.В. Торкунова.

Красной нитью через дискуссию прошла проблема безопасности искусственного интеллекта. ИИ все глубже проникает в нашу жизнь, но насколько можно доверять «умным» программам? И что нужно сделать, чтобы эти технологии помогали человеку, но не вредили ему? Эти вопросы активно обсуждали участники заседания.

В конце мая 2024 г. в России при поддержке Минцифры появился консорциум для исследований безопасности искусственного интеллекта. О нем рассказал заместитель министра цифрового развития, связи и массовых коммуникаций РФ, президент Академии криптографии РФ Александр Михайлович Шойтов: «В мае этого года был создан консорциум для исследований безопасности искусственного интеллекта. В него вошли три базовые организации, существенно аффилированные с государством: ИСП РАН, Академия криптографии РФ и Национальный технологический центр цифровой криптографии. На текущий момент к консорциуму присоединились еще девять организаций, и в январе 2025 г. мы ожидаем присоединения еще 16 значимых организаций, занимающихся искусственным интеллектом и информационной безопасностью». А.М. Шойтов добавил, что важно не допускать излишне жестких ограничений развития ИИ, решая проблемы за счет создания новых технологических решений. Отдельное внимание он обратил на борьбу с дипфейками, сообщив, что консорциум ожидает присоединения сильных компаний, способных предложить помощь в решении этого вопроса.

Развитие информационных технологий интересует и представителей крупных корпораций. Опытом работы с ИИ поделились вице-президент ПАО «Транснефть» Андрей Юрьевич Бадалов и директор по информационной инфраструктуре госкорпорации «Росатом» Евгений Михайлович Абакумов.

«Сейчас мы уже перешли к фазе промышленного внедрения [технологий ИИ] <…>: это и работа с большими языковыми моделями, и использование эффективных нейросетей для оптимизации расчетов, и направления, связанные с видеоаналитикой и обработкой пространственных данных», — рассказал А.Ю. Бадалов. Так, ИИ используется для выявления утечек на нефтепроводах. А.Ю. Бадалов обратил внимание на теневую сторону прогресса технологий: ИИ стал применяться для хакерских атак.

Е.М. Абакумов поделился взглядом на перспективы применения ИИ в госкорпорации «Росатом»: «Прежде всего, это искусственный интеллект в математическом моделировании и попытки автоматизации творческого труда проектировщиков, технологов, конструкторов и расчетчиков. Определенные успехи в этой области делаются в наших ядерных центрах, входящих в число лидеров страны в области математического моделирования». Спикер обратил внимание на важность оцифровки архивных данных, способных дать больше информации для работы с объектами с длительным жизненным циклом, а также разработки отечественной аппаратуры для критической информационной инфраструктуры.

«Топливно-энергетический комплекс — достаточно крупная отрасль и одна из самых важных в стране. <…> На данный момент около 41% компаний ТЭК уже в той или иной мере используют технологии ИИ, порядка 18% компаний планируют внедрение данных технологий к 2026 г.», — поделился заместитель министра энергетики РФ Эдуард Михайлович Шереметцев. В числе ключевых проблем в области использования ИИ в топливно-энергетическом комплексе Э.М. Шереметцев назвал необходимость тестировать алгоритмы перед внедрением при условии, что временно остановить предприятие для испытаний невозможно. Но решение уже есть: для тестирования подобных типов ИИ создаются специальные полигоны. Э.М. Шереметцев также обратил внимание на проблему определения ответственного за решения ИИ, если они нанесут вред. А.М. Шойтов подчеркнул, что консорциум для исследований безопасности искусственного интеллекта уже работает над этим вопросом.

Искусственный интеллект сегодня применяется и в медицине. Но и здесь есть свои вопросы, требующие решения.

«Мы достигли плато продуктивности. Двигаться дальше без системных решений невозможно. <...> Сегодня у нас есть большие языковые модели, в основном работающие с публичными данными. <…> Далее мы движемся в сторону специализации — к медицине: добавились мультимодальные данные. <…> И дальше мы уже должны построить эту систему таким образом, чтобы она работала и с пациентом, и с врачом, и с организатором. И все это в рамках одной системы. Это означает переход от цифровой клиники к “умной” клинике», — заметил генеральный директор НМИЦ им. В.А. Алмазова академик Евгений Владимирович Шляхто. Исследователь подчеркнул, что врачи ждут появления ИИ-ассистента, который будет не просто «словарем», а настоящим коллегой для человека. Е.В. Шляхто добавил, что для успешного развития «медицины будущего» важно создать целостную технологическую экосистему в этой области.

Заместитель директора НМИЦ онкологии им. Н.Н. Блохина Тигран Гагикович Геворкян добавил, что создателям медицинских технологий на основе ИИ следует двигаться в разных направлениях для большей эффективности проектов: «Департамент Минздрава России, курирующий этот блок, сегодня уже формирует для ведущих организаций планы по реализации проектов».

В ноябре 2024 г. ИСП РАН заключил соглашение с Росфинмониторингом. Об успехах ведомства в области применения ИИ рассказал заместитель директора Росфинмониторинга Антон Сергеевич Лисицын: уже сейчас «умные» алгоритмы пробуют использовать для выявления противоправной деятельности.

Чтобы успешно развивать высокие технологии, важно готовить профессиональные кадры. Например, для будущих экспертов открыты двери специального факультета «Форсайт» РЭУ им. Г.В. Плеханова, где будущие программисты получают многоплановые знания в других областях, включая математику и экономику. О нем рассказал руководитель научно-исследовательского объединения вуза Сергей Дмитриевич Валентей.

Взглядами на проблемы и перспективы развития высоких технологий делились и другие участники заседания. Например, ректор университета «Иннополис» Александр Владимирович Гасников рассказал об интересном исследовании, приведшем ученых к парадоксальному выводу: оказалось, что быстрые алгоритмы искусственного интеллекта, вопреки ожиданиям, могут быть одними из самых устойчивых к атакам. Генеральный директор Национального технологического центра цифровой криптографии Игорь Федорович Качалин отметил, что важно не просто обезличивать персональные данные при их обработке, но и выбирать для этого правильный способ. Старший вице-президент ПАО «Промсвязьбанк» Дмитрий Викторович Миклухо высказал мысль о том, что разработки разных отечественных компаний можно сделать совместимыми друг с другом. Многие спикеры подчеркивали важность сотрудничества в области цифровых технологий между наукой, промышленностью, бизнесом и государством.

Заседание завершилось важным событием: соглашение о сотрудничестве подписали Национальный технологический центр цифровой криптографии и Ассоциация предприятий компьютерных и информационных технологий.

Вместе с ИСП РАН в число организаторов конференции входят Российская академия наук, Академия криптографии РФ, Национальный технологический центр цифровой криптографии, Фонд перспективных исследований и международные ассоциации IEEE (Institute of Electrical and Electronics Engineers — пер. «Институт инженеров электротехники и электроники») и IEEE Computer Society (пер. «Компьютерное сообщество Института инженеров электротехники и электроники»).

Помимо секций докладов и круглых столов, в рамках конференции проводится выставка технологий, разработанных ИСП РАН, а также компаниями и университетами, выступающими в роли партнеров института. Значительная доля представленных достижений посвящена обеспечению информационной безопасности и защите данных. Например, система Docmarking борется с анонимными утечками документов, создавая копии материалов со специальными цифровыми метками, по которым в дальнейшем можно будет опознать пользователя, распоряжавшегося именно этим вариантом документа. А система ML IDS (также разработанная в институте) помогает обнаруживать разнообразные хакерские атаки в Сети.

«ML IDS — это сетевая система для обнаружения вторжений, предназначенная для выявления атак в сетевом трафике, таких как всем известные DDoS-атаки (попытки вызвать сбой в работе ресурса путем отправки слишком большого количества запросов — Примеч. авт.), Brute Force (взлом путем подбора данных для входа, например, паролей или ключей шифрования — Примеч. авт.), SQL injection (внедрение вредоносного кода — Примеч. авт.). Она отличается от традиционных средств с сигнатурными анализаторами тем, что использует методы машинного обучения, что позволяет нам обеспечивать защиту от атак “нулевого дня” — то есть с которыми система ранее не встречалась и не была на них обучена. Это неоспоримое преимущество», — рассказала корреспонденту «Научной России» сотрудница Института системного программирования РАН, программист Анастасия Никольская.

Важные разработки, чья актуальность особенно остра в связи с ограниченным доступом к зарубежным технологиям, представила на выставке компания «Базальт СПО». Одно из детищ компании — отечественные операционные системы «Альт», не уступающие в возможностях своим западным «собратьям». Многие продукты компании (кроме сертифицированных), включая и «Альт», можно свободно скачать с официального сайта разработчика для личного пользования. Операционную систему уже берут на вооружение государственные организации и ведомства, например, Государственная дума и «Почта России». Другое достижение «Базальт СПО» — программа PortProton, позволяющая запускать популярные компьютерные игры для Windows на операционных системах Linux.

IT-разработки открывают новые возможности и для исследователей самых разных научных направлений. Так, на выставке были представлены виртуальная лаборатория для сохранения исчезающих языков Lingvodoc и комплекс для проведения компьютерного моделирования в области акустики и газовой, аэро- и гидродинамики DigiTEF.

В число экспонатов вошли и различные медицинские технологии, например, платформа для создания моделей интеллектуального анализа биомедицинских данных, разработанная в рамках Научного центра мирового уровня «Цифровой биодизайн и персонализированное здравоохранение», и система для автоматического обнаружения патологий сердца по цифровым электрокардиограммам CARDIOLAB. Еще один важный проект, реализуемый ИСП РАН в сотрудничестве с врачами из Орловского онкологического диспансера, — ИИ для раннего обнаружения меланомы и рака кожи по снимкам новообразований Melanoscope AI.

«Мы разрабатываем систему раннего обнаружения меланомы и рака кожи, поскольку сейчас существует проблема нехватки специалистов-онкологов в регионах. Крупные города, естественно, обеспечены специалистами, но людям зачастую бывает сложно приехать в районный центр, что связано с времязатратностью и недостаточно серьезным отношением к проблеме. Поэтому мы разрабатываем систему, которая позволит, не прибегая к помощи профессиональных врачей-онкологов, сделать фотографию новообразования с помощью дерматоскопа и отправить ее на анализ модели ИИ, чтобы получить предварительный диагноз. То есть речь идет не о замене врача, а о первичной диагностике», — объяснил сотрудник Института системного программирования РАН, доктор технических наук Александр Васильевич Козачок. 

Прототип системы проходит испытания, уже готов и прототип дерматоскопа. Исследователи также создают для обучения ИИ собственный датасет (структурированный набор данных), на данный момент включающий около 600 фотографий. Дело в том, что все существующие датасеты подобного рода ориентированы на диагностику пациентов с фенотипами, характерными для Европы, Северной Америки и Южной Америки, в то время как о жителях территории России таких наборов данных в открытом доступе пока нет. Проект получил поддержку Фонда перспективных исследований и Фонда содействия инновациям.