Профессор РАН Константин Вячеславович Воронцов рассказал об аспекте применения искусственного интеллекта при создании социальной безопасности. Он сакцентировал внимание на распространении фейковых новостей и применении инноваций для их распознавания.
В 2016 году «постправда» стала словом года. Тогда начались исследования фейковых новостей. Есть мнение, что данное явление существует только в социальных сетях. Но это неверно, т.к. и СМИ создают аккуратные, политкорректные фейки.
«Эти явления, которые в социуме отражаются в виде информационных пузырей, ботоферм, которые имитируют общественное мнение, - распространение фейков, которое, с одной стороны, генерируется искусственным интеллектом, а с другой стороны, люди сами всю свою человеческую историю лгали, распространяли сплетни, слухи. С одной стороны, с этим явлением мы живем всю жизнь, а с другой - технологии интенсифицировали это явление так, что оно стало влиять на нашу безопасность и стало основой инструмента мягкой силы и способом ведения гибридных войн. Причем искусственный интеллект оказывается по обе стороны баррикад. И очень важно, чтобы наши технологии оказались на светлой стороне силы», - отметил Воронцов.
Сегодня активно развиваются модельные методы, которые занимаются обучающими выборками. Основная задача, пришедшая из криминологии, - выявить обман. Воронцов считает, что в эту работу можно привлечь профессиональных юристов, которые понимают принципы определения обмана.
Немаловажно идентифицировать проверенные факты, грамотно анализировать тексты и выявлять в них противоречия. Воронцов подчеркнул необходимость обнаружения кликбейта, оценивания надежности источников информации и определения уровня образованности аудитории.
Современные технологии пока затрагивают только анализ фейков, но есть необходимость и решить проблемы манипуляций общественным сознанием, информационной войны. Разработка новых технологий обеспечит обществу информационную безопасность. По мнению Воронцова, совместная работа лингвистов, журналистов, специалистов в области искусственного интеллекта поможет решить эти задачи.
Автор: Ольга Скибина
Фото: архив "Научная Россия".
