Исследователи Центра искусственного интеллекта МГУ имени М.В. Ломоносова предложили новый подход для моделирования выбора модели среди множества кандидатных вариантов при ограниченном вычислительном бюджете. Результаты исследования представлены на международной конференции AAMAS 2026.
При обучении сложных моделей машинного обучения зачастую априори неизвестно, какая именно архитектура или конфигурация гиперпараметров дадут наилучший результат. Это приводит к задаче выбора модели по результатам наблюдений. Полный перебор всех вариантов может требовать значительных вычислительных ресурсов, поэтому возникает задача выбора наиболее перспективной модели при ограниченном числе вычислений.
«Мы рассматриваем обобщение классической задачи многоруких бандитов на пространство функций. В этой постановке каждая "рука" соответствует функции, значение которой можно наблюдать лишь в отдельных точках. Это позволяет описывать задачу выбора модели как процесс интеллектуального поиска и находить оптимальные решения гораздо быстрее стандартных методов», — отметил Ильгам Латыпов, младший научный сотрудник Центра ИИ и Института ИИ МГУ.
Напомним, в классических многоруких бандитах альтернативами выступают неизвестные, но фиксированные случайные величины, а выбор того или иного действия соответствует семплированию значения случайной величины. В нашей работе рассматривается постановка задачи «функциональный многорукий бандит» (functional multi-armed bandit), в которой в качестве альтернатив рассматриваются задачи оптимизации, а агент на каждом шаге выбирает как индекс задачи, так и точку для соответствующей задачи, наблюдая в результате (возможно, зашумленное) значение целевой функции или градиента для выбранной задачи. Алгоритму необходимо определить, какая из функций имеет наименьший минимум, выполняя ограниченное число запросов. Проще говоря, есть несколько моделей машинного обучения, и необходимо по мере их обучения в конкурентном режиме выбрать ту, которая будет работать лучше других после обучения.
«Предложенный подход объединяет методы для задач о “многоруких бандитах” и алгоритмов нелинейной оптимизации. Это позволяет одновременно выбирать перспективные функции и уточнять оценки их оптимальных параметров», — прокомментировал Юрий Дорн, руководитель научной группы «Онлайн оптимизации и приложения» Института ИИ МГУ, старший научный сотрудник Центра ИИ МГУ.
Авторы предложили алгоритм F-LCB, который сочетает стратегию выбора кандидатов с последовательным уточнением оценки оптимума функции. Метод использует информацию о ранее полученных значениях функции и постепенно концентрирует вычисления на наиболее перспективных вариантах.
Теоретический анализ показывает, что алгоритм достигает субоптимальных оценок и позволяет эффективно решать задачу идентификации наилучшей функции при ограниченном числе вычислений.
Численные эксперименты подтверждают эффективность предложенного подхода при выборе функций в задачах оптимизации.
Информация предоставлена пресс-службой МГУ
Источник фото: ru.123rf.com
