СПЕЦИАЛЬНЫЙ ВЫПУСК: ТЕХНОЛОГИИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА И МАШИННОГО ОБУЧЕНИЯ

Оптимизация с использованием марковского шума: на пути к оптимальным показателям в случае сильного роста

С. П. Чебыкин^ab, Б. И. Прохоров^ab, А. Н. Безносиков<sup>abcd

a</sup> Basic Research of Artificial Intelligence Laboratory (BRAIn Lab), Москва, Россия
^b Moscow Center for Advanced Studies, Москва, Россия
^c Federated Learning Problems Laboratory, Москва, Россия
^d Университет Иннополис, Казань, Россия

Аннотация: В этой статье исследуются задачи стохастической оптимизации в условиях марковского шума и условия сильного роста, основанные на чрезмерно параметризованных ML-моделях. Мы представляем улучшенный анализ алгоритма ускоренного градиентного спуска из [1] в сильно выпуклом случае, показывающий, что в режимах с низким уровнем шума марковским эффектом можно пренебречь. Кроме того, мы выводим первую нижнюю границу, которая одновременно зависит от времени смешивания цепи Маркова и уровня шума задачи, что подтверждает почти оптимальность наших результатов.

Ключевые слова: стохастическая оптимизация, марковская стохастичность.

УДК: 004.8

Поступило: 20.08.2025
Принято к публикации: 22.09.2025

DOI: 10.7868/S2686954325070434

Реферативные базы данных:

•