Эта публикация цитируется в 1 статье

Часть 1. Общие проблемы теории интеллектуальных систем

Регуляризация свёрточной нейронной сети сингулярным разложением для обучения на малых выборках

Н. В. Ваулин

Московский педагогический государственный университет

Аннотация: Задача обучения на малой выборке решается за счет оптимизации параметров предобученной сверточной нейронной сети с ограничениями на веса сверток. Регуляризация весов осуществляется путем представления параметров свертки в виде набора сингулярных разложений матриц и обучения только сингулярных значений разложений. Исследуется влияние сингулярных значений на качество модели и динамика их изменений во время обучения. Приведены результаты применения предложенной регуляризации в сравнении с другими методами в задаче классификации рентгенологических снимков.

Ключевые слова: машинное обучение, свёрточные сети, разложение на сингулярные значения.