В 1995—2003 г. - теория информации и теория кодирования.
С 2003 г. - статистическая теория обучения, теория нейронных сетей, распознавания образов и классификация
Основные публикации:
Комбинаторика / Н. Я. Виленкин, А. Н. Виленкин, П. А. Виленкин. - 4-е изд., испр. - Москва : ФИМА : МЦНМО, 2013. - 399, [1] с. : ил., табл.; 22 см.; ISBN 978-5-89492-018-4