Интеллектуальные системы и роботы

Подходы к формализации нормативного поведения автономных интеллектуальных агентов

Е. В. Самоходкин, А. А. Эльзон

Государственный университет управления, Москва, Россия

Аннотация: В работе представлен систематический обзор подходов к формализации нормативного поведения автономных интеллектуальных агентов. Классификация развернута по трем операциональным признакам: доминирующая этическая парадигма (деонтологическая либо гибридная), тип логической модели и ее выводные механизмы (деонтические модальности, дефезиционные и динамические расширения), а также уровень реализации внутри архитектур планирования, контроля и верификации. Для сопоставления применен единый сценарий морального выбора; на его материале показано, как меняются решения при фиксированных обязанностях, при введении приоритетов и исключений, при учете оценочных критериев последствий. Результаты уточняют границы применимости формализмов, выявляют требования к настройке приоритетов и объяснимости и задают основу проектирования верифицируемых модулей нормативного контроля автономных систем. Сформулированы методические соглашения о нотации и единый шаблон описания моделей, обеспечивающие сопоставимость выводов.

Ключевые слова: деонтическая логика, этика искусственного интеллекта, моральные дилеммы, формализация норм, интеллектуальные агенты, логическое моделирование, этические модели, принятие решений.

DOI: 10.14357/20718594250403

Реферативные базы данных:

•