• Стр. 101-111

Байесовская идентификация параметров смеси нормальных распределений

Ю.А. Дубнов 1), 2), А.В. Булычев1), 2)

1) Федеральное государственное учреждение "Федеральный исследовательский центр "Информатика и управление" Российской академии наук, г. Москва, Россия
2) Национальный исследовательский университет "Высшая школа экономики", г. Москва, Россия
Аннотация

Рассматривается задача восстановления параметров смеси многомерных нормальных распределений, применяющихся в задачах машинного обучения <>. Предложен метод идентификации моделей, базирующийся на байесовском выводе и принципе максимума апостериорного распределения. В работе описан метод поиска максимума многоэкстремальной функции плотности посредством сэмплирования алгоритмом Метрополиса-Гастингса, приведено качественное и количественное сравнение предложенного алгоритма с EM-алгоритмом для максимизации правдоподобия, а также представлены результаты его работы, как на модельных синтетических примерах, так и на реальных данных из коллекции <>.

Ключевые слова

смесь нормальных распределений, теорема Байеса, алгоритм Метрополиса-Гастингса, классификация