• Стр. 8-15

Энтропийный метод сжатия матриц со случайными значениями элементов

Ю.С. Попков

Аннотация

Предлагается двухэтапный метод сжатия матрицы со случайными значениями элементов, имитирующей входные данные (прецеденты) в задачах рандомизированного машинного обучении (РМО). Ядро метода составляют операции <> и <> проектирования, оптимизация которых осуществляется посредством максимизации информационной относительной энтропии. Соответствующие этим операциям модули могут применяться в виде последовательной или параллельной процедуры. Разработаны алгоритмы максимизации информационной относительной энтропии, использующие покоординатную модификацию метода проекций градиента.

Ключевые слова

относительная информационная энтропия, операторы проектирования, матричные производные, градиентный метод, прямые и обратные проекции