Отбеливающая трансформация - Whitening transformation

Отбеливающее преобразование или sphering преобразование является линейным преобразованием , которое преобразует вектор случайных величин с известной ковариационной матрицей в набор новых переменные, ковариация является единичной матрицей , а это означает , что они не коррелированны и имеют дисперсию 1. преобразование называются «отбеливание», потому что он изменяет входной вектор на вектор белого шума .

Несколько других преобразований тесно связаны с отбеливанием:

1. декорелляция преобразование удаляет только корреляция , но оставляет нетронутую дисперсии,
2. стандартизации преобразования наборов отклонений 1 , но оставляет нетронутыми корреляции,
3. окраски трансформация преобразует вектор белых случайных величин в случайный вектор с заданной ковариационной матрицей.

Определение

Предположим , это случайный вектор (столбец) с невырожденной матрицей ковариации и средним значением . Затем преобразование с отбеливающей матрицей, удовлетворяющей условию, дает побелевший случайный вектор с единичной диагональной ковариацией. ${\ displaystyle X}$${\ displaystyle \ Sigma}$${\ displaystyle 0}$${\ displaystyle Y = WX}$ ${\ displaystyle W}$${\ Displaystyle W ^ {\ mathrm {T}} W = \ Sigma ^ {- 1}}$${\ displaystyle Y}$

Существует бесконечно много возможных отбеливающих матриц, которые удовлетворяют вышеуказанному условию. Обычно используемые варианты (Махаланобис или ZCA отбеливания), где это разложение Холецкое из (Холецкого отбеливания), или собственная-система (РС отбеливания). ${\ displaystyle W}$${\ Displaystyle W = \ Sigma ^ {- 1/2}}$${\ Displaystyle W = L ^ {T}}$${\ displaystyle L}$${\ Displaystyle \ Sigma ^ {- 1}}$${\ displaystyle \ Sigma}$

Оптимальные преобразования отбеливания можно выделить, исследуя кросс-ковариацию и кросс-корреляцию и . Например, уникальное оптимальное преобразование отбеливания, обеспечивающее максимальную покомпонентную корреляцию между оригиналом и отбеливателем , создается матрицей отбеливания, где - матрица корреляции и матрица дисперсии. ${\ displaystyle X}$${\ displaystyle Y}$${\ displaystyle X}$${\ displaystyle Y}$${\ Displaystyle W = P ^ {- 1/2} V ^ {- 1/2}}$${\ displaystyle P}$${\ displaystyle V}$

Отбеливание матрицы данных

Отбеливание матрицы данных происходит так же, как и для случайных величин. Эмпирическое преобразование отбеливания получают путем оценки ковариации (например, по максимальной вероятности ) и последующего построения соответствующей оцененной матрицы отбеливания (например, с помощью разложения Холецкого ).

Реализация R

Реализация нескольких процедур отбеливания в R , включая отбеливание ZCA и отбеливание PCA, а также отбеливание CCA , доступна в пакете «отбеливание» R, опубликованном на CRAN .

Смотрите также

• Декорреляция
• Анализ главных компонентов
• Взвешенный метод наименьших квадратов
• Каноническая корреляция

использованная литература

внешние ссылки

• http://courses.media.mit.edu/2010fall/mas622j/whiten.pdf
• Преобразование в отбеливание ZCA . Приложение A « Изучение нескольких слоев элементов по крошечным изображениям » А. Крижевского.