Ядро Фишера - Fisher kernel

В статистической классификации , то Фишер ядро , названное в честь Рональда Фишера , это функция , которая измеряет сходство двух объектов на основе наборов измерений для каждого объекта и статистическая модели. В процедуре классификации класс для нового объекта (чей реальный класс неизвестен) может быть оценен путем минимизации по классам среднего расстояния ядра Фишера от нового объекта до каждого известного члена данного класса.

Ядро Фишера было представлено в 1998 году. Оно сочетает в себе преимущества генеративных статистических моделей (таких как скрытая марковская модель ) и дискриминационных методов (например, опорных векторных машин ):

  • генеративные модели могут обрабатывать данные переменной длины (добавление или удаление данных хорошо поддерживается)
  • Дискриминационные методы могут иметь гибкие критерии и давать лучшие результаты.

Вывод

Оценка Фишера

Ядро Фишера использует оценку Фишера , определяемую как

где θ - набор (вектор) параметров. Функция, переводящая θ в log P ( X | θ ), является логарифмической вероятностью вероятностной модели.

Ядро Фишера

Ядро Фишера определяется как

с является информация Фишера матрица.

Приложения

Поиск информации

Ядро Фишера является ядром генеративной вероятностной модели. По сути, он представляет собой мост между генеративными и вероятностными моделями документов. Ядра Фишера существуют для множества моделей, особенно для tf – idf , наивного байесовского анализа и вероятностного латентно-семантического анализа .

Классификация и поиск изображений

Ядро Фишера также может применяться к представлению изображений для задач классификации или поиска. В настоящее время наиболее популярное представление « мешок визуальных слов» страдает разреженностью и высокой размерностью. Ядро Фишера может привести к компактному и плотному представлению, что более желательно для задач классификации и поиска изображений.

Вектор Фишера (FV), частный, приближенный и улучшенный случай общего ядра Фишера, представляет собой представление изображения, полученное путем объединения локальных функций изображения . Кодирование FV сохраняет вместе среднее значение и векторы отклонения ковариации для каждого компонента k модели гауссовой смеси (GMM) и каждого элемента локальных дескрипторов признаков. При систематическом сравнении FV превзошел все сравниваемые методы кодирования (Пакет визуальных слов (BoW) , Кодирование кодовой книги ядра (KCB), Линейное кодирование с ограничением местоположения (LLC), Вектор локально агрегированных дескрипторов (VLAD)), показывая, что кодирование второго информация о порядке (также известная как ковариации кодовых слов) действительно повышает эффективность классификации.

Смотрите также

Примечания и ссылки

  1. ^ Томми Яаккола и Дэвид Хаусслер (1998), Использование генеративных моделей в дискриминирующих классификаторах. В достижениях в системах обработки нейронной информации 11 , страницы 487–493. MIT Press. ISBN 978-0-262-11245-1 PS , Citeseer  
  2. ^ Cyril Goutte, Eric Gaussier, Nicola Cancedda, Hervé Dejean (2004)) «Генеративные и дискриминационные подходы к распознаванию сущностей на основе данных, не содержащих метки», JADT 2004, 7èmes journées internationales анализируют статистику донесенных текстов , Лувен-ла-Нев, Бельгия, 10-12 марта 2004 г.
  3. ^ Чарльз Элкан (2005). Получение TF-IDF как ядра рыболова (PDF) . ШПИЛЬ. Архивировано из оригинального (PDF) 20 декабря 2013 года.
  4. ^ Флоран Перроннин и Кристофер Дэнс (2007), «Ядра Фишера в визуальных словарях для категоризации изображений»
  5. ^ Herve Jegou et al. (2010), «Объединение локальных дескрипторов в компактное представление изображения»
  6. ^ AP Twinanda et al. (2014), «Поиск границ задачи на основе ядра Фишера в лапароскопической базе данных с помощью одного видео-запроса»
  7. ^ "VLFeat - Документация> C API" . www.vlfeat.org . Проверено 4 марта 2017 .
  8. ^ Seeland, Марко; Рзанни, Майкл; Алакра, Недал; Wäldchen, Jana; Мэдер, Патрик (24 февраля 2017 г.). «Классификация видов растений с использованием изображений цветов - сравнительное исследование представлений местных особенностей» . PLOS ONE . 12 (2): e0170629. DOI : 10.1371 / journal.pone.0170629 . ISSN  1932-6203 . PMC  5325198 . PMID  28234999 .
  • Нелло Кристианини и Джон Шоу-Тейлор. Введение в опорные векторные машины и другие методы обучения на основе ядра . Cambridge University Press, 2000. ISBN  0-521-78019-5 ( [1] Книга SVM)