Информационная геометрия - Information geometry

Набор всех нормальных распределений образует статистическое многообразие с гиперболической геометрией .

Информационная геометрия - это междисциплинарная область, которая применяет методы дифференциальной геометрии для изучения теории вероятностей и статистики . Он изучает статистические многообразия , которые являются римановыми многообразиями , точки которых соответствуют распределениям вероятностей .

Вступление

Исторически сложилось так, что информационная геометрия восходит к работам Р. Р. Рао , который первым трактовал матрицу Фишера как риманову метрику . Современная теория во многом обязана Шунити Амари , работа которого оказала большое влияние на развитие этой области.

Классически информационная геометрия рассматривала параметризованную статистическую модель как риманово многообразие . Для таких моделей существует естественный выбор римановой метрики, известной как информационная метрика Фишера . В частном случае, когда статистическая модель является экспоненциальным семейством , можно индуцировать статистическое многообразие с метрикой Гессе (т. Е. Римановой метрикой, заданной потенциалом выпуклой функции). В этом случае многообразие естественным образом наследует две плоские аффинные связности , а также каноническую расходимость Брегмана . Исторически сложилось так, что большая часть работы была посвящена изучению геометрии, связанной с этими примерами. В современных условиях информационная геометрия применяется к гораздо более широкому контексту, включая неэкспоненциальные семейства, непараметрическую статистику и даже абстрактные статистические многообразия, не вызванные известной статистической моделью. Результаты сочетают в себе методы теории информации , аффинной дифференциальной геометрии , выпуклого анализа и многих других областей.

Стандартные ссылки в этой области - книга Шунити Амари и Хироши Нагаока « Методы информационной геометрии» и более поздняя книга Нихат Ай и других. Мягкое введение дано в обзоре Фрэнка Нильсена. В 2018 году вышел журнал « Информационная геометрия» , посвященный данной области.

Авторы

История информационной геометрии связана с открытиями по крайней мере следующих людей и многих других.

Приложения

Как междисциплинарная область, информационная геометрия используется в различных приложениях.

Вот неполный список:

  • Статистические выводы
  • Временные ряды и линейные системы
  • Квантовые системы
  • Нейронные сети
  • Машинное обучение
  • Статистическая механика
  • Биология
  • Статистика
  • Математические финансы

Смотрите также

Рекомендации

дальнейшее чтение

  • Амари, Шунити (1985). Дифференциально-геометрические методы в статистике . Конспект лекций по статистике. Берлин: Springer-Verlag. ISBN   0-387-96056-2 .
  • Мюррей, М .; Райс, Дж. (1993). Дифференциальная геометрия и статистика . Монографии по статистике и прикладной теории вероятностей. 48 . Чепмен и Холл . ISBN   0-412-39860-5 .
  • Касс, RE; Вос, П. У. (1997). Геометрические основы асимптотического вывода . Серии по вероятности и статистике. Вайли. ISBN   0-471-82668-5 .
  • Marriott, Пол; Лосось, Марк, ред. (2000). Приложения дифференциальной геометрии к эконометрике . Издательство Кембриджского университета. ISBN   0-521-65116-6 .

внешняя ссылка