Информационная геометрия - Information geometry
Информационная геометрия - это междисциплинарная область, которая применяет методы дифференциальной геометрии для изучения теории вероятностей и статистики . Он изучает статистические многообразия , которые являются римановыми многообразиями , точки которых соответствуют распределениям вероятностей .
Вступление
Исторически сложилось так, что информационная геометрия восходит к работам Р. Р. Рао , который первым трактовал матрицу Фишера как риманову метрику . Современная теория во многом обязана Шунити Амари , работа которого оказала большое влияние на развитие этой области.
Классически информационная геометрия рассматривала параметризованную статистическую модель как риманово многообразие . Для таких моделей существует естественный выбор римановой метрики, известной как информационная метрика Фишера . В частном случае, когда статистическая модель является экспоненциальным семейством , можно индуцировать статистическое многообразие с метрикой Гессе (т. Е. Римановой метрикой, заданной потенциалом выпуклой функции). В этом случае многообразие естественным образом наследует две плоские аффинные связности , а также каноническую расходимость Брегмана . Исторически сложилось так, что большая часть работы была посвящена изучению геометрии, связанной с этими примерами. В современных условиях информационная геометрия применяется к гораздо более широкому контексту, включая неэкспоненциальные семейства, непараметрическую статистику и даже абстрактные статистические многообразия, не вызванные известной статистической моделью. Результаты сочетают в себе методы теории информации , аффинной дифференциальной геометрии , выпуклого анализа и многих других областей.
Стандартные ссылки в этой области - книга Шунити Амари и Хироши Нагаока « Методы информационной геометрии» и более поздняя книга Нихат Ай и других. Мягкое введение дано в обзоре Фрэнка Нильсена. В 2018 году вышел журнал « Информационная геометрия» , посвященный данной области.
Авторы
История информационной геометрии связана с открытиями по крайней мере следующих людей и многих других.
- Рональд Фишер
- Харальд Крамер
- Калимпуди Радхакришна Рао
- Гарольд Джеффрис
- Соломон Кульбак
- Жан-Луи Кошул
- Ричард Лейблер
- Клод Шеннон
- Имре Цисар
- Н. Н. Ченцов (также пишется как Ченцов)
- Брэдли Эфрон
- Сюнъити Амари
- Оле Барндорф-Нильсен
- Франк Нильсен
- Дамиано Бриго
- AWF Эдвардс
- Грант Хиллиер
- Кис Ян Ван Гардерен
Приложения
Как междисциплинарная область, информационная геометрия используется в различных приложениях.
Вот неполный список:
- Статистические выводы
- Временные ряды и линейные системы
- Квантовые системы
- Нейронные сети
- Машинное обучение
- Статистическая механика
- Биология
- Статистика
- Математические финансы
Смотрите также
Рекомендации
дальнейшее чтение
- Амари, Шунити (1985). Дифференциально-геометрические методы в статистике . Конспект лекций по статистике. Берлин: Springer-Verlag. ISBN 0-387-96056-2 .
- Мюррей, М .; Райс, Дж. (1993). Дифференциальная геометрия и статистика . Монографии по статистике и прикладной теории вероятностей. 48 . Чепмен и Холл . ISBN 0-412-39860-5 .
- Касс, RE; Вос, П. У. (1997). Геометрические основы асимптотического вывода . Серии по вероятности и статистике. Вайли. ISBN 0-471-82668-5 .
- Marriott, Пол; Лосось, Марк, ред. (2000). Приложения дифференциальной геометрии к эконометрике . Издательство Кембриджского университета. ISBN 0-521-65116-6 .
внешняя ссылка
- [1] Журнал "Информационная геометрия" Springer.
- Обзор информационной геометрии , Косма Рохилла Шализи, июль 2010 г.
- Заметки по информационной геометрии Джона Баэза , ноябрь 2012 г.
- Информационная геометрия для нейронных сетей (pdf) , Даниэль Вагенаар