Принцип безразличия - Principle of indifference

Часть серии по
Байесовская статистика
Теория
Допустимое правило принятия решения Байесовская эффективность Байесовская эпистемология Байесовская вероятность Вероятностные интерпретации Теорема Байеса Байесовский фактор Байесовский вывод Байесовская сеть Прежний Задний Вероятность Конъюгировать приор Задний прогностический Гиперпараметр Hyperprior Принцип безразличия Принцип максимальной энтропии Эмпирический метод Байеса Правило Кромвеля Теорема Бернштейна – фон Мизеса Критерий Шварца Достоверный интервал Максимальная апостериорная оценка Радикальный вероятности
Методы
Байесовская линейная регрессия Байесовская оценка Приближенное байесовское вычисление Цепь Маркова Монте-Карло
Математический портал
v т е

Принцип безразличия (также называемый принципом недостаточного основания ) является правилом для назначения эпистемических вероятностей . Принцип безразличия гласит, что в отсутствие каких-либо значимых доказательств агенты должны равномерно распределить свою достоверность (или «степени уверенности») среди всех возможных рассматриваемых результатов.

В байесовской вероятности это простейший неинформативный априор . Принцип безразличия бессмысленен при частотной интерпретации вероятности , в которой вероятности - это относительные частоты, а не степени веры в неопределенные утверждения, обусловленные информацией о состоянии.

Примеры

Учебные примеры применения принципа безразличия - это монеты , игральные кости и карты .

По крайней мере, в макроскопической системе следует предположить, что физические законы, управляющие системой, недостаточно хорошо известны, чтобы предсказать результат. Как заметил несколько столетий назад Джон Арбетнот (в предисловии к книге « О законах случайности» , 1692 г.),

Для кубика с такой определенной силой и направлением невозможно не упасть на такую ​​определенную сторону, только я не знаю силу и направление, которое заставляет его упасть на такую ​​определенную сторону, и поэтому я назовите это шансом, который есть не что иное, как недостаток искусства ...

При наличии достаточного времени и ресурсов нет фундаментальной причины полагать, что невозможно провести достаточно точные измерения, которые позволили бы с высокой точностью предсказать исход монет, игральных костей и карт: работа Перси Диаконис с подбрасыванием монеты машин является практическим примером этого.

Монеты

Симметричная монета имеет две стороны, произвольно меченые головы (много монет есть голова человека изображала на одной стороне) и хвосты . Если предположить, что монета должна приземлиться на одной или другой стороне, результаты подбрасывания монеты являются взаимоисключающими, исчерпывающими и взаимозаменяемыми. Согласно принципу безразличия, мы присваиваем каждому из возможных исходов вероятность 1/2.

В этом анализе подразумевается, что силы, действующие на монету, неизвестны с какой-либо точностью. Если бы импульс, сообщаемый монете при запуске, был известен с достаточной точностью, полет монеты можно было бы предсказать в соответствии с законами механики. Таким образом, неопределенность результата подбрасывания монеты происходит (по большей части) из неопределенности относительно начальных условий. Этот момент более подробно обсуждается в статье о подбрасывании монеты .

Игральная кость

Симметричная матрица имеет п граней, произвольно маркированные от 1 до п . Обычная кубическая матрица имеет n = 6 граней, хотя можно сконструировать симметричную матрицу с различным количеством граней; см. Dice . Мы предполагаем, что кубик приземлится той или иной гранью вверх, и других возможных исходов нет. Применяя принцип безразличия, мы присваиваем каждому из возможных исходов вероятность 1 / n . Как и в случае с монетами, предполагается, что начальные условия броска кости не известны с достаточной точностью, чтобы предсказать результат в соответствии с законами механики. Кости обычно бросают так, чтобы они отскакивали от стола или другой поверхности (поверхностей). Это взаимодействие значительно затрудняет прогнозирование результата.

Здесь решающее значение имеет предположение о симметрии. Предположим, что нас просят сделать ставку за или против исхода «6». Мы можем предположить, что здесь есть два релевантных результата «6» или «не 6», и что они являются взаимоисключающими и исчерпывающими. Это предполагает присвоение вероятности 1/2 каждому из двух исходов.

Открытки

Стандартная колода содержит 52 карты, каждой из которых присвоена уникальная метка произвольным образом, то есть в произвольном порядке. Достаем карту из колоды; применяя принцип безразличия, мы присваиваем каждому из возможных исходов вероятность 1/52.

Этот пример больше, чем другие, показывает сложность реального применения принципа безразличия в реальных ситуациях. На самом деле, говоря «произвольно заказанный», мы имеем в виду то, что у нас нет никакой информации, которая бы подтолкнула нас к предпочтению той или иной карты. На практике это случается редко: новая колода карт, конечно, не в произвольном порядке, как и колода сразу после руки карт. Поэтому на практике мы тасуем карты; это не уничтожает имеющуюся у нас информацию, а вместо этого (надеюсь) делает нашу информацию практически непригодной для использования, хотя в принципе ее можно использовать. Фактически, некоторые опытные игроки в блэкджек могут отслеживать тузов в колоде; для них условие применения принципа безразличия не выполняется.

Приложение к непрерывным переменным

Неправильное применение принципа безразличия может легко привести к бессмысленным результатам, особенно в случае многомерных, непрерывных переменных. Типичный случай неправильного использования - это следующий пример:

• Предположим, в коробке спрятан куб. На этикетке на коробке указано, что длина стороны куба составляет от 3 до 5 см.
• Мы не знаем фактическую длину стороны, но можем предположить, что все значения одинаково вероятны, и просто выбрать среднее значение 4 см.
• Информация на этикетке позволяет нам рассчитать, что площадь поверхности куба составляет от 54 до 150 см ² . Мы не знаем фактическую площадь поверхности, но можем предположить, что все значения одинаково вероятны, и просто выбрать среднее значение 102 см ² .
• Информация на этикетке позволяет рассчитать, что объем куба составляет от 27 до 125 см ³ . Мы не знаем фактический объем, но можем предположить, что все значения одинаково вероятны, и просто выбрать среднее значение 76 см ³ .
• Однако теперь мы пришли к невозможному выводу, что куб имеет длину стороны 4 см, площадь поверхности 102 см ² и объем 76 см ³ !

В этом примере взаимно противоречивые оценки длины, площади поверхности и объема куба возникают, потому что мы предположили три взаимно противоречивых распределения для этих параметров: равномерное распределение для одной из переменных подразумевает неоднородное распределение для другой два. В общем, принцип безразличия не указывает, какая переменная (например, в данном случае длина, площадь поверхности или объем) должна иметь однородное эпистемологическое распределение вероятностей.

Другой классический пример такого неправильного использования - парадокс Бертрана . Эдвин Т. Джейнс ввел принцип групп преобразований , который может дать эпистемологическое распределение вероятностей для этой проблемы. Это обобщает принцип безразличия, говоря, что человек безразличен к эквивалентным проблемам, а не к предложениям. Это все еще сводится к обычному принципу безразличия, когда кто-то рассматривает перестановку меток как порождение эквивалентных проблем (т. Е. Использование группы преобразования перестановки). Чтобы применить это к приведенному выше примеру коробки, у нас есть три случайные величины, связанные геометрическими уравнениями. Если у нас нет причин отдавать предпочтение одному трио значений перед другим, тогда наши априорные вероятности должны быть связаны правилом изменения переменных в непрерывных распределениях. Пусть L - длина, а V - объем. Тогда мы должны иметь

${\ Displaystyle f_ {L} (L) = \ left | {\ partial V \ over \ partial L} \ right | f_ {V} (V) = 3L ^ {2} f_ {V} (L ^ {3} )}$ ,

где - функции плотности вероятности (pdf) указанных переменных. Это уравнение имеет общее решение:, где K - нормировочная постоянная, определяемая диапазоном L , в данном случае равная: ${\ displaystyle f_ {L}, \, f_ {V}}$${\ Displaystyle F (L) = {К \ над L}}$

${\ displaystyle K ^ {- 1} = \ int _ {3} ^ {5} {dL \ over L} = \ log \ left ({5 \ over 3} \ right)}$

Чтобы проверить это, мы спрашиваем вероятность того, что длина меньше 4. Это имеет вероятность:

${\ Displaystyle Pr (L <4) = \ int _ {3} ^ {4} {dL \ over L \ log ({5 \ over 3})} = {\ log ({4 \ over 3}) \ over \ log ({5 \ over 3})} \ приблизительно 0,56}$ .

Для объема это должно равняться вероятности того, что объем меньше 4 ³ = 64. PDF-файл объема равен

${\ displaystyle f (V ^ {1 \ over 3}) {1 \ over 3} V ^ {- {2 \ over 3}} = {1 \ over 3V \ log ({5 \ over 3})}}$ .

И тогда вероятность объема меньше 64 равна

${\ Displaystyle Pr (V <64) = \ int _ {27} ^ {64} {dV \ over 3V \ log ({5 \ over 3})} = {\ log ({64 \ over 27}) \ over 3 \ log ({5 \ over 3})} = {3 \ log ({4 \ over 3}) \ over 3 \ log ({5 \ over 3})} = {\ log ({4 \ over 3} ) \ over \ log ({5 \ over 3})} \ приблизительно 0,56}$ .

Таким образом, мы добились инвариантности по объему и длине. Можно также показать ту же инвариантность относительно площади поверхности, меньшей чем 6 (4 ² ) = 96. Однако обратите внимание, что это вероятностное присвоение не обязательно является «правильным». Точное распределение длин, объема или площади поверхности будет зависеть от того, как проводится «эксперимент».

Фундаментальная гипотеза статистической физики о том , что любые два микросостояния системы с одинаковой полной энергией равновероятны в состоянии равновесия , в некотором смысле является примером принципа безразличия. Однако, когда микросостояния описываются непрерывными переменными (такими как положения и импульсы), требуется дополнительная физическая основа, чтобы объяснить, при какой параметризации плотность вероятности будет однородной. Теорема Лиувилля оправдывает использование канонически сопряженных переменных , таких как позиции и их сопряженные импульсы.

В парадокс вино / вода показывает дилемма со связанными переменными, и какой из них выбрать.

История

Первоначальные авторы теории вероятностей, в первую очередь Якоб Бернулли и Пьер Симон Лаплас , считали принцип безразличия интуитивно очевидным и даже не удосужились дать ему имя. Лаплас писал:

Теория случайности состоит в том, чтобы свести все события одного и того же вида к определенному количеству случаев, в равной степени возможных, то есть к таким, в отношении которых мы можем в равной степени не определиться в отношении их существования, и в определении количества случаев. благоприятный для события, вероятность которого ищется. Отношение этого числа к числу всех возможных случаев является мерой этой вероятности, которая, таким образом, представляет собой просто дробь, числитель которой является числом благоприятных случаев, а знаменатель - числом всех возможных случаев.

Эти ранние авторы, в частности Лаплас, наивно обобщили принцип безразличия на случай непрерывных параметров, дав так называемое «равномерное априорное распределение вероятностей», функцию, которая постоянна для всех действительных чисел. Он использовал эту функцию, чтобы выразить полное незнание значения параметра. Согласно Стиглеру (стр. 135), предположение Лапласа об одинаковых априорных вероятностях не было метафизическим предположением. Это было неявное предположение, сделанное для простоты анализа.

Принцип недостаточного основания был его первым именем, дал ему более поздних авторов, возможно , как игра на Лейбница «s принцип достаточного основания . Эти более поздние авторы ( Джордж Буль , Джон Венн и другие) возражали против использования униформы по двум причинам. Первая причина заключается в том, что постоянная функция не нормализуется и, следовательно, не является правильным распределением вероятностей. Вторая причина - это неприменимость к непрерывным переменным, как описано выше. (Тем не менее, эти парадоксальные вопросы могут быть решены в первом случае, постоянной или любой более общего конечного полинома. Является нормируемой в любой конечной области: диапазон [0,1] это все , что имеет значение здесь Кроме того , функция может. быть измененным на ноль вне этого диапазона, как в случае с непрерывным равномерным распределением . Во втором случае нет двусмысленности при условии, что проблема «правильно поставлена», так что нельзя делать или не нужно делать никаких необоснованных предположений, тем самым фиксируя соответствующую априорную функцию плотности вероятности или производящую функцию априорного момента (с соответствующими фиксированными переменными), которые будут использоваться для самой вероятности (см. парадокс Бертрана (вероятность) для аналогичного случая).

«Принцип недостаточной причины» был переименован в «принцип безразличия» экономистом Джоном Мейнардом Кейнсом  ( 1921 ), который осторожно отметил, что он применяется только тогда, когда нет знаний, указывающих на неравные вероятности.

Попытки поставить это понятие на более прочную философскую основу обычно начинались с концепции равновероятности и переходили от нее к равновероятности .

Принципу безразличия можно дать более глубокое логическое обоснование, отметив, что эквивалентным состояниям знания следует приписывать эквивалентные эпистемические вероятности. Этот аргумент был выдвинут Е. Т. Джейнсом : он приводит к двум обобщениям, а именно к принципу групп преобразований, как в априорной теории Джеффри , и к принципу максимальной энтропии .

В более общем плане говорят о неинформативных априори .

Смотрите также

• Байесовская эпистемология
• Правило последовательности : формула для оценки основных вероятностей при небольшом количестве наблюдений или для событий, которые вообще не наблюдались в (конечных) выборочных данных.

Рекомендации

• Диаконис, Перси; Келлер, Джозеф Б. (1989). «Честная игра в кости». Американский математический ежемесячник . 96 (4): 337–339. DOI : 10.2307 / 2324089 . JSTOR   2324089 . (Обсуждение справедливых игральных костей «по симметрии» и «по непрерывности».)
• Джейнс, Эдвин Томпсон (2003). Теория вероятностей: логика науки . Издательство Кембриджского университета . ISBN   0-521-59271-2 .
• Кейнс, Джон Мейнард (1921). «Глава IV. Принцип безразличия» . Трактат о вероятности . 4 . Macmillan and Co., стр. 41–64.
• Стиглер, Стивен М. (1986). История статистики: измерение неопределенности до 1900 года . Кембридж, Массачусетс: Belknap Press of Harvard University Press. ISBN   0-674-40340-1 .