Характеристическая функция (теория вероятностей) - Characteristic function (probability theory)

Характеристическая функция однородной случайной величины U (–1,1). Эта функция является действительной, потому что она соответствует случайной величине, симметричной относительно начала координат; однако характеристические функции обычно могут быть комплексными.

В теории вероятностей и статистике , то характеристическая функция любой вещественной случайной величины полностью определяет ее распределение вероятностей . Если случайная величина допускает функцию плотности вероятности , то характеристическая функция является преобразованием Фурье функции плотности вероятности. Таким образом, он обеспечивает альтернативный путь к аналитическим результатам по сравнению с работой напрямую с функциями плотности вероятности или кумулятивными функциями распределения.. Есть особенно простые результаты для характеристических функций распределений, определяемых взвешенными суммами случайных величин.

Помимо одномерных распределений , характеристические функции могут быть определены для векторных или матричных случайных величин, а также могут быть расширены на более общие случаи.

Характеристическая функция всегда существует, когда рассматривается как функция действительного аргумента, в отличие от функции, производящей момент . Существуют связи между поведением характеристической функции распределения и свойствами распределения, такими как наличие моментов и существование функции плотности.

Вступление

Характеристическая функция предоставляет альтернативный способ описания случайной величины . Подобно кумулятивной функции распределения ,

${\ displaystyle F_ {X} (x) = \ operatorname {E} \ left [\ mathbf {1} _ {\ {X \ leq x \}} \ right]}$

(где 1 _{{ Х ≤ х }} является функцией индикатора - он равен 1 , когда X ≤ х , и ноль в противном случае), который полностью определяет поведение и свойства распределения вероятностей случайной величины X . Характеристической функции ,

${\ displaystyle \ varphi _ {X} (t) = \ operatorname {E} \ left [e ^ {itX} \ right],}$

Также полностью определяет поведение и свойства распределения вероятностей случайной величины X . Эти два подхода эквивалентны в том смысле, что, зная одну из функций, всегда можно найти другую, но они дают разные идеи для понимания свойств случайной величины. Более того, в отдельных случаях могут быть различия в том, могут ли эти функции быть представлены в виде выражений, включающих простые стандартные функции.

Если случайная величина допускает функцию плотности , то характеристическая функция является ее двойственной в том смысле, что каждая из них является преобразованием Фурье другого. Если случайная величина имеет функцию , генерирующую момент , то область определения характеристической функции может быть расширена до комплексной плоскости, и ${\ Displaystyle M_ {X} (т)}$

${\ displaystyle \ varphi _ {X} (- it) = M_ {X} (t).}$

Однако обратите внимание, что характеристическая функция распределения всегда существует, даже если функции плотности вероятности или функции, производящей момент , нет.

Подход характеристических функций особенно полезен при анализе линейных комбинаций независимых случайных величин: классическое доказательство центральной предельной теоремы использует характеристические функции и теорему Леви о непрерывности . Другое важное приложение - теория разложимости случайных величин.

Определение

Для скалярного случайной величины X характеристической функция определяются как ожидаемое значение из электронной ^ITX , где я являюсь мнимой единицей , и т ∈ R является аргументом характеристической функции:

${\ displaystyle {\ begin {cases} \ displaystyle \ varphi _ {X} \!: \ mathbb {R} \ to \ mathbb {C} \\\ displaystyle \ varphi _ {X} (t) = \ operatorname {E } \ left [e ^ {itX} \ right] = \ int _ {\ mathbb {R}} e ^ {itx} \, dF_ {X} (x) = \ int _ {\ mathbb {R}} e ^ {itx} f_ {X} (x) \, dx = \ int _ {0} ^ {1} e ^ {itQ_ {X} (p)} \, dp \ end {case}}}$

Здесь F _X является кумулятивной функцией распределения по X , а интеграл от Римана-Стилтьеса рода. Если случайная величина X имеет функцию плотности вероятности f _X , то характеристической функцией является ее преобразование Фурье с изменением знака в комплексной экспоненте, и последняя формула в скобках действительна. Вопрос _Х ( р ) является обратной кумулятивной функция распределения X также называется функцией квантиля из X . Это соглашение для констант, фигурирующих в определении характеристической функции, отличается от обычного соглашения для преобразования Фурье. Например, некоторые авторы определяют φ _X ( t ) = E e ^{−2 πitX} , что по сути является заменой параметра. В литературе можно встретить и другие обозначения: как характеристическую функцию для вероятностной меры p или как характеристическую функцию, соответствующую плотности f . ${\ displaystyle \ scriptstyle {\ hat {p}}}$${\ displaystyle \ scriptstyle {\ hat {f}}}$

Обобщения

Понятие характеристических функций обобщается на многомерные случайные величины и более сложные случайные элементы . Аргумент характеристической функции всегда будет принадлежать непрерывному двойственному пространству, в котором случайная величина X принимает свои значения. Для общих случаев такие определения перечислены ниже:

• Если X - k -мерный случайный вектор , то при t ∈ R ^k

${\ displaystyle \ varphi _ {X} (t) = \ operatorname {E} \ left [\ exp (it ^ {T} \! X) \ right],}$

где это транспонирование вектора   ,${\ textstyle t ^ {T}}$${\ textstyle t}$

• Если X - размерная случайная матрица размера k  ×  p , то для t ∈ R ^{k × p}

${\ displaystyle \ varphi _ {X} (t) = \ operatorname {E} \ left [\ exp \ left (i \ operatorname {tr} (t ^ {T} \! X) \ right) \ right],}$

где - оператор следа ,${\ textstyle \ OperatorName {tr} (\ cdot)}$

• Если X - комплексная случайная величина , то при t ∈ C

${\ displaystyle \ varphi _ {X} (t) = \ operatorname {E} \ left [\ exp \ left (i \ operatorname {Re} \ left ({\ overline {t}} X \ right) \ right) \ Правильно],}$

где является комплексно сопряженным из  и является действительной частью комплексного числа ,${\ textstyle {\ overline {t}}}$${\ textstyle t}$${\ textstyle \ operatorname {Re} (z)}$${\ textstyle z}$

• Если X - k -мерный комплексный случайный вектор , то для t ∈ C ^k  

${\ displaystyle \ varphi _ {X} (t) = \ operatorname {E} \ left [\ exp (i \ operatorname {Re} (t ^ {*} \! X)) \ right],}$

где - сопряженное транспонирование вектора   ,${\ textstyle t ^ {*}}$${\ textstyle t}$

• Если X ( s ) - случайный процесс , то для всех функций t ( s ) таких, что интеграл сходится почти для всех реализаций X${\ textstyle \ int _ {\ mathbb {R}} t (s) X (s) \, \ mathrm {d} s}$

${\ Displaystyle \ varphi _ {X} (t) = \ OperatorName {E} \ left [\ exp \ left (я \ int _ {\ mathbf {R}} t (s) X (s) \, ds \ right )\Правильно].}$

Примеры

Распределение	Характеристическая функция φ ( t )
Вырождаются δ a	${\ displaystyle e ^ {ita}}$
Бернулли Берн ( р )	${\ displaystyle 1-p + pe ^ {it}}$
Бином B ( n, p )	${\ displaystyle (1-p + pe ^ {it}) ^ {n}}$
Отрицательный бином NB ( r, p )	${\ displaystyle \ left ({\ frac {1-p} {1-pe ^ {i \, t}}} \ right) ^ {\! r}}$
Пуассон Пуа (λ)	${\ Displaystyle е ^ {\ лямбда (е ^ {это} -1)}}$
Равномерный (непрерывный) U ( a, b )	${\ displaystyle {\ frac {e ^ {itb} -e ^ {ita}} {it (ba)}}}$
Равномерные (дискретные) ДУ ( а, б )	${\ displaystyle {\ frac {e ^ {ait} -e ^ {(b + 1) it}} {(b-a + 1) (1-e ^ {it})}}}$
Лаплас L ( μ, b )	${\ displaystyle {\ frac {e ^ {it \ mu}} {1 + b ^ {2} t ^ {2}}}}$
Нормальный N ( μ, σ 2 )	${\ displaystyle e ^ {it \ mu - {\ frac {1} {2}} \ sigma ^ {2} t ^ {2}}}$
Хи-квадрат χ 2 k	${\ displaystyle (1-2it) ^ {- k / 2}}$
Коши C ( μ, θ )	${\ Displaystyle е ^ {это \ му - \ тета | т |}}$
Гамма Γ ( k, θ )	${\ Displaystyle (1-оно \ тета) ^ {- к}}$
Экспоненциальный Exp ( λ )	${\ Displaystyle (1-оно \ лямбда ^ {- 1}) ^ {- 1}}$
Геометрический Gf ( p ) (количество отказов)	${\ displaystyle {\ frac {p} {1-e ^ {it} (1-p)}}}$
Geometric Gt ( p ) (количество испытаний)	${\ displaystyle {\ frac {p} {e ^ {- it} - (1-p)}}}$
Многомерный нормальный N ( μ , Σ )	${\ displaystyle e ^ {\ mathbf {t} ^ {\ mathrm {T}} \ left (i {\ boldsymbol {\ mu}} - {\ frac {1} {2}} {\ boldsymbol {\ Sigma}} \ mathbf {t} \ right)}}$
Многомерные Коши MultiCauchy ( μ , Σ )	${\ displaystyle e ^ {я \ mathbf {t} ^ {\ mathrm {T}} {\ boldsymbol {\ mu}} - {\ sqrt {\ mathbf {t} ^ {\ mathrm {T}} {\ boldsymbol { \ Sigma}} \ mathbf {t}}}}}$

Оберхеттингер (1973) предоставляет обширные таблицы характеристических функций.

Характеристики

• Характеристическая функция вещественнозначной случайной величины всегда существует, поскольку она является интегралом ограниченной непрерывной функции над пространством, мера которого конечна.
• Характеристическая функция равномерно непрерывна на всем пространстве
• Он не обращается в нуль в области около нуля: φ (0) = 1.
• Он ограничен: | φ ( t ) | ≤ 1.
• Оно эрмитово : φ (- t ) = φ ( t ) . В частности, характеристическая функция симметричной (относительно начала координат) случайной величины является действительной и четной .
• Существует взаимное соответствие между распределениями вероятностей и характеристическими функциями. То есть для любых двух случайных величин X ₁ , X ₂ обе имеют одинаковое распределение вероятностей тогда и только тогда, когда .${\ Displaystyle \ varphi _ {X_ {1}} = \ varphi _ {X_ {2}}}$
• Если случайная величина Х имеет моменты до K -го порядка, то характеристическая функция φ _X является K раз непрерывно дифференцируемых на всей прямой. В этом случае

${\ displaystyle \ operatorname {E} [X ^ {k}] = i ^ {- k} \ varphi _ {X} ^ {(k)} (0).}$

• Если характеристическая функция φ _X имеет k -ю производную в нуле, то случайная величина X имеет все моменты до k, если k четное, но только до k - 1, если k нечетное.

${\ Displaystyle \ varphi _ {X} ^ {(k)} (0) = я ^ {k} \ OperatorName {E} [X ^ {k}]}$

• Если X ₁ , ..., X _n - независимые случайные величины, а a ₁ , ..., a _n - некоторые константы, то характеристическая функция линейной комбинации X _i равна

${\ displaystyle \ varphi _ {a_ {1} X_ {1} + \ cdots + a_ {n} X_ {n}} (t) = \ varphi _ {X_ {1}} (a_ {1} t) \ cdots \ varphi _ {X_ {n}} (a_ {n} t).}$

Один конкретный случай - это сумма двух независимых случайных величин X ₁ и X _{2, и} в этом случае мы имеем

${\ displaystyle \ varphi _ {X_ {1} + X_ {2}} (t) = \ varphi _ {X_ {1}} (t) \ cdot \ varphi _ {X_ {2}} (t).}$

• Хвостовое поведение характеристической функции определяет гладкость соответствующей функции плотности.
• Пусть случайная величина является линейным преобразованием случайной величины . Характеристическая функция является . Для случайных векторов и (где A - постоянная матрица, а B - постоянный вектор) имеем .${\ displaystyle Y = aX + b}$${\ displaystyle X}$${\ displaystyle Y}$${\ displaystyle \ varphi _ {Y} (t) = e ^ {itb} \ varphi _ {X} (at)}$${\ displaystyle X}$${\ Displaystyle Y = AX + B}$${\ displaystyle \ varphi _ {Y} (t) = e ^ {it ^ {\ top} B} \ varphi _ {X} (A ^ {\ top} t)}$

Непрерывность

Установленное выше взаимное соответствие между распределениями вероятностей и характеристическими функциями последовательно непрерывно . То есть всякий раз, когда последовательность функций распределения F _j ( x ) сходится (слабо) к некоторому распределению F ( x ), соответствующая последовательность характеристических функций φ _j ( t ) также будет сходиться, и предел φ ( t ) будет соответствовать к характеристической функции закона F . Более формально это формулируется как

Теорема непрерывности Леви : Последовательность Х _J из п -мерных случайных величин сходятся по распределению к случайной величине X тогда и только тогдакогда последовательность φ _{Х J} поточечно сходится к функции фкоторая непрерывна в начале координат. Тамгде φ является характеристической функцией X .

Эту теорему можно использовать для доказательства закона больших чисел и центральной предельной теоремы .

Формулы обращения

Между кумулятивными функциями распределения и характеристическими функциями существует взаимно однозначное соответствие , поэтому можно найти одну из этих функций, если мы знаем другую. Формула в определении характеристической функции позволяет нам вычислить φ, когда мы знаем функцию распределения F (или плотность f ). Если, с другой стороны, мы знаем характеристическую функцию φ и хотим найти соответствующую функцию распределения, то можно использовать одну из следующих теорем обращения .

Теорема . Если характеристическая функция ф _Х случайной величины X является интегрируемой , то Р _Х абсолютно непрерывно, и , следовательно , Х имеет функцию плотности вероятности . В одномерном случае (т. Е. Когда X имеет скалярное значение) функция плотности определяется выражением

${\ displaystyle f_ {X} (x) = F_ {X} '(x) = {\ frac {1} {2 \ pi}} \ int _ {\ mathbf {R}} e ^ {- itx} \ varphi _ {X} (t) \, dt.}$

В многомерном случае это

${\ displaystyle f_ {X} (x) = {\ frac {1} {(2 \ pi) ^ {n}}} \ int _ {\ mathbf {R} ^ {n}} e ^ {- i (t \ cdot x)} \ varphi _ {X} (t) \ lambda (dt)}$

где скалярное произведение. ${\ textstyle т \ cdot x}$

PDF - это производная Радона – Никодима распределения μ _X по мере Лебега λ :

${\ displaystyle f_ {X} (x) = {\ frac {d \ mu _ {X}} {d \ lambda}} (x).}$

Теорема (Леви) . Если φ _X - характеристическая функция функции распределения F _X , две точки a  <  b таковы, что { x | < х < Ь } является множеством непрерывности из ц _X (в одномерном случае это условие эквивалентно непрерывности F _X в точках через и б ), а затем

• Если X скаляр:

${\ displaystyle F_ {X} (b) -F_ {X} (a) = {\ frac {1} {2 \ pi}} \ lim _ {T \ to \ infty} \ int _ {- T} ^ { + T} {\ frac {e ^ {- ita} -e ^ {- itb}} {it}} \, \ varphi _ {X} (t) \, dt.}$

Эту формулу можно переформулировать в форме, более удобной для численных расчетов, как

${\ displaystyle {\ frac {F (x + h) -F (xh)} {2h}} = {\ frac {1} {2 \ pi}} \ int _ {- \ infty} ^ {\ infty} { \ frac {\ sin ht} {ht}} e ^ {- itx} \ varphi _ {X} (t) \, dt.}$

Для случайной величины, ограниченной снизу, можно получить , взяв такую, что В противном случае, если случайная величина не ограничена снизу, предел для дает , но численно непрактичен.${\ Displaystyle F (b)}$${\ displaystyle a}$${\ Displaystyle F (а) = 0.}$${\ displaystyle a \ to - \ infty}$${\ Displaystyle F (b)}$

• Если X - векторная случайная величина:

${\ displaystyle \ mu _ {X} {\ big (} \ {a <x <b \} {\ big)} = {\ frac {1} {(2 \ pi) ^ {n}}} \ lim _ {T_ {1} \ to \ infty} \ cdots \ lim _ {T_ {n} \ to \ infty} \ int \ limits _ {- T_ {1} \ leq t_ {1} \ leq T_ {1}} \ cdots \ int \ limits _ {- T_ {n} \ leq t_ {n} \ leq T_ {n}} \ prod _ {k = 1} ^ {n} \ left ({\ frac {e ^ {- it_ { k} a_ {k}} - e ^ {- it_ {k} b_ {k}}} {it_ {k}}} \ right) \ varphi _ {X} (t) \ lambda (dt_ {1} \ times \ cdots \ times dt_ {n})}$

Теорема . Если a (возможно) является атомом X (в одномерном случае это означает точку разрыва F _X ), то

• Если X скаляр:

${\ displaystyle F_ {X} (a) -F_ {X} (a-0) = \ lim _ {T \ to \ infty} {\ frac {1} {2T}} \ int _ {- T} ^ { + T} e ^ {- ita} \ varphi _ {X} (t) \, dt}$

• Если X - векторная случайная величина:

${\ displaystyle \ mu _ {X} (\ {a \}) = \ lim _ {T_ {1} \ to \ infty} \ cdots \ lim _ {T_ {n} \ to \ infty} \ left (\ prod _ {k = 1} ^ {n} {\ frac {1} {2T_ {k}}} \ right) \ int \ limits _ {[- T_ {1}, T_ {1}] \ times \ dots \ times [-T_ {n}, T_ {n}]} e ^ {- i (t \ cdot a)} \ varphi _ {X} (t) \ lambda (dt)}$

Теорема (Гиль-Пелаез) . Для однофакторного случайной величины X , если х является точкой непрерывности из F _X , то

${\ displaystyle F_ {X} (x) = {\ frac {1} {2}} - {\ frac {1} {\ pi}} \ int _ {0} ^ {\ infty} {\ frac {\ operatorname {Im} [e ^ {- itx} \ varphi _ {X} (t)]} {t}} \, dt.}$

где мнимая часть комплексного числа равна . ${\ displaystyle z}$${\ Displaystyle \ mathrm {Im} (z) = (zz ^ {*}) / 2i}$

Интеграл может быть неинтегрируемым по Лебегу ; например, когда X - дискретная случайная величина, которая всегда равна 0, она становится интегралом Дирихле .

Доступны формулы обращения для многомерных распределений.

Критерии для характеристических функций

Множество всех характеристических функций замыкается при выполнении определенных операций:

• Выпуклой линейной комбинации (с ) из конечного или счетного числа характеристических функций также является характеристической функцией.${\ textstyle \ сумма _ {п} а_ {п} \ varphi _ {п} (т)}$${\ textstyle a_ {n} \ geq 0, \ \ sum _ {n} a_ {n} = 1}$
• Произведение конечного числа характеристических функций также является характеристической функцией. То же самое верно и для бесконечного произведения, если оно сходится к функции, непрерывной в нуле.
• Если φ характеристическая функция, а α действительное число, то Re ( φ ), | φ | ² , и φ ( αt ) также являются характеристическими функциями.${\ displaystyle {\ bar {\ varphi}}}$

Хорошо известно, что любая неубывающая càdlàg функция F с пределами F (−∞) = 0, F (+ ∞) = 1 соответствует кумулятивной функции распределения некоторой случайной величины. Также есть интерес найти аналогичные простые критерии, когда заданная функция φ может быть характеристической функцией некоторой случайной величины. Центральным результатом здесь является теорема Бохнера , хотя ее полезность ограничена, поскольку главное условие теоремы - неотрицательная определенность - очень трудно проверить. Существуют и другие теоремы, такие как теоремы Хинчина, Матиаса или Крамера, хотя их применение столь же сложно. С другой стороны, теорема Полиа дает очень простое условие выпуклости, которое является достаточным, но не необходимым. Характеристические функции, удовлетворяющие этому условию, называются типом Полиа.

Теорема Бохнера . Произвольная функция φ  : R ^п → С является характеристической функцией некоторой случайной величиныесли и только если φ является положительно определен , непрерывен в нуле, и если φ (0) = 1.

Критерий Хинчина . Комплекснозначная абсолютно непрерывная функция φ с φ (0) = 1 является характеристической функцией тогда и только тогда, когда она допускает представление

${\ displaystyle \ varphi (t) = \ int _ {\ mathbf {R}} g (t + \ theta) {\ overline {g (\ theta)}} \, d \ theta.}$

Теорема Матиаса . Вещественнозначная четная непрерывная абсолютно интегрируемая функция φ с φ (0) = 1 является характеристической функцией тогда и только тогда, когда

${\ displaystyle (-1) ^ {n} \ left (\ int _ {\ mathbf {R}} \ varphi (pt) e ^ {- t ^ {2} / 2} H_ {2n} (t) \, dt \ right) \ geq 0}$

для n = 0,1,2, ... и всех p > 0. Здесь H _{2 n} обозначает многочлен Эрмита степени 2 n .

Теорема Поли может быть использована для построения примера двух случайных величин, характеристические функции которых совпадают на конечном интервале, но различны в другом месте.

Теорема Поли . Если - вещественная, четная, непрерывная функция, удовлетворяющая условиям ${\ displaystyle \ varphi}$

• ${\ displaystyle \ varphi (0) = 1}$,
• ${\ displaystyle \ varphi}$является выпуклым для ,${\ displaystyle t> 0}$
• ${\ Displaystyle \ varphi (\ infty) = 0}$,

тогда φ ( t ) - характеристическая функция абсолютно непрерывного распределения, симметричного относительно 0.

Использует

Из-за теоремы о непрерывности характеристические функции используются в наиболее часто встречающемся доказательстве центральной предельной теоремы . Основной метод, используемый при выполнении вычислений с характеристической функцией, - это распознавание функции как характеристической функции конкретного распределения.

Основные манипуляции с распределениями

Характеристические функции особенно полезны при работе с линейными функциями независимых случайных величин. Например, если X ₁ , X ₂ , ..., X _n представляет собой последовательность независимых (и не обязательно одинаково распределенных) случайных величин, и

${\ displaystyle S_ {n} = \ sum _ {i = 1} ^ {n} a_ {i} X_ {i}, \, \!}$

где a _i - константы, то характеристическая функция для S _n определяется выражением

${\ displaystyle \ varphi _ {S_ {n}} (t) = \ varphi _ {X_ {1}} (a_ {1} t) \ varphi _ {X_ {2}} (a_ {2} t) \ cdots \ varphi _ {X_ {n}} (a_ {n} t) \, \!}$

В частности, φ _{X + Y} ( t ) = φ _X ( t ) φ _Y ( t ) . Чтобы в этом убедиться, выпишите определение характеристической функции:

${\ displaystyle \ varphi _ {X + Y} (t) = \ operatorname {E} \ left [e ^ {it (X + Y)} \ right] = \ operatorname {E} \ left [e ^ {itX} e ^ {itY} \ right] = \ operatorname {E} \ left [e ^ {itX} \ right] \ operatorname {E} \ left [e ^ {itY} \ right] = \ varphi _ {X} (t ) \ varphi _ {Y} (t)}$

Независимость X и Y требуется для установления равенства третьего и четвертого выражений.

Другой особый случай, представляющий интерес для одинаково распределенных случайных величин, - это когда a _i = 1 / n, а затем S _n является выборочным средним. В этом случае, написав X для среднего,

${\ displaystyle \ varphi _ {\ overline {X}} (t) = \ varphi _ {X} \! \ left ({\ tfrac {t} {n}} \ right) ^ {n}}$

Моменты

Характеристические функции также могут использоваться для поиска моментов случайной величины. При наличии n- ^го момента характеристическая функция может быть дифференцирована n раз и

${\ displaystyle \ left [{\ frac {d ^ {n}} {dt ^ {n}}} \ varphi _ {X} (t) \ right] _ {t = 0} = i ^ {n} \ operatorname {E} \ left [X ^ {n} \ right] \ Rightarrow \ operatorname {E} \ left [X ^ {n} \ right] = i ^ {- n} \ left [{\ frac {d ^ {n }} {dt ^ {n}}} \ varphi _ {X} (t) \ right] _ {t = 0} = i ^ {- n} \ varphi _ {X} ^ {(n)} (0) , \!}$

Например, предположим, что X имеет стандартное распределение Коши . Тогда φ _X ( t ) = e ^{- | т |} . Это не дифференцируемо при t = 0, показывая, что распределение Коши не имеет никаких ожиданий . Кроме того , характеристическая функция выборочного среднего X из п независимых наблюдений имеет характеристическую функцию φ _Х ( т ) = ( е ^{- | т | / п} ) ^п = е ^{- | т |} , используя результат из предыдущего раздела. Это характерная функция стандартного распределения Коши: таким образом, выборочное среднее имеет то же распределение, что и сама генеральная совокупность.

В качестве другого примера, предположим , что X следует гауссово распределение ИЭ . Тогда и ${\ Displaystyle X \ sim {\ mathcal {N}} (\ mu, \ sigma ^ {2})}$${\ displaystyle \ varphi _ {X} (t) = e ^ {\ mu it - {\ frac {1} {2}} \ sigma ^ {2} t ^ {2}}}$

${\ displaystyle \ operatorname {E} \ left [X \ right] = i ^ {- 1} \ left [{\ frac {d ^ {n}} {dt ^ {n}}} \ varphi _ {X} ( t) \ right] _ {t = 0} = i ^ {- 1} \ left [(i \ mu - \ sigma ^ {2} t) \ varphi _ {X} (t) \ right] _ {t = 0} = \ mu}$

Подобный расчет показывает, и его легче выполнить, чем применить определение ожидания и использовать интегрирование по частям для оценки . ${\ Displaystyle \ OperatorName {E} \ left [X ^ {2} \ right] = \ mu ^ {2} + \ sigma ^ {2}}$${\ Displaystyle \ OperatorName {E} \ left [X ^ {2} \ right]}$

Логарифм характеристической функции - это производящая функция кумулянта , которая полезна для поиска кумулянтов ; некоторые вместо этого определяют кумулянтную производящую функцию как логарифм генерирующей момент функции и называют логарифм характеристической функции второй кумулянтной производящей функцией.

Анализ данных

Характеристические функции могут использоваться как часть процедур для подгонки распределений вероятностей к выборкам данных. Случаи, когда это обеспечивает практически осуществимый вариант по сравнению с другими возможностями, включают подгонку устойчивого распределения, поскольку выражения для плотности в закрытой форме недоступны, что затрудняет реализацию оценки максимального правдоподобия . Доступны процедуры оценки, которые сопоставляют теоретическую характеристическую функцию с эмпирической характеристической функцией , рассчитанной на основе данных. Полсон и др. (1975) и Heathcote (1977) предоставляют некоторые теоретические основы для такой процедуры оценки. Кроме того, Yu (2004) описывает приложения эмпирических характеристических функций для соответствия моделям временных рядов, где процедуры правдоподобия непрактичны. Эмпирические характеристические функции также использовались Ansari et al. (2020) и Ли и др. (2020) для обучения генеративных состязательных сетей .

Пример

Гамма - распределение с параметром масштаба и & thetas параметра формы к имеет характеристическую функцию

${\ displaystyle (1- \ theta \, i \, t) ^ {- k}.}$

Теперь предположим, что у нас есть

${\ displaystyle X ~ \ sim \ Gamma (k_ {1}, \ theta) {\ mbox {and}} Y \ sim \ Gamma (k_ {2}, \ theta) \,}$

с X и Y независимо друг от друга, и мы хотим знать , что распределение X + Y есть. Характеристические функции:

${\ displaystyle \ varphi _ {X} (t) = (1- \ theta \, i \, t) ^ {- k_ {1}}, \, \ qquad \ varphi _ {Y} (t) = (1 - \ theta \, i \, t) ^ {- k_ {2}}}$

что в силу независимости и основных свойств характеристической функции приводит к

${\ displaystyle \ varphi _ {X + Y} (t) = \ varphi _ {X} (t) \ varphi _ {Y} (t) = (1- \ theta \, i \, t) ^ {- k_ {1}} (1- \ theta \, i \, t) ^ {- k_ {2}} = \ left (1- \ theta \, i \, t \ right) ^ {- (k_ {1} + k_ {2})}.}$

Это характеристическая функция параметра масштаба гамма-распределения θ и параметра формы k ₁ + k ₂ , поэтому мы заключаем

${\ Displaystyle X + Y \ sim \ Gamma (k_ {1} + k_ {2}, \ theta) \,}$

Результат может быть расширен до n независимых случайных величин с гамма-распределением с одинаковым масштабным параметром, и мы получим

${\ displaystyle \ forall i \ in \ {1, \ ldots, n \}: X_ {i} \ sim \ Gamma (k_ {i}, \ theta) \ qquad \ Rightarrow \ qquad \ sum _ {i = 1} ^ {n} X_ {i} \ sim \ Gamma \ left (\ sum _ {i = 1} ^ {n} k_ {i}, \ theta \ right).}$

Целые характеристические функции

Как определено выше, аргумент характеристической функции рассматривается как действительное число: однако некоторые аспекты теории характеристических функций расширяются за счет расширения определения на комплексную плоскость путем аналитического продолжения в тех случаях, когда это возможно.

Связанные понятия

Связанные понятия включают функцию создания момента и функцию создания вероятности . Характеристическая функция существует для всех распределений вероятностей. Это не так для функции создания момента.

Характеристическая функция тесно связана с преобразованием Фурье : характеристическая функция функции плотности вероятности р ( х ) является комплексно сопряженной из непрерывного преобразования Фурье из р ( х ) ( в соответствии с обычным соглашением, см непрерывного преобразования Фурье - другое условности ).

${\ displaystyle \ varphi _ {X} (t) = \ langle e ^ {itX} \ rangle = \ int _ {\ mathbf {R}} e ^ {itx} p (x) \, dx = {\ overline { \ left (\ int _ {\ mathbf {R}} e ^ {- itx} p (x) \, dx \ right)}} = {\ overline {P (t)}},}$

где P ( t ) обозначает непрерывное преобразование Фурье функции плотности вероятности p ( x ). Точно так же p ( x ) может быть восстановлено из φ _X ( t ) с помощью обратного преобразования Фурье:

${\ displaystyle p (x) = {\ frac {1} {2 \ pi}} \ int _ {\ mathbf {R}} e ^ {itx} P (t) \, dt = {\ frac {1} { 2 \ pi}} \ int _ {\ mathbf {R}} e ^ {itx} {\ overline {\ varphi _ {X} (t)}} \, dt.}$

Действительно, даже когда случайная величина не имеет плотности, характеристическую функцию можно рассматривать как преобразование Фурье меры, соответствующей случайной величине.

Другая связанная с этим концепция - представление распределений вероятностей как элементов гильбертова пространства воспроизводящего ядра через вложение распределений в ядро . Эта структура может рассматриваться как обобщение характеристической функции при конкретном выборе функции ядра .

Смотрите также

• Субзависимость , более слабое условие, чем независимость, которое определяется в терминах характеристических функций.
• Кумулянт , член производящих функций кумулянта , которые являются журналами характеристических функций.

Примечания

использованная литература

Цитаты

Источники

внешние ссылки

• "Характеристическая функция" , Энциклопедия математики , EMS Press , 2001 [1994]