Квантовая относительная энтропия - Quantum relative entropy

В квантовой теории информации , квантовая относительная энтропия является мерой различимости между двумя квантовыми состояниями . Это квантово-механический аналог относительной энтропии .

Мотивация

Для простоты предполагается, что все объекты в изделии являются конечномерными.

Сначала обсудим классический случай. Предположим, что вероятности конечной последовательности событий задаются распределением вероятностей P = { p ₁ ... p _n }, но почему-то мы ошибочно предположили, что это Q = { q ₁ ... q _n }. Например, мы можем принять несправедливую монету за честную. Согласно этому ошибочному предположению наша неопределенность относительно j -го события или, что эквивалентно, количества информации, предоставленной после наблюдения j -го события, составляет

${\ displaystyle \; - \ log q_ {j}.}$

(Предполагаемая) средняя неопределенность всех возможных событий тогда равна

${\ displaystyle \; - \ sum _ {j} p_ {j} \ log q_ {j}.}$

С другой стороны, энтропия Шеннона распределения вероятностей p , определяемая формулой

${\ Displaystyle \; - \ сумма _ {j} p_ {j} \ log p_ {j},}$

это реальная величина неопределенности до наблюдения. Следовательно, разница между этими двумя величинами

${\ displaystyle \; - \ sum _ {j} p_ {j} \ log q_ {j} - \ left (- \ sum _ {j} p_ {j} \ log p_ {j} \ right) = \ sum _ {j} p_ {j} \ log p_ {j} - \ sum _ {j} p_ {j} \ log q_ {j}}$

является мерой различимости двух распределений вероятностей p и q . Это и есть классическая относительная энтропия, или дивергенция Кульбака – Лейблера :

${\ displaystyle D _ {\ mathrm {KL}} (P \ | Q) = \ sum _ {j} p_ {j} \ log {\ frac {p_ {j}} {q_ {j}}} \ !.}$

Примечание

1. В приведенных выше определениях предполагается, что 0 · log 0 = 0, поскольку lim _{x  → 0} x  log  x  = 0. Интуитивно можно было бы ожидать, что событие с нулевой вероятностью не внесет никакого вклада в энтропию.
2. Относительная энтропия не является метрикой . Например, он не симметричен. Несоответствие неопределенности при принятии справедливой монеты за несправедливость - это не то же самое, что противоположная ситуация.

Определение

Как и в случае со многими другими объектами квантовой теории информации, квантовая относительная энтропия определяется путем расширения классического определения от распределений вероятностей до матриц плотности . Пусть ρ - матрица плотности. Фон Неймана энтропии из р , который является квантово - механическое аналог энтропии Шеннона, дается

${\ Displaystyle S (\ rho) = - \ operatorname {Tr} \ rho \ log \ rho.}$

Для двух матриц плотности р и сг , тем квантовая относительная энтропия р с относительно σ определяется

${\ Displaystyle S (\ rho \ | \ sigma) = - \ operatorname {Tr} \ rho \ log \ sigma -S (\ rho) = \ operatorname {Tr} \ rho \ log \ rho - \ operatorname {Tr} \ rho \ log \ sigma = \ operatorname {Tr} \ rho (\ log \ rho - \ log \ sigma).}$

Мы видим, что, когда состояния связаны классическим образом, т. Е. Ρσ = σρ , определение совпадает с классическим случаем.

Не конечная (расходящаяся) относительная энтропия

В общем случае носитель матрицы M является ортогональным дополнением к ее ядру , т . Е. При рассмотрении квантовой относительной энтропии мы предполагаем, что - s  · log 0 = ∞ для любого s  > 0. Это приводит к определению, что ${\ displaystyle {\ text {supp}} (M) = {\ text {ker}} (M) ^ {\ perp}}$

${\ Displaystyle S (\ rho \ | \ sigma) = \ infty}$

когда

${\ displaystyle {\ text {supp}} (\ rho) \ cap {\ text {ker}} (\ sigma) \ neq 0.}$

Это можно интерпретировать следующим образом. Неформально квантовая относительная энтропия - это мера нашей способности различать два квантовых состояния, где большие значения указывают на состояния, которые более разные. Ортогональность представляет собой самые разные квантовые состояния. Это отражается в не конечной квантовой относительной энтропии для ортогональных квантовых состояний. Следуя аргументам, приведенным в разделе «Мотивация», если мы ошибочно предполагаем, что состояние имеет поддержку , это ошибка, которую невозможно исправить. ${\ displaystyle \ rho}$${\ displaystyle {\ text {ker}} (\ sigma)}$

Однако следует быть осторожным, чтобы не заключить, что расхождение квантовой относительной энтропии означает, что состояния и ортогональны или даже сильно различаются по другим параметрам. В частности, может расходиться, когда и отличаться на исчезающе малую величину, измеренную какой-либо нормой. Например, пусть имеет диагональное представление ${\ Displaystyle S (\ rho \ | \ sigma)}$${\ displaystyle \ rho}$${\ displaystyle \ sigma}$${\ Displaystyle S (\ rho \ | \ sigma)}$${\ displaystyle \ rho}$${\ displaystyle \ sigma}$${\ displaystyle \ sigma}$

${\ displaystyle \ sigma = \ sum _ {n} \ lambda _ {n} | f_ {n} \ rangle \ langle f_ {n} |}$

с for и for где - ортонормированный набор. Ядро - это пространство, охватываемое множеством . Далее пусть ${\ displaystyle \ lambda _ {n}> 0}$${\ Displaystyle п = 0,1,2, \ ldots}$${\ displaystyle \ lambda _ {n} = 0}$${\ Displaystyle п = -1, -2, \ ldots}$${\ displaystyle \ {| f_ {n} \ rangle, n \ in \ mathbb {Z} \}}$${\ displaystyle \ sigma}$${\ displaystyle \ {| f_ {n} \ rangle, n = -1, -2, \ ldots \}}$

${\ displaystyle \ rho = \ sigma + \ epsilon | f _ {- 1} \ rangle \ langle f _ {- 1} | - \ epsilon | f_ {1} \ rangle \ langle f_ {1} |}$

для небольшого положительного числа . Поскольку имеет поддержку (а именно состояние ) в ядре , расходится, несмотря на то, что норма следа разности есть . Это означает, что разница между и, измеренная нормой следа, исчезающе мала, даже если она расходится (то есть бесконечна). Это свойство квантовой относительной энтропии представляет собой серьезный недостаток, если к нему не обращаться осторожно. ${\ displaystyle \ epsilon}$${\ displaystyle \ rho}$${\ displaystyle | f _ {- 1} \ rangle}$${\ displaystyle \ sigma}$${\ Displaystyle S (\ rho \ | \ sigma)}$${\ Displaystyle (\ rho - \ sigma)}$${\ displaystyle 2 \ epsilon}$${\ displaystyle \ rho}$${\ displaystyle \ sigma}$${\ displaystyle \ epsilon \ to 0}$${\ Displaystyle S (\ rho \ | \ sigma)}$

Неотрицательность относительной энтропии

Соответствующее классическое высказывание

Для классической расходимости Кульбака – Лейблера можно показать, что

${\ displaystyle D _ {\ mathrm {KL}} (P \ | Q) = \ sum _ {j} p_ {j} \ log {\ frac {p_ {j}} {q_ {j}}} \ geq 0, }$

и равенство имеет место тогда и только тогда , когда P = Q . В просторечии это означает, что неопределенность, рассчитанная с использованием ошибочных предположений, всегда превышает реальную величину неопределенности.

Чтобы показать неравенство, перепишем

${\ Displaystyle D _ {\ mathrm {KL}} (P \ | Q) = \ sum _ {j} p_ {j} \ log {\ frac {p_ {j}} {q_ {j}}} = \ sum _ {j} (- \ log {\ frac {q_ {j}} {p_ {j}}}) (p_ {j}).}$

Обратите внимание, что журнал - это вогнутая функция . Следовательно, -log выпуклый . Применяя неравенство Йенсена , получаем

${\ Displaystyle D _ {\ mathrm {KL}} (P \ | Q) = \ sum _ {j} (- \ log {\ frac {q_ {j}} {p_ {j}}}) (p_ {j} ) \ geq - \ log (\ sum _ {j} {\ frac {q_ {j}} {p_ {j}}} p_ {j}) = 0.}$

Неравенство Йенсена также утверждает , что равенство имеет место тогда и только тогда, когда для всех I , д _я = (Σ Q _J ) р _я , то есть р = д .

Результат

Неравенство Клейна утверждает, что квантовая относительная энтропия

${\ Displaystyle S (\ rho \ | \ sigma) = \ OperatorName {Tr} \ rho (\ log \ rho - \ log \ sigma).}$

в целом неотрицательна. Он равен нулю тогда и только тогда, когда ρ = σ .

Доказательство

Пусть ρ и σ имеют спектральные разложения

${\ displaystyle \ rho = \ sum _ {i} p_ {i} v_ {i} v_ {i} ^ {*} \;, \; \ sigma = \ sum _ {i} q_ {i} w_ {i} w_ {i} ^ {*}.}$

Так

${\ displaystyle \ log \ rho = \ sum _ {i} (\ log p_ {i}) v_ {i} v_ {i} ^ {*} \;, \; \ log \ sigma = \ sum _ {i} (\ log q_ {i}) w_ {i} w_ {i} ^ {*}.}$

Прямой расчет дает

${\ Displaystyle S (\ rho \ | \ sigma) = \ sum _ {k} p_ {k} \ log p_ {k} - \ sum _ {i, j} (p_ {i} \ log q_ {j}) | v_ {i} ^ {*} w_ {j} | ^ {2}}$

${\ displaystyle \ qquad \ quad \; = \ sum _ {i} p_ {i} (\ log p_ {i} - \ sum _ {j} \ log q_ {j} | v_ {i} ^ {*} w_ {j} | ^ {2})}$

${\ displaystyle \ qquad \ quad \; = \ sum _ {i} p_ {i} (\ log p_ {i} - \ sum _ {j} (\ log q_ {j}) P_ {ij}),}$

где P _{i j} = | v _i * w _j | ² .

Поскольку матрица ( P _{i j} ) _ij является дважды стохастической матрицей, а -log - выпуклой функцией, приведенное выше выражение имеет вид

${\ displaystyle \ geq \ sum _ {i} p_ {i} (\ log p_ {i} - \ log (\ sum _ {j} q_ {j} P_ {ij})).}$

Определим r _i = Σ _j q _j P _{i j} . Тогда { r _i } - это распределение вероятностей. Из неотрицательности классической относительной энтропии имеем

${\ Displaystyle S (\ rho \ | \ sigma) \ geq \ sum _ {i} p_ {i} \ log {\ frac {p_ {i}} {r_ {i}}} \ geq 0.}$

Вторая часть утверждения следует из того, что, поскольку -log строго выпукло, равенство достигается в

${\ displaystyle \ sum _ {i} p_ {i} (\ log p_ {i} - \ sum _ {j} (\ log q_ {j}) P_ {ij}) \ geq \ sum _ {i} p_ { i} (\ log p_ {i} - \ log (\ sum _ {j} q_ {j} P_ {ij}))}$

тогда и только тогда, когда ( P _{i j} ) является матрицей перестановок , из чего следует, что ρ = σ , после подходящей разметки собственных векторов { v _i } и { w _i }.

Совместная выпуклость относительной энтропии

Относительная энтропия вместе выпуклая . Для и состояний у нас есть ${\ displaystyle 0 \ leq \ lambda \ leq 1}$${\ Displaystyle \ rho _ {1 (2)}, \ sigma _ {1 (2)}}$

${\ Displaystyle D (\ lambda \ rho _ {1} + (1- \ lambda) \ rho _ {2} \ | \ lambda \ sigma _ {1} + (1- \ lambda) \ sigma _ {2}) \ leq \ lambda D (\ rho _ {1} \ | \ sigma _ {1}) + (1- \ lambda) D (\ rho _ {2} \ | \ sigma _ {2})}$

Монотонность относительной энтропии

Относительная энтропия монотонно уменьшается при полностью положительном сохранении следов (CPTP) операций над матрицами плотности, ${\ Displaystyle {\ mathcal {N}}}$

${\ Displaystyle S ({\ mathcal {N}} (\ rho) \ | {\ mathcal {N}} (\ sigma)) \ Leq S (\ rho \ | \ sigma)}$.

Это неравенство называется монотонностью квантовой относительной энтропии.

Мера запутанности

Пусть составная квантовая система имеет пространство состояний

${\ Displaystyle H = \ otimes _ {k} H_ {k}}$

и р , матрица плотности , действующая на Н .

Относительная энтропия перепутывания от р определяется

${\ Displaystyle \; D _ {\ mathrm {REE}} (\ rho) = \ min _ {\ sigma} S (\ rho \ | \ sigma)}$

где минимум берется по семейству сепарабельных состояний . Физическая интерпретация величины - это оптимальная отличимость состояния ρ от сепарабельных состояний.

Ясно, что когда ρ не запутано

${\ Displaystyle \; D _ {\ mathrm {REE}} (\ rho) = 0}$

неравенством Клейна.

Связь с другими величинами квантовой информации

Одна из причин, по которой квантовая относительная энтропия полезна, заключается в том, что несколько других важных величин квантовой информации являются ее частными случаями. Часто теоремы формулируются в терминах квантовой относительной энтропии, что приводит к непосредственным следствиям, касающимся других величин. Ниже мы перечислим некоторые из этих отношений.

Пусть ρ _АВ будет совместное состояние двудольного системы с подсистемой А размерности п _А и В размерности п _B . Пусть ρ _A , ρ _B - приведенные состояния соответственно, а I _A , I _B - соответствующие тождества. В максимально смешанные состояния являются я / п и я _Б / н _Б . Тогда с помощью прямого вычисления можно показать, что

${\ Displaystyle S (\ rho _ {A} || I_ {A} / n_ {A}) = \ mathrm {log} (n_ {A}) - S (\ rho _ {A}), \;}$

${\ Displaystyle S (\ rho _ {AB} || \ rho _ {A} \ otimes \ rho _ {B}) = S (\ rho _ {A}) + S (\ rho _ {B}) - S (\ rho _ {AB}) = I (A: B),}$

${\ Displaystyle S (\ rho _ {AB} || \ rho _ {A} \ otimes I_ {B} / n_ {B}) = \ mathrm {log} (n_ {B}) + S (\ rho _ { A}) - S (\ rho _ {AB}) = \ mathrm {log} (n_ {B}) - S (B | A),}$

где I ( A : B ) - квантовая взаимная информация, а S ( B | A ) - квантовая условная энтропия .

использованная литература

• Ведрал, В. (8 марта 2002 г.). «Роль относительной энтропии в квантовой теории информации». Обзоры современной физики . Американское физическое общество (APS). 74 (1): 197–234. arXiv : квант-ph / 0102094 . Bibcode : 2002RvMP ... 74..197V . DOI : 10,1103 / revmodphys.74.197 . ISSN  0034-6861 .
• Майкл А. Нильсен, Исаак Л. Чуанг, «Квантовые вычисления и квантовая информация»