Сжатое зондирование - Compressed sensing

Сжатое зондирование (также известное как сжимающее зондирование , сжимающая выборка или разреженная выборка ) - это метод обработки сигнала для эффективного получения и восстановления сигнала путем поиска решений для недоопределенных линейных систем . Это основано на том принципе, что посредством оптимизации разреженность сигнала может быть использована для восстановления его из гораздо меньшего количества отсчетов, чем требуется по теореме Найквиста – Шеннона . Есть два условия, при которых возможно восстановление. Первый - это разреженность , которая требует, чтобы сигнал был разреженным в некоторой области. Второй - некогерентность, которая применяется через свойство изометрии, которого достаточно для разреженных сигналов.

Обзор

Общая цель инженерной области обработки сигналов - восстановить сигнал из серии измерений выборки. В общем, эта задача невыполнима, потому что нет возможности восстановить сигнал в то время, когда сигнал не измеряется. Тем не менее, имея предварительные знания или предположения о сигнале, оказывается возможным полностью восстановить сигнал из серии измерений (получение этой серии измерений называется дискретизацией ). Со временем инженеры улучшили свое понимание того, какие допущения практичны и как их можно обобщить.

Ранним прорывом в обработке сигналов стала теорема выборки Найквиста – Шеннона . В нем говорится, что если самая высокая частота реального сигнала меньше половины частоты дискретизации, то сигнал может быть идеально восстановлен с помощью интерполяции синка . Основная идея состоит в том, что при предварительном знании ограничений на частоты сигнала для восстановления сигнала требуется меньше выборок.

Примерно в 2004 году Эммануэль Кандес , Джастин Ромберг , Теренс Тао и Дэвид Донохо доказали, что, зная о разреженности сигнала, сигнал может быть восстановлен с даже меньшим количеством отсчетов, чем требует теорема отсчетов. Эта идея лежит в основе сжатого восприятия.

История

Сжатое зондирование основывается на методах, которые исторически использовались в нескольких других областях науки. В статистике метод наименьших квадратов был дополнен -нормой , введенной Лапласом . После введения линейного программирования и Данциг «s симплексного алгоритма , то -норме был использован в вычислительной статистике . В статистической теории -норма использовалась Джорджем У. Брауном и более поздними авторами при оценке несмещенной медианы . Его использовали Питер Дж. Хубер и другие, работавшие над надежной статистикой . -Норме также используется в обработке сигналов, например, в 1970 - е годы, когда сейсмологи построенных изображений отражающих слоев в недрах Земли на основе данных, как представляется , не удовлетворяют критерию Найквиста-Шеннона . Он был использован в согласующей погоне в 1993 году, ЛАССО оценки от Роберта Tibshirani в 1996 году и основание стремление в 1998 г. Было теоретические результаты , описывающие , когда эти алгоритмы восстановления разреженного решения, но требуемый типа и количество измерений были неоптимальными и впоследствии значительно улучшено сжатым зондированием.

На первый взгляд может показаться , что сжатое зондирование нарушает теорему выборки , потому что сжатое зондирование зависит от разреженности рассматриваемого сигнала, а не от его максимальной частоты. Это заблуждение, потому что теорема выборки гарантирует идеальную реконструкцию при достаточных, а не необходимых условиях. Метод выборки, принципиально отличный от классической выборки с фиксированной частотой, не может «нарушить» теорему выборки. Редкие сигналы с высокочастотными компонентами могут быть сильно недодискретизированы с использованием сжатого измерения по сравнению с классической дискретизацией с фиксированной частотой.

Метод

Недоопределенная линейная система

Недоопределенная система линейных уравнений имеет больше неизвестных , чем уравнения , и в общем случае имеет бесконечное число решений. На рисунке ниже показана такая система уравнений, для которой мы хотим найти решение .

Недоопределенная система линейных уравнений

Чтобы выбрать решение такой системы, необходимо наложить дополнительные ограничения или условия (например, гладкость), если это необходимо. При сжатии измерений добавляется ограничение разреженности, допускающее только решения, которые имеют небольшое количество ненулевых коэффициентов. Не все недоопределенные системы линейных уравнений имеют разреженное решение. Однако, если существует уникальное разреженное решение для недоопределенной системы, тогда сжатая структура восприятия позволяет восстановить это решение.

Решение / метод реконструкции

Пример извлечения неизвестного сигнала (серая линия) из нескольких измерений (черные точки) с использованием информации о том, что сигнал является разреженным в базисе полиномов Эрмита (фиолетовые точки показывают найденные коэффициенты).

Сжатое зондирование использует преимущество избыточности во многих интересных сигналах - они не являются чистым шумом. В частности, многие сигналы являются разреженными , то есть они содержат много коэффициентов, близких или равных нулю, когда они представлены в некоторой области. Это та же идея, которая используется во многих формах сжатия с потерями .

Сжатое зондирование обычно начинается с взятия взвешенной линейной комбинации выборок, также называемых измерениями сжатия, в базисе, отличном от базиса, в котором сигнал, как известно, является разреженным. Результаты найдены Эммануэль Кандс , Джастин Ромберг , Теренс Тао и Дэвид Донохо , показали , что число этих сжимающих измерений может быть небольшим и по- прежнему содержит почти все полезную информацию. Следовательно, задача преобразования изображения обратно в заданную область включает решение недоопределенного матричного уравнения, поскольку количество выполненных измерений сжатия меньше, чем количество пикселей в полном изображении. Однако добавление ограничения, заключающегося в том, что исходный сигнал является разреженным, позволяет решить эту недоопределенную систему линейных уравнений .

Решение таких проблем методом наименьших квадратов - минимизировать норму, то есть минимизировать количество энергии в системе. Обычно это просто математически (включая только матричное умножение на псевдообратное значение базиса, в котором выполняется выборка). Однако это приводит к плохим результатам для многих практических приложений, для которых неизвестные коэффициенты имеют ненулевую энергию.

Чтобы обеспечить ограничение разреженности при решении недоопределенной системы линейных уравнений, можно минимизировать количество ненулевых компонентов решения. Функция подсчета количества ненулевых компонент вектора была названа Дэвидом Донохо «нормой» .

Candès et al. доказал, что для многих проблем норма, вероятно, эквивалентна норме в техническом смысле: этот результат эквивалентности позволяет решить проблему, которая проще, чем проблема. Нахождение кандидата с наименьшей нормой относительно легко можно выразить в виде линейной программы , для которой уже существуют эффективные методы решения. Когда измерения могут содержать ограниченное количество шума, шумоподавление по основному принципу предпочтительнее линейного программирования, поскольку оно сохраняет разреженность перед лицом шума и может быть решено быстрее, чем точная линейная программа.

Полная вариационная реконструкция CS

Мотивация и приложения

Роль регуляризации телевидения

Общее изменение можно рассматривать как неотрицательные реальную -значную функционала , определенные на пространстве вещественных функций (для случая функций одной переменных) или на пространстве интегрируемых функций (для случая функций нескольких переменных) . Для сигналов, в частности, полное изменение относится к интегралу абсолютного градиента сигнала. При реконструкции сигналов и изображений он применяется как регуляризация полной вариации, где основной принцип заключается в том, что сигналы с чрезмерными деталями имеют высокую общую вариацию и что удаление этих деталей при сохранении важной информации, такой как края, уменьшило бы общую вариацию сигнала и сделайте сигнал предметом более близким к исходному сигналу в задаче.

Для восстановления сигнала и изображения используются модели минимизации. Другие подходы также включают метод наименьших квадратов, как обсуждалось ранее в этой статье. Эти методы очень медленные и возвращают не очень идеальную реконструкцию сигнала. Текущие модели регуляризации CS пытаются решить эту проблему путем включения априорных значений разреженности исходного изображения, одним из которых является полная вариация (TV). Обычные телевизионные подходы предназначены для получения кусочно-постоянных решений. Некоторые из них включают (как обсуждается ниже) - минимизацию l1 с ограничениями, которая использует итеративную схему. Этот метод, хотя и быстрый, впоследствии приводит к чрезмерному сглаживанию краев, что приводит к размытию краев изображения. Были реализованы телевизионные методы с итеративным повторным взвешиванием, чтобы уменьшить влияние больших значений градиента в изображениях. Это использовалось в реконструкции компьютерной томографии (КТ) как метод, известный как полная вариация с сохранением краев. Однако, поскольку величины градиента используются для оценки относительных штрафных весов между точностью данных и условиями регуляризации, этот метод не является устойчивым к шуму и артефактам и достаточно точен для восстановления CS-изображения / сигнала и, следовательно, не может сохранить более мелкие структуры.

Недавний прогресс в этой проблеме включает использование итеративно направленного уточнения TV для реконструкции CS. Этот метод будет состоять из двух этапов: на первом этапе будет оцениваться и уточняться начальное поле ориентации, которое определяется как зашумленная точечная начальная оценка данного изображения посредством обнаружения границ. На втором этапе модель реконструкции CS представлена ​​с помощью направленного регуляризатора ТВ. Более подробная информация об этих основанных на TV подходах - итеративно взвешенная минимизация l1, TV с сохранением границ и итеративная модель с использованием поля направленной ориентации и TV - представлены ниже.

Существующие подходы

Итеративно переназначенная минимизация
итеративно перевзвешенный метод минимизации l1 для CS

В моделях реконструкции CS, использующих ограниченную минимизацию, большие коэффициенты сильно штрафуются в норме. Было предложено иметь взвешенную формулировку минимизации, разработанную для более демократического наказания ненулевых коэффициентов. Итерационный алгоритм используется для построения соответствующих весов. Каждая итерация требует решения одной задачи минимизации путем нахождения локального минимума вогнутой функции штрафа, который более похож на норму. Дополнительный параметр, обычно во избежание каких-либо резких переходов в кривой штрафной функции, вводится в итерационное уравнение для обеспечения устойчивости и для того, чтобы нулевая оценка в одной итерации не обязательно приводила к нулевой оценке в следующей итерации. Метод по существу включает использование текущего решения для вычисления весов, которые будут использоваться в следующей итерации.

Преимущества и недостатки

Ранние итерации могут выявить неточные выборочные оценки, однако этот метод будет выполнять понижающую выборку на более позднем этапе, чтобы придать больший вес меньшим ненулевым оценкам сигнала. Одним из недостатков является необходимость определения действительной начальной точки, поскольку глобальный минимум не может быть получен каждый раз из-за вогнутости функции. Другой недостаток заключается в том, что этот метод имеет тенденцию к равномерному снижению градиента изображения независимо от лежащих в основе структур изображения. Это вызывает чрезмерное сглаживание краев, особенно областей с низким контрастом, что впоследствии приводит к потере информации с низким контрастом. К достоинствам этого метода можно отнести: снижение частоты дискретизации разреженных сигналов; восстановление изображения с устойчивостью к удалению шума и других артефактов; и использование очень небольшого количества итераций. Это также может помочь в восстановлении изображений с разреженными градиентами.

На рисунке, показанном ниже, P1 относится к первому этапу итеративного процесса реконструкции матрицы P проекции веерной геометрии, которая ограничена термином точности данных. Это может содержать шум и артефакты, поскольку регуляризация не выполняется. Минимизация P1 решается методом наименьших квадратов с сопряженными градиентами. P2 относится ко второму этапу процесса итеративной реконструкции, в котором он использует член регуляризации общей вариации с сохранением границ для удаления шума и артефактов и, таким образом, улучшения качества восстановленного изображения / сигнала. Минимизация P2 выполняется с помощью простого метода градиентного спуска. Сходимость определяется путем тестирования после каждой итерации на положительность изображения, путем проверки этого для случая, когда (обратите внимание, что это относится к различным коэффициентам линейного ослабления рентгеновских лучей в разных вокселях изображения пациента).

Сжатое зондирование на основе полного отклонения (TV) с сохранением границ
Рисунок блок-схемы для метода полного отклонения с сохранением кромок для измерения сжатых материалов

Это итеративный алгоритм реконструкции КТ с ТВ-регуляризацией с сохранением краев для восстановления КТ-изображений из данных с недостаточной дискретизацией, полученных при КТ с низкой дозой, через низкие уровни тока (миллиампер). Чтобы уменьшить дозу изображения, одним из используемых подходов является уменьшение количества рентгеновских проекций, получаемых детекторами сканера. Однако эти недостаточные данные проекции, которые используются для восстановления изображения КТ, могут вызвать артефакты в виде полос. Более того, использование этих недостаточных проекций в стандартных телевизионных алгоритмах в конечном итоге делает проблему недоопределенной и, таким образом, приводит к бесконечному множеству возможных решений. В этом методе исходной телевизионной норме назначается дополнительная взвешенная функция штрафа. Это позволяет упростить обнаружение резких скачков интенсивности в изображениях и, таким образом, адаптировать вес для сохранения восстановленной информации о краях во время процесса реконструкции сигнала / изображения. Параметр управляет степенью сглаживания, применяемого к пикселям по краям, чтобы отличать их от некраевых пикселей. Значение изменяется адаптивно на основе значений гистограммы величины градиента, так что определенный процент пикселей имеет значения градиента больше, чем . Таким образом, термин общей вариации, сохраняющий края, становится более разреженным, и это ускоряет реализацию. Используется двухэтапный итерационный процесс, известный как алгоритм прямого и обратного разделения. Задача оптимизации разделена на две подзадачи, которые затем решаются методом наименьших квадратов с сопряженным градиентом и методом простого градиентного спуска соответственно. Метод останавливается, когда достигается желаемая сходимость или максимальное количество итераций.

Преимущества и недостатки

Некоторые из недостатков этого метода - отсутствие более мелких структур в реконструированном изображении и ухудшение разрешения изображения. Однако этот ТВ-алгоритм с сохранением границ требует меньше итераций, чем традиционный ТВ-алгоритм. Анализируя горизонтальные и вертикальные профили интенсивности восстановленных изображений, можно увидеть, что есть резкие скачки в краевых точках и незначительные незначительные колебания в некраевых точках. Таким образом, этот метод приводит к низкой относительной ошибке и более высокой корреляции по сравнению с ТВ-методом. Он также эффективно подавляет и удаляет любую форму шума изображения и артефактов изображения, таких как полосы.

Итерационная модель с использованием поля направленной ориентации и общего изменения направления

Этот метод используется для предотвращения чрезмерного сглаживания краев и деталей текстуры и для получения восстановленного CS-изображения, которое является точным и устойчивым к шумам и артефактам. Во- первых, первоначальная оценка шумной поточечной ориентации области изображения , , получается. Это зашумленное поле ориентации определено так, чтобы его можно было уточнять на более позднем этапе, чтобы уменьшить влияние шума при оценке поля ориентации. Модуль оценка грубого поля ориентации затем вводятся на основе структурного тензора , который формулируется как: . Здесь относится к тензор структуры, связанный с точкой (i, j) пикселя изображения, имеющей стандартное отклонение . относится к гауссовскому ядру со стандартным отклонением . относится к параметру, определяемому вручную для изображения, ниже которого обнаружение краев нечувствительно к шуму. относится к градиенту изображения и относится к тензорному произведению, полученному с использованием этого градиента.

Полученный структурный тензор сворачивается с гауссовым ядром для повышения точности оценки ориентации с установкой высоких значений для учета неизвестных уровней шума. Для каждого пикселя (i, j) в изображении тензор структуры J является симметричной и положительно полуопределенной матрицей. Свертка всех пикселей изображения с дает ортонормированные собственные векторы ω и υ матрицы. ω указывает в направлении доминирующей ориентации, имеющей наибольший контраст, а υ указывает в направлении ориентации структуры, имеющей наименьший контраст. Грубая начальная оценка поля ориентации определяется как = υ. Эта оценка точна на сильных краях. Однако на слабых краях или на участках с шумом его надежность снижается.

Чтобы преодолеть этот недостаток, определена уточненная модель ориентации, в которой член данных уменьшает влияние шума и повышает точность, в то время как второй штрафной член с L2-нормой является термином точности, который обеспечивает точность начальной грубой оценки.

Это поле ориентации вводятся в направленную общую модель оптимизации вариации для реконструкции CS через уравнение: . это объективный сигнал, который необходимо восстановить. Y - соответствующий вектор измерения, d - итеративное уточненное поле ориентации и матрица измерения CS. Этот метод претерпевает несколько итераций, в конечном итоге приводящих к сходимости. - приблизительная оценка поля ориентации восстановленного изображения из предыдущей итерации (для проверки сходимости и последующих оптических характеристик используется предыдущая итерация). Для двух векторных полей , представленных и , относится к умножению соответствующих горизонтальных и вертикальных векторных элементов , и с последующим их последующим добавлением. Эти уравнения сводятся к серии задач выпуклой минимизации, которые затем решаются с помощью комбинации методов разделения переменных и расширенного лагранжиана (быстрого решателя на основе БПФ с решением в замкнутой форме). Он (расширенный лагранжиан) считается эквивалентным разделенной итерации Брегмана, которая обеспечивает сходимость этого метода. Поле ориентации d определяется как равное , где определяют горизонтальную и вертикальную оценки .

Расширенный лагранжев метод для моделей поля ориентации и итерационных уточняющих моделей поля направлений

Расширенный лагранжев метод для поля ориентации включает инициализацию, а затем поиск приближенного минимизатора по этим переменным. Затем множители Лагранжа обновляются, и итерационный процесс останавливается, когда достигается сходимость. Для итеративной модели уточнения полной направленной вариации метод расширенного лагранжа включает инициализацию .

Здесь представлены недавно введенные переменные, где = , = , = и = . - лагранжевые множители для . Для каждой итерации вычисляется приближенный минимизатор по переменным ( ). Как и в модели уточнения поля, лагранжевые множители обновляются, и итерационный процесс останавливается, когда достигается сходимость.

Для модели уточнения поля ориентации множители Лагранжа обновляются в итерационном процессе следующим образом:

Для итеративной модели уточнения общей направленной вариации лагранжевые множители обновляются следующим образом:

Здесь положительные константы.

Преимущества и недостатки

На основе показателей пикового отношения сигнал / шум (PSNR) и индекса структурного подобия (SSIM) и известных достоверных изображений для тестирования производительности сделан вывод, что итеративная направленная полная вариация имеет лучшую восстановленную производительность, чем неитеративные методы в сохранение краев и текстурных участков. Модель уточнения поля ориентации играет важную роль в этом улучшении производительности, поскольку она увеличивает количество пикселей без направления в плоской области, одновременно улучшая согласованность поля ориентации в областях с краями.

Приложения

Область компрессионного зондирования связана с несколькими темами в обработке сигналов и вычислительной математике, такими как недоопределенные линейные системы , групповое тестирование , сильные удары, разреженное кодирование , мультиплексирование , разреженная выборка и конечная скорость инноваций. Его широкая сфера применения и универсальность позволили использовать несколько инновационных CS-расширенных подходов к обработке и сжатию сигналов, решению обратных задач, проектированию излучающих систем, радиолокационной и сквозной визуализации, а также характеристике антенн. Методы визуализации, имеющие сильное сходство с восприятием сжатия, включают кодированную апертуру и компьютерную фотографию .

Обычная реконструкция CS использует разреженные сигналы (обычно дискретизированные с частотой ниже, чем частота дискретизации Найквиста) для реконструкции посредством ограниченной минимизации. Одно из первых применений такого подхода было в сейсмологии отражений, в которой использовались разреженные отраженные сигналы от данных с ограниченной полосой пропускания для отслеживания изменений между подповерхностными слоями. Когда в 1990-х годах модель LASSO получила известность как статистический метод выбора разреженных моделей, этот метод в дальнейшем использовался в вычислительном гармоническом анализе для разреженного представления сигналов из переполненных словарей. Некоторые из других приложений включают некогерентную выборку радиолокационных импульсов. Работа Boyd et al. применил модель LASSO - для выбора разреженных моделей - к аналого-цифровым преобразователям (текущие используют частоту дискретизации выше, чем частота Найквиста вместе с квантованным представлением Шеннона). Это будет включать параллельную архитектуру, в которой полярность аналогового сигнала изменяется с высокой скоростью с последующим оцифровыванием интеграла в конце каждого временного интервала для получения преобразованного цифрового сигнала.

Фотография

Сжатое зондирование используется в датчике камеры мобильного телефона. Такой подход позволяет снизить энергию получения изображения на одно изображение в 15 раз за счет сложных алгоритмов декомпрессии; вычисление может потребовать реализации вне устройства.

Сжатое зондирование используется в однопиксельных камерах Университета Райса . Bell Labs применила эту технику в однопиксельной камере без линз, которая делает кадры, используя повторяющиеся снимки случайно выбранных апертур из сетки. Качество изображения улучшается с увеличением количества снимков и, как правило, требует небольшой доли данных обычного изображения, устраняя при этом аберрации, связанные с объективом / фокусировкой.

Голография

Сжатое зондирование можно использовать для улучшения восстановления изображения в голографии за счет увеличения количества вокселей, которые можно вывести из одной голограммы. Он также используется для восстановления изображения из измерений с недостаточной дискретизацией в оптической голографии и голографии миллиметрового диапазона.

Распознавание лиц

Сжатое зондирование используется в приложениях для распознавания лиц.

Магнитно-резонансная томография

Сжатое зондирование использовалось для сокращения сеансов сканирования магнитно-резонансной томографии на обычном оборудовании. Методы реконструкции включают

  • ISTA
  • FISTA
  • SISTA
  • ЭПРЕСС
  • EWISTA
  • EWISTARS и др.

Сжатое зондирование решает проблему большого времени сканирования, обеспечивая более быстрое получение данных за счет измерения меньшего количества коэффициентов Фурье. Это дает высококачественное изображение с относительно меньшим временем сканирования. Другое приложение (также обсуждаемое ниже) - реконструкция компьютерной томографии с меньшим количеством рентгеновских проекций. В этом случае сжатое зондирование удаляет части с высоким пространственным градиентом - в основном, шум изображения и артефакты. Это имеет огромный потенциал, так как можно получить КТ-изображения с высоким разрешением при низких дозах облучения (с помощью более низких настроек тока-мА).

Сетевая томография

Сжатое зондирование показало выдающиеся результаты в применении сетевой томографии к управлению сетью . Оценка сетевой задержки и обнаружение сетевой перегрузки могут быть смоделированы как недоопределенные системы линейных уравнений, где матрица коэффициентов является матрицей сетевой маршрутизации. Более того, в Интернете матрицы сетевой маршрутизации обычно удовлетворяют критерию использования сжатого зондирования.

Коротковолновые инфракрасные камеры

В 2013 году одна компания анонсировала коротковолновые инфракрасные камеры, в которых используется сжатое зондирование. Эти камеры имеют светочувствительность от 0,9  мкм до 1,7 мкм, длины волн, невидимые человеческому глазу.

Астрономия с синтезом апертуры

В радиоастрономии и оптической астрономической интерферометрии полное покрытие плоскости Фурье обычно отсутствует, а информация о фазе не может быть получена в большинстве конфигураций оборудования. Для получения изображений с синтезом апертуры используются различные алгоритмы сжатого зондирования. Алгоритм Högbom ЧИСТОГО был в эксплуатации с 1974 года для реконструкции изображений , полученных из радиоинтерферометров, который похож на согласование преследования алгоритма , упомянутом выше.

Просвечивающая электронная микроскопия

Сжатое зондирование в сочетании с подвижной апертурой использовалось для увеличения скорости получения изображений в просвечивающем электронном микроскопе . В режиме сканирования компрессионное зондирование в сочетании со случайным сканированием электронного луча позволило как более быстрое получение, так и меньшую дозу электронов, что позволяет получать изображения материалов, чувствительных к электронному лучу.

Смотрите также

Примечания

использованная литература

дальнейшее чтение