Нейронное кодирование - Neural coding

Нейронное кодирование (или нейронное представление ) - это область нейробиологии, занимающаяся характеристикой гипотетической взаимосвязи между стимулом и индивидуальными или совокупными нейронными ответами, а также взаимосвязью между электрической активностью нейронов в ансамбле. Исходя из теории , что сенсорная и другая информация представлена в мозге с помощью сети нейронов , полагают , что нейроны могут кодировать как цифровую и аналоговую информацию.

Обзор

Нейроны выделяются среди клеток тела своей способностью быстро передавать сигналы на большие расстояния. Они делают это, генерируя характерные электрические импульсы, называемые потенциалами действия : скачки напряжения, которые могут перемещаться по аксонам. Сенсорные нейроны изменяют свою активность, активируя последовательности потенциалов действия в различных временных паттернах при наличии внешних сенсорных стимулов, таких как свет , звук , вкус , запах и прикосновение . Известно, что информация о стимуле закодирована в этой схеме потенциалов действия и передается в мозг и вокруг него, но это не единственный метод. Специализированные нейроны, такие как нейроны сетчатки, могут передавать больше информации с помощью градуированных потенциалов . Это отличается от потенциалов действия, потому что информация о силе стимула напрямую коррелирует с силой выходного сигнала нейронов. Сигнал затухает намного быстрее для градуированных потенциалов, что требует коротких межнейронных расстояний и высокой плотности нейронов. Преимущество градуированных потенциалов заключается в более высоких скоростях передачи информации, способных кодировать больше состояний (т. Е. Более высокой точности), чем нейроны с пиками.

Хотя потенциалы действия могут несколько различаться по продолжительности, амплитуде и форме, они обычно рассматриваются как идентичные стереотипные события в исследованиях нейронного кодирования. Если игнорировать короткую продолжительность потенциала действия (около 1 мс), последовательность потенциала действия или последовательность всплесков можно охарактеризовать просто серией точечных событий по принципу « все или ничего» во времени. Длина межспайковых интервалов ( ISI ) между двумя последовательными спайками в цепочке спайков часто варьируется, по-видимому, случайным образом. Изучение нейронного кодирования включает измерение и характеристику того, как атрибуты стимула, такие как интенсивность света или звука, или двигательные действия, такие как направление движения руки, представлены потенциалами действия или пиками нейронов. Для описания и анализа срабатывания нейронов широко применяются статистические методы и методы теории вероятностей и стохастических точечных процессов .

С развитием крупномасштабных технологий нейронной записи и декодирования исследователи начали взламывать нейронный код и уже предоставили первое представление о нейронном коде в реальном времени, когда память формируется и вызывается в гиппокампе, области мозга, известной как быть центральным в формировании памяти. Нейробиологи инициировали несколько масштабных проектов по декодированию мозга.

Кодирование и декодирование

Связь между стимулом и реакцией можно изучить с двух противоположных точек зрения. Нейронное кодирование относится к карте от стимула к ответу. Основное внимание уделяется пониманию того, как нейроны реагируют на широкий спектр стимулов, и построению моделей, которые пытаются предсказать ответы на другие стимулы. Нейронное декодирование относится к обратной карте, от реакции к стимулу, и задача состоит в том, чтобы восстановить стимул или определенные аспекты этого стимула из последовательностей спайков, которые он вызывает.

Предполагаемые схемы кодирования

Последовательность или «последовательность» пиков может содержать информацию, основанную на различных схемах кодирования. В моторных нейронах, например, сила, с которой сокращается иннервируемая мышца, зависит исключительно от «скорости возбуждения», среднего количества спайков в единицу времени («код скорости»). С другой стороны, сложный « временной код » основан на точном времени одиночных всплесков. Они могут быть привязаны к внешнему стимулу, например, в зрительной и слуховой системе, или генерироваться внутренне нейронными цепями.

Использование нейронами кодирования скорости или временного кодирования является предметом интенсивных дискуссий в сообществе нейробиологов, хотя нет четкого определения того, что означают эти термины.

Кодирование скорости

Модель кодирования скорости передачи нейронных импульсов гласит, что по мере увеличения интенсивности стимула увеличивается частота или скорость потенциалов действия , или «спайк- импульсов ». Кодирование скорости иногда называют частотным кодированием.

Скоростное кодирование - это традиционная схема кодирования, предполагающая, что большая часть, если не вся, информация о стимуле содержится в частоте срабатывания нейрона. Поскольку последовательность потенциалов действия, генерируемых данным стимулом, варьируется от испытания к испытанию, ответы нейронов обычно обрабатываются статистически или вероятностно. Их можно охарактеризовать скорее по скорости стрельбы, чем как по конкретным последовательностям спайков. В большинстве сенсорных систем частота возбуждения увеличивается, как правило, нелинейно с увеличением интенсивности стимула. В предположении кодирования скорости любая информация, возможно, закодированная во временной структуре последовательности пиков, игнорируется. Следовательно, кодирование скорости неэффективно, но очень устойчиво по отношению к " шуму " ISI .

Во время кодирования скорости очень важно точное вычисление скорости стрельбы. Фактически, термин «частота срабатывания» имеет несколько различных определений, которые относятся к различным процедурам усреднения, таким как среднее значение во времени (частота как количество спайков одного нейрона) или среднее значение за несколько повторений (частота PSTH) эксперимент.

При кодировании скорости обучение основано на зависимых от активности модификациях синаптического веса.

Кодирование скорости было первоначально продемонстрировано Эдрианом Эдрианом и Й. Зоттерманом в 1926 году. В этом простом эксперименте различные гири были подвешены к мышцам . По мере увеличения веса стимула количество импульсов, регистрируемых сенсорными нервами, иннервирующими мышцу, также увеличивалось. Из этих оригинальных экспериментов Адриан и Зоттерман пришли к выводу, что потенциалы действия были единичными событиями, и что частота событий, а не индивидуальная величина события, была основой для большинства межнейронных коммуникаций.

В последующие десятилетия измерение скорости возбуждения стало стандартным инструментом для описания свойств всех типов сенсорных или корковых нейронов, отчасти из-за относительной простоты измерения скорости экспериментальным путем. Однако этот подход игнорирует всю информацию, которая может содержаться в точном времени всплесков. В последние годы появляется все больше и больше экспериментальных данных, свидетельствующих о том, что простая концепция скорости стрельбы, основанная на временном усреднении, может быть слишком упрощенной для описания активности мозга.

Скорость подсчета пиков (средняя по времени)

Скорость подсчета всплесков, также называемая временным средним значением, получается путем подсчета количества всплесков, которые появляются во время испытания, и деления на продолжительность испытания. Длина временного окна T устанавливается экспериментатором и зависит от типа нейрона, регистрируемого от и к стимулу. На практике, чтобы получить разумные средние значения, во временном окне должно произойти несколько всплесков. Типичные значения: T = 100 мс или T = 500 мс, но продолжительность также может быть больше или меньше ( глава 1.5 в учебнике «Модели нейронов с импульсами»).

Скорость подсчета спайков может быть определена из одного испытания, но за счет потери всего временного разрешения в отношении вариаций нейронной реакции в ходе испытания. Временное усреднение может хорошо работать в тех случаях, когда стимул постоянен или медленно меняется и не требует быстрой реакции организма - и это ситуация, обычно встречающаяся в экспериментальных протоколах. Однако реальный ввод вряд ли является стационарным, но часто меняется в быстрой временной шкале. Например, даже при просмотре статического изображения люди совершают саккады , быстрые изменения направления взгляда. Изображение, проецируемое на фоторецепторы сетчатки, изменяется, следовательно, каждые несколько сотен миллисекунд ( глава 1.5 in)

Несмотря на свои недостатки, концепция кода скорости счета всплесков широко используется не только в экспериментах, но и в моделях нейронных сетей . Это привело к идее, что нейрон преобразует информацию об одной входной переменной (силе стимула) в одну непрерывную выходную переменную (скорость срабатывания).

Появляется все больше свидетельств того, что , по крайней мере, в нейронах Пуркинье информация закодирована не только в возбуждении, но также во времени и продолжительности неактивных периодов покоя. Клетки сетчатки также свидетельствуют о том, что информация закодирована не только в скорости возбуждения, но и во времени спайков. В более общем смысле, всякий раз, когда требуется быстрый ответ организма, скорость стрельбы, определяемая как количество всплесков за несколько сотен миллисекунд, просто слишком мала.

Зависящая от времени скорость стрельбы (усреднение по нескольким испытаниям)

Зависящая от времени скорость стрельбы определяется как среднее количество всплесков (усредненное по испытаниям), возникающих в течение короткого интервала между временами t и t + Δt, деленное на продолжительность интервала. Он работает как для стационарных, так и для зависящих от времени стимулов. Чтобы экспериментально измерить зависящую от времени частоту возбуждения, экспериментатор записывает данные от нейрона при стимуляции некоторой входной последовательностью. Одна и та же последовательность стимуляции повторяется несколько раз, и ответ нейронов отражается в гистограмме перистимульного времени (PSTH). Время t измеряется относительно начала последовательности стимуляции. Δt должно быть достаточно большим (обычно в диапазоне от одной до нескольких миллисекунд), чтобы в интервале было достаточное количество всплесков для получения надежной оценки среднего значения. Количество появлений спайков n K (t; t + Δt), суммированное по всем повторениям эксперимента, деленное на число K повторений, является мерой типичной активности нейрона между временем t и t + Δt. Дальнейшее деление на длину интервала Δt дает зависящую от времени скорость срабатывания r (t) нейрона, что эквивалентно плотности спайков PSTH ( глава 1.5 in).

Для достаточно малых Δt, r (t) Δt - это среднее количество всплесков, возникающих между моментами времени t и t + Δt за несколько испытаний. Если Δt мало, никогда не будет более одного всплеска в интервале между t и t + Δt в любом данном испытании. Это означает, что r (t) Δt также является долей испытаний, в которых между этими временами произошел всплеск. Эквивалентно, r (t) Δt - это вероятность того, что всплеск произойдет в течение этого временного интервала.

В качестве экспериментальной процедуры измерение скорости возбуждения, зависящей от времени, является полезным методом оценки нейрональной активности, в частности, в случае зависящих от времени стимулов. Очевидная проблема этого подхода заключается в том, что это не может быть схема кодирования, используемая нейронами в головном мозге. Нейроны не могут дождаться, пока стимулы будут повторно представлены точно таким же образом, прежде чем сгенерировать ответ.

Тем не менее экспериментальная мера скорости возбуждения, зависящая от времени, может иметь смысл, если есть большие популяции независимых нейронов, которые получают один и тот же стимул. Вместо записи из популяции N нейронов за один проход экспериментально легче записать из одного нейрона и усреднить N повторных прогонов. Таким образом, зависящее от времени кодирование скорости возбуждения основывается на неявном предположении, что всегда есть популяции нейронов.

Временное кодирование

Когда обнаруживается, что точная синхронизация всплеска или высокочастотные колебания частоты срабатывания несут информацию, нейронный код часто идентифицируется как временной код. Ряд исследований показал, что временное разрешение нейронного кода находится в миллисекундной шкале времени, что указывает на то, что точная синхронизация всплесков является важным элементом нейронного кодирования. Такие коды, которые сообщаются через время между всплесками, также называются кодами межимпульсного интервала и были подтверждены недавними исследованиями.

Нейроны демонстрируют высокочастотные колебания скорости возбуждения, которые могут быть шумом или могут нести информацию. Модели скоростного кодирования предполагают, что эти нарушения являются шумом, тогда как модели временного кодирования предполагают, что они кодируют информацию. Если бы нервная система использовала только коды скорости для передачи информации, более последовательная, регулярная скорость активации была бы эволюционно выгодной, и нейроны использовали бы этот код по сравнению с другими менее надежными вариантами. Временное кодирование дает альтернативное объяснение «шума», предполагая, что оно на самом деле кодирует информацию и влияет на нейронную обработку. Чтобы смоделировать эту идею, можно использовать двоичные символы для маркировки всплесков: 1 для всплеска, 0 для отсутствия всплеска. Временное кодирование позволяет последовательности 000111000111 означать что-то отличное от 001100110011, даже если средняя частота срабатывания одинакова для обеих последовательностей - 6 пиков / 10 мс. До недавнего времени ученые уделяли наибольшее внимание кодированию скорости как объяснению постсинаптического потенциальные закономерности. Однако функции мозга более точны во времени, чем, кажется, позволяет использование только кодирования скорости. Другими словами, важная информация может быть потеряна из-за неспособности кода скорости улавливать всю доступную информацию о спайке. Кроме того, ответы на похожие (но не идентичные) стимулы достаточно различаются, чтобы можно было предположить, что отдельные модели спайков содержат больший объем информации, чем возможно. ble для включения в код скорости.

Временные коды (также называемые кодами пиков ) используют те особенности пикового действия, которые не могут быть описаны с помощью частоты срабатывания. Например, время до первого всплеска после появления стимула, фаза возбуждения относительно фоновых колебаний, характеристики, основанные на втором и более высоких статистических моментах распределения вероятности ISI , случайность всплеска или точно рассчитанные по времени группы всплесков. ( временные шаблоны ) являются кандидатами на временные коды. Поскольку в нервной системе нет абсолютного отсчета времени, информация передается либо в терминах относительного времени всплесков в популяции нейронов (временные паттерны), либо в отношении продолжающихся колебаний мозга . (фаза активации) Один из способов декодирования временных кодов при наличии нейронных колебаний состоит в том, что спайки, возникающие в определенных фазах колебательного цикла, более эффективны в деполяризации постсинаптического нейрона .

Временная структура последовательности спайков или частота стрельбы, вызванная стимулом, определяется как динамикой стимула, так и природой процесса нейронного кодирования. Стимулы, которые быстро меняются, имеют тенденцию генерировать точно рассчитанные по времени всплески (и быстро изменяющуюся частоту возбуждения в PSTH) независимо от того, какая стратегия нейронного кодирования используется. Временное кодирование в узком смысле означает точность во времени в ответе, которая возникает не только из-за динамики стимула, но, тем не менее, связана со свойствами стимула. Взаимодействие между стимулом и динамикой кодирования затрудняет идентификацию временного кода.

При временном кодировании обучение можно объяснить зависимыми от активности модификациями синаптической задержки. Сами модификации могут зависеть не только от частоты всплесков (кодирование скорости), но также и от шаблонов синхронизации всплесков (временное кодирование), то есть могут быть частным случаем пластичности, зависящей от времени всплеска .

Проблема временного кодирования отличается и не зависит от проблемы кодирования с независимыми импульсами. Если каждый всплеск не зависит от всех других всплесков в шлейфе, временной характер нейронного кода определяется поведением зависящей от времени скорости срабатывания r (t). Если r (t) медленно изменяется во времени, код обычно называют кодом скорости, а если он изменяется быстро, код называют временным.

Временное кодирование в сенсорных системах

Для очень коротких стимулов максимальная скорость возбуждения нейрона может быть недостаточно высокой, чтобы произвести более одного импульса. Из-за плотности информации об сокращенном стимуле, содержащемся в этом единственном спайке, может показаться, что время самого спайка должно передавать больше информации, чем просто средняя частота потенциалов действия за данный период времени. Эта модель особенно важна для локализации звука , который происходит в мозгу с точностью до миллисекунд. Мозг должен получать большое количество информации на основе относительно короткого нейронного ответа. Кроме того, если нужно отличать низкую частоту импульсов порядка десяти импульсов в секунду от произвольно близкой скорости кодирования для разных стимулов, то нейрону, пытающемуся различить эти два стимула, может потребоваться подождать секунду или более, чтобы накопить достаточно информации. Это не согласуется с многочисленными организмами, которые способны различать стимулы во временном интервале миллисекунд, предполагая, что код скорости - не единственная действующая модель.

Чтобы учесть быстрое кодирование визуальных стимулов, было высказано предположение, что нейроны сетчатки кодируют визуальную информацию во время задержки между началом стимула и первым потенциалом действия, также называемое задержкой до первого всплеска или временем до первого всплеска. Этот тип временного кодирования был показан также в слуховой и сомато-сенсорной системе. Основным недостатком такой схемы кодирования является ее чувствительность к внутренним нейрональным колебаниям. Было обнаружено, что в первичной зрительной коре макак время первого спайка относительно начала стимула дает больше информации, чем интервал между спайками. Однако интервал между всплесками можно использовать для кодирования дополнительной информации, что особенно важно, когда частота всплесков достигает своего предела, как в ситуациях с высокой контрастностью. По этой причине временное кодирование может играть роль в кодировании определенных краев, а не постепенных переходов.

Система вкуса млекопитающих полезна для изучения временного кодирования из-за ее довольно различных стимулов и легко различимых реакций организма. Информация, закодированная во времени, может помочь организму различать разные вкусовые вещества одной и той же категории (сладкий, горький, кислый, соленый, умами), которые вызывают очень похожие ответы с точки зрения количества шипов. Временной компонент структуры, вызываемой каждым вкусом, может использоваться для определения его идентичности (например, разница между двумя веществами, имеющими горький вкус, такими как хинин и денатоний). Таким образом, во вкусовой системе может использоваться как кодирование скорости, так и временное кодирование - скорость для основного типа вкуса, временная для более конкретной дифференциации. Исследования вкусовой системы млекопитающих показали, что существует множество информации, представленной во временных паттернах в популяциях нейронов, и эта информация отличается от той, которая определяется схемами скоростного кодирования. Группы нейронов могут синхронизироваться в ответ на стимул. В исследованиях, посвященных передней кортикальной части мозга у приматов, в небольших популяциях нейронов были обнаружены точные закономерности с короткими временными масштабами длиной всего в несколько миллисекунд, которые коррелировали с определенным поведением при обработке информации. Однако по шаблонам можно было получить мало информации; одна из возможных теорий заключается в том, что они представляют собой процессинг более высокого порядка, происходящий в мозгу.

Как и в зрительной системе, в митрального / тафтинговые клетки в обонятельной луковице мышей, первый пик задержки по сравнению с началом нюхают действия , казалось, закодировать много информации о запаха. Эта стратегия использования задержки пика позволяет быстро идентифицировать одорант и реагировать на него. Кроме того, некоторые митральные / тафтинговые клетки имеют специфические паттерны возбуждения для данных пахучих веществ. Этот тип дополнительной информации может помочь в распознавании определенного запаха, но не является полностью необходимым, поскольку среднее количество всплесков в ходе обнюхивания животного также было хорошим идентификатором. В том же духе эксперименты, проведенные с обонятельной системой кроликов, показали различные паттерны, которые коррелировали с различными подгруппами запахов, и аналогичный результат был получен в экспериментах с обонятельной системой саранчи.

Приложения временного кодирования

Специфика временного кодирования требует высокоразвитой технологии для измерения информативных, надежных, экспериментальных данных. Достижения в оптогенетике позволяют неврологам контролировать спайки в отдельных нейронах, предлагая электрическое и пространственное разрешение отдельных клеток. Например, синий свет заставляет светозащитный канал ионного канала родопсина открываться, деполяризуя клетку и создавая спайк. Когда клетка не воспринимает синий свет, канал закрывается, и нейрон перестает пульсировать. Рисунок шипов соответствует рисунку раздражителей синего света. Вставляя последовательности гена канального родопсина в ДНК мыши, исследователи могут контролировать спайки и, следовательно, определенные виды поведения мыши (например, заставлять мышь повернуть налево). С помощью оптогенетики у исследователей есть инструменты для воздействия на разные временные коды в нейроне, сохраняя при этом ту же среднюю частоту активации, и, таким образом, они могут проверить, происходит ли временное кодирование в определенных нейронных цепях.

Оптогенетическая технология также может позволить исправить спайковые аномалии, лежащие в основе нескольких неврологических и психологических расстройств. Если нейроны кодируют информацию в индивидуальных временных схемах всплесков, ключевые сигналы могут быть пропущены при попытке взломать код, глядя только на среднюю частоту срабатывания. Понимание любых закодированных во времени аспектов нейронного кода и репликация этих последовательностей в нейронах может позволить лучше контролировать и лечить неврологические расстройства, такие как депрессия , шизофрения и болезнь Паркинсона . Регулирование интервалов спайков в отдельных клетках более точно контролирует активность мозга, чем добавление фармакологических агентов внутривенно.

Код фазы зажигания

Код фазы запуска - это схема нейронного кодирования, которая объединяет код подсчета всплесков с привязкой по времени, основанной на колебаниях . Этот тип кода учитывает временную метку для каждого всплеска в соответствии с привязкой ко времени, основанной на фазе локальных текущих колебаний на низких или высоких частотах.

Было показано, что нейроны в некоторых сенсорных областях коры кодируют богатые натуралистические стимулы с точки зрения времени их спайков относительно фазы текущих колебательных колебаний сети, а не только с точки зрения количества их спайков. В поле потенциальных местные сигналы отражают население (сеть) колебания. Код фазы запуска часто классифицируется как временной код, хотя метка времени, используемая для всплесков (то есть фаза колебаний сети), является эталоном времени с низким разрешением (крупнозернистым). В результате часто только четырех дискретных значений фазы достаточно, чтобы представить всю информацию, содержащуюся в этом виде кода, относительно фазы колебаний на низких частотах. Код фазы возбуждения слабо основан на феномене фазовой прецессии, наблюдаемом в клетках места гиппокампа . Другой особенностью этого кода является то, что нейроны придерживаются предпочтительного порядка всплесков между группой сенсорных нейронов, что приводит к последовательности активации.

Было показано, что фазовый код в зрительной коре включает также высокочастотные колебания . В цикле гамма-колебаний каждый нейрон имеет собственное предпочтительное относительное время срабатывания. В результате вся популяция нейронов генерирует последовательность активации, которая имеет продолжительность примерно до 15 мс.

Кодирование населения

Кодирование населения - это метод представления стимулов с использованием совместной активности нескольких нейронов. При кодировании популяции каждый нейрон имеет распределение ответов по некоторому набору входов, и ответы многих нейронов могут быть объединены, чтобы определить некоторую ценность входных данных. С теоретической точки зрения популяционное кодирование - одна из немногих математически хорошо сформулированных проблем нейробиологии. Он охватывает основные черты нейронного кодирования и в то же время достаточно прост для теоретического анализа. Экспериментальные исследования показали, что эта парадигма кодирования широко используется в сенсорной и моторной областях мозга.

Например, в медиально-височной (МТ) визуальной области нейроны настроены на направление движения. В ответ на движение объекта в определенном направлении многие нейроны в МТ возбуждаются искаженным шумом и колоколообразным паттерном активности в популяции. Направление движения объекта извлекается из активности популяции, чтобы быть невосприимчивым к колебаниям, существующим в сигнале одиночного нейрона. Когда обезьяны обучаются перемещать джойстик к освещенной цели, один нейрон будет стрелять в нескольких направлениях. Однако он срабатывает быстрее всего в одном направлении и медленнее, в зависимости от того, насколько близко находилась цель к «предпочтительному» направлению нейрона. Если каждый нейрон представляет движение в своем предпочтительном направлении и вычисляется векторная сумма всех нейронов (каждый нейрон имеет частоту срабатывания и предпочтительное направление), сумма указывает направление движения. Таким образом, совокупность нейронов кодирует сигнал движения. Этот конкретный популяционный код называется кодированием популяционного вектора .

Коды популяции места-времени, называемые кодом усредненной локализованной синхронизированной реакции (ALSR), были получены для нейронного представления слуховых акустических стимулов. При этом используется как место в слуховом нерве, так и его настройка, а также фазовая синхронизация в каждом слуховом нерве нервных волокон. Первое представление ALSR было для устойчивых гласных; Представления ALSR частот высоты тона и формант в сложных, нестабильных стимулах позже были продемонстрированы для представлений звонкой высоты тона и формант в слогах согласных и гласных. Преимущество таких представлений состоит в том, что глобальные характеристики, такие как профили перехода высоты тона или формант, могут быть представлены как глобальные характеристики по всему нерву одновременно с помощью как скорости, так и кодирования места.

Популяционное кодирование также имеет ряд других преимуществ, в том числе снижение неопределенности из-за изменчивости нейронов и возможность одновременного представления нескольких различных атрибутов стимула. Кодирование совокупности также намного быстрее, чем кодирование скорости, и может почти мгновенно отражать изменения в условиях стимула. Отдельные нейроны в такой популяции обычно имеют разную, но частично совпадающую избирательность, так что многие нейроны, но не обязательно все, реагируют на данный стимул.

Обычно функция кодирования имеет пиковое значение, так что активность нейрона максимальна, если воспринимаемое значение близко к пиковому значению, и соответственно уменьшается для значений, менее близких к пиковому значению. Отсюда следует, что реальная воспринимаемая ценность может быть восстановлена ​​на основе общей картины активности в наборе нейронов. Векторное кодирование - это пример простого усреднения. Более сложным математическим методом для выполнения такой реконструкции является метод максимального правдоподобия, основанный на многомерном распределении нейронных ответов. Эти модели могут предполагать независимость, корреляции второго порядка или даже более подробные зависимости, такие как модели максимальной энтропии более высокого порядка или копулы .

Корреляционное кодирование

Модель кодирования корреляции нейронального возбуждения утверждает, что корреляции между потенциалами действия или «спайками» в цепочке спайков могут нести дополнительную информацию помимо простого определения времени спайков. Ранние исследования предполагали, что корреляция между последовательностями спайков может только уменьшать, но никогда не увеличивать общую взаимную информацию, имеющуюся в двух последовательностях спайков, об особенностях стимула. Однако позже было показано, что это неверно. Корреляционная структура может увеличить информационное наполнение, если корреляции шума и сигнала имеют противоположный знак. Корреляции также могут нести информацию, отсутствующую в средней частоте срабатывания двух пар нейронов. Хороший пример этого существует в слуховой коре мартышек, анестезированной пентобарбиталом, в которой чистый тон вызывает увеличение количества коррелированных спайков, но не увеличивает среднюю частоту возбуждения пар нейронов.

Независимое кодирование спайков

Модель кодирования независимых спайков нейронального возбуждения утверждает, что каждый индивидуальный потенциал действия , или «спайк», не зависит от спайков друг друга в шлейфе спайков .

Кодирование позиции

График типового позиционного кодирования

Типичный популяционный код включает нейроны с гауссовой кривой настройки, средние значения которой линейно зависят от интенсивности стимула, что означает, что нейрон наиболее сильно (с точки зрения импульсов в секунду) реагирует на стимул, близкий к среднему. Фактическая интенсивность может быть восстановлена ​​как уровень стимула, соответствующий среднему значению нейрона с наибольшей реакцией. Однако шум, присущий нейронным откликам, означает, что функция оценки максимального правдоподобия более точна.

Нейронные ответы шумные и ненадежные.

Этот тип кода используется для кодирования непрерывных переменных, таких как положение суставов, положение глаз, цвет или частота звука. Любой отдельный нейрон слишком шумный, чтобы достоверно кодировать переменную с помощью кодирования скорости, но вся совокупность обеспечивает большую точность и точность. Для совокупности унимодальных кривых настройки, то есть с одним пиком, точность обычно линейно масштабируется с количеством нейронов. Следовательно, для половинной точности требуется вдвое меньше нейронов. Напротив, когда кривые настройки имеют несколько пиков, как в ячейках сетки, которые представляют пространство, точность популяции может экспоненциально масштабироваться с количеством нейронов. Это значительно уменьшает количество нейронов, необходимых для той же точности.

Разреженное кодирование

Разреженный код - это когда каждый элемент кодируется сильной активацией относительно небольшого набора нейронов. Для каждого элемента, который должен быть закодирован, это отдельное подмножество всех доступных нейронов. В отличие от кодирования с разреженными датчиками, кодирование с плотностью датчиков подразумевает, что известна вся информация из возможных местоположений датчиков.

Как следствие, разреженность может быть сосредоточена на разреженности во времени («относительно небольшое количество периодов времени активно») или на разреженности в активированной популяции нейронов. В последнем случае это может быть определено за один период времени как количество активированных нейронов по отношению к общему количеству нейронов в популяции. Это, кажется, отличительная черта нейронных вычислений, поскольку по сравнению с традиционными компьютерами информация широко распределяется по нейронам. Разреженное кодирование естественных изображений создает фильтры, ориентированные на вейвлет, которые напоминают рецептивные поля простых клеток зрительной коры. Емкость разреженных кодов может быть увеличена путем одновременного использования временного кодирования, как это обнаруживается в обонятельной системе саранчи.

Учитывая потенциально большой набор входных шаблонов, алгоритмы разреженного кодирования (например, разреженный автоэнкодер ) пытаются автоматически найти небольшое количество репрезентативных шаблонов, которые при объединении в правильных пропорциях воспроизводят исходные входные шаблоны. Затем разреженное кодирование входных данных состоит из этих репрезентативных шаблонов. Например, очень большой набор английских предложений может быть закодирован небольшим количеством символов (т.е. букв, цифр, знаков препинания и пробелов), объединенных в определенном порядке для конкретного предложения, и поэтому разреженное кодирование для английского языка будет таким: символы.

Линейная генеративная модель

Большинство моделей разреженного кодирования основаны на линейной генеративной модели. В этой модели символы комбинируются линейным образом для аппроксимации входных данных.

Более формально, учитывая k-мерный набор входных векторов с действительными номерами , цель разреженного кодирования состоит в том, чтобы определить n k-мерных базисных векторов вместе с разреженным n-мерным вектором весов или коэффициентов для каждого входного вектора, так что линейная комбинация базисных векторов с заданными пропорциями результатами коэффициентов в близком приближении к входному вектору: .

Кодировки, генерируемые алгоритмами, реализующими линейную генеративную модель, можно разделить на кодирования с мягкой разреженностью и с жесткой разреженностью . Они относятся к распределению коэффициентов базисного вектора для типичных входных данных. Кодирование с мягкой разреженностью имеет гладкое гауссово- подобное распределение, но более пиковое, чем гауссово, с множеством нулевых значений, некоторыми небольшими абсолютными значениями, меньшим количеством больших абсолютных значений и очень немногими очень большими абсолютными значениями. Таким образом, многие из базисных векторов активны. С другой стороны, жесткая разреженность указывает на то, что существует много нулевых значений, нет или почти нет маленьких абсолютных значений, меньше больших абсолютных значений и очень мало очень больших абсолютных значений, и, таким образом, несколько базисных векторов являются активными. Это привлекательно с точки зрения метаболизма: меньше энергии используется, когда задействовано меньше нейронов.

Другой критерий кодирования - критически полное или избыточное кодирование . Если количество базисных векторов n равно размерности k входного набора, кодирование называется критически полным. В этом случае плавные изменения входного вектора приводят к резким изменениям коэффициентов, и кодирование не может корректно обрабатывать небольшие масштабирования, небольшие преобразования или шум на входах. Если, однако, количество базисных векторов больше, чем размерность входного набора, кодирование является избыточным . Избыточное кодирование плавно интерполируется между входными векторами и устойчиво к входному шуму. Первичная зрительная кора человека, по оценкам, переполнена в 500 раз, так что, например, участок ввода 14 x 14 (196-мерное пространство) кодируется примерно 100 000 нейронов.

Другие модели основаны на поиске совпадений , алгоритме разреженной аппроксимации , который находит "наилучшие совпадающие" проекции многомерных данных, и изучении словаря , методе обучения представлению, который направлен на поиск разреженного матричного представления входных данных в форме линейного сочетание основных элементов, а также самих этих основных элементов.

Биологические доказательства

Разреженное кодирование может быть общей стратегией нейронных систем для увеличения объема памяти. Чтобы адаптироваться к окружающей среде, животные должны узнать, какие стимулы связаны с вознаграждением или наказанием, и отличать эти усиленные стимулы от аналогичных, но не относящихся к делу. Такие задачи требуют реализации ассоциативных воспоминаний, специфичных для стимулов, в которых только несколько нейронов из популяции реагируют на любой заданный стимул, а каждый нейрон реагирует только на несколько стимулов из всех возможных стимулов.

Теоретическая работа над разреженной распределенной памятью предполагает, что разреженное кодирование увеличивает емкость ассоциативной памяти за счет уменьшения перекрытия между представлениями. Экспериментально разреженное представление сенсорной информации наблюдается во многих системах, включая зрение, слух, осязание и обоняние. Однако, несмотря на накопление доказательств широко распространенного разреженного кодирования и теоретических аргументов в пользу его важности, было трудно получить демонстрацию того, что разреженное кодирование улучшает специфичность ассоциативной памяти к стимулам.

В Drosophila обонятельной системы , редкий запах кодирования с помощью клеток Kenyon в организме гриба , как полагают, генерировать большое число точно адресуемых ячеек для хранения запаха конкретных воспоминаний. Разреженность контролируется цепью отрицательной обратной связи между клетками Кеньона и ГАМКергическими передними парными латеральными (APL) нейронами. Систематическая активация и блокада каждой ветви этой цепи обратной связи показывает, что клетки Kenyon активируют нейроны APL, а нейроны APL ингибируют клетки Kenyon. Нарушение обратной связи между клетками Кеньона и APL снижает разреженность запаховых реакций клеток Кеньона, увеличивает корреляцию между запахами и не дает мухам научиться различать похожие, но не несходные запахи. Эти результаты предполагают, что ингибирование обратной связи подавляет активность клеток Кеньона для поддержания разреженного, декоррелированного кодирования запаха и, следовательно, специфичности запаха воспоминаний.

Смотрите также

использованная литература

дальнейшее чтение