Микросхема не. Микросхемы малой степени интеграции: типы, характеристики и применение

• Убедитесь, что это подходит введя номер вашей модели.
• Аксессуар светодиодной микросхемы для клеммной колодки держателя предохранителя 5 x 20 мм HF310GR
• Указывает на перегорание предохранителя
• Имеет 2 контактных ножки, 1 неполяризованную светодиодную микросхему и прозрачную крышку.
• Для использования в цепях переменного и постоянного тока

Характеристики этого продукта

Статистический анализ свойств обработки информации пластинчатых моделей кортикальных микросхем | Кора головного мозга

Абстрактные

Основной задачей вычислительной нейробиологии является понимание вычислительной функции пластин-специфических паттернов синаптических соединений в стереотипных кортикальных микросхемах.Предыдущая работа над этой проблемой была сосредоточена на гипотезах о конкретных вычислительных ролях отдельных слоев и связях между уровнями, и эти гипотезы были проверены путем моделирования абстрактных моделей нейронных сетей. Вместо этого мы подходим к этой проблеме, изучая динамическую систему, определяемую более реалистичными моделями кортикальных микросхем в целом, и исследуя влияние, которое ее ламинарная структура оказывает на передачу и слияние информации в этой динамической системе. Модели цепей, которые мы изучаем, состоят из нейронов Ходжкина-Хаксли с динамическими синапсами, что основано на подробных данных Томсона и др. (2002), Маркрама и др. (1998) и Гупты и др. (2000).Мы исследуем, в какой степени этот шаблон кортикальной микросхемы поддерживает накопление и слияние информации, содержащейся в общих импульсных входах, в слой 4 и слои 2/3 и насколько хорошо он делает эту информацию доступной для проекционных нейронов в слоях 2/3 и 5. продемонстрировать определенные вычислительные преимущества такой модели кортикальной микросхемы на основе данных, специфичной для пластинки, путем сравнения ее производительности с различными типами управляющих моделей, которые имеют те же компоненты и одинаковую глобальную статистику нейронов и синаптических связей, но не имеют характерной для пластинки структуры реальных корковые микросхемы.Мы пришли к выводу, что компьютерное моделирование детальных пластинчатых моделей кортикальных микросхем обеспечивает новое понимание вычислительных последствий анатомических и физиологических данных.

Введение

Неокортекс состоит из нейронов в различных пластинках, которые образуют четко структурированные микросхемы. Несмотря на многочисленные различия в зависимости от возраста, области коры и вида, многие свойства этих микросхем стереотипны, что позволяет предположить, что неокортикальные микросхемы являются вариациями общего шаблона микросхем (White 1989; Douglas and others 1995; Mountcastle 1998; Nelson 2002; Silberberg и другие 2002; Дуглас и Мартин 2004; Калисман и другие 2005).Можно предположить, что такой шаблон микросхемы отличается определенными функциональными свойствами, которые позволяют ему более эффективно обслуживать огромные вычислительные и когнитивные возможности мозга, чем, например, случайно подключенная схема с тем же количеством нейронов и синапсов. . Потенциальная вычислительная функция ламинарной структуры схемы уже рассматривалась в многочисленных статьях (см., Например, Raizada and Grossberg 2003; Treves 2003; Douglas and Martin 2004; и ссылки в этих недавних публикациях).Treves (2003) и Raizada и Grossberg (2003) исследовали конкретные гипотезы относительно вычислительной роли структуры, специфичной для пластин, и подтвердили эти гипотезы с помощью компьютерного моделирования довольно абстрактных моделей нейронных цепей.

Результаты Treves (2003) показывают, что в этой более абстрактной настройке структура ламинарной схемы дает небольшое преимущество в отношении разделения двух типов информации: в каком горизонтальном положении был введен вход схемы (информация «где») и о конкретном шаблоне, который был введен туда («какая» информация).Мы дополняем этот анализ более внимательным изучением временной динамики информации в одном горизонтальном местоположении, точнее в одном столбце диаметром около 100 мкм. Мы обнаружили, что с этой точки зрения вычислительное преимущество ламинарных схем значительно больше: около 30% (в зависимости от конкретного типа задачи обработки информации), а не только 10%, как это наблюдалось в Treves (2003).

Стереотипная кортикальная микросхема — это очень повторяющаяся цепь, которая включает в себя множество наложенных друг на друга петель положительной и отрицательной обратной связи (Дуглас и Мартин 2004).Большинство методов, которые были разработаны в технических науках для проектирования и анализа таких рекуррентных схем, сосредоточены на системном поведении рекуррентной схемы в целом, поскольку оказалось невозможным понять возникающую динамику нелинейных рекуррентных схем только на основе на основе технических характеристик их компонентов. Эта системная точка зрения на стереотипные корковые микросхемы впервые была подчеркнута Дугласом и другими (1995) и привела к их определению абстрактной модели «канонической микросхемы».Дуглас и другие (1995) продемонстрировали, что подход этой системы обеспечивает новый способ понимания роли торможения в корковых микросхемах, в частности того, каким образом относительно небольшие изменения тормозной обратной связи могут вызывать большие изменения в усилении система. Однако временная динамика нейрональной и синаптической активности не принималась во внимание в этих ранних моделях. Также в то время было доступно гораздо меньше данных о стереотипных паттернах связи.Кроме того, ранее не предпринималось попыток проанализировать с помощью строгих статистических методов возникающие возможности обработки информации полученных в результате подробных моделей микросхем. Цель данной статьи — восполнить этот пробел.

Мы исследуем возможности обработки информации подробными моделями микросхем на основе данных Томсона и др. (2002) о вероятностях связей, специфичных для пластин, и силе связи между возбуждающими и тормозящими нейронами в слоях 2/3, 4, 5 и на данных. от Markram и др. (1998) и Gupta и др. (2000) относительно стереотипных динамических свойств (таких как парное подавление пульса и парное облегчение пульса) синаптических связей между возбуждающими и тормозящими кортикальными нейронами.Наш анализ основан на предположении, что стереотипные корковые микросхемы обладают некоторыми «универсальными» вычислительными возможностями и могут выполнять совершенно разные вычисления в различных областях коры. Следовательно, он концентрируется на общей способности обработки информации удерживать и объединять информацию, содержащуюся во входных цепочках импульсов Пуассона из 2 разных источников (моделирование таламического или коркового прямого ввода в слой 4 и латерального или нисходящего ввода в слои 2/3). . Кроме того, мы исследовали способность таких схемных моделей выполнять линейные и нелинейные вычисления для изменяющихся во времени скоростей срабатывания этих двух афферентных входных потоков.Чтобы избежать — обязательно весьма предвзятых — предположений о нейронном кодировании результатов таких вычислений, мы проанализировали информацию, которая доступна о результатах таких вычислений для обычных «нейронных пользователей», то есть пирамидных нейронов в слои 2/3 (которые обычно проецируются в верхние области коры) и пирамидные нейроны в слое 5 (которые обычно не только проецируются в нижние области коры или подкорковые структуры, но также проецируются, например, из V1 обратно в неспецифический таламус, т.е.е., к интраламинарным и срединным ядрам, которые не получают прямого первичного сенсорного ввода, и через это реле к более высоким кортикальным областям, см. Callaway 2004).

В отличие от модели Маасса и других (2002) (обсуждение см. В Destexhe and Marder 2004), мы не использовали простую линейную регрессию для оценки информации, доступной для таких считывающих нейронов, выход которых моделируется взвешенным сумма постсинаптических потенциалов (PSP) (с постоянной времени экспоненциального затухания 15 мс) в ответ на спайки от пресинаптических нейронов.Скорее, мы добавили сюда ограничение, согласно которому вклад возбуждающего (тормозящего) пресинаптического нейрона должен иметь положительный (отрицательный) вес в такой взвешенной сумме. Кроме того, мы приняли во внимание, что считывающий нейрон в слоях 2/3 или 5 получает синаптические входы только от довольно небольшого подмножества нейронов в микросхеме согласно данным Thomson и др. (2002) (что подразумевает, что в цепь из 560 нейронов, нейрон в слоях 2/3 имеет в среднем 84 пресинаптических нейрона, а нейрон в слое 5 имеет в среднем 109 пресинаптических нейронов, см. рис.1). Но, как и в более ранней модели, мы не изменили параметры синапсов в схеме для конкретных вычислительных задач, только веса синаптических связей с такими символьными считывающими нейронами на уровнях 2/3 и 5 (которые не были смоделированы как часть схему в том смысле, что они не проецировались обратно в схему). (Это упрощение было сделано в этой статье из прагматических соображений, поскольку первые результаты по случаю с обратной связью [Maass and others 2005] предполагают, что это требует отдельного анализа).

Рисунок 1

Шаблон кортикальной микросхемы. Цифры у стрелок обозначают силу соединения (средняя амплитуда PSP, измеренная в соме в мВ) и вероятности соединения (в скобках) согласно Thomson и др. (2002) для соединений между корковыми нейронами в 3 разных слоях, каждый из которых состоит из возбуждающего (E ) и ингибирующая (I) популяция с предполагаемым максимальным горизонтальным расстоянием до 100 мкм. Большинство данных взяты из коры головного мозга крысы, за исключением взаимосвязей в слое 4 (курсив), которые взяты из cat.(Соединения от L2 / 3-I до L5-E описаны в Thomson and others [2002], но обсуждаются только качественно. Следовательно, запись для соединений от L2 / 3-I до L5-E [отмечена знаком вопроса ] является лишь экстраполяцией. То же самое относится и к соединениям от L4-I к L2 / 3-I. Никаких данных об амплитудах тормозных PSP от L5-I к L5-I в Thomson и др. [2002] не приводится, следовательно, соответствующая запись — это всего лишь предположение.) Проценты во входных потоках обозначают вероятности соединения для входных нейронов, используемых в нашем моделировании.Кроме того, каждый нейрон получает фоновый шум, отражающий синаптические входы от большого количества более удаленных нейронов (см. Методы).

Рисунок 1

Шаблон кортикальной микросхемы. Цифры у стрелок обозначают силу соединения (средняя амплитуда PSP, измеренная в соме в мВ) и вероятности соединения (в скобках) согласно Thomson и др. (2002) для соединений между корковыми нейронами в 3 разных слоях, каждый из которых состоит из возбуждающего (E ) и ингибирующая (I) популяция с предполагаемым максимальным горизонтальным расстоянием до 100 мкм.Большинство данных взяты из коры головного мозга крысы, за исключением взаимосвязей в слое 4 (курсив), которые взяты из cat. (Соединения от L2 / 3-I до L5-E описаны в Thomson and others [2002], но обсуждаются только качественно. Следовательно, запись для соединений от L2 / 3-I до L5-E [отмечена знаком вопроса ] является лишь экстраполяцией. То же самое относится и к соединениям от L4-I к L2 / 3-I. Никаких данных об амплитудах тормозных PSP от L5-I к L5-I не приводится в Thomson et al. [2002], следовательно, соответствующая запись — это всего лишь предположение.) Проценты на входных потоках обозначают вероятности подключения для входных нейронов, используемых в нашем моделировании. Кроме того, каждый нейрон получает фоновый шум, отражающий синаптические входы от большого количества более удаленных нейронов (см. Методы).

Методы

Наиболее полный в настоящее время набор данных о вероятностях соединения и эффективности синаптических связей между 6 конкретными популяциями нейронов в корковых микросхемах (возбуждающие и тормозящие нейроны в слоях 2/3, 4 и 5) был собран в Thomson et al. (2002). ).Для сбора этих данных были сделаны внутриклеточные записи с помощью острых электродов от 998 пар идентифицированных нейронов. В общей сложности 679 парных записей были сделаны из соматосенсорных, моторных и зрительных зон взрослых крыс и 319 из зрительных зон взрослых кошек. Отбор проб производился случайным образом с латеральным разбросом 50–100 мкм (А. М. Томсон, личное сообщение). Для тех пар, где данные как от крысы, так и от кошки приведены в Thomson and others (2002), мы взяли данные от крысы (см. Рис.1). Только для пар нейронов в слое 4 данные по крысе у Thomson и др. (2002) не приводятся; следовательно, соответствующие данные на рисунке 1 взяты из cat. (Некоторые пары наблюдались редко, а соответствующие записи страдают от небольшого размера выборки [подробности см. В Thomson and others 2002]. Также очень маленькие нейроны у крысы могли быть пропущены [AM Thomson, личное сообщение]. Кроме того, возможно, что в некоторых кортикальных микросхемах существуют связи между парами нейронов, о которых не сообщалось в Thomson и др. [2002] [в случае соединений с тормозными нейронами в слоях 2/3, см., например, e.g., Dantzker and Callaway 2000]).

Параметры U, D и F были выбраны в нашей компьютерной модели из распределений Гаусса, которые отражают данные, представленные в Markram и др. (1998) и Gupta и др. (2000) для каждого типа соединения (обратите внимание, что параметр U согласно Markram и др. [1998] в значительной степени определяется вероятностью начального высвобождения задействованных сайтов синаптического высвобождения). В зависимости от того, был ли вход возбуждающим (E) или тормозящим (I), средние значения этих трех параметров U, D, F (с D, F , выраженными в секундах) были выбраны так, чтобы иметь средние значения, которые были сообщается в этих статьях (см. Таблицу 1).Стандартное отклонение (SD) каждого параметра было выбрано равным 50% от его среднего (отрицательные значения заменены значениями, выбранными из равномерного распределения между нулем и двукратным средним).

Синаптические параметры, которые масштабируют краткосрочную динамику

Синаптические параметры, масштабирующие краткосрочную динамику

Из рассмотренных нами моделей микросхем из 3 слоев, с 30%, 20% и 50% нейронов, назначенных на уровни 2/3, слой 4 и слой 5, соответственно.Каждый слой состоял из популяции возбуждающих нейронов и популяции тормозных нейронов в соотношении 4: 1. Синаптические связи между нейронами в любой паре из полученных 6 популяций генерировались случайным образом в соответствии с эмпирическими данными из таблицы 1 и рисунка 1. Большинство схем, которые были смоделированы, состояли из 560 нейронов. Среднее количество пресинаптических нейронов нейрона в такой цепи было тогда 76, что в целом давало в среднем 42 594 синапса в цепи.

В качестве моделей возбуждающих и тормозных нейронов мы выбрали основанные на проводимости однокамерные модели нейронов Ходжкина-Хаксли с пассивными и активными свойствами, смоделированные согласно Destexhe и др. (2001) и Destexhe and Pare (1999).В соответствии с экспериментальными данными о пирамидных нейронах неокортекса и гиппокампа (Стюарт, Сакманн, 1994; Маги, Джонстон, 1995; Хоффман и др., 1997; Маги и др., 1998), активные токи содержат зависящий от напряжения ток Na ⁺ (Трауб и Майлз 1991) и выпрямителя с задержкой тока К ⁺ тока (Трауб и Майлз, 1991). Для возбуждающих нейронов в модель был включен неинактивирующий ток K ⁺ (Mainen и др., 1995), ответственный за адаптацию частоты спайков.Пиковая плотность проводимости для тока Na ⁺ и тока выпрямителя с задержкой K ⁺ была выбрана равной 500 и 100 пСм / мкм ² , соответственно, а пиковая плотность проводимости для неинактивирующего тока K ⁺ был выбран равным 5 пСм / мкм ² . Площадь мембраны нейрона была установлена ​​равной 34 636 мкм ² , как у Destexhe и др. (2001). Для каждого моделирования начальные условия каждого нейрона, то есть напряжение на мембране в момент времени t = 0, выбирались случайным образом (равномерное распределение) из интервала [-70 мВ, -60 мВ].

Кортикальный нейрон получает синаптические входы не только от непосредственно соседних нейронов (которые были явно смоделированы в нашей компьютерной модели), но также меньшие фоновые входные токи от большого количества более отдаленных нейронов. Фактически, внутриклеточные записи у бодрствующих животных предполагают, что нейроны неокортекса подвергаются интенсивной бомбардировке фоновыми синаптическими входами, вызывая деполяризацию мембранного потенциала и более низкое входное сопротивление, обычно называемое «состоянием высокой проводимости» (для обзора, см. Destexhe and others 2003).Это было отражено в нашей компьютерной модели фоновыми входными токами, которые вводились в каждый нейрон (в дополнение к явно смоделированным синаптическим входам от афферентных соединений и от нейронов в цепи). Проводимость этих фоновых токов моделировалась согласно Destexhe и др. (2001) как случайный процесс с одной переменной, аналогичный процессу Орнштейна-Уленбека со средним значением g _e = 0,012 мкСм и g _i = 0,057 мкСм, дисперсия σ _e = 0.003 мкСм и σ _i = 0,0066 мкСм, а постоянные времени τ _e = 2,7 мСм и τ _i = 10,5 мСм, где индексы e / i относятся к входной проводимости возбуждающего и тормозящего фона соответственно. Согласно Destexhe и др. (2001), эта модель захватывает спектральные и амплитудные характеристики входных проводимостей детальной биофизической модели неокортикальной пирамидной клетки, которая была сопоставлена ​​с внутриклеточными записями в теменной коре кошки in vivo. Кроме того, соотношение средних вкладов возбуждающей и тормозной фоновых проводимостей было выбрано равным 5 в соответствии с экспериментальными исследованиями во время сенсорных реакций (Borg-Graham and others 1998; Hirsch and others 1998; Anderson and others 2000).

Максимальные проводимости синапсов были выбраны из гауссова распределения со стандартным отклонением 70% от его среднего (с заменой отрицательных значений значениями, выбранными из равномерного распределения между нулем и двукратным средним). Средние максимальные проводимости синапсов были выбраны для воспроизведения средней амплитуды PSP, представленной на рисунке 1, при мембранном потенциале покоя (при наличии синаптической фоновой активности).

Два афферентных входных потока, каждый из которых состоит из 4 или 40 цепочек пиков (т.е., 4 или 40 входных каналов), были введены в схему. Каждый из каналов 1-го входного потока (представляющий таламический или прямой кортикальный вход) вводился не только в слой 4, то есть в 50% его тормозных нейронов и 80% его возбуждающих нейронов, но также и в 20% возбуждающих нейронов. нейроны в слоях 2/3 и 10% возбуждающих нейронов в слое 5 (все выбираются случайным образом). (Это входное распределение качественно отражает данные, приведенные в главе III White [1989], что «таламокортикальные афференты к синапсу 4 уровня не только с непирамидными нейронами 4 уровня, но и с широким спектром как пирамидных, так и непирамидных типов нейронов, чьи клеточные тела встречаются повсюду. слои 2–6.Таким образом, среднее количество входов, сходящихся к возбуждающему нейрону в слое 4, составляет 3,2 или 32. (Компьютерное моделирование предполагает, что можно выбрать меньшую вероятность подключения от внешних входных нейронов, если амплитуды результирующих PSP увеличиваются соответствующим образом. Для 40 входных каналов мы выполнили моделирование с более низким входным соединением для входного потока 1, сохранив при этом постоянное произведение амплитуды PSP и вероятности соединения. инвариантен к этим изменениям, даже если вероятности соединения для внешних входных нейронов уменьшены до 1/5 от ранее заданных значений.Это примерно находится в диапазоне, предполагаемом экспериментальными измерениями вариабельности возбуждающих постсинаптических потенциалов (ВПСП) в простых клетках зрительной коры головного мозга кошек с различными уровнями стимуляции латерального коленчатого ядра (LGN) (Ferster 1987) и экспериментами по взаимной корреляции между моносинаптическими связанные клетки LGN и зрительной коры головного мозга кошки (Tanaka 1983), что предполагает, что по крайней мере 10 клеток LGN обеспечивают вход в каждую простую клетку. Средняя проводимость входных синапсов была выбрана для генерации PSP со средней амплитудой 1.9 мВ при мембранном потенциале покоя (при наличии синаптической фоновой активности). Это значение соответствует нижней границе оценки воздействия коленчатого тела на один нейрон в слое 4 взрослых кошек, данной Chung and Ferster (1998). Это было умножено в наших симуляциях с параметром масштабирования S _I1 , который отражает биологически нереалистичное количество входных нейронов в этих симуляциях (см. Обсуждение ниже). Каждый из каналов 2-го афферентного входного потока вводился в 20% возбуждающих нейронов в слоях 2/3 (также со средней амплитудой 1.9 мВ, умноженное на другой параметр масштабирования S _I2 ).

Снижение производительности схем управления по сравнению со схемами, основанными на данных

Снижение производительности цепей управления по сравнению со схемами на основе данных

Всего остается 3 параметра, значения которых необходимо выбрать, чтобы получить функциональные компьютерные модели кортикальных микросхем.Эти параметры S _RW , S _I1 , S _I2 масштабируют (в виде мультипликативных множителей) амплитуды PSP для всех синаптических соединений в цепи (рекуррентные веса), амплитуды PSP из входного потока 1 и амплитуды EPSP из входного потока 2. Они должны быть выбраны таким образом, чтобы они учитывали разницу в масштабе между нашими смоделированными микросхемами и биологическими кортикальными микросхемами.Значения этих трех параметров не могут быть считаны из ранее упомянутых данных, и нужно подозревать, что адекватные значения зависят также от вида, от конкретной корковой микросхемы in vivo, которую человек хочет смоделировать, от текущего состояния различных гомеостатических процессов. , от текущего поведенческого состояния (включая внимание) организма и от интенсивности текущего афферентного воздействия.

Параметр S _I1 был выбран так, чтобы афферентный входной поток 1 (состоящий из 40 последовательностей импульсов Пуассона с частотой 20 Гц) вызывал (без входного потока 2 и без повторяющихся соединений, т.е.е., S _RW установлен на 0) средняя частота срабатывания 15 Гц в слое 4. Параметр S _I2 был подобным образом выбран так, что афферентный входной поток 2 (сгенерированный как входной поток 1) вызвал средняя частота стрельбы 10 Гц в слоях 2/3. В любом случае был активирован только один из 2 входных потоков. С помощью этой процедуры мы получили S _I1 = 14 и S _I2 = 33. Для моделирования с входными потоками, состоящими из 4 последовательностей импульсов Пуассона, мы умножили эти значения на 10.Входные синапсы были выбраны статическими, то есть синаптические параметры были установлены на U = 1, D = 0 и F = 0, а их максимальные проводимости были выбраны из гауссовского распределения с SD 70% от его среднего (с заменой отрицательных значений значениями, выбранными из равномерного распределения между нулем и двукратным средним).

Параметр S _RW учитывает среднюю мощность синаптических входов в нейрон от других нейронов в цепи (кроме глобально смоделированного фонового синаптического входа, см. Выше), и, следовательно, разницу в размере цепи между наши смоделированные модели микросхем и настоящая кортикальная микросхема.Оказалось, что значение 60000 / (количество нейронов в моделируемой цепи) для S _RW произведено в слое 5 моделируемой схемы для стандартных значений S _I1 и S _I2 — это реалистичная низкая, но значительная активизация зажигания 8,5 Гц (см. Рис. 2), поэтому мы использовали это значение в качестве стандартного значения для S _RW . Это значение увеличивает среднее число 76 пресинаптических нейронов в цепи из 560 нейронов до 107 раз, давая, таким образом, в среднем 8132 пресинаптических нейрона.Это число согласуется с оценками общего числа синапсов на нейроне, данными Бинцеггером и другими (2004), которые варьируются от 2981 до 13 075 для разных типов клеток зрительной коры головного мозга кошек. Некоторый дополнительный синаптический ввод моделировался фоновым синаптическим вводом (см. Выше).

Рисунок 2

( A ) Два входных потока, каждый из которых состоит из 40 последовательностей импульсов Пуассона (вход в слои 2/3 начинается здесь на 100 мс позже). ( B ) Спайковый растр модели кортикальной микросхемы на основе данных (состоящей из 560 нейронов) для 2 входных потоков, показанных в ( A ).Вертикальное измерение масштабируется в соответствии с количеством нейронов в каждом слое. Шипы тормозных нейронов показаны серым цветом. (Показатели активизации населения в разных слоях в некоторой степени, но не полностью коррелированы. Максимальный коэффициент корреляции между темпами роста населения в слоях 2/3 и 4, слоях 2/3 и уровне 5, а также в слое 4 и слое 5 [для t > 150 мс, размер интервала 1 мс и произвольная задержка] составляет 0,62, 0,65 и 0,56 соответственно.) ( C ) Распределение скоростей стрельбы в ( B ) (после начала ввода в слои 2 / 3 и слой 4), показывая автоматически возникающее экспоненциальное распределение скоростей возгорания в слое 5.Средняя частота стрельбы: 8,5 Гц. ( D ) Увеличение начального временного сегмента, показывающее распространение возбуждения от слоя 4 к поверхностным и глубоким слоям, что качественно совпадает с данными Армстронга-Джеймса и других (1992).

Рисунок 2

( A ) Два входных потока, каждый из которых состоит из 40 последовательностей пиков Пуассона (вход в слои 2/3 начинается здесь на 100 мс позже). ( B ) Спайковый растр модели кортикальной микросхемы на основе данных (состоящей из 560 нейронов) для 2 входных потоков, показанных в ( A ).Вертикальное измерение масштабируется в соответствии с количеством нейронов в каждом слое. Шипы тормозных нейронов показаны серым цветом. (Показатели активизации населения в разных слоях в некоторой степени, но не полностью коррелированы. Максимальный коэффициент корреляции между темпами роста населения в слоях 2/3 и 4, слоях 2/3 и уровне 5, а также в слое 4 и слое 5 [для t > 150 мс, размер интервала 1 мс и произвольная задержка] составляет 0,62, 0,65 и 0,56 соответственно.) ( C ) Распределение скоростей стрельбы в ( B ) (после начала ввода в слои 2 / 3 и слой 4), показывая автоматически возникающее экспоненциальное распределение скоростей возгорания в слое 5.Средняя частота стрельбы: 8,5 Гц. ( D ) Увеличение начального временного сегмента, показывающее распространение возбуждения от слоя 4 к поверхностным и глубоким слоям, что качественно совпадает с данными Армстронга-Джеймса и других (1992).

Эти стандартные значения параметров S _RW , S _I1 , S _I2 использовались во всех наших компьютерных экспериментах, за исключением результатов, представленных на рисунках 10 и 11, где мы проанализировали влияние этих параметров на отчетные результаты.Там мы смоделировали модели схем со случайно выбранными значениями из независимых равномерных распределений в интервале [0,1 × стандартное значение, 3,1 × стандартное значение] для всех 3 параметров.

Наше компьютерное моделирование проверило, сколько информации о каждом предыдущем временном сегменте (длиной 30 мс) каждого из двух входных потоков было доступно гипотетическому проекционному нейрону в слоях 2/3 и гипотетическому проекционному нейрону в слое 5.. возбуждающие и тормозные пресинаптические нейроны для такого гипотетического считывающего нейрона были выбраны случайным образом таким же образом, как и для любого другого возбуждающего нейрона в этом слое (т.е., согласно рис. 1), но никаких синаптических связей от считывающего нейрона обратно в схему не было. Это составляло в среднем 84 пресинаптических нейрона для считывающего нейрона в слоях 2/3 и 109 пресинаптических нейронов для считывающего нейрона в слое 5. Вес синаптических связей от этих пресинаптических нейронов был оптимизирован для конкретных задач. В отличие от моделирования, описанного в Maass и др. (2002), результирующее количество входов в такой считывающий нейрон было намного меньше, чем размер схемы.Сами нейроны проекции или считывания были смоделированы как линейные нейроны, то есть их выход представлял собой взвешенную сумму спайков, отфильтрованных нижними частотами (экспоненциальный спад с постоянной времени 15 мс, моделирование постоянных времени синаптических рецепторов и мембраны считывающего устройства). нейрон). Были приняты меры для того, чтобы веса возбуждающих (тормозных) пресинаптических нейронов не могли стать отрицательными (положительными). Для этого мы использовали линейный метод наименьших квадратов с ограничениями неотрицательности (Lawson and Hanson 1974), чтобы оптимизировать веса для конкретной задачи.Это контрастирует с линейной регрессией, которая использовалась в Maass и др. (2002). Для каждого обучающего или тестового примера, который состоял из входа и целевого значения для считывающего нейрона, мы выполняли моделирование модели микросхемы. Каждый вход для считывающего нейрона был сгенерирован путем сбора отфильтрованной нижними частотами версии пресинаптических шиповых последовательностей для считывающего нейрона в момент времени t = 450 мс. Каждое соответствующее целевое значение было рассчитано для различных задач, описанных ниже (см. Результаты).Чтобы правильно применить линейный метод наименьших квадратов с ограничениями неотрицательности, последовательности импульсов тормозных (возбуждающих) нейронов были свернуты с отрицательными (положительными) экспоненциальными ядрами, а соответствующие веса считывания были умножены на -1 (+1) после обучения. Для задач классификации нейрон с линейным считыванием был обучен выводить метки классов, то есть 0 или 1, тогда как классификация была получена путем определения порога вывода на 0,5 (аналогично порогу срабатывания реального коркового нейрона).Этот алгоритм дает весовой вектор < w _i ,… w _n > с w _i ≥ 0, если i -й пресинаптический нейрон считывания является возбуждающим. и w _i ≤ 0, если i -й пресинаптический нейрон является тормозящим. В рамках этих (линейных) ограничений эта ограниченная форма линейной регрессии минимизирует ошибку считывания в обучающих примерах.(В MATLAB можно выполнить этот алгоритм оптимизации с помощью команды LSQNONNEG.) Это обычно приводило к присвоению веса 0 (соответствующего молчащему синапсу в биологической цепи) примерно 2/3 этих синапсов. Следовательно, типичный считывающий нейрон имел менее 40 ненулевых весов и, следовательно, гораздо меньшую способность извлекать информацию по сравнению с моделью, рассмотренной в Maass и др. (2002).

Для каждого компьютерного моделирования было создано не менее 10 схем.Для экспериментов, показанных на рисунках 5 и 8, мы использовали 20 схем. Мы также генерировали новые шаблоны всплесков каждый раз, когда рисовалась новая схема, чтобы избежать случайной зависимости от свойств конкретных шаблонов всплесков. Для обучения считывающих нейронов мы выполнили 1500 симуляций со случайно выбранными пуассоновскими входами в течение 450 мс, а для тестирования использовалось 300 симуляций с новыми случайно сгенерированными входами. Планки погрешностей на рисунках обозначают стандартные ошибки. Все результаты производительности в этой статье (за исключением некоторых результатов диагностики, представленных на рис.8, см. Легенду) предназначены для тестовых входов, которые не использовались для обучения считыванию, а также для недавно сгенерированных случайных начальных условий и фонового шума для всех нейронов в цепи.

Все моделирование проводилось с помощью программного обеспечения CSIM (Natschläger и др., 2003) в сочетании с MATLAB.

Результаты

Инжекция 2 входных потоков, состоящих из цугов пуассоновских спайков, в слой 4 и слои 2/3 модели микросхемы вызвала отклик (см.рис.2), чье последовательное начало в разных слоях качественно совпадает с данными о корковых микросхемах in vivo (Armstrong-James и др., 1992). Кроме того, частота воспламенения в слое 5 автоматически приобретает биологически реалистичное экспоненциальное распределение (см., Например, v. Vreeswijk and Sompolinsky 1996, 1998; Amit and Brunel 1997; Baddeley and others 1997). (Распределение скоростей воспламенения в слоях 2/3 и 4 отражает типичное распределение скоростей последовательностей импульсов Пуассона, которые были вызваны пуассоновским вводом в эти слои.Рисунок 3 дает представление о довольно большой вариабельности активности зажигания внутри схемы для одних и тех же схем ввода пиков, что является результатом дрожания на входе пиков (верхний ряд) и внутреннего шума (нижний ряд) из-за введение случайно изменяющихся фоновых входных токов ко всем нейронам для моделирования условий in vivo (см. Методы). (Кроме того, для всех рассматриваемых впоследствии вычислительных задач независимо выбранные паттерны спайков были ранее введены в качестве афферентных входов, вызывая довольно большую дисперсию начальных состояний динамических синапсов.Таким образом, смоделированные схемы качественно отражают обычно наблюдаемую большую вариабельность нервных реакций in vivo от испытания к испытанию на повторение одного и того же стимула.

Рисунок 3

Влияние временного дрожания входных пиков (гауссово распределение со средним значением 0 и SD 1 мс) и фонового шума нейронов в цепи на отклик схемы (см. Методы). Строки в середине и вверху показывают растры пиков, полученные в результате 2 испытаний с идентичным фоновым шумом и с образцами пиков на входе, которые были идентичны, за исключением их временного дрожания.В нижнем ряду показано, насколько растр пиков для испытания с новым фоновым шумом и идентичными шаблонами пиков на входе отличается от такового для испытания, показанного в средней строке. Это показывает, что смоделированные схемы (которые были подвержены обоим источникам шума) качественно отражают обычно наблюдаемую большую вариабельность нервных реакций in vivo от испытаний к испытаниям на повторение одного и того же стимула.

Рисунок 3

Влияние временного дрожания входных пиков (гауссово распределение со средним значением 0 и SD 1 мс) и фонового шума нейронов в цепи на отклик схемы (см. Методы).Строки в середине и вверху показывают растры пиков, полученные в результате 2 испытаний с идентичным фоновым шумом и с образцами пиков на входе, которые были идентичны, за исключением их временного дрожания. В нижнем ряду показано, насколько растр пиков для испытания с новым фоновым шумом и идентичными шаблонами пиков на входе отличается от такового для испытания, показанного в средней строке. Это показывает, что смоделированные схемы (которые были подвержены обоим источникам шума) качественно отражают обычно наблюдаемую большую вариабельность нервных реакций in vivo от испытаний к испытаниям на повторение одного и того же стимула.

Мы протестировали эти модели микросхем на множестве общих задач обработки информации, которые, вероятно, будут связаны с реальными вычислительными задачами нейронных микросхем в коре головного мозга: Для задач обработки информации с шаблонами спайков мы случайным образом сгенерировали шаблоны паттернов спайков, состоящие из 30 мс сегментов 40 последовательностей спайков Пуассона на частоте 20 Гц (см. рис. 4). Точнее, последовательности пиков каждого из 2 входных потоков имели длину 450 мс и состояли из 15 последовательных временных сегментов длиной 30 мс.Для каждого сегмента случайным образом были сгенерированы 2 шаблона паттернов шипов. Для фактического ввода один из 2 шаблонов каждого временного сегмента был выбран случайным образом (с равной вероятностью) и его вариация с шумом, где каждый всплеск перемещался на величину, взятую из гауссовского распределения со средним значением 0 и SD 1 мс (см. панель с правой стороны рис. 4) была введена в схему. Такой временной джиттер на входе пиков вызывает значительные изменения в отклике схемы (см. Рис. 3), и для считывающих нейронов классифицировать паттерны спайков является нетривиальной задачей, несмотря на эту довольно большую вариабельность отклика схемы от испытаний к испытаниям. .Мы также протестировали ретроактивную классификацию предыдущих паттернов спайков, которые были введены за 30 мс до этого и, следовательно, были «перезаписаны» независимо выбранными последующими паттернами спайков. Кроме того, было исследовано нелинейное вычисление исключающего ИЛИ (XOR) для шаблонов пиков в 2 одновременных входных потоках, чтобы проверить способность схемы извлекать и комбинировать информацию из обоих входных потоков нелинейным образом. Задача состоит в том, чтобы вычислить XOR (XOR выводит 1, если ровно один из двух его входных битов имеет значение 1, он выводит 0, если входные биты равны 00 или 11) двух битов, которые представляют метки двух шаблонов, из которых были сгенерированы самые последние образцы всплесков в 2 входных потоках (например,g., его целевой выход равен 1 для обоих временных сегментов для входа, показанного в правой части рис. 4). Обратите внимание, что это вычисление включает в себя операцию нелинейной привязки к шаблонам всплесков, потому что оно должно давать низкое выходное значение тогда и только тогда, когда либо шумные версии шаблонов всплесков с меткой 1 появляются как во входных потоках 1 и 2, либо если зашумленная версия шаблона шаблоны всплесков с меткой 0 появились как во входном потоке 1, так и во входном потоке 2.

• классификация шаблонов всплесков в любом из двух афферентных входных потоков (требующая инвариантности к шуму и всплеску входного сигнала из другого входного потока)

• временная интеграция информации, содержащейся в таких шаблонах всплесков

• Слияние информации из шаблонов всплесков в обоих входных потоках нелинейным образом (связанное с задачами «привязки»)

• вычислений в реальном времени для скоростей активации из обоих входных потоков.

Рисунок 4

Распределения входных данных для классификации паттернов спайков и задач XOR. Задача состоит в том, чтобы вычислить XOR двух битов, которые представляют метки 2 шаблонов, из которых были сгенерированы самые последние шаблоны всплесков в 2 входных потоках, то есть классифицировать как 1, если их метки шаблонов различны, и 0 в противном случае. . Последовательности пиков каждого из 2 входных потоков имели длину 450 мс и состояли из 15 временных сегментов длиной 30 мс. Для каждого сегмента случайным образом были сгенерированы 2 шаблона (40 последовательностей пуассоновских спайков при 20 Гц).Фактические последовательности пиков каждого входа длиной 450 мс, используемые для обучения или тестирования, были сгенерированы путем выбора для каждого сегмента одного из 2 ранее выбранных связанных шаблонов, а затем генерации версии с дрожанием путем перемещения каждого пика на величину, взятую из распределения Гаусса с среднее значение 0 и стандартное отклонение 1 мс (образец показан на панели справа).

Рисунок 4

Распределения входных данных для классификации паттернов спайков и задач XOR. Задача состоит в том, чтобы вычислить XOR двух битов, которые представляют метки 2 шаблонов, из которых были сгенерированы самые последние шаблоны всплесков в 2 входных потоках, то есть классифицировать как 1, если их метки шаблонов различны, и 0 в противном случае. .Последовательности пиков каждого из 2 входных потоков имели длину 450 мс и состояли из 15 временных сегментов длиной 30 мс. Для каждого сегмента случайным образом были сгенерированы 2 шаблона (40 последовательностей пуассоновских спайков при 20 Гц). Фактические последовательности пиков каждого входа длиной 450 мс, используемые для обучения или тестирования, были сгенерированы путем выбора для каждого сегмента одного из 2 ранее выбранных связанных шаблонов, а затем генерации версии с дрожанием путем перемещения каждого пика на величину, взятую из распределения Гаусса с среднее значение 0 и стандартное отклонение 1 мс (образец показан на панели справа).

Кроме того, мы проанализировали линейные и нелинейные вычисления для изменяющихся во времени скоростей срабатывания 2 входных потоков. Последовательности пиков каждого из 2 входных потоков имели длину 450 мс и состояли из 15 последовательных временных сегментов длиной 30 мс. Для каждого входного потока и каждого временного сегмента были сгенерированы 4 последовательности пиков Пуассона со случайно выбранной частотой от 15 до 25 Гц. Фактические скорости воспламенения, использованные для вычислений этих входных скоростей воспламенения, были рассчитаны на основе этих последовательностей импульсов со скользящим окном шириной 15 мс.Для этих тестов мы использовали входные потоки, состоящие всего из 4 последовательностей импульсов, поскольку производительность как схем на основе данных, так и схем управления была довольно низкой, если входные скорости были представлены 40 последовательностями импульсов.

Новые вычислительные свойства моделей микросхем на основе данных показаны на рисунке 5 (серые столбцы). Производительность обученных считываний для тестовых входных данных (которые генерируются из того же распределения, что и обучающие примеры, но не показаны во время обучения) была измерена для всех задач двоичной классификации с помощью коэффициента каппа, который находится в диапазоне [-1, 1], и принимает значение ≥0 тогда и только тогда, когда результирующая классификация тестовых примеров дает меньше ошибок, чем случайное предположение.(Коэффициент каппа измеряет процент соответствия между двумя классами, ожидаемыми сверх случайности, и определяется как ( P _o — P _c ) / (1 — P _c ), где P _o — наблюдаемое совпадение, а P _c — случайное совпадение. Таким образом, для классификации на 2 одинаково часто встречающихся класса получается P _c = 0,5.) Для задач, требующих аналогового вывода. значение, производительность обученного считывания измерялась на тестовых примерах по его коэффициенту корреляции с аналоговым целевым выходом.Точность вычислений, достигаемая обученными нейронами считывания из моделей микросхем с ламинарной структурой на основе данных, сравнивается с точностью, достигаемой обученными нейронами считывания из схем управления (черные полосы на рис. 5), чья ламинарная структура связности на основе данных была зашифрована. путем замены исходных и целевых нейронов каждого синаптического соединения в цепи на случайно выбранные нейроны того же типа, то есть возбуждающие или тормозящие нейроны, при условии, что синаптическое соединение не возникает дважды (мы обычно будем называть эти модели схем как аморфные схемы).Обратите внимание, что эта процедура не изменяет общее количество синапсов, выравнивание типа синапса относительно пре- и постсинаптического типа нейрона, глобальное распределение синаптических весов или других синаптических параметров, или наборы нейронов, которые получают афферентные входы или обеспечивают вывод на считывающие нейроны. Структура связности аморфных цепей (за исключением различных вероятностей связи между популяциями возбуждающих и тормозных нейронов и внутри них) идентична структуре графов, изучаемых в классической теории случайных графов (Bollobas 1985) (с 4 вероятностями связи для этих двух популяций). взяты из схем на основе данных).

Рисунок 5

Производительность обученных нейронов с линейным считыванием на уровнях 2/3 и уровне 5 (см. Методы) для различных задач классификации по шаблонам пиков и вычислений, выполняемых на скоростях двух входных потоков, как для моделей ламинарных микросхем на основе данных (серые полосы) и для цепей управления, в которых ламинарная структура была зашифрована (черные полосы). tcl _1/2 ( t ) обозначает ретроактивную классификацию зашумленных паттернов всплесков (входные данные были сгенерированы, как показано на рис.4) во входных потоках 1 или 2, которые были введены в течение предыдущего временного интервала [ t — 30 мс, t ] в 2 класса в соответствии с шаблоном, из которого был сгенерирован каждый образец пиков. tcl _1/2 ( t — Δ t ) относится к более сложной задаче классифицировать во время t пиковый образец перед последним, который был введен в течение временного интервала [ t — 60 мс, t — 30 мс]. Для классификации XOR задача состоит в том, чтобы вычислить в момент времени t = 450 мс XOR меток шаблона (0 или 1) обоих входных потоков, введенных в течение предыдущего временного сегмента [420 мс, 450 мс].Справа результаты вычислений в реальном времени для изменяющихся во времени скоростей срабатывания r ₁ ( t ) входного потока 1 и r ₂ ( t ) из входной поток 2 (оба состоят из 4 последовательностей шипов Пуассона с независимо изменяющимися скоростями воспламенения в 2 входных потоках). Белые полосы показывают результаты производительности для 2 целевых функций r ₁ ( t ) / r ₂ ( t ) и ( r ₁ ( t ) — r ₂ ( t )) ² , а жирные столбцы — производительность нелинейных компонентов этих вычислений в реальном времени в любое время 30 мс).

Рисунок 5

Производительность обученных нейронов с линейным считыванием на уровнях 2/3 и уровне 5 (см. Методы) для различных задач классификации по шаблонам пиков и вычислений, выполняемых на скоростях двух входных потоков, как для ламинарной микросхемы на основе данных модели (серые столбцы) и для цепей управления, в которых ламинарная структура была зашифрована (черные столбцы). tcl _1/2 ( t ) обозначает ретроактивную классификацию зашумленных паттернов всплесков (входные данные были сгенерированы, как показано на рис.4) во входных потоках 1 или 2, которые были введены в течение предыдущего временного интервала [ t — 30 мс, t ] в 2 класса в соответствии с шаблоном, из которого был сгенерирован каждый образец пиков. tcl _1/2 ( t — Δ t ) относится к более сложной задаче классифицировать во время t пиковый образец перед последним, который был введен в течение временного интервала [ t — 60 мс, t — 30 мс]. Для классификации XOR задача состоит в том, чтобы вычислить в момент времени t = 450 мс XOR меток шаблона (0 или 1) обоих входных потоков, введенных в течение предыдущего временного сегмента [420 мс, 450 мс].Справа результаты вычислений в реальном времени для изменяющихся во времени скоростей срабатывания r ₁ ( t ) входного потока 1 и r ₂ ( t ) из входной поток 2 (оба состоят из 4 последовательностей шипов Пуассона с независимо изменяющимися скоростями воспламенения в 2 входных потоках). Белые полосы показывают результаты производительности для 2 целевых функций r ₁ ( t ) / r ₂ ( t ) и ( r ₁ ( t ) — r ₂ ( t )) ² , а жирные столбцы — производительность нелинейных компонентов этих вычислений в реальном времени в любое время 30 мс).

Рисунок 5 показывает, что схемы на основе данных работают значительно лучше для большинства рассмотренных задач обработки информации, за исключением задач скорости для считывающего нейрона на уровне 5 и задачи tcl ₂ ( t −Δ t ) для считывающего нейрона в слоях 2/3 (для которых повышение производительности не было значительным). В частности, потенциальные проекционные нейроны в слоях 2/3 и уровне 5 имеют в ламинарной схеме на основе данных лучший доступ к информации, содержащейся в текущем и предшествующем паттернах спайков из любого афферентного входного потока.Результаты показывают, что потенциальные считывающие нейроны могут классифицировать паттерны спайков от любого афферентного входного потока независимо от одновременно вводимого паттерна спайков в другом входном потоке (и независимо от довольно высокой вариабельности от испытания к испытанию, показанной на рис. 3). Одна интересная деталь может быть замечена для двух задач, связанных с расчетами скоростей стрельбы. Здесь производительность схем, основанных на данных, и схем управления примерно одинакова (см. Белые полосы на рис.5), но показания со слоев 2/3 работают для схем на основе данных значительно лучше на нелинейной составляющей этих вычислений (см. Жирные полосы перед белыми полосами на рис.5). (Эта нелинейная составляющая целевых функций r ₁ / r ₂ и ( r ₁ — r ₂ ) ² в результате вычитания из этих функций [для рассмотренное распределение r ₁ , r ₂ ] оптимально подобранная линейная функция).

Фактическая производительность, достигаемая с помощью обученных считываний с моделей микросхем, зависит от размера схемы (теоретические результаты предсказывают, что она автоматически улучшится при увеличении размера схемы [Maass and others 2002]).Это показано на рисунке 6 для одной из вычислительных задач, рассмотренных на рисунке 5 (XOR меток шаблонов всплесков из 2 афферентных входных потоков), как для схем на основе данных, так и для схем управления. Рисунок 6 также показывает, что превосходные характеристики схем, основанных на данных, не зависят от размера схемы. Улучшение производительности схем, состоящих из 1000 нейронов, по сравнению со схемами, состоящими из 160 нейронов, несколько меньше для задач скорости. Например, производительность считывающего нейрона в слоях 2/3 или 5, обученных для двух задач скорости r ₁ / r ₂ и ( r ₁ — r ₂ ) ² увеличивается в среднем только на 25% для схем на основе данных и на 20% для аморфных схем.

Рисунок 6

Производительность (см. Методы) проекционных нейронов в слоях 2/3 и 5 для различных размеров схем, с ламинарной структурой на основе данных и без нее, для вычисления задачи XOR. Эти результаты показывают, что превосходные характеристики схем, основанных на данных, не зависят от размера схемы.

Рисунок 6

Производительность (см. Методы) проекционных нейронов на уровнях 2/3 и уровне 5 для различных размеров схемы, с ламинарной структурой на основе данных и без нее, для вычисления задачи XOR.Эти результаты показывают, что превосходные характеристики схем, основанных на данных, не зависят от размера схемы.

Предыдущие результаты показывают, что микросхемы с ламинарной структурой на основе данных обладают превосходными вычислительными возможностями для большого разнообразия вычислительных задач. Возникает вопрос «почему» это так. Мы подходим к этому вопросу с двух разных точек зрения. Сначала мы исследуем, какие аспекты структуры схемы на основе данных важны для их превосходной производительности.Очевидно, что наша процедура создания аморфных схем разрушает не только слоистую структуру схем на основе данных, но и другие структурные свойства, такие как распределение степеней узлов в нижележащем графе связности и его кластерная структура. Поэтому мы вводим 3 дополнительных типа схем управления, чтобы проанализировать влияние конкретных конструктивных особенностей на производительность. Во-вторых, мы демонстрируем характерную особенность внутренней динамики этих различных типов схем, которая коррелирует с их вычислительной производительностью.

Мы сначала изучили вычислительное влияние свойств малого мира схем, основанных на данных. Сети малого мира были охарактеризованы Уоттсом и Строгатцем (1998) с помощью двух свойств. У них более высокий коэффициент кластеризации (измеряется долей непосредственных соседей узлов в графе, которые связаны ссылкой), чем у аморфных цепей, при сохранении сопоставимой средней длины кратчайшего пути. (Обратите внимание, что оба свойства относятся к структуре нижележащего «неориентированного» графа, в котором направленные ребра заменены неориентированными связями.) Основанные на данных модели кортикальных микросхем на самом деле имеют свойства маленького мира в соответствии с этим определением, потому что их коэффициент кластеризации (который имеет значение 36%) на 38% выше, чем в аморфных схемах, тогда как их средняя длина кратчайшего пути примерно такая же. (1,75 ссылки). (По данным Hilgetag и др. [2000], дальнодействующие корковые связи мозга кошек и макак имеют коэффициенты кластеризации 55% и 46% соответственно). Чтобы решить, достаточно ли этих свойств малого мира для обеспечения превосходных вычислительных свойств схем на основе данных, мы создали схемы управления, которые имеют такой же размер, коэффициент кластеризации и среднюю кратчайшую длину пути, что и схемы на основе данных по пространственному алгоритм роста, описанный в Kaiser and Hilgetag (2004) (с параметрами α = 4, β = 1.32 и 560 узлов). Впоследствии эти неориентированные графы были преобразованы в ориентированные графы путем случайной замены каждого ребра синапсом (в случайной ориентации) или взаимной синаптической связью с вероятностью, так что общее количество синаптических связей и взаимных синаптических связей идентично соответствующему количеству для схемы на основе данных. (Следует отметить, что эта процедура не воспроизводит такую ​​же долю типов синапсов, как для схем на основе данных и аморфных схем).

Для 3-го типа схемы управления мы рассмотрели схемы, которые имеют такое же распределение входных и исходящих степеней для нейронов, что и схемы, основанные на данных. Входящая и исходящая степень нейрона определяется как общее количество входящих и исходящих синаптических соединений, соответственно.

Для этой цели мы сгенерировали схемы на основе данных и впоследствии обменивались целевыми нейронами случайно выбранных пар синапсов с пре- и постсинаптическими нейронами той же категории (возбуждающие или тормозящие), пока не исчезла ламинарно-специфическая структура связности (нет обмен был произведен, если какое-либо из двух образовавшихся новых соединений уже существовало).Этот тип схемы также имеет свойства маленького мира, но средний коэффициент кластеризации был меньше, чем для схем, основанных на данных (всего на 27% выше, чем в аморфных сетях). Мы называем этот тип цепей цепями с регулируемой степенью.

Цепи, управляемые степенями, сохраняют распределение степеней между нейронами, которые получают внешний ввод или обеспечивают ввод для считывающего нейрона. Поэтому мы добавили схемы управления, называемые схемами с управляемой степенью, без специфичности ввода или вывода, путем случайного обмена нейронами на разных уровнях схем со степенью управления.Распределение степеней нейронов для всех 5 типов цепей показано на рисунке 7.

Рисунок 7

Распределение нейронов в разных популяциях для 5 типов цепей (усредненное по 100 цепям). Все схемы имеют распределения степеней, которые могут быть лучше аппроксимированы суммами гауссианов, чем степенной закон вида P ( d ) ∝ d ^−γ для нейронов степени d и положительная константа γ ( я.е., схемы не свободны от масштаба). Коэффициенты корреляции для наименьших квадратов для сумм гауссианов и степенных распределений составляют> 0,96 и <0,08, соответственно. Таким образом, ни одна из этих схем не является безмасштабной, что показывает, что их различие в производительности не может быть объяснено на основе этой концепции. Вычислительный анализ (см. Таблицу 2) подразумевает, что различные местоположения пиков для разных уровней схем, основанных на данных, важны для их превосходных вычислительных характеристик.

Рисунок 7

Распределение нейронов в разных популяциях для 5 типов цепей (среднее по 100 цепям). Все схемы имеют распределения степеней, которые могут быть лучше аппроксимированы суммами гауссианов, чем степенной закон вида P ( d ) ∝ d ^−γ для нейронов степени d и положительная константа γ ( т.е. схемы не свободны от масштаба). Коэффициенты корреляции для наименьших квадратов для сумм гауссианов и степенных распределений> 0.96 и <0,08 соответственно. Таким образом, ни одна из этих схем не является безмасштабной, что показывает, что их различие в производительности не может быть объяснено на основе этой концепции. Вычислительный анализ (см. Таблицу 2) подразумевает, что различные местоположения пиков для разных уровней схем, основанных на данных, важны для их превосходных вычислительных характеристик.

Важной структурной особенностью всех типов цепей, рассмотренных до сих пор, является выравнивание типа синапса относительно пре- и постсинаптического типа нейрона в соответствии с таблицей 1.Чтобы проанализировать влияние выравнивания динамических синапсов на производительность, мы случайным образом обменяли триплеты синаптических параметров, то есть U, D и F , которые определяют краткосрочную пластичность между всеми синапсами. В последнем типе схемы управления мы заменили все динамические синапсы статическими синапсами (с измененными весами, чтобы средняя частота срабатывания в слое 5 оставалась неизменной).

Сводные характеристики всех 7 различных типов цепей управления показаны в таблице 2.Свойство малого мира в некоторой степени увеличивает производительность аморфных схем, но более важной структурной особенностью является распределение степеней, определяемое схемами на основе данных. Если это распределение степеней соответствует распределению степеней схем на основе данных для каждого отдельного уровня и, следовательно, соответствует также конкретной топологии ввода и вывода схем на основе данных, средняя производительность сопоставима с производительностью схем на основе данных. Таблица 2 также показывает (см. Столбец 5), что назначение типов синапсов на основе данных (в соответствии с таблицей 1) важно для хорошей вычислительной производительности.Последний столбец показывает, что схемы со статическими синапсами также имеют худшие вычислительные свойства.

Чтобы выяснить взаимосвязь между внутренними свойствами динамики схемы и вычислительной производительностью, мы более подробно изучили одну фундаментальную, но относительно простую задачу обработки информации: ретроактивную классификацию паттернов спайков на 2 класса, несмотря на шум. Точнее, задача заключалась в том, чтобы классифицировать входные последовательности пиков 2 × 4, сгенерированные из 2 шаблонов (как на рис.4) на 2 класса, несмотря на последующий период ожидания в 100 мс (в течение которого в каждом случае вводились идентичные последовательности пиков) и несмотря на сильно различающиеся начальные условия (вызванные разными предшествующими входными пиками) и относительно высокий внутренний шум, который моделирует бомбардировку несвязанным фоновым синаптическим входом в состоянии с высокой проводимостью (сравните средний и нижний ряды на рис. 3, чтобы увидеть стохастические изменения в спайковой реакции, вызванной последним). Эта задача проверяет способность схем поддерживать информацию о паттернах всплесков, которые были введены более 100 мс назад.Эта информация уменьшается из-за шума, возникающего из-за внутреннего шума в нейронах и изменения начальных условий (внутриклассовая дисперсия). Пунктирные серые линии на рисунке 8 показывают, что считывающие нейроны в слоях 2/3 и уровне 5 схем, основанных на данных, могут довольно быстро обучаться на относительно небольшом количестве обучающих примеров, чтобы угадать, какой из двух фиксированных паттернов спайков был ранее введен. Сравнение с черными линиями показывает, что их ошибка на новых примерах этой задачи (ошибка теста) значительно меньше, чем у считывающих нейронов в аморфных схемах управления.Более того, это преимущество не уменьшается, когда становится доступным больше обучающих примеров. Превосходство считывания из схем на основе данных является результатом как лучшего соответствия обучающим данным (сплошные кривые на рис. 8), так и меньшей ошибки обобщения (= расстояние между сплошной и пунктирной кривой). (Обратите внимание, что все типы схем имеют для меньшего числа обучающих примеров меньшую ошибку на обучающем наборе, но большую ошибку на тестовом наборе из-за хорошо известного эффекта переобучения, который широко изучается в статистической теории обучения [Vapnik 1998] ).

Рисунок 8

Ошибка обучения и тестирования считываний из моделей на основе данных и моделей аморфных микросхем в зависимости от размера обучающей выборки. Задача заключалась в обратной классификации 2 случайно созданных паттернов спайков длиной 100 мс (состоящих из 4 последовательностей спайков Пуассона с частотой 20 Гц) после того, как идентичный ввод длительностью 100 мс был впоследствии введен в схему, несмотря на различные начальные условия (вызванные независимыми генерируются предыдущие входные сигналы пуассоновских всплесков того же типа) и шумные фоновые входные токи, как и раньше.Верхняя панель показывает производительность потенциального считывающего нейрона в слоях 2/3 с 84 пресинаптическими нейронами, обученными линейной регрессией с ограничениями по знакам (см. Методы). На нижней панели показаны характеристики потенциального считывающего нейрона в слое 5 со 109 пресинаптическими нейронами. Оба типа считывания лучше работают для ламинарной схемы на основе данных как на обучающем наборе (с новыми случайными рисунками начальных условий и фонового шума), так и на тестовом наборе. Это справедливо для всех рассматриваемых размеров обучающей выборки.

Рисунок 8

Ошибка обучения и тестирования считываний из моделей микросхем на основе данных и аморфных микросхем в зависимости от размера обучающей выборки. Задача заключалась в обратной классификации 2 случайно созданных паттернов спайков длиной 100 мс (состоящих из 4 последовательностей спайков Пуассона с частотой 20 Гц) после того, как идентичный ввод длительностью 100 мс был впоследствии введен в схему, несмотря на различные начальные условия (вызванные независимыми генерируются предыдущие входные сигналы пуассоновских всплесков того же типа) и шумные фоновые входные токи, как и раньше.Верхняя панель показывает производительность потенциального считывающего нейрона в слоях 2/3 с 84 пресинаптическими нейронами, обученными линейной регрессией с ограничениями по знакам (см. Методы). На нижней панели показаны характеристики потенциального считывающего нейрона в слое 5 со 109 пресинаптическими нейронами. Оба типа считывания лучше работают для ламинарной схемы на основе данных как на обучающем наборе (с новыми случайными рисунками начальных условий и фонового шума), так и на тестовом наборе. Это справедливо для всех рассматриваемых размеров обучающей выборки.

Более внутреннее объяснение лучшей вычислительной производительности ламинарных схем на основе данных дает теория вычислений в динамических системах (для обзора см. Legenstein and Maass 2005). На рисунке 9 показано, что схема на основе данных работает в значительно менее хаотическом режиме, чем аморфная схема управления. Его чувствительность к незначительным различиям в начальных условиях также меньше, чем у других трех типов схем управления, которые сохраняют выбранные аспекты структуры сети на основе данных.Менее хаотическая динамика подразумевает лучшую способность обобщения новых входных данных для многих различных типов динамических систем. Это наблюдение представляет интерес, поскольку можно предположить, что количество синапсов на нейрон является важным параметром, определяющим степень хаоса в цепи. Но все схемы, результаты которых представлены на рисунке 9, имеют одинаковое количество синапсов.

Рисунок 9

Евклидовы расстояния в траекториях состояний схемы (точнее: от входных векторов до считываемых нейронов в слоях 2/3 и в слое 5) в результате перемещения одиночного входного пика (на 100 мс) на 0.5 мс. Показано среднее значение моделирования 400 случайно сгенерированных цепей с различными начальными условиями и фоновым шумом. Начальные условия и внутренний шум были выбраны идентичными в обоих испытаниях каждого моделирования, как и в стандартных тестах для оценки показателя Ляпунова (детерминированных) динамических систем, см. Legenstein and Maass (2005). Кривые показывают устойчивые различия в евклидовом расстоянии между состояниями цепей, которые примерно в два раза больше для аморфных цепей, тем самым указывая на более хаотическую динамику, чем в ламинарных цепях с тем же количеством нейронов и синапсов.

Рисунок 9

Евклидовы расстояния в траекториях состояний схемы (точнее: от входных векторов до считывающих нейронов в слоях 2/3 и в слое 5) в результате перемещения одиночного входного пика (на 100 мс) на 0,5 мс. Показано среднее значение моделирования 400 случайно сгенерированных цепей с различными начальными условиями и фоновым шумом. Начальные условия и внутренний шум были выбраны идентичными в обоих испытаниях каждого моделирования, как и в стандартных тестах для оценки показателя Ляпунова (детерминированных) динамических систем, см. Legenstein and Maass (2005).Кривые показывают устойчивые различия в евклидовом расстоянии между состояниями цепей, которые примерно в два раза больше для аморфных цепей, тем самым указывая на более хаотическую динамику, чем в ламинарных цепях с тем же количеством нейронов и синапсов.

Сплошные кривые на рисунке 8 показывают, что еще одна причина лучшей вычислительной производительности моделей цепей на основе данных заключается в том, что синаптические веса их считывающих нейронов могут лучше соответствовать обучающим данным. Этот факт можно объяснить с точки зрения «классовой дисперсии» состояний схемы большой размерности, вызванной изменением начальных условий и внутреннего шума (для повторных испытаний с одним и тем же импульсом на входе схемы).Корреляция между этой классовой дисперсией обучающих данных и ошибкой классификации обученных считываний тестовых данных для задачи, рассмотренной на рисунке 8, составляла 0,80 для показаний из слоев 2/3 и 0,72 для показаний из уровня 5 для ламинарных схем на основе данных. .

На рис. 10 показано, что для аморфных цепей управления это внутриклассовое отклонение обычно больше. Кроме того, на рисунке 10 показано, что эта функция подавления шума динамики в ламинарных схемах на основе данных не является случайным свойством фиксированной настройки трех параметров S _RW , S _I1 , S _I2 (который масштабирует веса повторяющихся синаптических соединений, амплитуды входного потока 1 и амплитуды входного потока 2), который мы использовали для моделирования, о котором сообщалось до сих пор (см. Методы).На рисунке 10 показано, что эта функция подавления шума появляется также для всех других (случайно выбранных) настроек этих параметров, которые были протестированы.

Рисунок 10

Структура схемы на основе данных снижает влияние шума. Для каждого из 2 типов схем, то есть для схем на основе данных и аморфных схем, было сгенерировано 50 схем, и 500 идентичных входов, сгенерированных для задачи на рисунке 8, были введены в каждую из них. Разница в дисперсии откликов цепей (в среднем по 50 цепям) оценивалась с точки зрения считывающих нейронов.Точнее, мы измерили дисперсию входных данных для считывающих нейронов после 500-кратного ввода того же входа в схему и проанализировали, насколько эта дисперсия уменьшилась для структуры схемы на основе данных (выраженной в процентах изменения по сравнению с аморфной структурой). схемы управления). Меньшая дисперсия для схем, основанных на данных, показывает, что на их динамику меньше влияют внутренний шум и различные начальные условия, тем самым обеспечивая лучшие возможности обобщения обученных считываний.Этот эксперимент был повторен для 30 случайно выбранных настроек параметров масштабирования S _RW , S _I1 , S _I2 (см. Методы), и на этом рисунке показано, сколько из этих настроек параметра a определенное снижение шума было достигнуто для цепей, основанных на данных. Среднее отклонение в классе для всех настроек параметров составило 0,58, а стандартное отклонение — 0,29 для схем на основе данных. Проценты для 5 из этих цепей не были введены в этот график, потому что их классовая дисперсия была ниже 0.01 из-за того, что они почти не ответили на ввод. Процент изменения классовой дисперсии для стандартной настройки параметров масштабирования составил -38 для показаний уровня 2/3 и -41 для показаний уровня 5. Эти результаты показывают, что способность схем на основе данных снижать уровень шума не была случайным свойством стандартной настройки параметров масштабирования.

Рисунок 10

Структура схемы на основе данных снижает влияние шума. Для каждого из 2 типов схем, то есть для схем на основе данных и аморфных схем, было сгенерировано 50 схем, и 500 идентичных входов, сгенерированных для задачи на рисунке 8, были введены в каждую из них.Разница в дисперсии откликов цепей (в среднем по 50 цепям) оценивалась с точки зрения считывающих нейронов. Точнее, мы измерили дисперсию входных данных для считывающих нейронов после 500-кратного ввода того же входа в схему и проанализировали, насколько эта дисперсия уменьшилась для структуры схемы на основе данных (выраженной в процентах изменения по сравнению с аморфной структурой). схемы управления). Меньшая дисперсия для схем, основанных на данных, показывает, что на их динамику меньше влияют внутренний шум и различные начальные условия, тем самым обеспечивая лучшие возможности обобщения обученных считываний.Этот эксперимент был повторен для 30 случайно выбранных настроек параметров масштабирования S _RW , S _I1 , S _I2 (см. Методы), и на этом рисунке показано, сколько из этих настроек параметра a определенное снижение шума было достигнуто для цепей, основанных на данных. Среднее отклонение в классе для всех настроек параметров составило 0,58, а стандартное отклонение — 0,29 для схем на основе данных. Проценты для 5 из этих цепей не были введены в этот график, потому что их классовая дисперсия была ниже 0.01 из-за того, что они почти не ответили на ввод. Процент изменения классовой дисперсии для стандартной настройки параметров масштабирования составил -38 для показаний уровня 2/3 и -41 для показаний уровня 5. Эти результаты показывают, что способность схем на основе данных снижать уровень шума не была случайным свойством стандартной настройки параметров масштабирования.

Рисунок 11 показывает, что превосходные вычислительные характеристики моделей ламинарных микросхем на основе данных не являются случайным следствием конкретного выбора этих трех параметров, но сохраняются для большинства их потенциальных значений.Этот факт демонстрируется здесь для XOR на паттернах спайков, которые уже обсуждались ранее. (Стандартное отклонение производительности считываний от схем управления для различных настроек параметров составляло 0,15 для показаний со слоев 2/3 и 0,18 для показаний со слоя 5. Улучшение производительности для ламинарных схем на основе данных в некоторой степени коррелировало с производительностью [коэффициент корреляции 0,16 для слоев 2/3, 0,59 для показаний слоя 5]). Это говорит о том, что ламинарная схема имеет для некоторых задач превосходные вычислительные возможности для довольно большого изменения динамических режимов.Это представляет интерес, потому что разные поведенческие состояния, разные состояния гомеостатических процессов или разные входные интенсивности могут привести к множеству различных динамических режимов корковых микросхем.

Рисунок 11

Процент улучшения производительности считывания из ламинарных цепей для различных значений трех параметров масштабирования для той же задачи XOR, как показано на рисунках 4 и 5 (но только с 2 × 4 последовательностями входных пиков). Процент улучшения был измерен для 16 случайно выбранных настроек параметров масштабирования S _RW , S _I1 и S _I2 .Две из этих настроек дали чрезвычайно низкую производительность как для схем, основанных на данных, так и для аморфных схем (ниже 0,08, следовательно, ниже SD данных производительности для всех 16 настроек параметров) и поэтому были исключены из графика. Улучшение производительности при стандартной настройке этих параметров составило 74% для показаний слоев 2/3 и 64% для показаний уровня 5. Это говорит о том, что ламинарная схема обладает превосходными вычислительными возможностями для большинства настроек параметров, следовательно, для широкого разнообразия интенсивности стимулов и регуляторных состояний нейронных систем in vivo.

Рисунок 11

Процент улучшения производительности считывания из ламинарных цепей для различных значений трех параметров масштабирования для той же задачи XOR, как показано на рисунках 4 и 5 (но только с 2 × 4 последовательностями входных пиков). Процент улучшения был измерен для 16 случайно выбранных настроек параметров масштабирования S _RW , S _I1 и S _I2 . Две из этих настроек дали чрезвычайно низкую производительность как для схем на основе данных, так и для аморфных схем (ниже 0.08, следовательно, ниже стандартного отклонения рабочих характеристик для всех 16 значений параметров) и поэтому не были включены в график. Улучшение производительности при стандартной настройке этих параметров составило 74% для показаний слоев 2/3 и 64% для показаний уровня 5. Это говорит о том, что ламинарная схема обладает превосходными вычислительными возможностями для большинства настроек параметров, следовательно, для широкого разнообразия интенсивности стимулов и регуляторных состояний нейронных систем in vivo.

Обсуждение

Мы продемонстрировали, что структура ламинарной связи на основе данных расширяет возможности обработки информации в моделях кортикальных микросхем.В частности, мы показали, что такая модель схемы на основе данных может накапливать, удерживать и объединять информацию, содержащуюся в двух афферентных входных потоках пиков. Следует отметить, что вычисления, которые были проанализированы в наших компьютерных экспериментах, были биологически реалистичными вычислениями в реальном времени для динамически изменяющихся входных потоков, а не статическими вычислениями для пакетных входных данных, которые обычно рассматриваются в исследованиях моделирования. В отличие от схемных моделей из Buonomano и Merzenich (1995) и Maass и др. (2002), схемные модели, проанализированные в этой статье, не только имеют биологически реалистичную ламинарную структуру, но также состоят из нейронов типа Ходжкина-Хаксли (с дополнительными фоновый ввод основан на данных, которые предположительно являются репрезентативными для состояния высокой проводимости корковых цепей in vivo [Destexhe and others 2003]).Кроме того, моделирование, обсуждаемое в этой статье, учитывает существенно большую вариабельность от испытания к испытанию. Кроме того, информация извлекалась не из всех нейронов, как в Buonomano и Merzenich (1995) и Maass и др. (2002), а из гораздо меньшего подмножества нейронов, которое представляет собой типичный набор пресинаптических нейронов для проекционного нейрона в слоях 2/3 или 5. Кроме того, получение информации такими проекционными нейронами впервые было связано с ограничением, согласно которому знаки веса входящих синапсов не могут выбираться произвольно в биологической цепи, а определяются типом (возбуждающим или тормозящим) каждый пресинаптический нейрон.Хотя это означает, что не вся мощность линейной регрессии (или правила обучения персептрона) может быть использована для оптимизации таких более реалистичных показаний, мы показываем, что даже в этих биологически более реалистичных условиях значительный объем информации может быть извлечен проекционными нейронами. в слоях 2/3 или уровне 5. Кроме того, результаты на Рисунке 6 показывают, что их производительность увеличивается с увеличением размера схемы, что позволяет предположить, что почти идеальная производительность будет достигнута с помощью модели схемы, которая достаточно велика, так что количество пресинаптические нейроны приближаются к реальным значениям в несколько тысяч.

Мы продемонстрировали на рисунке 5, что модели ламинарных микросхем на основе данных работают значительно лучше, чем схемы управления (которые не имеют ламинарных структур, но в остальном идентичны в отношении своих компонентов и общей статистики соединений) для широкого спектра фундаментальной информации — задачи обработки. Это превосходство сохраняется для большинства настроек параметров, которые масштабируют глобальную силу афферентных входов и повторяющихся связей, соответствующих широкому диапазону интенсивности стимулов и регуляторных состояний нейронных систем in vivo (рис.11). Мы также проанализировали, какой аспект структуры связности ламинарных схем на основе данных отвечает за их лучшую вычислительную производительность. Мы пришли (на основе результатов, представленных в Таблице 2) к выводу, что их особое распределение степеней узлов (относительно входов схемы и проекционных нейронов) является основной причиной, в большей степени, чем свойство ограниченного мира данных — на основе схем. Мы предполагаем, что это вычислительное превосходство ламинарных схем можно понять с точки зрения свойств динамической системы, которая определяется такими моделями микросхем.Мы показали на рисунках 9 и 10, что динамика ламинарных цепей несколько меньше зависит от внутреннего шума и шума на входе, тем самым обеспечивая лучшие возможности обобщения обученных считываний и лучшее соответствие обучающим данным из-за меньшей дисперсии в ответах цепей. .

По-видимому, модели нейронных цепей, рассмотренные в этой статье, представляют собой наиболее подробные модели корковых микросхем, основанные на данных, возможности обработки информации которых были проанализированы до сих пор.Результаты этого анализа показывают, что с помощью обширного компьютерного моделирования можно продемонстрировать конкретные вычислительные последствия их ламинарной структуры, тем самым создавая связь между подробными анатомическими и нейрофизиологическими данными и их вероятными вычислительными последствиями. Мы ожидаем, что эта программа может быть продолжена для выяснения также функциональных последствий дальнейших деталей кортикальных микросхем, таких как описанные, например, у Гупта и др. (2000), Штайгера и др. (2000), Шуберта и др. (2001), Бинцеггера. и другие (2004 г.), Каллавей (2004 г.), Маркрам и другие (2004 г.) и Йошимура и другие (2005 г.).

Мы хотели бы поблагодарить Эда Каллэуэя, Родни Дугласа, Рольфа Кеттера, Генри Маркрама и Алекса Томсона за полезные обсуждения исследований, связанных с этой статьей. Работа частично поддержана австрийским научным фондом Fonds zur Förderung der Wissenschaftlichen Forschung (FWF), проект # P15386 и # S9102-N04, проект анализа паттернов, статистического моделирования и вычислительного обучения # IST2002-506778 и Fast Analog Computing with Emergent Проект «Переходные государства» № FP6-015879 Европейского Союза.

Список литературы

Модель глобальной спонтанной активности и локальной структурированной активности в периоды задержки в коре головного мозга

Cereb Cortex

1997

7

3

237

252

Стимульная зависимость двухуровневых колебаний мембранного потенциала зрительной коры головного мозга кошки

Nat Neurosci

2000

3

6

617

621

Поток возбуждения в коре головного мозга крысы при столкновении с одиночной вибриссой

J Neurophysiol

1992

68

4

1345

1358

Ответы нейронов первичной и нижней височной зрительной коры на естественные сцены

Proc R Soc Lond B Biol Sci

1997

264

1389

1775

1783

Количественная карта цепи первичной зрительной коры головного мозга кошки

J Neurosci

2004

24

39

8441

8453

Случайные графики

1985

Лондон

Academic Press

Визуальный ввод вызывает временное и сильное подавление шунтирования в зрительных корковых нейронах

Nature

1998

393

6683

369

373

Временная информация, преобразованная в пространственный код нейронной сетью с реалистичными свойствами

Science

1995

267

1028

1030

Прямая связь, обратная связь и тормозные связи в зрительной коре головного мозга приматов

Neural Netw

2004

17

5–6

625

632

Настройка силы и ориентации таламического входа к простым клеткам, выявленная электрически вызванным кортикальным подавлением

Neuron

1998

20

1177

1189

Ламинарные источники синаптического входа в корковые тормозные интернейроны и пирамидные нейроны

Nat Neurosci

2000

3

7

701

707

Пластичность в одиночных нейронных и схемных вычислениях

Nature

2004

431

789

795

Влияние сетевой активности на интегративные свойства пирамидных нейронов неокортекса in vivo

J Neurophysiol

1999

81

4

1531

1547

Колеблющиеся синаптические проводимости воссоздают активность, подобную in vivo, в нейронах неокортекса

Neuroscience

2001

107

1

13

24

Состояние высокой проводимости нейронов неокортекса in vivo

Nat Rev Neurosci

2003

4

9

739

751

Рекуррентное возбуждение в контурах неокортекса

Science

1995

269

5226

981

985

Нейронные цепи неокортекса

Annu Rev Neurosci

2004

27

419

451

Происхождение ориентационно-селективных ВПСП в простых клетках зрительной коры головного мозга кошек

J Neurosci

1987

7

6

1780

1791

Принципы организации разнообразных ГАМКергических интернейронов и синапсов в неокортексе

Science

2000

287

273

278

Анатомическая взаимосвязь определяет организацию кластеров кортикальных областей у макак и кошек.

Philos Trans R Soc Lond B Biol Sci

2000

355

91

110

Синаптическая интеграция в полосатых простых клетках коры головного мозга

J Neurosci

1998

18

22

9517

9528

K + канал регуляции распространения сигнала в дендритах пирамидных нейронов гиппокампа

Nature

1997

387

6636

869

875

Пространственный рост реальных сетей

Phys Rev E

2004

69

036103

Неокортикальная микросхема как tabula rasa

Proc Natl Acad Sci USA

2005

102

3

880

885

Линейный метод наименьших квадратов с ограничениями линейного неравенства

Решение задач наименьших квадратов

1974

Энглвуд Клиффс (Нью-Джерси)

Прентис-Холл

161

Что делает динамическую систему вычислительно мощной?

Новые направления в статистической обработке сигналов: от систем к мозгу

2005

MIT Press

Принципы вычислений в реальном времени с обратной связью, применяемые к моделям кортикальных микросхем

Труды о достижениях в системах обработки нейронной информации

2005

MIT Press

Синапсы как буферы динамической памяти

Neural Netw

2002

15

155

161

Вычисления в реальном времени без стабильных состояний: новая структура для нейронных вычислений на основе возмущений

Neural Comput

2002

14

11

2531

2560

Электрическая и кальциевая передача сигналов в дендритах пирамидных нейронов гиппокампа

Annu Rev Physiol

1998

60

327

346

Характеристика одиночных потенциалзависимых каналов Na + и Ca2 + в апикальных дендритах пирамидных нейронов CA1 крысы

J Physiol

1995

487

Pt 1

67

90

Модель инициирования спайков в пирамидных нейронах неокортекса

Neuron

1995

15

6

1427

1439

Интернейроны неокортикальной тормозной системы

Nat Rev Neurosci

2004

5

10

793

807

Дифференциальная передача сигналов через один и тот же аксон пирамидных нейронов неокортекса

Proc Natl Acad Sci USA

1998

95

5323

5328

Перцепционная нейробиология: кора головного мозга

1998

Кембридж, Массачусетс

Harvard University Press

Компьютерные модели и средства анализа нейронных микросхем

Базы данных нейронауки. Практическое руководство

2003

Бостон

Kluwer Academic Publishers

123

138

Корковые микросхемы: разнообразны или каноничны?

Нейрон

2002

36

1

19

27

К теории ламинарной архитектуры коры головного мозга: вычислительные ключи от зрительной системы

Cereb Cortex

2003

13

1

100

113

Слоистая внутриколоночная и трансколонарная функциональная связность пирамидных клеток слоя v в коре головного мозга крысы

J Neurosci

2001

21

10

3580

3592

Стереотипия в микросхемах неокортекса

Trends Neurosci

2002

25

5

227

230

Ламинарные характеристики функциональной связности в коре головного мозга крысы, выявленные при стимуляции глутаматом в клетке

Neurosci Res

2000

37

1

49

58

Активное распространение соматических потенциалов действия в дендритах пирамидных клеток неокортекса

Nature

1994

367

6458

69

72

Кросс-корреляционный анализ взаимоотношений геникулостриатных нейронов у кошек

J Neurophysiol

1983

49

1303

1318

Пресинаптическая частотно-зависимая фильтрация

J Comput Neurosci

2003

15

159

202

Синаптические связи и небольшие цепи с участием возбуждающих и тормозных нейронов в слоях 2–5 неокортекса взрослых крыс и кошек: тройная внутриклеточная запись и мечение биоцитином in vitro

Cereb Cortex

2002

12

9

936

953

Нейронные сети гиппокампа

1991

Кембридж, Массачусетс

Издательство Кембриджского университета

Вычислительные ограничения, которые могли способствовать расслоению сенсорной коры

J Comput Neurosci

2003

14

271

282

Статистическая теория обучения

1998

Нью-Йорк

Джон Вили

Хаос в нейронных сетях со сбалансированной возбуждающей и тормозной активностью

Science

1996

274

1724

1726

Хаотическое сбалансированное состояние в модели корковых цепей

Neural Comput

1998

10

6

1321

1371

Коллективная динамика сетей «маленького мира»

Nature

1998

393

440

442

Кортикальные контуры

1989

Бостон

Birkhaeuser

Возбуждающие корковые нейроны образуют мелкомасштабные функциональные сети

Nature

2005

433

7028

868

873

Заметки автора

© Автор, 2006. Опубликовано Oxford University Press. Все права защищены. Для получения разрешений обращайтесь по электронной почте: [email protected]

Онлайн-версия этой статьи была опубликована в рамках модели открытого доступа. Пользователи имеют право использовать, воспроизводить, распространять или демонстрировать версию этой статьи в открытом доступе в некоммерческих целях при условии, что: исходное авторство правильно и полностью указано; Журнал и Издательство Оксфордского университета указываются как место первоначальной публикации с указанием правильных сведений о цитировании; если статья впоследствии воспроизводится или распространяется не полностью, а только частично или как производное произведение, это должно быть четко указано.По вопросам коммерческого повторного использования обращайтесь по адресу [email protected].

ОТЧЕТ ПО ОБРАБОТКЕ, ХРАНЕНИЮ И КВАЛИФИКАЦИИ ПЛАСТИКОВОЙ МИКРОСХЕМЫ (PEM)

% PDF-1.6 % 3 0 obj > эндобдж 90 0 объект > поток application / pdf

Модуляция делительного усиления обеспечивает гибкое и быстрое вовлечение в неокортикальную микросхему модели

Модель неокортикальной микросхемы.

Модель, использованная в этом исследовании, является расширенной версией пространственно локализованной модели Уилсона – Коуэна (Wilson and Cowan, 1972). Эта модель неокортикальной микросхемы включает одну возбуждающую популяцию, E , и две ингибирующие субпопуляции: одну направленную на дендриты, I _dend и одну межнейронную популяцию, нацеленную на сому, I _сома (см.рис. 1 A ). Две ингибирующие субпопуляции различаются типом ингибирующей модуляции, которую они обеспечивают возбуждающей популяции. I _dend всегда обеспечивает субтрактивное подавление, то есть субтрактивную модуляцию функции ввода-вывода своей цели: сдвиг кривой в сторону более высоких входных значений. I _soma может обеспечивать комбинацию вычитающего и разделяющего ингибирования, то есть модуляции делительного усиления, на возбуждающую популяцию: уменьшая наклон и максимальный выходной сигнал функции (см. Схемы модуляции на рис. 1 A ) .