Просмотр кода страницы 5.2.4.1 Роль котиков в развитии нейронных сетей

<span id="роль-котиков-в-развитии-нейронных-сетей"></span>

[[File:image186.jpeg|642x481px]]

Хьюбел и Визель занимались изучением первичной зрительной коры (''V''<sub>1</sub>), также называемой «полем Бродмана 17» или же «стриарной корой». Последнее название происходит от латинского слова ''stria'', то есть «полоса», и отражает тот факт, что здесь отчётливо видна полоска Дженнари (наружная полоска Байярже), образованная конечными отделами покрытых миелиновой оболочкой аксонов, отходящих от нейронов латерального коленчатого тела и заканчивающихся в IV слое серого вещества. Выучив все эти термины, вы сможете без особого труда подавлять в споре недостаточно уверенных в себе оппонентов.

Именно в зрительную зону ''V''<sub>1</sub> попадают нервные импульсы нейронов зрительного нерва, генерируемые сетчаткой. Все остальные чувствительные к зрительным сигналам участки мозга связаны с глазами строго через зону ''V''<sub>1</sub>. У млекопитающих зона ''V''<sub>1</sub> занимает задний полюс затылочной доли каждого полушария. Это наиболее простая и по происхождению более «древняя» из зон коры головного мозга, связанных со зрением.

Но перед рассмотрением эксперимента Хьюбела и Визеля надо обсудить важные особенности строения коры головного мозга.

Кора головного мозга человека представляет собой плотно уложенный складками слой нервной ткани толщиной около двух — четырёх миллиметров<ref>Roberts P. A. (1992). Neuroanatomy. Springer-Verlag, p. 86 // https://books.google.ru/books?id=7zywoAEACAAJ</ref>. Если развернуть этот слой, то площадь коры одного полушария составит порядка 1000–1400 квадратных сантиметров<ref>Toro R., Perron M., Pike B., Richer L., Veillette S., Pausova Z., Paus T. (2008). Brain Size and Folding of the Human Cerebral Cortex / Cerebral Cortex, Vol. 18, Iss. 10, pp. 2352—2357 // https://doi.org/10.1093/cercor/bhm261</ref>. Под микроскопом в ткани коры можно разглядеть множество нейронов — примерно 100 000 на квадратный миллиметр.

Клеточные тела образуют несколько слоёв, в каждом из которых плотность их размещения практически постоянна, но более плотные слои перемежаются менее плотными. Ещё в конце XIX в. учёным удалось установить, что кора подразделяется на области, выполняющие различные функции (локализация функций). Обширным источником знаний о функциональных зонах коры стали клинические данные. Врачи неоднократно отмечали, что черепно-мозговые травмы, в зависимости от их локализации, могут вызвать слепоту, паралич, онемение или потерю речи, при этом слепота может быть как полной, так и ограниченной некоторой частью зрительного поля, а онемение может затрагивать как всю конечность, так и только несколько пальцев. Изучение взаимосвязей между местом повреждения коры и участком проявления на теле позволило со временем составить общую карту коры, выделив тем самым зрительную, слуховую, соматосенсорную (отвечающую за ощущения тела), речевую и моторную кору.

Тщательный анализ коры с помощью микроскопа и улучшенных способов окраски показал, что, несмотря на относительную однородность, в коре существуют структурные различия, хорошо коррелирующие с картой локализации функций. Дополнительные подтверждения этого были получены в ходе изучения электрической активности мозга, возникающей при стимуляции организма при помощи прикосновений, звуков или световых раздражителей. Сходным образом, наблюдая за движениями тела в ответ на электрическую стимуляцию коры, удалось также составить и карту двигательных зон. Это систематическое картирование коры вскоре привело к фундаментальному выводу: в большинстве случаев сенсорные и моторные зоны мозга представляли собой «проекции» соответствующих областей тела. Стало ясно, что тело сопоставлено соматосенсорной и моторной областям коры, при этом полю зрения соответствует первичная зрительная кора площадью около 15 квадратных сантиметров. В первичной зрительной коре карта достаточно проста, поскольку не содержит НИ ЕДИНОГО РАЗРЫВА, за исключением примечательного разделения поля зрения посередине, причём левая его половина проецируется на кору правого полушария головного мозга, а правая — на кору левого полушария.

Важной особенностью корковых (также говорят «кортикальных», от лат. ''corticalis'' — кора) карт является их переменный масштаб: одна и та же площадь поверхности тела, в зависимости от конкретного участка, может отображаться в различные по площади участки коры. Например, квадратному миллиметру поверхности пальцев, губ или языка соответствует бóльшая площадь коры, чем квадратному миллиметру поверхности ягодиц или спины, а квадратный миллиметр центральной части сетчатки глаза представлен в коре мозга примерно в 35 раз детальнее, чем квадратный миллиметр её периферической части.

Во многих учебниках по нейрофизиологии можно обнаружить изображение удивительного существа — соматосенсорного гомункулуса. В основу гомункулуса положена фигурка человека, но размеры разных анатомических областей его тела выполнены в масштабе, пропорциональном числу находящихся в них рецепторов и, соответственно, площади, приходящейся на эти анатомические области зоны соматосенсорной коры.

[[File:image187.png|697x522px]]

Рис. 102. Соматосенсорный гомункулус

Эта особенность кортикальных карт была задокументирована в начале 1940 гг. — в пионерских исследованиях Клинтона Вулси<ref>Woolsey C. N., Marshall W. H., Bard P. (1942). Representation of cutaneous tactile sensibility in the cerebral cortex of the monkey as indicated by evoked potentials / Bulletin of the Johns Hopkins Hospital, Vol. 70, pp. 399—441.</ref> и Эдгара Эдриана<ref>Adrian E. D. (1943). Afferent areas in the brain of ungulates / Brain, Vol. 66, Iss. 2, pp. 89—103 // https://doi.org/10.1093/brain/66.2.89</ref>, в которых было отмечено, что частям тела, обладающим наибольшей чувствительностью, соответствуют наибольшие по площади зоны кортикальных проекций<ref>Catania K. C. (2007). Evolution of the Somatosensory System — Clues from Specialized Species / Kaas J. S. (2007). Evolution of Nervous Systems: a comprehensive reference // https://books.google.ru/books?id=UX1PAQAAIAAJ</ref>.

Иногда части тела гомункулуса располагают вдоль схематического изображения коры, что делает его ещё страшнее.

[[File:image188.jpeg|397x395px]]

Рис. 103. Схематичное изображение коры мозга и соответствующих ей частей тела

Следующим важным шагом в изучении структуры и функций коры (вслед за открытием кортикальных карт) мы обязаны Рамону-и-Кахалю и его ученику Рафаэлю Лоренте де Но — им удалось установить, что операции, выполняемые корой над получаемой информацией, локальны. Чтобы понять это, можно взглянуть на схемы соединения нейронов в коре, построенные с использованием «чёрной реакции», и увидеть следующее: пучки нервных волокон (длинных отростков нейронов) приносят информацию в некоторую область коры, затем, пройдя через несколько синапсов, сигналы распространяются на всю её глубину, информация обрабатывается, и после этого другие пучки волокон передают модифицированную информацию за пределы данной области. Конкретные схемы связей между входами и выходами различаются между областями коры, но в пределах одной области они выглядят довольно похожими. Общим для всех областей коры является локальный характер связей: информация, передаваемая в кору одним волокном, может распространиться на всю глубину коры, пройдя всего три или четыре синапса, но боковое распространение сильно меньше (несколько миллиметров, небольшая часть обширной протяжённости коры)<ref>Hubel D. H., Wiesel T. N. (1979). Brain Mechanisms of Vision / Scientific American, 241(3), pp. 150–162 // https://doi.org/10.1038/scientificamerican0979-150</ref>.

Именно из этого наблюдения возникла идея создания искусственных нейронных сетей с несколькими слоями «локальных» нейронов. На ограничения именно таких сетей Минский и Пейперт указывали<ref>Minsky M., Papert S. A. (1969). Perceptrons: An Introduction to Computational Geometry. MIT Press // https://books.google.ru/books?id=KhI-uwEACAAJ</ref> в своих «Перцептронах», получив<ref>Block H. D. (1970). A review of 'Perceptrons' / Information and Control, Vol. 17, pp. 510—522 // https://doi.org/10.1016/S0019-9958(70)90409-2</ref> в ответ на свою критику замечание Генри Блока, что человеческое зрение также не свободно от упомянутых ограничений.

В 1920-е гг. в работах Ивана Павлова была высказана гипотеза о том, что различные зоны коры больших полушарий головного мозга выполняют функции анализаторов: «''Таким образом, после всех наших опытов мы можем сказать, что большие полушария представляют собой совокупность анализатора, с одной стороны, для анализа внешнего мира, как, например, глазной, ушной анализаторы, с другой стороны — для анализа внутренних явлений, как, например, двигательный анализатор''». Основной функцией анализатора, по Павлову, является его способность «''разлагать сложные явления на отдельные элементы''»<ref>Павлов И. П. (1923). Двадцатилетний опыт объективного изучения высшей нервной деятельности животных. Государственное издательство Москва—Петроград.</ref>. Современный специалист по глубокому обучению сказал бы, что различные зоны коры являются по сути «экстракторами фичей» (т. е. отвечают за выделение признаков).

Гипотеза Павлова нашла подтверждение в исследованиях Хьюбела и Визеля, которые смогли детально разобраться в конкретных функциях, выполняемых первичной зрительной корой. Выяснилось, что её нейроны реагируют не просто на наличие или отсутствие света, падающего на сетчатку. В действительности их активация зависит от схемы освещения. Конкретные визуальные структуры являются необходимыми и достаточными стимулами для разных типов нейронов коры. Например, один из типов клеток избирательно реагирует на полосу света с определённой ориентацией (вертикальной, наклонной или горизонтальной), перемещающуюся в определённом направлении в определённой части поля зрения. На срабатывание этих клеток не влияет рассеянный свет, полоса неправильной ориентации или полоса, движущаяся в неправильном направлении. Следовательно, потенциалы действия клеток первичной зрительной коры передают высшим центрам мозга информацию о тех или иных структурах, выявленных в поле зрения.

Эксперименты Хьюбела и Визеля стали продолжением исследований Штефана Куффлера<ref>Nicholls J. G., Martin A. R., Fuchs P. A., Brown D. A., Diamond M. E., Weisblat D. A. (2012). From Neuron to Brain. Sinauer // https://books.google.ru/books?id=eTLzXwAACAAJ</ref>, американского нейрофизиолога венгерского происхождения, которого иногда называют отцом современной нейрофизиологии<ref>Erling N. (2016). Nobel Prizes And Notable Discoveries. World Scientific // https://books.google.ru/books?id=IU4tDQAAQBAJ</ref>. Именно Куффлер в 1953 г. провёл первый экспериментальный анализ зрительной системы млекопитающих, сосредоточившись на организации рецептивного поля и значении сигналов в зрительном нерве кошки.

Как и Куффлер, Хьюбел и Визель использовали единичные электроды для регистрации активности отдельных нейронов. Эта процедура может показаться весьма неплодотворным способом изучения функций, в которых участвует большое количество клеток. Какова вероятность того, что исследователи смогут понять сложные закономерности работы мозга, наблюдая активность безнадёжно малой доли общего числа нейронов? Однако упорядоченный характер структуры связей клеток зрительной коры существенно упростил задачу Хьюбела и Визеля: смежные точки сетчатки соответствуют смежным точкам поверхности коры. Первичная зрительная зона коры устроена таким образом, что каждому крошечному сегменту поля зрения соответствует идентичный набор нейронных анализаторов. Задача, с которой столкнулись Хьюбел и Визель в 1958 г., состояла в том, чтобы выяснить, как сигналы, обозначающие маленькие, яркие, тёмные или цветные пятна в сетчатке, преобразовываются в сигналы, которые передают информацию о форме, размере, цвете, движении и глубине объектов, в то время как современные методы нейровизуализации (пометка нейронов при помощи инъекции пероксидазы хрена, диффузная оптическая томография и другие) ещё не были созданы<ref>Nicholls J. G., Martin A. R., Fuchs P. A., Brown D. A., Diamond M. E., Weisblat D. A. (2012). From Neuron to Brain. Sinauer // https://books.google.ru/books?id=eTLzXwAACAAJ</ref>.

И всё-таки исследователей ждал успех. Вот так Хьюбел описал в своей нобелевской речи эксперимент, который привёл к прорыву в понимании функций первичной зрительной коры:

''Наше первое настоящее открытие случилось совершенно неожиданно. На протяжении двух или трёх часов у нас ничего не получалось. Затем постепенно мы начали различать какие-то смутные и непостоянные ответы при стимуляции где-то на границе между центром и периферией сетчатки. Мы как раз вставляли слайд на стекле в виде тёмного пятна в разъём офтальмоскопа, когда внезапно, через аудиомонитор'' (по сути обычный динамик — устройство, преобразующее электрические импульсы в звуковые сигналы. — ''С. М.'')'', клетка зарядила как пулемёт. Спустя некоторое время, после небольшой паники, мы выяснили, что же случилось. Конечно, сигнал не имел никакого отношения к тёмному пятну. Во время того, как мы вставляли слайд на стекле, его край отбрасывал на сетчатку слабую, но чёткую тень в виде прямой тёмной линии на светлом фоне. Это было именно то, чего хотела клетка, и, более того, она хотела, чтобы эта линия имела строго определённую ориентацию. Это было неслыханно. Сейчас даже трудно подумать и представить себе, насколько далеко мы были от какой-либо идеи относительно того, какую роль могут играть клетки коры в обычной жизни животного''<ref>Цит. по: Николлс Д., Мартин Р., Валлас Б., Фукс П. (2017). От нейрона к мозгу / изд. 4-е. — М.: УРРС: Книжный дом «Либерком».</ref>.

Статья Хьюбела и Визеля «Рецептивные поля отдельных нейронов в стриарной коре кошки» (Receptive fields of single neurons in the cat’s striate cortex)<ref>Hubel D. H., Wiesel T. N. (1959). Receptive fields of single neurons in the cat's striate cortex / Journal of Physiology, 1959, vol. 148, pp. 574—591 // https://doi.org/10.1113/jphysiol.1959.sp006308</ref> увидела свет в 1959 г., практически одновременно со статьёй Летвина и Матураны о глазе и мозге лягушки и за два года до «Принципов нейродинамики» Розенблатта. Производя обзор находок нейрофизиологов, Розенблатт отмечает, что высказанная им в статье 1958 г. идея об архитектуре сети, способной распознавать контуры объектов и основанной на нейронах ''A''‑слоя с круговыми или эллиптическими распределениями входящих синапсов, вполне соотносится с данными Хьюбела и Визеля. Рассуждая о перспективных способах построения сложных искусственных нейронных сетей, Розенблатт среди прочего предлагает использовать «''простые пространственные ограничения (градиенты, направленное смещение или распределения соединений, заданных небольшим количеством параметров)''»<ref>Rosenblatt F. (1961). Principles of Neurodynamics. Perceptrons and the Theory of Brain Mechanisms. Cornell aeronautical lab inc., Buffalo, New York. Defense Technical Information Center // https://books.google.ru/books?id=Tk2tDAEACAAJ</ref>. Это предложение, как и многие другие идеи Розенблатта, несмотря на свой общий характер, во многом опередило своё время. К сожалению, в работах Розенблатта эта мысль не получила дальнейшего развития, однако результаты, полученные Хьюбелом и Визелем, не были забыты коннекционистами.

Повторяющиеся локальные структуры первичной зрительной коры, приспособленные к выявлению различных признаков в потоке зрительной информации, невольно подталкивали разработчиков искусственных нейронных сетей к мысли, что крупномасштабные сети могут быть собраны из однотипных строительных элементов подобно тому, как сложные объекты могут быть собраны из детского конструктора, состоящего из сравнительно небольшого набора деталей. Локальность структур (т. е. такой характер связей, при котором нейроны преимущественно связаны внутри сравнительно небольших групп и лишь немногие нейроны содержат связи с другими группами) позволяла существенно уменьшить количество синаптических весов сети и, значит, сократить вычислительные затраты при её обучении и использовании. Кроме того, если целый слой сети состоит из однотипных элементов, то, возможно, они все могут быть написаны одним и тем же набором синаптических весов? Это позволит ещё сильнее сократить количество параметров модели.
<references />
<comments />