Нейроинформатика и нейронные сети

Исследование нейросетей и нейрокомпьютеров открывает перспективы создания информационных систем высокой производительности.

Интерес к нейронам, нейронным сетям и работе мозга появился в НИИФП 30 лет назад, одновременно с основанием института. Этот интерес был обусловлен убежденностью первого директора института В. И. Стафеева и ведущих сотрудников С. В. Айрапетянца, Э. И. Клямко, Р. А. Дуриняна и других в том, что именно понимание процессов, происходящих в нервной системе и мозге, откроет наиболее широкие и далекие перспективы для микроэлектроники.

До настоящего времени уровень возможностей, заложенных природой в мозг человека, еще не достигнут никакими устройствами ни по интеграции, ни по быстродействию, ни по надежности Мозг обладает непревзойденной способностью обучаться и создавать при этом сложную адаптивную эмпирическую модель внешнего мира.

Эти особенности мозга вызывают большой интерес исследователей и стимулируют поиск возможностей воссоздания в вычислительной технике таких свойств мозга, как параллельность обработки информации, способность к обучению, ассоциативному запоминанию, распознаванию образов, высокая надежность и т. п.

В последние годы, сначала за рубежом, а затем и в России вновь начало обретать силу научно-техническое направление, которое получило название ’’нейроинформатика”. Оно включает разработку алгоритмов, моделей, процессорных элементов, устройств и систем на базе представлений о функционировании нейронных сетей мозга.

ЭВМ, использующие модели нейронных сетей, получили название нейрокомпьютеров, а интегральные микросхемы, имитирующие работу нейронных сетей - нейрочипов.

В предлагаемой статье не ставится задача проанализировать мировые достижения в области создания нейрочипов и нейрокомпьютеров, хотя успехи этого направления впечатляют. Цель данной работы — подвести итоги сложного пути развития деятельности НИИФП в области нейроинформатики и показать некоторые перспективы, открывающиеся в этом направлении с учетом собственных возможностей нынешнего времени.

Моделирование нейронных сетей (60-е годы). Первый этап работ в Институте в области нейроинформатики - с 1964 по 1970 гг. — характеризуется ярко выраженным направлением на исследования и моделирование нейрона и нейронных сетей, как элементарных электрофизических систем обработки информации в нервной системе. Были разработаны аналитическая модель нейрона, как порогового элемента, кодирующего внешние воздействия частотой генерации импульсов, и элементы теории нейронных цепей на ее основе.

Анализ процессов передачи сигналов в нейронной сети позволил разработать статистическую теорию работы простейших нейронных ансамблей — рецептивных полей. Особое место занимали изучение и моделирование процессов обнаружения, обработки, распознавания и классификации сигналов в зрительном анализаторе, как наиболее информативной системы восприятия внешнего мира (известно, что человек получает 90-96% информации через зрительную систему).

Были разработаны математические модели рецептивных полей детекторов движения, выделения контуров, временной и пространственной декорреляции сигналов на основе теории статистических решений. Алгоритмическая модель процесса формирования классифицирующих нейронных структур на основе теории графов позволила правдоподобно описать процесс узнавания изображений человеком.

В целом этот этап создал базу для понимания многих процессов, происходящих в биологических нейронных сетях, и послужил основой для перехода к этапу реализации нейронных сетей техническими средствами.

В современном представлении искусственные нейронные сети — это структуры с параллельной распределенной обработкой информации, состоящие из процессорных элементов, соединенных между собой каналами связи с однонаправленным распространением сигналов. Каждая связь характеризуется весовым коэффициентом. Она может быть возбуждающей (т.е. увеличивающей активность нейрона) или тормозящей. Нейроны могут обладать локальной памятью и способны выполнять нелинейные операции по обработке информации.

Нейроны группируются по слоям, а слои, расположенные последовательно один за другим, объединяются в сеть связями различного вида: прямыми, перекрестными и обратными.

Искусственный нейрон сети, моделирующий функции биологического нейрона, осуществляет:
- умножение значений сигналов, приходящих на него из окружающей среды, либо от других нейронов предшествующего слоя, на весовые коэффициенты входов нейронов (синапсов),
- суммирование взвешенных значений приходящих сигналов,
- сравнение суммарного сигнала с пороговым уровнем,
- некоторое функциональное (обычно нелинейное) преобразование полученной суммы:

где Y^(L) - уровень активности нейрона в слое L; уровень активности нейрона в предшествующем слое L-1 (или сигнал, приходящий из окружающей среды); W_ij— весовой коэффициент, определяющий относительное влияние i-го нейрона в слое L-1 на i-й нейрон в слое L; Q_j - модулируемый весом W_OI внутренний порог нейрона, который должен быть превзойден, чтобы возникла активность нейрона; М — количество нейронов в слое L; N — количество нейронов в предшествующем слое L-1; f - функция активности нейронов, которая выполняет отображение N-мерного вектора уровней активности нейронов в слое L-1 (или сигналов, приходящих из окружающей среды) в М-мерный вектор уровней активности нейронов в последующем слое L.

Искусственные нейронные сети могут быть реализованы с помощью различных технических средств: электронных цифровых или аналоговых схем, оптических или оптоэлектронных устройств, а также путем эмуляции на ЭВМ.