Нейронные сети. Модель нейрона и нейронная сеть

Модель нейрона представлена на рис.1.1.

Здесь

разные входы одного нейрона s-ого слоя,

веса связей разных входов нейрона s-ого слоя,

сигнал смещения для данного нейрона s-ого слоя,

функция активации данного нейрона s-ого слоя,

одинаковые выходы данного нейрона s-ого слоя,

(1.1.1)

где

(1.1.2)

или

(1.1.3)

или

(1.1.4)

Сигмоидная функция активации изображена на рис.1.2.

Рис.1.1 Модель нейрона.

Рис.1.2 Сигмоидная функция активации.

Рис.1.3 Нейронная сеть.

На рис.1.3 изображена простейшая нейронная сеть, которая включает в себя m нейронов входного слоя с линейной функцией активации (1.1.2), n нейронов скрытого (промежуточного) слоя (в общем случае скрытых слоев может быть несколько) с нелинейными функциями активации (1.1.4) и l нейронов выходного слоя с линейной функцией активации (1.1.2).

У каждого из нейронов входного слоя по одному входу, а у каждого из нейронов выходного слоя по одному выходу. У каждого из нейронов входного слоя n одинаковых выходов, а у каждого из нейронов скрытого слоя l одинаковых выходов. Соответственно, на входе у каждого из нейронов скрытого слоя выходы всех нейронов входного слоя, а на входе у каждого из нейронов выходного слоя выходы всех нейронов скрытого слоя.