Uwaga !!! Zakładamy, że wszystkie wektory są unormowane.::
Najprostsza sieć neuronowa składa się z warstwy neuronów, których wejścia są zwarte, rys. 1.
Taka sieć może rozpoznawać tyle różnych wektorów wejściowych (np. znaków) ile posiada neuronów. Jest
to możliwe wówczas, gdy każdy neuron posiada różne wagi synaptyczne.

rys. 1. Warstwa neuronów
K - liczba neuronów,
N - liczba wejść neuronu.
W celu wybrania najsilniejszej odpowiedzi można zastosować funkcje skoku jednostkowego o odpowiednio dobranych wartościach progowych, rys. 2.

rys. 2. Neuron nieliniowy (z funkcją progową)