Pierwowzorem sieci neuronowych jest mózg ludzki który składa się z 1010 komórek nerwowych między którymi jest 1015 połączeń. Komórki nerwowe przetwarzają impulsy z częstotliwością 1 - 100 Hz. Daje to przybliżoną prędkość pracy mózgu 1018 operacji na sekundę, co wielokrotnie przewyższa mozliwości obecnych superkomputerów. Sieć neuronowa jest bardzo uproszczonym modelem mózgu. Składa się ona z dużej liczby elementów przetwarzających informację zwanych neuronami. Połączone są one ze sobą w pewien określony sposób (patrz 'Sieci Neuronowe').