Mózg ludzki składa się z około 10¹¹ elementów przetwarzających sygnały zwanych neuronami. Neuron razem ze swoimi wypustkami - dendrytami i zawsze jednym neurytem (aksonem), jest przystosowany do przewodzenia i przetwarzania, a także wytwarzania bodźców nerwowych. Charakteryzuje się tym, że przewodzi bodźce zawsze w jednym kierunku od dendrytów do ciała komórki (perikarionu) i z komórki dalej przez neuryt (wypustkę osiową). Nerony komunikują się poprzez łączącą je sieć aksonów i synaps, których jest około 10¹⁵, co daje około 10⁴ synaps na neuron. Neuron jest podstawowym elementem biologicznej sieci neuronowej.
Pierwszą formalna definicję sztucznego neuronu opartą na uproszczonym modelu biologicznym opisanym wyżej podali McCulloch i Pitts. Zaproponowany przez nich model oparty jest na następujących zasadach. Sygnały wejściowe x_i, i = 1,2,..., n mają wartość 1 lub 0, zależnie od tego czy w chwili k impuls wejściowy pojawił się, czy tez nie. Sygnał wyjściowy neuronu oznaczony jest przez y. Natomiast T określa poziom aktywacji neuronu. Reguła aktywacji ma dla tego modelu postać: W praktyce wykorzystuje się jednak bardziej rozwinięty model neuronu:

Wejście neronu stanowią sygnały wejściowe x_i, i = 1,2,..., n (w szczególności mogą to być wartości tylko 0 i 1). Są one połączone poprzez połączenia etykietowane pewnymi wagami w_i, i = 1,2,..., n. Sygnały wejściowe są mnożone przez odpowiednie wagi (x_i*w_i, i = 1,2,..., n - chodzi o możliwość określenia ilość synaps łączących z tym samym neuronem oraz chemiczną zmianę sygnału na synapsach), następnie są one sumowane dając pobudzenie całkowite neuronu: Właściwa odpowiedź neuronu z zależy od pobudzenia y zgodnie z funkcją przenoszenia (przejścia lub aktywacji) z=f(y) (tę funkcję realizuje jądro komórkowe).

Oto najczęściej wykorzystywane funkcje przenoszenia:

• funkcja liniowa: f(y) = ay+b,

  

• funkcja signum: f(y) = sgn(y), (-1 dla y<0, 0 dla y=0, 1 dla y>0)

  

• funkcja sigmoidalna f(y) = 1/(1+exp(-y)),

  

• funkcja Gaussa f(y) = exp(-y²).

  

• tangens hiperboliczny f(y) = tanh(y),

  

Model matematyczny opisuje prawdziwy neuron w znacznie przybliżony sposób, wystarcza to jednak do budowania sprawnie działających sztucznych sieci neuronowych.