Přesné řešení vyjádříme ve tvaru
. Hodnotu funkce v bodě vyjádříme pomocí
Taylorovy věty
Systém rovnic linearizujeme v bodě (-tý odhad
řešení). Máme soustavu lineárních rovnic o neznámých
Iterační vztah je tedy
, kde
.
Vektorově
.
Při dostatečně dobrém odhadu tato metoda konverguje za velmi obecných podmínek.
V případě nutnosti počítáme derivace numericky.
Pozn. Metodu lze modifikovat tak, aby se omezení
nebezpečí příliš dlouhých kroků daleko od řešení.
V iteračních krocích chceme pokles
.
Pokud k němu v některém kroku nedojde, místo kroku
Newtonovy metody užijeme vztah