ітераційні методи
При великому числі невідомих лінійної системи рівнянь схема методу Гаусса, що дає точне рішення, стає досить складною. В цьому випадку для знаходження коренів зручніше використовувати наближені ітераційні методи. Розглянемо метод ітерацій (метод Зейделя).
Нехай дана система
Припускаючи, що діагональні члени - коефіцієнти системи не дорівнюють нулю



Система (2) вирішується методом послідовних наближень. За нульове наближення можна приймати будь-яке значення. Часто використовують в цій якості стовпець вільних членів.

Наступне наближення обчислюють, підставляючи значення

,
друге наближення обчислюється через перше:
.
Якщо послідовність наближень


то ця межа є рішенням системи (2), а, отже, і системи (1).
Розпишемо формули наближень в розгорнутому вигляді:
Метод послідовних наближень, який визначається формулою (3), називається методом ітерацій. Ітераційний процес добре сходиться, тобто число наближень, необхідних для отримання коренів системи (1) із заданою точністю, невелика, якщо елементи матриці

Розглянемо систему лінійних алгебраїчних рівнянь з трьома невідомими:
Виділимо в праву частину з кожного рівняння діагональне невідоме
За нульове (початкова) наближення до вирішення виберемо деякі значення невідомих і позначимо їх

В системі (3) для обчислення невідомих


У загальному випадку на k- тієї ітерації система виглядає так:
Тобто, поточне значення невідомих відразу ж використовується для наступних обчислень. Цей метод називається ітераційним методом Гаусса - Зейделя.



Точне рішення, до якого прагнути ітераційний процес () буде отримано на 5-6-й ітерації.
У разі системи n рівнянь k - е наближення до вирішення матиме вигляд:
Ітераційний процес продовжується до тих пір, поки всі



Розглянемо питання збіжності методу. Нехай дана система двох рівнянь
,
З (1) і (3) отримаємо


З останніх рівнянь слід:


Продовжуючи, можна отримати:

Звідси випливає, що ітераційний процес методу Гаусса - Зейделя
сходиться, якщо наближення на k- ітерації буде істотно відрізнятися від першого наближення. Це можливо тільки при виконанні умови:

що означає, що діагональні члени превалюють над іншими.
Перевагою метод виключення є те, що він кінцевий і теоретично з його допомогою можна вирішити будь-яку невироджених систему лінійних алгебраїчних рівнянь. Ітераційний метод Гаусса-Зейделя сходиться тільки для спеціальних систем рівнянь. Однак, якщо ітераційний метод сходиться, то він краще:
час обчислень


Помилки округлення для ітераційного методу менше.
великі системи рівнянь неможливо точно вирішити за допомогою прямих методів.