Trong đại số tuyến tính, phép khử Gauss là một thuật toán có thể được sử dụng để tìm nghiệm của một hệ phương trình tuyến tính, tìm hạng (hay rank) của một ma trận, để tính ma trận nghịch đảo của một ma trận vuông khả nghịch. Phép khử Gauss được đặt theo tên của nhà toán học Đức là Carl Friedrich Gauss.
Các thao tác cơ bản trên hàng được sử dụng trong suốt thuật toán. Thuật toán có 2 phần, mỗi phần đều xem xét các hàng của ma trận theo thứ tự. Phần đầu biến ma trận về dạng hàng bậc thang trong khi phần thứ 2 biến ma trận về dạng hàng bậc thang tối giản. Phần đầu là đủ cho nhiều áp dụng.
Một thuật toán khác liên quan là Phép khử Gauss-Jordan, đưa ma trận về dạng hàng bậc thang tối giản trong 1 lần duyệt.
Giả sử mục đích là tìm và miêu tả nghiệm (nếu có) của hệ phương trình tuyến tính sau:
Thuật toán là như sau: khử trong tất cả các phương trình bên dưới , sau đó khử trong tất cả các phương trình bên dưới . Việc này sẽ làm hệ trở thành dạng tam giác. Sau đó, sử dụng phép thay thế ngược, các ẩn số có thể được giải.
Trong ví dụ, ta khử từ bằng cộng vào , và sau đó khử từ bằng cộng vào . Công thức hóa:
Kết quả là:
Bây giờ ta khử từ bằng cách cộng vào :
Kết quả là:
Kết quả này là một hệ phương trình tuyến tính dưới dạng tam giác, do đó phần 1 của thuật toán là xong.
Phần thứ 2, thay thế ngược, là giải cho các ẩn số trong thứ tự ngược lại. Do đó, chúng ta có thể dễ dàng thấy rằng
Sau đó, thế vào , giải dễ dàng để có
Kế tiếp, và có thể được thế vào , có thể được giải để có
Do vậy, hệ phương trình đã được giải.
Thuật toán này dùng được trên mọi hệ phương trình tuyến tính. Có thể là hệ không thể được đưa về dạng tam giác, tuy nhiên vẫn có ít nhất một lời giải có giá trị: ví dụ, nếu không có trong và sau bước thứ 1 ở trên, thuật toán sẽ không thể đưa hệ về dạng tam giác. Tuy nhiên, nó vẫn đưa hệ về dạng bậc thang. Trong trường hợp này, hệ không có nghiệm duy nhất, và sẽ có vô số nghiệm, vì nó có ít nhất một biến tự do.
Trong thực tế, người ta thường không sử dụng hệ phương trình không mà sử dụng ma trận mở rộng (dễ dàng giải trên máy tính). Sau đây là thuật toán của phép khử Gauss áp dụng trên ma trận mở rộng của hệ bên trên, bắt đầu với:
mà, cuối cùng của phần 1 của thuật toán ta sẽ có:
Đó là dạng bậc thang.
Cuối cùng của thuật toán, ta có được
Đó là dạng bậc thang tối giản.
Phép khử Gauss trên một ma trận n × n cần khoảng 2n3 / 3 phép tính toán. Do đó nó có độ phức tạp là .
Thuật toán này có thể được sử dụng trên máy tính với hàng ngàn hệ phương trình và ẩn số. Tuy nhiên, phương pháp này không thích hợp với hệ có hàng triệu phương trình. Những hệ lớn như vậy thường được giải bằng các phương pháp lặp lại (iterative method). Có những phương pháp đặc biệt nếu như hệ số theo một khuôn mẫu nào đó.
Phép khử Gauss có thể được tiến hành trên bất cứ trường nào.
Phép khử Gauss là ổn định về phương pháp số cho các ma trận đường chéo chủ yếu hay xác định dương. Cho ma trận tổng quát, phép khử Gauss là ổn định nếu như sử dụng partial pivoting.[1]