Phân kỳ Kullback–Leibler

Trong toán học thống kê, phân kỳ Kullback–Leibler (hay còn gọi là khoảng cách Kullback–Leibler, entropy tương đối) là một phép đo cách một phân phối xác suất khác biệt so với cái còn lại, phân phối xác suất tham chiếu.[1][2] Các ứng dụng chứa đặc tính entropy thông tin quan hệ trong các hệ thống thông tin, ngẫu nhiên theo chuỗi thời gian liên tục, và thông tin đạt được khi so sánh các mô hình thống kê suy luận. Tương phản với sự thay đổi thông tin, phân kỳ Kullback–Leibler là một phép đo bất đối xứng phân phối thông minh và vì vậy không đủ điều kiện là một metric thống kê có tính lây lan. Trong trường hợp đơn giản, một phân kỳ Kullback–Leibler có giá trị 0 chỉ ra rằng hai phân phối là giống nhau. Nói cách đơn giản, phân kỳ Kullback–Leibler là một phép đo sự ngạc nhiên, với nhiều ứng dụng khác nhau như thống kê ứng dụng, cơ học chất lưu, khoa học thần kinhhọc máy.

Tham khảo

[sửa | sửa mã nguồn]
  1. ^ Kullback, S.; Leibler, R.A. (1951). "On information and sufficiency" (PDF). Annals of Mathematical Statistics. Quyển 22 số 1. tr. 79–86. doi:10.1214/aoms/1177729694. MR 0039968.
  2. ^ Kullback, S. (1959), Information Theory and Statistics, John Wiley & Sons. Republished by Dover Publications in 1968; reprinted in 1978: ISBN 0-8446-5625-9.

Liên kết ngoài

[sửa | sửa mã nguồn]
Chúng tôi bán
Bài viết liên quan
Lần đầu tiên nhìn thấy “bé ciu
Lần đầu tiên nhìn thấy “bé ciu" là thứ trải nghiệm sâu sắc thế nào?
Lần đầu tiên nhìn thấy “bé ciu" là thứ trải nghiệm sâu sắc thế nào?
Nhân vật Fūka Kiryūin - Youkoso Jitsuryoku Shijou Shugi no Kyoushitsu e
Nhân vật Fūka Kiryūin - Youkoso Jitsuryoku Shijou Shugi no Kyoushitsu e
Fūka Kiryūin (鬼き龍りゅう院いん 楓ふう花か, Kiryūin Fūka) là một học sinh thuộc Lớp 3-B
Vật phẩm thế giới Five Elements Overcoming - Overlord
Vật phẩm thế giới Five Elements Overcoming - Overlord
Five Elements Overcoming Hay được biết đến với cái tên " Ngũ Hành Tương Khắc " Vật phẩm cấp độ thế giới thuộc vào nhóm 20 World Item vô cùng mạnh mẽ và quyền năng trong Yggdrasil.
Viết cho những chông chênh tuổi 30
Viết cho những chông chênh tuổi 30
Nếu vẫn ở trong vòng bạn bè với các anh lớn tuổi mà trước đây tôi từng chơi cùng, thì có lẽ giờ tôi vẫn hạnh phúc vì nghĩ mình còn bé lắm