Bất đẳng thức Azuma

Trong lý thuyết xác suất, bất đẳng thức Azuma–Hoeffding (đặt tên theo Kazuoki Azuma và Wassily Hoeffding) là một bất đẳng thức về sự tập trung của giá trị một martingale có gia số bị chặn.

Giả sử { X_k: k = 0, 1, 2, 3,... } là một martingale (hoặc super-martingale) và

${\displaystyle |X_{k}-X_{k-1}|<c_{k},\,}$

gần như chắc chắn. Khi đó, với mọi số nguyên dương N và mọi số thực dương t,

${\displaystyle P(X_{N}-X_{0}\geq t)\leq \exp \left({-t^{2} \over 2\sum _{k=1}^{N}c_{k}^{2}}\right).}$

Nếu X là một martingale, thì bằng cách áp dụng bất đẳng thức Azuma cho cả martingale -X và X ta có bất đẳng thức sau:

${\displaystyle P(|X_{N}-X_{0}|\geq t)\leq 2\exp \left({-t^{2} \over 2\sum _{k=1}^{N}c_{k}^{2}}\right).}$

Bất đẳng thức Azuma áp dụng cho martingale Doob chính là phương pháp gia số bị chặn thường được dùng để phân tích thuật toán ngẫu nhiên.

Một ví dụ sử dụng bất đẳng thức Azuma

Giả sử F_i là một dãy những lần tung đồng xu công bằng độc lập nhau (nghĩa là F_i có cùng xác suất nhận giá trị -1 cũng như 1 và độc lập với những giá trị F_j khác). Đặt ${\displaystyle X_{i}=\sum _{j=1}^{i}F_{j}}$ cho ta một martingale với |X_k − X_k−1| ≤ 2. Nói cách khác, ${\displaystyle X_{i}}$ chính là chênh lệch giữa số lần nhận giá trị 1 so với số lần nhận giá trị -1 trong i lần tung đầu tiên. Áp dụng bất đẳng thức Azuma, ta có

${\displaystyle \Pr[X_{N}>t]\leq \exp \left({\frac {-t^{2}}{8N}}\right).}$

Ví dụ, nếu chọn t tỉ lệ với N, ta nhận thấy giá trị lớn nhất có thể của X_N là tỉ lệ với N, và xác suất nó tỉ lệ với N giảm với tỉ lệ lũy thừa theo N.

Ghi chú

Một bất đẳng thức tương tự sử dụng giả thiết yếu hơn được chứng minh bởi Bernstein (1937).

Hoeffding chứng minh bất đẳng thức này cho các biến độc lập thay vì cho gia số của martingale, và cũng đã nhận thấy rằng chỉ với một vài thay đổi nhỏ là chứng minh cũng áp dụng cho trường hợp martingale (xem trang 18 trong Hoeffding (1963)).

Xem thêm

• Bất đẳng thức McDiarmid
• Bất đẳng thức Markov
• Bất đẳng thức Hoeffding
• Bất đẳng thức Chebyshev
• Bất đẳng thức Bernstein (lý thuyết xác suất)
• Bất đẳng thức Bennett

Tham khảo

• Alon, N.; Spencer, J. (1992). The Probabilistic Method. New York: Wiley.
• Azuma, K. (1967). “Weighted Sums of Certain Dependent Random Variables” (PDF). Tôhoku Mathematical Journal. 19 (3): 357–367. doi:10.2748/tmj/1178243286. MR 0221571.
• Bernstein, Sergei N. (1937). На определенных модификациях неравенства Чебишева [On certain modifications of Chebyshev's inequality]. Doklady Akademii Nauk SSSR (bằng tiếng Nga). 17 (6): 275–277. (vol. 4, item 22 in the collected works)
• McDiarmid, C. (1989). “On the method of bounded differences”. Surveys in Combinatorics. London Math. Soc. Lectures Notes 141. Cambridge: Cambridge Univ. Press. tr. 148–188. MR 1036755.
• Hoeffding, W. (1963). “Probability inequalities for sums of bounded random variables”. Journal of the American Statistical Association. 58 (301): 13–30. doi:10.2307/2282952. JSTOR 2282952. MR 0144363.
• Godbole, A. P.; Hitczenko, P. (1998). Beyond the method of bounded differences. DIMACS Series in Discrete Mathematics and Theoretical Computer Science. 41. tr. 43–58. doi:10.1090/dimacs/041/03. ISBN 9780821808276. MR 1630408.

Tham khảo