אנטרופיית צאליס

האנטרופיה של טסאליס בתרמודינמיקה סטטיסטית היא הכללה של האנטרופיה הסטנדרטית של בולצמן-גיבס, אשר הוצעה על ידי קונסטנטינו טסאליס (אנ')^[1] בשנת 1988 עבור המקרה של מערכות לא אקסטנסיביות. אנטרופיית טסאליס ודומותיה נלמדות לרוב בהקשר של פיזיקה סטטיסטית, אך מושג האנטרופיה חשוב לא רק בפיזיקה תרמודינמית וסטטיסטית, אלא גם בתורת האינפורמציה, באנליזה מתמטית ובתורת ההסתברות.

רקע

הביטוי המתמטי לאנטרופיית טסאליס^[2] הוא, במקרה בדיד, עבור מערכת עם ${\displaystyle N}$ מצבים אפשריים ופונקציית הסתברות ${\displaystyle P}$:

${\displaystyle {\displaystyle S_{q}(P_{i})={k \over q-1}\left(1-\sum _{i=1}^{N}p_{i}^{q}\right)}}$

ועבור המקרה הרציף, עם המשתנה המקרי ${\displaystyle X}$ ופונקציית צפיפות ההסתברות ${\displaystyle p(x)}$:

${\displaystyle {\displaystyle S_{q}(P)={k \over q-1}\left(1-\int \limits _{X}^{}{p^{q}(x)}dx\right)}}$

כאשר- ${\displaystyle {\displaystyle q\in R}}$ פרמטר חסר יחידות הנקרא אינדקס האנטרופיה, ומאפיין את דרגת האי אקסטנסיביות של המערכת. אין שיטה כללית לדעת מהו ערכו של אינדקס האנטרופיה, והוא בדרך כלל מוערך על ידי ניסויים. ${\displaystyle k}$ קבוע חיובי אשר מגדיר את היחידות הפיזיקליות של הערך הנמדד.

תכונות^[3]

1. בגבול שבו ${\displaystyle {\displaystyle q\to 1}}$ אנטרופיית טסאליס מתכנסת לאנטרופית גיבס-בולצמן.
2. ${\displaystyle {\displaystyle S_{q}=0}}$ רק כאשר קיים ${\displaystyle {\displaystyle p_{i}=1}}$ .
3. ל- ${\displaystyle {\displaystyle S_{q}}}$ קיים מקסימום כאשר כל המצבים המיקרוסקופיים שווי הסתברות- ${\displaystyle {\displaystyle \forall i;p_{i}={\frac {1}{\Omega }}}}$. מקסימום זה נתון על ידי: ${\displaystyle {\displaystyle S_{q_{max}}(P_{i})=k{1-\Omega ^{1-q} \over q-1}}}$.כאשר ${\displaystyle {\displaystyle q>0}}$ ביטוי זה יהווה מקסימום, ועבור ${\displaystyle {\displaystyle q<0}}$ יהווה מינימום.

מערכת לא אקסטנסיבית^[4]

נתבונן בשתי מערכות בלתי תלויות, ${\displaystyle A,B}$, כך שבמקרה הבדיד הצפיפות המשותפת של המצבים ${\displaystyle {\displaystyle a\in A,b\in B}}$ היא-

${\displaystyle {\displaystyle \operatorname {Prob} (a,b)=\operatorname {Prob} (a)\operatorname {Prob} (b)}}$

ובמקרה הרציף, עם משתנים מקריים ${\displaystyle X,Y}$, פונקציית הצפיפות המשותפת של המצבים ${\displaystyle {\displaystyle x\in X,y\in Y}}$ -

${\displaystyle {\displaystyle p_{AB}(x,y)=p_{A}(x)p_{B}(y)}}$

אנטרופיית טסאליס של מערכות בלתי תלויות כאלו מקיימת-

${\displaystyle {\displaystyle S_{q}(AB)=S_{q}(A)+S_{q}(B)+{1-q \over k}S_{q}(A)S_{q}(B)}}$

וכן ניתן לראות כי אנטרופיית המערכת הכוללת לא מקיימת אקסטנסיביות, אלא במקרה בו ${\displaystyle q=1}$.

אנטרופיית טסאליס היחסית^[5]

נניח כי ${\displaystyle {\displaystyle \{a_{i}\},\{b_{i}\}}}$ הן שתי פונקציות הסתברות המקיימות ${\displaystyle {\displaystyle \{a_{i}\},\{b_{i}\}\geq 0}}$, ו- ${\displaystyle {\displaystyle \sum _{i=1}^{N}a_{i}=\sum _{i=1}^{N}b_{i}=1}}$ . כעת, נגדיר את אנטרופיית טסאליס היחסית בין ${\displaystyle {\displaystyle A=\{a_{i}\},B=\{b_{i}\}}}$, ${\displaystyle {\displaystyle i=1,2,...,N}}$: ${\displaystyle {\displaystyle D_{q}(A|B)=-\sum _{i=1}^{N}a_{i}\ln _{q}{\frac {b_{i}}{a_{i}}}}}$ ; ${\displaystyle \forall q\geq 0}$

כאשר: ${\displaystyle \ln _{q}x={x^{q-1}-1 \over q-1}}$ ; ${\displaystyle \forall x\in R,x\geq 0}$

נשים לב כי ${\displaystyle \lim _{q\rightarrow 1}D_{q}(A|B)=D_{1}(A|B)=\sum _{i=1}^{N}a_{i}\log {\frac {b_{i}}{a_{i}}}}$ גודל זה ידוע בתור האנטרופיה היחסית, ומתכנס לדיברגנץ קולבק-לייבלר (אנ').

הערות שוליים

1. Tsallis, C. (1988). "Possible generalization of Boltzmann-Gibbs statistics". Journal of Statistical Physics. 52 (1–2): 479–487. Bibcode:1988JSP....52..479T. doi:10.1007/BF01016429.
2. Zhang, Yudong; Wu, Lenan (2011). "Optimal Multi-Level Thresholding Based on Maximum Tsallis Entropy via an Artificial Bee Colony Approach". Entropy. 13: 841–859. doi:10.3390/e13040841.
3. Ramírez-Reyes, Abdiel; Hernández-Montoya, Alejandro Raúl; Herrera-Corral, Gerardo; Domínguez-Jiménez, Ismael (2016). "Determining the Entropic Index q of Tsallis Entropy in Images through Redundancy". Entropy. 18: 302. doi:10.3390/e18080299.
4. Beck, C. (2002). "Non-additivity of Tsallis entropies and fluctuations of temperature". Europhys. Lett. 57 (3): 329–333. doi:10.1209/epl/i2002-00464-8.
5. Furuichi, S. (2004). "Fundamental properties of Tsallis relative entropy". Journal of Mathematical Physics. 45: 4869. doi:10.1063/1.1805729.