قضیه شانون–هارتلی

نظریه اطلاعات
مفاهیم
آنتروپی اطلاعات اطلاعات مشترک نرخ مخابره ظرفیت کانال
چهره‌های مهم
کلود شانون هری نایکویست رالف هارتلی توماس کاور رابرت فانو ریچارد همینگ رابرت گالاگر رادلف السوده آرون واینر
جوایز مهم
جایزه کلود شانون

در تئوری اطلاعات، قضیه شانون–هارتلی حداکثر سرعت انتقال اطلاعات از طریق یک کانال ارتباطی با پهنای باند مشخص در حضور نویز را بیان می‌کند. این کاربردی از قضیه کدگذاری کانال پُرنویز در مورد نمونه بارز یک کانال ارتباطی آنالوگ زمان-پیوسته در معرض نویز گاوسی است. قضیه ظرفیت کانال شانون را برای چنین لینک ارتباطی تعیین می‌کند، محدودیت در بیشینه اطلاعات بدون خطا در هر واحد زمان که می‌تواند با پهنای‌باند مشخص در حضور تداخل نویز منتقل شود، با فرض محدود بودن توان سیگنال، و این که فرایند نویز گاوسی توسط یک توان یا چگالی طیفی توان معلوم، مشخص می‌شود. این قانون به نام کلود شانون و رالف هارتلی نامگذاری شده‌است.

بیان قضیه

قضیه شانون - هارتلی ظرفیت کانال ${\displaystyle C}$ را بیان می‌کند، به معنی فشرده‌ترین حد بالای نظری نرخ اطلاعات داده‌ها است که در نرخ خطای به‌طور دلخواه کم با استفاده از متوسط توان سیگنال دریافتی ${\displaystyle S}$ از طریق یک کانال ارتباطی آنالوگ که تحت نویز سفید گاوسی افزایشی (AWGN) توان ${\displaystyle N}$ می‌تواند ارتباط برقرار کند :

${\displaystyle C=B\log _{2}\left(1+{\frac {S}{N}}\right)}$

که در آن

• ${\displaystyle C}$ ظرفیت کانال در بیت بر ثانیه است، حد بالای نظری نرخ بیت شبکه (نرخ اطلاعات، که بعضاً با ${\displaystyle I}$ مشخص می‌شود) به استثنای کدهای تصحیح-خطا؛
• ${\displaystyle B}$ پهنای‌باند کانال در هرتز است (پهنای‌باند باندگذر در حالت سیگنال میان‌گذر)؛
• ${\displaystyle S}$ متوسط توان سیگنال دریافتی روی پهنای‌باند است (در صورت انتقال باند گذرنده مدوله شده، که غالباً با C نشان داده می‌شود)، در وات اندازه‌گیری می‌شود (یا مربع ولت).
• ${\displaystyle N}$ توان متوسط نویز و تداخل در پهنای‌باند است که در وات (یا ولت در مربع) اندازه‌گیری می‌شود. و
• ${\displaystyle S/N}$ نسبت سیگنال به نویز (SNR) یا نسبت حامل به نویز (CNR) سیگنال ارتباطی به نویز و تداخل در گیرنده است (به صورت نسبت توان خطی و نه به صورت دسی بل لگاریتمی بیان می‌شود).

تقریب‌ها

برای نسبت‌های بزرگ یا کوچک و ثابتِ سیگنال به نویز، فرمول ظرفیت را می‌توان تقریبی داد:

حالت پهنای‌باند-محدودشده

هنگامی که SNR بزرگ باشد (S/N ≫ ۱)، لگاریتم تقریباً برابر می‌شود با

${\displaystyle \log _{2}\left(1+{\frac {S}{N}}\right)\approx \log _{2}{\frac {S}{N}}={\frac {\ln 10}{\ln 2}}\cdot \log _{10}{\frac {S}{N}}\approx 3.32\cdot \log _{10}{\frac {S}{N}}}$ ،

در این حالت ظرفیت از نظر لگاریتمی و از نظر پهنای‌باند تقریباً خطی است (کاملاً خطی نیست، زیرا N با پهنای باند افزایش می‌یابد و باعث ایجاد اثر لگاریتمی می‌شود). به این حالت رژیم پهنای‌باند-محدودشده گفته می‌شود.

${\displaystyle C\approx 0.332\cdot B\cdot \mathrm {SNR\ (in\ dB)} }$

که در آن

${\displaystyle \mathrm {SNR\ (in\ dB)} =10\log _{10}{S \over N}.}$

حالت توان-محدودشده

به همین ترتیب، وقتی SNR کوچک است (اگر ${\displaystyle S/N\ll 1}$)، با استفاده از تقریب برای لگاریتم:

${\displaystyle \log _{2}\left(1+{\frac {S}{N}}\right)={\frac {1}{\ln 2}}\cdot \ln \left(1+{\frac {S}{N}}\right)\approx {\frac {1}{\ln 2}}\cdot {\frac {S}{N}}\approx 1.44\cdot {S \over N}}$ .

سپس ظرفیت در خط خطی است. این را رژیم توان-محدودشده می‌نامند.

${\displaystyle C\approx 1.44\cdot B\cdot {S \over N}.}$

در این تقریب با SNR کم، ظرفیت در صورت سفید بودن نویز از پهنای باند، از چگالی طیفی وات بر هرتز ${\displaystyle N_{0}}$ مستقل است، در این حالت توان نویز کل ${\displaystyle N=B\cdot N_{0}}$ است.

${\displaystyle C\approx 1.44\cdot {S \over N_{0}}}$

جستارهای وابسته

• قضیه نمونه‌برداری نایکوئیست-شنون

منابع

• Herbert Taub, Donald L. Schilling (1986). Principles of Communication Systems. McGraw-Hill.
• John M. Wozencraft and Irwin Mark Jacobs (1965). Principles of Communications Engineering. New York: John Wiley & Sons.

پیوند به بیرون

• On-line textbook: Information Theory, Inference, and Learning Algorithms, by David MacKay - gives an entertaining and thorough introduction to Shannon theory, including two proofs of the noisy-channel coding theorem. This text also discusses state-of-the-art methods from coding theory, such as low-density parity-check codes، and Turbo codes.
• MIT News article on Shannon Limit