صفحه
فهرست مطالب
عنوان
1
پیشگفتار
3
1- مقدمه­ای بر سیستم شناسایی خودکار نوع مدولاسیون
3
1-1- آشنایی با سیستم شناسایی خودکار نوع مدولاسیون و برخی از کاربردهای آن
3
1-1-1- سیر تحول و توسعه سیستم های مخابراتی دیجیتال
6
1-1-2- اهمیت و کاربردهای سیستم شناسایی نوع مدولاسیون
8
1-2- سیر تکامل روش های شناسایی نوع مدولاسیون
8
1-3- دسته بندی کلی روش­های خودکار شناسایی نوع مدولاسیون
10
1-4- مروری بر تحقیقات گذشته
12
1-5- جمع‌بندی و ساختار پایان‌نامه
14
نتیجه گیری
15
2- انتخاب ویژگی‌های مرتبه بالا و مطالب مورد نیاز
15
مقدمه
15
2-1- مروری بر مدولاسیون های دیجیتال
17
2-2- مفهوم استخراج ویژگی
18
2-3- ممان­ها و کومولان­های مرتبه‌ی بالا
18
2-3-1 ممان ها
28
2-3-2-کومولان­ها
37
2-4- مطالب مورد نیاز
37
2-4-1- کانال چند مسیری
39
2-4-2- سیستم OFDM
39
2-4-2-1- تاریخچه مدولاسیون OFDM
40
2-4-2-2-   مفهوم مالتی پلکسینگ
41
2-4-2-3-   معرفی مدولاسیون OFDM
43
2-4-2-4-   مدل OFDM
45
2-4-2-5- مزایا و معایب OFDM
46
2-4-3- ماشین بردارهای پشتیبان (SVM)
46
2-4- 3-1- SVM خطی و غیرخطی
51
2-4-3-2- SVM چند کلاسه
51
2-4-4-   الگوریتم بهینه‌سازی فاخته (COA)
52
2-4-4-1- زندگی و تخم‌گذاری فاخته
53
2-4-4-2- جزییات الگوریتم بهینه‌سازی الهام گرفته از فاخته
57
نتیجه‌گیری
59
3- معرفی روش پیشنهادی و نتایج شبیه­سازی­ها
59
مقدمه
59
3-1- الگوریتم فاخته در بهینه سازی عمل­کرد سیستم استخراج ویژگی
59
3-1-1- انتخاب ویژگی
62
3-1-2- روش پیشنهادی جهت بهبود عمل­کرد سیستم استخراج ویژگی
63
3-1-2- نحوه به کارگیری الگوریتم فاخته به منظور انتخاب ویژگی
64
3-2- نتایج شبیه­سازی
65
3-2-1- شناسایی نوع مدولاسیون به کمک تمام ویژگی­ها (آمارگان مرتبه­ی بالا)
66
3-2-1-1- نتایج شبیه‌سازی به کمک طبقه‌بندی کننده SVM در کانال AWGN
69
3-2-1-2- نتایج شبیه‌سازی به کمک طبقه‌بندی کننده SVM در کانال­های محوشونده
74
3-2-2- نتایج شبیه سازی به کمک سیستم استخراج ویژگی پیشنهادی
89
3-3- مقایسه عمل­کرد سیسستم پیشنهادی با کارهای انجام شده در این زمینه
90
3-4- نتیجه گیری
92
4- جمع بندی و پیشنهاد ادامه کار
92
4-1- جمع بندی
95
4-2- پیشنهادات
96
پیوست­ها
100
منابع و ماخذ
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

صفحه
فهرست اشکال
عنوان
16
شکل 2-1- نمایش چیدمان (منظومه) برخی از مدولاسیون‌های دیجیتال
18
شکل 2-2- نمایش نمودار ویژگی‌های ایده­آل از سیگنال ها بر حسب SNR
21
شکل 2-3- نمایش مقدار ویژگی ممان ها برای 100 سیگنال از هر مدولاسیون.
21
   شکل 2-3- الف-مقدار ویژگی ممان دو-صفر
22
   شکل 2-3- ب-مقدار ویژگی ممان دو-یک
22
   شکل 2-3- پ-مقدار ویژگی ممان چهار-صفر
23
   شکل 2-3- ت-مقدار ویژگی ممان چهار-یک
23
   شکل 2-3- ج-مقدار ویژگی ممان چهار-دو
24
   شکل 2-3- چ-مقدار ویژگی ممان شش-صفر
24
   شکل 2-3- ح-مقدار ویژگی ممان شش-یک
25
   شکل 2-3- خ-مقدار ویژگی ممان شش-دو
25
   شکل 2-3- د-مقدار ویژگی ممان شش-سه
26
   شکل 2-3- ذ-مقدار ویژگی ممان هشت-صفر
26
   شکل 2-3- ر-مقدار ویژگی ممان هشت- یک
27
   شکل 2-3- ز-مقدار ویژگی ممان هشت- دو
27
   شکل 2-3- س-مقدار ویژگی ممان هشت- سه
28
   شکل 2-3- ش-مقدار ویژگی ممان هشت- چهار
 
شکل 2-4- مقدار میانگین کومولان­ها را در SNR های متفاوت برای هر نوع مدولاسیون.
31
   شکل 2-4- الف- مقدار ویژگی کومولان چهار-صفر
31
   شکل 2-4-ب- مقدار ویژگی کومولان چهار- یک دو
32
   شکل 2-4-پ-مقدار ویژگی کومولان چهار- دو
32
   شکل 2-4-ت-مقدار ویژگی کومولان شش-صفر
33
   شکل 2-4-ث-مقدار ویژگی کومولان شش-یک
33
   شکل 2-4-ج-مقدار ویژگی کومولان شش-دو
34
   شکل 2-4-چ-مقدار ویژگی کومولان شش-سه
34
      شکل 2-4-ح-مقدار ویژگی کومولان هشت-صفر
35
   شکل 2-4-خ-مقدار ویژگی کومولان هشت- یک
35
   شکل 2-46-د-مقدار ویژگی کومولان هشت- دو
36
   شکل 2-4-ذ-مقدار ویژگی کومولان هشت- سه
36
   شکل 2-4-ر-مقدار ویژگی کومولان هشت- چهار
42
شکل 2-5- سیستم چندحاملی معمولی و سیستم چندحاملی متعامد
42
شکل2-6- طیف سمبل OFDM
44
شکل2-7- بلوک دیاگرام سیستم OFDM
49
شکل2-8- نمایش بردار تکیه­گاه در دو دسته داده آموزشی قابل تفکیک
52
شکل 2-9- رفتار فاخته در طبیعت
54
شکل 2-10- تخم­گذاری فاخته در شعاع تخم­گذاری (ELR)
55
شکل 2-11- مهاجرت فاخته ها به سمت نقطه هدف
56
شکل2-12- روندنمای الگوریتم بهینه­سازی فاخته
 
3- معرفی روش پیشنهادی و نتایج شبیه­سازی­ها  
63
شکل3-1- سیستم پیشنهادی استخراج ویژگی
64
شکل 3-2- روندنمای سیستم ترکیبی هوشمند
66
شکل 3-3- دیاگرام کلی شناساگر مدولاسیون براساس استخراج ویژگی‌ها آمار گان مرتبه بالا
67
شکل 3-4- عمل­کرد SVM در SNRهای مختلف به ازای تمام ویژگی­ها
 
شکل 3-5- مقدار چند آمارگان مرتبه­ی بالا برای سیستم OFDM
70
   شکل 3-5-الف- مقدار میانگین ممان چهار-صفر در کانال رایلی تخت سریع
70
   شکل 3-5-ب- مقدار میانگین ممان هشت-صفر در کانال رایلی تخت سریع مرتبه
71
   شکل 3-5-پ- مقدار میانگین ممان هشت-صفر در کانال رایلی فرکانس گزین سریع
71
   شکل 3-5-ت- مقدار میانگین ممان شش-سه در کانال رایلی فرکانس گزین سریع
72
   شکل 3-5-ث- مقدار میانگین ممان شش-سه در کانال رایسین فرکانس گزین سریع
 
شکل3-6- عمل­کرد SVM در SNR های مختلف، کانال محوشونده با همه ویژگی­ها
73
       شکل3-6-الف- عمل­کرد SVM در SNR های متفاوت در کانال رایلی تخت و آهسته
73
       شکل3-6-ب- عمل­کرد SVM در SNR های متفاوت در کانال رایلی فرکانس گزین سریع
77
شکل3-7- مقدار تابع هزینه بهترین فاخته در هر تکرار
78
شکل3-8- ویژگی جدید برای تمامی مدولاسیون­ها در SNR های متفاوت
79
شکل3-9- ویژگی جدید برای تمامی مدولاسیون­ها در SNR هایی با بازه بیشتر
81
شکل 3-10- مقایسه عمل­کرد شناساگر با تمام ویژگی­ها و ویژگی­های بهینه
83
شکل 3-11- مقادیر ویژگی جدید در کانال محو شونده رایلی
84
شکل 3-12- مقادیر ویژگی جدید در کانال محوشونده رایسین
85
شکل 3-13- عمل­کرد سیستم با ویژگی جدید در کانال محوشونده رایلی فرکانس گزین سریع
85
شکل 3-14- عمل­کرد شناساگر با ویژگی جدید، کانال محوشونده رایلی فرکانس گزین آهسته
86
شکل 3-15- عمل­کرد شناساگر با ویژگی جدید در کانال محوشونده رایسین فرکانسی تخت
86
شکل 3-16- مقایسه عمل­کرد کلی شناساگر با ویژگی جدید در کانال محوشونده رایلی
 
 
 
 
 
 
 
 

صفحه
فهرست جداول
عنوان
20
جدول 2-1- روابط ممان های موثر
29
جدول 2-2- روابط کومولان های موثر
30
جدول2-2- مقادیری از ممان­ها و کومولان­ها برای سیگنال بدون نویز
50
جدول 2-3- برخی از توابع کرنل معروف
65
جدول 3-1- پارامترهای کانال­های محوشونده
67
جدول 3-2- عمل­کرد SVM در SNR های متفاوت
68
جدول 3-3- ماتریس صحت عمل­کرد SVM درSNR= -10 با استفاده از تمام ویژگی­ها
68
جدول 3-4- ماتریس صحت عمل­کرد SVM درSNR= -4 با استفاده از تمام ویژگی­ها
69
جدول 3-5- ماتریس صحت عمل­کرد SVM درSNR= 2 با استفاده از تمام ویژگی­ها
74
جدول 3-6- ماتریس صحت عمل­کرد SVM درSNR= -8 DB در کانال رایلی تخت(آهسته)
74
جدول 3-7- ماتریس صحت عمل­کرد SVM درSNR= -8 DB ، کانال رایسین تخت(آهسته)
74
جدول 3-8- ماتریس عمل­کرد SVM درSNR= -8 DB ، کانال رایلی فرکانس گزین(سریع)
74
جدول 3-9- ماتریس عمل­کرد SVM درSNR= -8 DB ، کانال رایسین فرکانس گزین(سریع)
75
جدول 3-10- پارامترهای الگوریتم بهینه­سازی فاخته
76
جدول 3-11- زمان اجرا و مقدار حداقل تابع هزینه از COA
77
جدول 3-12- ویژگی و ضرایب متناظر بهینه با استفاده از الگوریتم COA در کانال AWGN
79
جدول 3-13- میانگین مقادیر ویژگی در بازه­های مختلفی از SNR
80
جدول 3-14- درصد تشخیص صحیح شناساگر با ویژگی جدید در SNR های گوناگون
80
جدول 3-15- ماتریس صحت عمل­کرد شناساگر با ویژگی مبتنی بر COA درSNR=-10dB
80
جدول 3-16- ماتریس صحت عمل­کرد شناساگر با ویژگی مبتنی بر COA درSNR=-8dB
80
جدول 3-17- ماتریس صحت عمل­کرد شناساگر با ویژگی مبتنی بر COA درSNR=-6dB
81
جدول 3-18- ماتریس صحت عمل­کرد شناساگر با ویژگی مبتنی بر COA درSNR=0dB
82
جدول 3-19- ویژگی و ضرایب متناظر بهینه با استفاده از الگوریتم COA در کانال رایلی
82
جدول 3-20- ویژگی و ضرایب متناظر بهینه با استفاده از الگوریتم COA در کانال رایسین
87
جدول 3-21- عمل­کرد سیستم با ویژگی جدید درSNR=-10dB ، رایلی فرکانس گزین سریع
87
جدول 3-22- عمل­کرد شناساگر با ویژگی جدید درSNR=-8dB ، رایلی فرکانس گزین آهسته
88
جدول 3-23- عمل­کرد سیستم با ویژگی جدید درSNR=-2dB ، رایسین فرکانس گزین سریع
88
جدول 3-24- عمل­کرد شناساگر با ویژگی جدید درSNR=4dB ، رایلی فرکانس گزین آهسته
88
جدول 3-25- عمل­کرد شناساگر با ویژگی جدید درSNR=4dB ، رایلی فرکانس گزین سریع
89
جدول 3-26- عمل­کرد شناساگر با ویژگی جدید درSNR=6dB ، کانال رایلی تخت سریع
90
جدول 3-27- مقادیر میانگین و واریانس درصد تشخیص صحیح سیستم
91
جدول 3-28- مقایسه سیستم پیشنهادی با کارهای انجام شده
 
 

 
لیست علایم و اختصارات
 
 
 
ACO
الگوریتم کلونی مورچه (Ant Colony Optimization)
ADSL
خط مشترک دیجیتال نامتقارن (Asymmetric Digital Subscriber Line)
ASK
کلیدزنی شیفت دامنه (Amplitude Shift Keying)
BPSK
کلیدزنی شیفت فاز دودویی  (Binary Phase Shift Keying)
COA
الگوریتم بهینه سازی فاخته(Cuckoo Optimization Algorithm)
CF
تابع مشخصه (Characteristic Function)
CP
پیشوند گردشی (Cyclic Prefix)
DAB
پخش صدای دیجیتال (Digital Audio Broadcasting)
DT
تئوری (نظریه) تصمیم (Decision Tree)
DVB_T
اطلاعات ویدئو رادیویی دیجیتال (Digital Video Broadcasting-Terrestrial)
ELR
شعاع تخم­گذاری (Egg Laying Radius)
EP
برنامه ریزی تکاملی (Evolutionary Programming)
FFT
تبدیل فوریه سریع (Fast Fourier Transform)
FDM
مالتی پلکس تقسیم فرکانسی (Frequency Division Multiplexing)
GA
الگوریتم ژنتیک (Genetic Algorithm)
GI
فاصله زمانی محافظ (Guard Interval)
ICA
آنالیز مولفه های مستقل (Indepdent Component Analysis)
ICI
تداخل بین حاملی (­Inter Carrier Interference)
ISI
تداخل بین سمبلی (Inter Symbol Interference)
INFOMAX
ماکزیمم سازی اطلاعات(Information Maximization)
KKT
تئوری بهینه­سازی کراش-کوهن-تاکر (Karush-Kuhn-Tucker)
LOS
مولفه مسیر مستقیم (Line-Of-Sight)
MCM
مدولاسیون چند کاربری (Multi-Carrier Modulation)
ML
ماکزیمم شباهت (Maximum Likelihood)
OAA
روش یکی در برابر همه (One-Against -All)
OAO
روش یک به یک (One- Against -One)
OFDM
مدولاسیون تقسیم فرکانسی متعامد (Orthogonal Frequency Division Multiplexing)
PDF
تابع چگالی احتمال(Probability Density Function)
PDR
گیرنده آشکارساز وسیع(Panoramic Display Receiver)
PR
تشخیص الگو (Pattern Recognition)
PSO
بهینه سازی ازدحام ذرات(Particle Swarm Optimization)
QAM
کلیدزنی دامنه تربیعی  (Quadrature Amplitude Keying)
QPSK
کلیدزنی شیفت فاز تربیعی  (Quadrature Phase Shift Keying)
RBF
تابع پایه­ی شعاعی (Radial Basis Function)
SASS
اندازه گام خود تطبیقی (Self Adaptive Step Size)
SBS
جستجوی برگشتی متوالی (Sequential Backward Search)
SFS
روش جستجوی مستقیم متوالی (Sequential Forward Search)
SRM
اصل حداقل سازی ریسک ساختاری (Structural Risk Minimization)
SNR
نسبت سیگنال به نویز(Signal To Noise Ratio)
SVM
ماشین بردار پشتیبان (Support Vectors Machine)
TDM
تقسیم زمانی (Time Division Multiplexing)
 
 
 

پیشگفتار
 
 
 
 
پیشگفتار
امروزه شبیه سازی سیستم­های مخابراتی با توجه به پیچیدگی روز به روز تجهیزات، از اهمیت بالایی برخوردار است. مطالعه و بررسی عمل­کرد یک سیستم با روش های تحلیلی، سخت و گاهی غیر ممکن بوده و بررسی عمل­کردهای سیستم مخابراتی مدرن، بدون استفاده از شبیه سازی، ساخت نمونه آزمایشی را اجتناب ناپذیر می­کند. اما علیرغم­ هزینه­های بالای ساخت یک نمونه آزمایشی، هزینه­های آزمایش در شرایط مختلف چندین برابر هزینه شبیه­سازی کامپیوتری خواهد بود. علاوه بر آن شبیه سازی کامپیوتری شرایطی را مورد بررسی قرار می­دهد که تولید همه­ی آن شرایط شبیه­سازی عملا با یک نمونه­ی ساخته شده، امکان پذیر نیست و ممکن است فراهم نبودن بسترهای زیرساختی، موجب ایجاد شکافی بزرگ میان مباحث تئوری و پیاده سازی عملی شود. دلایل ذکر شده و نیز سهل الوصول بودن استفاده از کامپیوتر، به طور منطقی بر محبوبیت شبیه­سازی می­افزاید.
یک بخش بسیار مهم در تمامی سیستم­های مخابراتی، بخش بازیابی اطلاعات در گیرنده است. اهمیت این بخش زمانی روشن می­گردد که بنا به هر دلیلی، گیرنده از محتوی نوع سیگنال ارسالی در فرستنده و نیز شرایط کانال اطلاع نداشته باشد. تاکنون روش­های مختلفی برای تشخیص خودکار نوع مدولاسیون دیجیتال پیشنهاد شده است که هر کدام، در شرایط گوناگون سعی در ارائه روشی خودکار برای شناسایی نوع مدولاسیون داشته­اند. روش­های ارائه شده در دو روش کلی خلاصه می­شوند: روش­های مبتنی بر نظریه­ی تصمیم (با معیارهای آماری) و روش­های مبتنی بر تشخیص الگو.
با توجه به سادگی و تعمیم­پذیری روش­های مبتنی بر تشخیص الگو در این پایان­نامه به دنبال ارائه روشی هستیم تا با آن بتوان ویژگی­های کارایی را از سیگنال استخراج و انتخاب نموده و سپس با استفاده از مفاهیم تشخیص الگو، نوع مدولاسیون را تشخیص دهیم. در بیشتر سیستم­های پیشنهاد شده­ی قبلی، همواره ویژگی­هایی از سیگنال دریافتی در گیرنده استخراج می­گردد. این ویژگی­ها در مرحله­ی بعدی به واحد دیگری به نام واحد طبقه­بندی­کننده تحویل داده می­شود. طبقه­بندی­کننده ابتدا درصدی از این ویژگی­­ها را برای تمامی کلاس­ها انتخاب نموده و براساس آنها، فرآیندی موسوم به فرآیند آموزش داده­ها را، پیاده­سازی می­کند. در حالت آموزش، شناساگر عموما، فضای بردار ویژگی را با شاخص­هایی بین کلاس­ها تقسیم می­نماید. سپس در حالت آزمایش، طبقه بندی کننده، براساس درصد باقی مانده از سیگنال­ها، ویژگی­ها را با این شاخص­های عمل­کردی می­سنجد. کارایی سیستم در این حالت، تابعی براساس درصد تشخیص صحیح سیستم است. هر چقدر ویژگی­ها از نظر مفاهیم آماری (میانگین، واریانس و غیره) در دو حالت آموزش و تست برای هر کلاس، پایدارتر بوده و نیز نسبت به دیگر کلاس­ها همبستگی کمتری داشته باشند؛ قدرت تشخیص شناساگر، بیشتر خواهد بود. متناظرا هر سیستمی که به داده­های کمتری برای آموزش و آزمایش نیاز داشته باشد قابلیت بیشتری دارد و اصطلاحا نسبت به داده­های ندیده مقاوم­تر است.
در روش­های شناسایی قبلی که مبتنی بر تشخیص الگو هستند ویژگی­هایی از سیگنال استخراج شده و بعد از آن این ویژگی­ها با شناساگری که درصد تشخیص بهتری را ارائه می­داد، مورد ارزیابی قرار می­گرفت. تقریبا در تمامی کارهای گذشته برای کاهش ابعاد ویژگی و نیز کاهش پیچیدگی سیستم، روش­هایی برای انتخاب ویژگی پیشنهاد می­گردید. در این روش­ها عموما از الگوریتم­های تکاملی برای جستجوی سراسری فضای ویژگی استفاده می­شده و زیر مجموعه­ای از بردار ویژگی که منجر به درصد تشخیص بالاتر می­شد به عنوان زیرمجموعه کارا انتخاب می­شد. در پاره­ای از روش­ها نیز از این الگوریتم­ها برای بهینه­سازی تنظیمات مربوط به طبقه بندی کننده­ها استفاده می­شد.
از میان طبقه بندی کننده­های مورد استفاده در روش­های تشخیص الگو می­توان به شبکه­های عصبی مصنوعی، طبقه بندی کننده­های فازی، مدار طبقه بندی کننده آستانه­ای و ماشین بردار پشتیبان اشاره نمود. در بین این شناساگرها، طبقه بند ماشین بردار پشتیبان، به دلیل استفاده از مفاهیم ساختار­محور در کمینه­سازی خطا، همواره با استقبال بیشتری از سوی محققان رو به رو بوده است. در این پایان­نامه نیز این شناساگر، جهت تفکیک سیگنال­های مدولاسیون دیجیتال استفاده شده است.
 
 
 
 
 
فصل اول
مقدمه­ای بر سیستم شناسایی خودکار نوع مدولاسیون
 

مقدمه
این فصل به بررسی سیستم شناسایی خودکار نوع مدولاسیون (نوع سیگنال) و برخی از کاربردهای مهم آن، سیر تکامل شناسایی نوع مدولاسیون، دسته بندی کلی روش­های شناسایی نوع مدولاسیون، کارهای انجام شده توسط دیگران، و هدف از انجام این پایان­نامه می­پردازد.

آشنایی با سیستم شناسایی خودکار نوع مدولاسیون و برخی از کاربردهای آن
به سیستمی که عمل تعیین نوع مدولاسیون سیگنال دریافتی را، در بین مجموعه­ای از مدولاسیون­ها به صورت خودکار و هوشمند به عهده دارد؛ شناساگر خودکار نوع سیگنال گفته می­شود. به سبب آنکه سیستم با تغییر شرایط کانال، خود را وفق می­دهد به این نوع سیستم­ها، سیستم هوشمند می­گویند. فرآیند باز­شناخت مدولاسیون، مرحله­ی قبل از دمدولاسیون است. در سیستم­های مخابراتی هوشمند، در صورت تشخیص غلط نوع و مرتبه مدولاسیون و بکارگیری یک دمدولاتور نامناسب، ممکن است محتوی اطلاعات سیگنال به­طور کامل از دست برود ]1[. تشخیص نوع مدولاسیون هم اکنون یکی از حوزه­های مهم پردازش سیگنال در علم مخابرات بوده و هر ساله تلاش­های مختلفی از سوی محققان سراسر دنیا برای ارائه سیستمی هوشمند که به طور خودکار شناسایی نوع مدولاسیون را انجام می دهد؛ صورت می­گیرد.

سیر تحول و توسعه­ی سیستم­های مخابراتی دیجیتال
تلگراف به عنوان اولین سیستم مخابرات الکتریکی یک سیستم مخابراتی دیجیتال بود. تلگراف الکتریکی توسط ساموئل مورس[1] اختراع و در سال 1837 به نمایش گذاشته شد. مورس، کد دودویی با طول متغیری را که در آن حروف الفبای انگلیسی با دنباله­ای از خط­های تیره [2]و نقطه­ها[3] (کلمه کد) نمایش داده می­شد؛ ابداع نمود. در این کد، حروف با تواتر وقوع بالاتر، با کلمات کد کوتاه و حروف با تواتر وقوع کمتر، با کلمات کد بلندتر نمایش داده می­شوند [2].
تقریبا چهل سال بعد از آن، در سال 1875 امیل بودت[4] یک کد دودویی با طول ثابت 5 برای تلگراف ابداع نمود. در کد بودت، اجزای کد دارای طول یکسان بوده و نقطه[5] و فاصله[6] نامیده می­شود. هر چند مورس ابداع کننده­ی اولین سیستم مخابراتی دیجیتال (تلگراف) است، اما سر آغاز آنچه ما امروز به عنوان مخابرات دیجیتال مدرن می­شناسیم به کار نایکویست[7] (1924) بر می­گردد؛ که مسئله حداکثر نرخ داده­ی قابل ارسال روی یک کانال تلگرافی با پهنای باند داده شده را بدون وقوع تداخل بین سمبل­ها بررسی نمود. نایکویست معادله­­ی (2-1) را برای سیستم تلگراف پیشنهاد نمود که سیگنال ارسالی آن دارای صورت عمودی زیر است[2].

(1-1)
 
که در این معادله بیانگر شکل پالس و دنباله داده­ی دودویی است که با نرخ بر ثانیه ارسال شده است. نایکویست کار خود را با تعیین شکل پالس بهینه با پهنای باند محدود هرتز به گونه­ای آغاز نمود که علاوه بر عدم ایجاد تداخل بین سمبل­ها در لحظات نمونه ­برداری ، نرخ بیت نیز حداکثر شود. مطالعات، وی را به این نتیجه، که حداکثر نرخ ارسال پالس بر ثانیه است رساند، که این نرخ را، نرخ نایکویست می­نامند. دستیابی به این نرخ ارسال با استفاده از شکل پالس مقدور است. این شکل پالس امکان بازیابی داده را بدون تداخل بین سمبل­ها در لحظات نمونه­برداری فراهم می­کند. نتیجه­ی کار نایکویست معادل تفسیری از قضیه­ی نمونه­برداری برای سیگنال­های باند محدود است که بعدها توسط شانون[8] (1948) مطرح شد. قضیه­ی نمونه برداری چنین بیان می­دارد که سیگنال باند محدود را می­توان از روی نمونه­های برداشته شده با نرخ نایکویست نمونه در ثانیه با استفاده از فرمول درون­یابی زیر بازسازی نمود.

 
(1-2)
 
هارتلی[9] با الهام از کار نایکویست (1928) مسئله نرخ ارسال مطمئن داده روی یک کانال دارای پهنای باند محدود را با استفاده از سطوح دامنه­ی چندگانه بررسی نمود. هارتلی از این قیاس منطقی که گیرنده با وجود نویز و تداخل می­تواند دامنه­ی سیگنال دریافتی را با دقت معینی مثلا با اطمینان تخمین بزند استفاده کرد. بررسی­های هارتلی را به این نتیجه رهنمون ساخت که برای ارسال مطمئن اطلاعات روی یک کانال با پهنای باند محدود، وقتی که حداقل دامنه محدود به (قید توان ثابت) و توان تفکیک دامنه سیگنال دریافتی باشد، یک حداکثر نرخ ارسال داده وجود دارد [3]. یک پیشرفت چشمگیر دیگر در توسعه مخابرات دیجیتال، کار وینر[10] (1942) بود که مسئله تخمین شکل موج یک سیگنال دلخواه را در حضور نویز تجمعی و با مشاهده سیگنال دریافتی بررسی نمود. این مسئله در وامدوله­سازی سیگنال مطرح می­شود. وینر یک فیلتر خطی را تعیین نمود که خروجی آن بهترین تقریب سیگنال مورد ­نظر از دید متوسط مجذور است. فیلتر حاصله را، فیلتر خطی بهینه (کولموگارف[11]-وینر) گویند. نتایج هارتلی و نایکویست در مورد حداکثر نرخ ارسال اطلاعات دیجیتال بر کار شانون که به تبیین مبانی ریاضی انتقال اطلاعات و تعیین محدودیت­های پایه­ی سیستم­های مخابرات دیجیتال منجر گردید مقدم بود. شانون در کار پیشگامانه­ی خود مسئله اساسی انتقال مطمئن اطلاعات را در یک قالب آماری و با استفاده از مدل­های احتمالی برای منابع اطلاعات و کانال­های مخابراتی فرمول­بندی نمود. همچنین نشان داد که اثر محدودیت توان فرستنده، محدودیت پهنای باند و نویز تجمعی را می­توان با کانال مرتبط نموده و در یک پارامتر واحد به نام ظرفیت کانال جای داد. به عنوان مثال در مورد یک نویز تجمعی گوسی سفید (طیف صاف)، ظرفیت یک کانال ایده­آل با پهنای باند محدود برابر است با:

(1-3)
 
که در آن متوسط توان ارسالی و چگالی طیفی توان نویز تجمعی است. مفهوم ظرفیت کانال به شرح زیر است: اگر نرخ اطلاعات منبع کمتر از ظرفیت باشد؛ در این­صورت از نظر تئوری امکان انتقال مطمئن اطلاعات (بدون خطا) از طریق این کانال با انتخاب شیوه­ی مناسب کدگذاری وجود دارد. از طرف دیگر اگر باشد مستقل از میزان پردازش