ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3...

62
. داﻧﺷﮕﺎه ﮔﯾﻼن- ﻣﺧﺎﺑرات دﯾﺟﯾﺗﺎل1 ﻧﺎم درس: ﻣﺨﺎﺑﺮات دﯾﺠﯿﺘﺎل ﻓﺼﻞ3 : ﻣﻨﺎﺑﻊ اﻃﻼﻋﺎت و ﮐﺪﺑﻨﺪي ﻣﻨﺒﻊ1 ﻓﺼﻞ3 : ﻣﻨﺎﺑﻊ اﻃﻼﻋﺎت و ﮐﺪﺑﻨﺪي ﻣﻨﺒﻊ3 1 ﻣﺪلﺳﺎزي ﻣﻨﺎﺑﻊ اﻃﻼﻋﺎت3 2 آﻧﺘﺮوﭘﯽ3 3 ﮐﺪﺑﻨﺪي ﻣﻨﺒﻊ3 4 ﻇﺮﻓﯿﺖ ﮐﺎﻧﺎل ﮔﺴﺴﺘﻪ3 5 ﻇﺮﻓﯿﺖ ﮐﺎﻧﺎل ﭘﯿﻮﺳﺘﻪ3 6 ﺗﺎﺑﻊ ﺳﺮﻋﺖ اﻋﻮﺟﺎج3 7 ﮐﻮاﻧﺘﯿﺰه ﮐﺮدن3 8 ﮐﺪﺑﻨﺪي ﺷﮑﻞ ﻣﻮج2

Transcript of ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3...

Page 1: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 1

مخابرات دیجیتال: نام درس

منابع اطالعات و کدبندي : 3فصل منبع

1

منبعمنابع اطالعات و کدبندي : 3فصل

مدل سازي منابع اطالعات 1 – 3

آنتروپی 2 – 3

منبعکدبندي 3 – 3

کانال گسستهظرفیت 4 – 3

کانال پیوستهظرفیت 5 – 3

اعوجاج –تابع سرعت 6 – 3

کردنکوانتیزه 7 – 3

شکل موجکدبندي 8 – 3

2

Page 2: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 2

نام مبحث آموزشیمدل سازي منابع اطالعات 3-1

3

اطالعاتمنابع مدل سازي شاخه ریاضی تئوري مخابرات : تئوري اطالعات

است نه مخابره پیاممخابره اطالعات بررسی هدف تئوري اطالعات.

تئوريبررسی سه سوال اساسی در این:

اطالعات پیام چیست؟ (١

اطالعات را می تواند در واحد زمان انتقال دهد؟ سرعتی یک کانال مفروض تا چه (٢)ظرفیت اطالعاتی کانال(

سیستم مخابراتی ایده آل داراي چه خصوصیاتی است؟(٣

رفته در نظر گ) نویز و پهناي باند(در پاسخ به این سواالت تنها محدودیت هاي اساسی.شده و از محدودیت هاي فناوري صرف نظر می شود

آن ها استکیفیت سیستم هاي موجود و قابلیت بهبود هدف ارزیابی.

شانن اطالعات توسط تئوري)C. E. Shanon (پایه گذاري شد.

4

Page 3: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 3

اطالعات یک پیاماطالعاتاندازه

شرایط زیرتعریف می شوداطالعات با در نظر گرفتن اندازه:

:آن، تابعی است از احتمال صدور Aیک پیام ماننداطالعات ) 1(

)AP : احتمال وقوعA ()AP(f) = A(I

ل پیش بینی قاببستگی داشته و میزان قابل پیش بینی بودن آن پیام به اطالعات یک. بودن، ناشی از محتمل بودن است

پخش پیام هاي زیر توسط اداره هواشناسی: مثال

.می شودسردتر C 3هفته آینده هواي استان تا حدود -1

. می شودگرمتر C 20 هفته آینده هواي استان تا حدود -2

.هفته آینده تمام یخ هاي قطب شمال ذوب خواهد شد -3

تقریبا قابل پیش بینی← اطالعات کم : پیام اول

زیاداطالعات خیلی ← احتمال صدور خیلی ضعیف : پیام سوم

5

)2(اطالعات یک پیام قضاوت در مورد پیام بر اساس (است مقصددر صدور پیام احتمال فوق، احتمال

). استاز منبع و خصوصیات آماري آن شناخت

داردآن تأثیر ناندازه اطالعات در یا مضر بودن، قابل استفاده بودن یا نبودن مفید .

:باشدتابع اطالعات پیام برحسب احتمال، باید تابعی نزولی ) 2(

:باشدصفر اطالعات باید ) پیشامد قطعی( P=1براي احتمال ) 3(

ها اطالعات مجموع دو پیام مستقل از هم، باید برابر با مجموع اطالعات تک تک آن) 4(.باشد

براي دو پیام مستقلA وB احتمال صدور هر دو عبارت است از:

پس باید

6

( ) 0Af P

(1) 0f

,   . A B A BP P P

,( , ) ( ) ( ) ( ) ( )A B A B A BI A B f P f P P f P f P

Page 4: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 4

)3(اطالعات یک پیام به اختصار باید:

از شرط چهارم داریم:

1=(0(: شرط سوم(f( 0= 2k.

شرط دوم)x احتمال است بنابراینx>0:(

1می توانیمk 1: (در نظر بگیریمزیر را به صورت>a و دلخواه(

خواهیم داشت:

اطالعات منبع:

a اطالعات انتخاب آن معادل انتخاب واحد براي دلخواه بوده وI است.

7

' 11  0   0

kf x k

x

( , ) ( ) ( )f x y f x f y

2 1( ) lnf x k k x

1

1

lnk

a

( ) / log xaf x lnx lna

( ) log ( )a AI A P

)4(اطالعات یک پیام سه واحد رایج:

واحدرایج ترین :bit (binary unit)

رقم باینري نباید با(binary digit=bit) در صورت امکان اشتباه، رقم . شوداشتباه. باینري را بینیت می نامیم

فارسیتخمین اطالعات یک کلمه – 1 – 3مثال

حرفی داشته، 32کلمات به طور متوسط پنج حرفیبوده ، الفبا : فرض –روش اولحرف الفبا باشدو احتمال هر هم بوده حروف کلمه مستقل از

8

2( ) log , [bit] binary unit, 2

( ) log , [decit = Hartely] decimal unit, 10

( ) ln , [nat] natural unit,

1 decit 3.32 bit  , 1.44 bit 1 nat

A

A

A

I A P a

I A P a

I A P a e

1

32

Page 5: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 5

)2( 1 – 3مثال

مستقل بودن اجزاء :

I(کلمه)= 5 I(حرف)

I(حرف) = log 2 32= -log21/32=5 bit

I(کلمه)=25= 5×5 bit

واژه اياز کلمات واژه نامه صد هزار انتخاب و صدور تصادفی یکی : فرض –روش دوم توسط منبع

احتمال صدور هر کلمه

I(حرف)=                                bit

زیرا حروف کلمه مستقل از هم فرض شدهآمد، روش اول، عدد بزرگ تري به دست در .حروف کلمه به هم وابسته هستند و اطالعات مشترکی دارنددر حالی که . بود

9

P(کلمه)=1/100000

52log 10 16.61

تخمین اطالعات تصویر سیاه و سفید: 2 – 3مثال

سطح 8هر جزء داراي ) 2(جزء قابل تفکیک، 625×625تصویر داراي ) 1: (فرضهم احتمال باشد و سطح خاکستري اجزاء مختلف ) 3(خاکستري قابل تفکیک،

.مستقل از هم باشند

به دلیل عدم استقالل اجزاء تصویر : تقریب اضافی

از طرف دیگر:

هم احتمالی همه تصاویر با فرض استقالل اجزاء و هم احتمالی سطوح خاکستري

همان نتیجه قبل

10

82

1(picture) 625 625 (pixel), (pixel)

8

(picture) 625 625log 1,171,875 bit 1

I I P

I Mbit

625 625

625 625

8 8 ... 8 8

=تعداد تصاویر مختلف قابل تفکیک به وسیله چشم

1

3 625 625(picture) 2 (picture) 3 625 6, 25P I

Page 6: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 6

3 – 3مثال است 9تا 0رقم بین رقم داشته و هر رمز قفلی سه.

قفل؟اطالعات الزم براي کشف رمز ) الف(

رقم؟بودن سه میزان اطالعات با فرض مساوي ) ب(

؟رقمبودن هر سه با فرض زوج میزان اطالعات ) ج(

:جواب

N= تعداد رمزهاي ممکن : فرض) الف(

N=1000 )999تا 0(

P(رمز) = 1/1000 = 10-3

I(رمز) =log2 103 ~ 10 bit

) ب(

(000,111,…,999) → N=10 → P(رمز) = 10/103 = 10-2

I(مساوي بودن سه رقم رمز) = log2 102 ~6.6 bit

11

)2( 3 – 3مثال تعداد رمزهاي با رقم زوج) ج(

bit 1= قابل پیش بینی باشد % 50اطالعات پیامی که: نکته

12

N=5×5×5I(زوج بودن هر سه رقم) = log2(103/53) = 3 bit

Page 7: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 7

نام مبحث آموزشیآنتروپی 3-2

13

آنتروپی آنتروپی(H)  : صادر ) سمبل(اطالعاتی که به طور متوسط به ازاي هر جزء پیام

. است bit/symbolواحد آنتروپی .می شود

عدم قطعیت در پیام= آنتروپی

سرعت اطالعات(R) :واحد آن. اطالعاتی که به طور متوسط در هر ثانیه صادر می شود bit/sec است.

سرعت منبع )sr :( تعداد سمبل هاي صادره در واحد زمان با واحدsecsymbol/.

براي محاسبهH وR با فرض صدور→∞N سمبل از منبع و اطالعات کل صادره

totalI:

محاسبه سرعت اطالعات:

14

lim /sT

r N T

lim    bit / sym  b l/ ototalN

H I N

 bit / symbolim   / lim   /   ltotal s total sN N

R I T r I N r H

Page 8: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 8

)2(سرعت منبع منبع بدون حافظه و با حافظه

ادره منبعی که صدور هر سمبل جدید آن مستقل از سمبل هاي ص: منبع بدون حافظه.قبلی باشد

اشدمنبعی که صدور هر سمبل جدید وابسته به سمبل هاي قبلی ب: منبع با حافظه.

منبع مارکوف مرتبهm منبعی با حافظه (امm منبعی که صدور سمبل ) : سمبلی. وابسته باشدسمبل قبلی mفعلی به

اگرN→∞ برابر ) تعریف بر اساس متوسط زمانی(، آنگاه آنتروپی منبع بدون حافظه: است با

براي این که این تعریف از نظر آماري صحیح باشد، منبع باید ارگادیک باشد.

15

1

lim   / lo  bit / syg mbo1/ l M

total i iN

i

H I T p p

تعیین ماکزیمم آنتروپی انتخابقید ip ها:

پس

16

1 2 1 2 1

1 2 1 2

1 2 1 2 1 2 1

2 2 2

2 2 1 1

1 1

log ... log

... (1 ... ) log (1 ... )

1 1log ( ) ( 1) log log 0

(ln 2)

log log 1 ...

:    1

i

M

M M M

i i

M M

i i M M

i M

i M

p

i M

p p p p p p p

H p p p p

p p p p p p

Hp p p p e

p p p

p p p

p p i

, 2,3,...

Page 9: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 9

)2(تعیین ماکزیمم آنتروپی

غیر ر د. نیستهیچ وجه قابل پیش بینی در حالت تساوي احتماالت، خروجی منبع بهر خروجی منبع تا حدودي قابل پیش بینی می شد و اطالعات کمتري دصورت، این

.برداشت

4 – 3مثال

یک به ترتیب احتمال صدور صفر و و {1, 0}: نبع باینريالفباي مp 1و – p

محاسبه آنتروپی منبع

1در حالت باینري :نکته symbol = 1 binit .

صفر بودنH درp=0,1 به معناي پیش بینی

.کامل خروجی منبع است

باینرينمودار آنتروپی منبع

17

1 2 21/     log     bit / symbolmaxp p M H M

2 2  1/ 1– log 1/ 1 pH p log p p p H

منبع با حافظهآنتروپی قبلی استسمبل هاي صادره وابسته به صدور هر سمبل حافظه، در منبع با .

مارکوف مرتبه منبعm – آن صدور سمبل بعدي به منبعی که در : امm سمبل قبلی.است m =0حافظه بدون براي منبع . وابسته باشد

توصیف منبع با حافظه1 : الفباي منبعs, 2s, … , Ms )M :تعداد الفبا در سمبل( 1قبلی هاي صادره مختلف منبع از نظر سمبلحالت هايS, 2S, … ,nS ) (احتمال شرطی صدور سمبل ها:

) iS/js(P= احتمال صدور سمبلjs در حالت به شرط این که منبعiS باشد.

18

1 1 2 1 1

1 2

| , | , , |

| , | , , |

M

n n M n n M

p s S p s S p s S

p s S p s S p s S

mn M

Page 10: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 10

)2(توصیف منبع با حافظه احتماالت شرطی فوق از احتماالت محاسبه بقیه

حالت در احتمال بودنiS :)iS(P=iP

مارکوف مرتبه در منبعm حاالت می تواند تا ،تعداد

)بیتی mبلوك . (باشدعدد

متوسط سمبلی که در حالتاطالعاتiS صادر می شود:

با فرض صدورN→∞ سمبل:

19

21

1 2

1 1 2 2

1

1( | ) log

( | )

...

lim /

M

i j ij j i

n

total n n

n

total i iN

i

H P s SP s S

N NP NP NP

I NPH NP H NP H

H I N PH

...

m

mM M M M

)3(توصیف منبع با حافظه یا

وابستگی سمبل ها موجب کاهش آنتروپی می شود: نکته.

اي اطالعات قابل پیش بینی تر شدن سمبل بعدي با اطالعات سمبل هاي پیشین به معن.بعدي استکمتر سمبل

5 – 3مثال

2(و دو رقم ) بیت 1= سمبل 1( 1و 0الفباء منبع باینري با=m ( حافظه:

منبعحالت هاي :

20

21 1

1( ) ( | ) log [ / ]

( | )

n M

i j ii j j i

H P S P s S bit symbolP s S

34 2 1

11 10 01 00

ss s s

, , ,

2    ,   2  ;     4mm M n M

Page 11: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 11

)2( 5 – 3مثال احتمال شرطی صدور سمبل ها:

منبع در یکی از احتمال این را که.باشد حساب کنیدحالت هاي چهارگانه

:جواب

مارکوفمنبع توصیف :نمودار حالت

21

(1 00) 0.1 (0 00) 0.9

(1 01) 0.8 (0 01) 0.2

(110) 0.3 (0 10) 0.7

(111) 0.6 (0 11) 0.4

P P

P P

P P

P P

)3( 5 – 3مثال ساکنبه حالت با فرض رسیدن:

4 =1معادله . معادله مستقل نیستندچهارP+ 3P+ 2 P+ 1P را جانشین یکی از:آن ها می کنیم

آنتروپی منبع:

22

1 1 3 2 1 3

3 4 2 4 4 2

(1) 0.9 0.7 (3) 0.1 0.3

(2) 0.4 0.2 (4) 0.6 0.8

P P P P P P

P P P P P P

1 3 4 3 2 3

71 23 2 1 111 11 11

(1) 7 (2) 2 (3)P P P P P P

P P P P

1 11 0.10.1 0.9

2 0.2

3 0.3

4 0.4

0.1log 0.9log 0.469H H

H H

H H

H H

Page 12: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 12

)4( 5 – 3مثال

بیت اطالعات صادر می شود 0.621ازاي ارسال هر بینیت، به.

آنتروپیماکزیمم

ضرب طرفین درiP و جمع روي نامنفیi :

پس به طور کلی:

باید کلیه : حالت تساويiH ها ماکزیمم شود.

23

4

1

0.621 /i iI

H PH bit binit

21

1( | ) log

( | )log

M

i j ij j i

H p s S Mp s S

2 21 1

( )log logn n

i i ii i

H PH P M M

2 [bit / symbol]logH M

2*logiH M

)5( 5 – 3مثال یعنی:

)jو iاز مستقل (

مستقل بودن احتمال ازi ≡ بدون حافظه

مستقل بودن ازj ≡ {0,1}اینجا (هم احتمال بودن سمبل هاي مختلف (

،با استفاده باید بدون حافظه باشد زیرا سمبل بعديمنبع براي ماکزیمم شدن آنتروپی. از سمبل هاي صادره پیشین، قابل پیش بینی تر می شود

نکته

کوچکتر یا مساوي بینیت است واضح است که بیت، همواره *از رابطه)maxI≤meanI(

،بینیت استیک بیت برابر یک براي پیام هاي هم احتمال.

24

( ) 1/ 1, 2,..., , 1, 2,...,j iP s S M j M i n

Page 13: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 13

6 – 3مثال تایی انتخاب شده و با گرفتن 100,000بیست سؤالی، یک واژه از واژه نامه در مسابقه

. به کلمه انتخابی می رسیم) منبع باینري(پاسخ آري یا خیر

داردتا یک بیت اطالعات منبع باینري در هر خروجی.

مورد نظر رسیدسوال به کلمه 17با باید بتوان.

خیر باشدو پاسخ هر سوال با احتمال برابر آري : فرض.

مت اول آیا کلمه از قس«بپرسیم تقسیم کرده و دو قسمت واژه نامه را به : بهینهیک راه.شده تکرار کنیمبراي قسمت انتخاب سپس این کار را » است؟

کهواضح است:

25

52  log (10 ) 17 bitI

17 52 131,072 10

افزونگی منبعو بازدهی منبع بازدهی )Efficiency(: اطالعات براي الزم سمبل تعداد نسبت I تعداد به

I اطالعات براي رفته کار به هاي سمبل

منبع افزونگی)Redundancy :( زائد در صدور اطالعات سمبل نسبت تعدادI به Iرفته براي اطالعات سمبل به کار تعداد

26

max

max 2

max

2

/

/ log

/ /

/

1 1 1log

M

M

I H H He

I H H

I H I H

I H

He

Page 14: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 14

7 – 3مثال در زبان انگلیسی eو و Hتخمین

وابستگی حروف در متن

نیز صد حرفامکان ادامه یافتن وابستگی تا : احتمال نابرابر در صدور حروف الفباء.هست

80زبان انگلیسی حدود (هاي مختلف شده به زبانافزونگی متون نوشته (%

حروف وابستگی:

.حروف، کلمه بامعنی نمی سازدترکیب ها بسیاري از : حروف درکلمهوابستگی -1

.تمامی ترکیب کلمات، جمله بامعنی نمی سازد: وابستگی کلمات در جمله -2

.جمالت، متن بامعنی نمی سازندترکیب هاي بسیاري از : وابستگی جمالت -3

27

)2( 7 – 3مثال 26+ 1= 27با در نظر گرفتن =M حرف:

در نظر گرفتن فراوانی حروفبدون:

با فرض بدون حافظه بودن منابع

1با فرض منبع مارکوف مرتبه :

فرض مارکوف مرتبه دومبا:

28

27max 2log 4.75 /H bit letter

271

1

log 4.1    bit / letterii p

i

H p

27

1

3.3    bit / letteri ii

H PH

227

1

3.1    bit / letteri ii

H PH

Page 15: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 15

)3( 7 – 3مثال استفاده از این روش براي مارکوف مرتبه باالتر عملی نیست .

با روش هاي تجربی نشان داده شده:

حرف یا بیشتر به افراد مختلف نشان 100شانن براي تخمین فوق، متونی حاويموارد % 50در پیش بینی ها . کنندمی داد و از آن ها می خواست حرف بعدي را پیش بینی

پس. صحیح بود

کتاب در (درصد حروف است 79%متوسط حروف زائد در زبان انگلیسی، به طورProakis 1.3برابر Hآنتروپی 2002 bit/letter شدهبرآورد.(

29

max/ 1/ 4.75 0.21       0.79e H H

1 /H bit letter

نام مبحث آموزشیکدبندي منبع 3-3

30

Page 16: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 16

کدبندي منبعنري براي بایبه زبان مشترك مختلف منابع با الفباي تبدیل خروجی : کدبندي منبع

ال براي ارس) با ورودي و خروجی باینري(سیستم هاي مخابراتی مشترك استفاده از

یستم دالیل دیگر براي استفاده از س. کاهش افزونگی منبع از مزایاي کدبندي است: باینري سمبل هاي یک منبع تعداد زیاد مختلفو تعداد سمبل هاي منابع تفاوت نوع متداو ل تر استدیجیتال به صورت باینري راحت تر و مخابره.

31

)2(منبع کدبندي منبع اصلی :

1: الفباءs, 2s, … , Ms

آنتروپی :H بیت به ازاي هر سمبل

بازدهیو افزونگی

شدهپارامترهاي منبع کد

32

2 1  –   ,     / loge e H M

=کد کننده منبع + منبع = منبع معادل

0,1: الفبا

بینیتبه ازاي هر ’H:آنتروپی

(1 symbol = 1 binit)

:و بازدهی افزونگی '

' ' ' '

22

1 ,log

He e H

Page 17: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 17

)2(پارامترهاي منبع کد شده باي سمبل هاي مختلف الف تخصیص کد باینري به هر یک از: روش متداول کدبندي

منبع

براي هر سمبل : روش مرسومis به طول رقمی باینرينبع، از مin اختصاص یافته و.رشته سمبل خروجی منبع به یک رشته ارقام باینري تبدیل می شود

یگر از آن جا که کدها بدون فاصله ارسال می شوند، الزم است هیچ کدي پیشوند کد د.ندنباشد که گیرنده بتواند با تکمیل کد هر سمبل، آن را بالفاصله دیکد ک

براي به دست آوردن رابطه بینH وH’ با فرض این کهN→∞ سمبل صادر شده:باشد

تعداد کل ارقام باینري مصرف شده

طول متوسط کد:

در نتیجه:

33

     bittotI NH

1 1( ) M Mn N Np n Np n

' lim /   bit / binit( )

tot

N

IH H n

n N

1

[ ]M

i ii

p n E n n

با طول ثابتکدبندي

به دلیل سادگی متداول ترین روش

این بنابر n==Mn=… =2n=1n: طول کد

ترکیبات ممکن تعدادn باینري برابر رقمn2 در نتیجه . است

ستفاده از همه ترکیبات ااگر . دادرا کاهش افزونگی با کدبندي با طول ثابت نمی توان.نیز افزایش می یابدافزونگی نشود

M2log≥n بنابر اینe≤’e.

34

22            logn M n M

22log

H H H HH e H

n n n

2

log/ log 1M e M

e He n

n

Page 18: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 18

)2(کدبندي با طول ثابت M=n2 : ممکنهمه ترکیبات استفاده از

6(تایی 6یک منبع با الفباي براي =M (:

و 110کدعدم استفاده از دو : افزونگیافزایش علت111

5کد در 1از رقم بعدs 6وs بوده، پیش بینیقابل.و زائد استاطالعاتی ندارد

35

62log 2.58 3n n

2’ /  (log 6) / 3   0.862   1

'

e e

si

کد

s1 000

s2 001

s3 010

s4 ٠١١

s5 ١٠٠

s6 ١٠١

با طول متغیرکدبندي ساندرصفر به کدبندي می توان کاهش داد و استفاده از از نظر تئوري، افزونگی را با .

١آنتروپی تقریبا متون انگلیسی در=H یک رقمباید بتوانیم با . حرف استبیت در هر طالعات می تواند یک بیت اباینري یک رقم . (باینري به ازاي هر حرف کدبندي کنیم

). داشته باشد

رکیبات یافت زیرا بسیاري از تکدبندي تک تک حروف نمی توان به این کار دست با.مختلف حروف کد بی معنی هستند

27براي مثال براي= M 272تعدادlog≥n حرف الزم داریمرقم باینري به ازاي هر.

وجود به ترکیبات ماست فقط الزم اغلب و براي به صفر رساندن افزونگی می توانN→∞ سمبلی کد اختصاص داده شود.

totalI = اطالعات هر پیام→∞N سمبلی منبع= NH ) لگاریتم عکس احتمال)اطالعات

صدور هر پیام احتمالN→∞ :

36

2 (1/ ) 2 NHNH log P P

Page 19: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 19

)2(کدبندي با طول متغیر فوق براي کلیه پیام هاياحتمال N→∞  تعداد برابر است، ) رشته نمونه اي(سمبلی

: با معنی که منبع صادر می کندسمبلی ∞→N پیام هاي

پیام هاي موجودتعداد:NH2=)Nn(2 = تعداد ترکیبات)N(n رقم باینري

نتیجهدر

n(N) = NH

در عمل همه پیام هايN→∞ سمبلی معنی دار نیستند .

کدي باشد براي هر جزء می توان) کلماتمثال (از اجزاء مستقل از هم اگر پیام متشکلρ’→0یعنی : در نتیجه. اطالعات آن نسبت دادبا طول تقریبا برابر با

37

1/ 2NHP

’ / ( ) / 1

’ ’ 1 ' 0

H NH n N NH NH

e H

)3(کدبندي با طول متغیر 1جدید اجزاء سمبل هاي : فرضs,  2s, … ,  Ms 1با احتماالتp,  2p, … ,  Mp

سمبل اطالعاتis

داریم:

8 – 3مثال

1مستقل الفبايمنبعی باs,  2s,  3s,  4s زیر استو احتماالت ثبت شده در جدول .. منبع را قبل و بعد از کدبندي حساب کنیدافزونگی بازدهی و

38

21

2

21 1

1log

1log

1log

' / / 1    ,     ' 0

M

ii i

i i

i

M M

i i ii i i

H pp

n Ip

n p n p Hp

H H n H H

Page 20: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 20

)2( 8 – 3مثال

جواب:

39

4

21

2

1 0.5 2 0.25 (3 0.125) 2 1.75 binit/symbol

log 1/ 1.75  bit / symbol

/ log 4 / 2 0.875    ,   

 

    12.5%

' / 1   ,    ' ' 1   ,   1 0

 

  ' 1

i ii

n

H p p

e H H

H H n e H

is ip iI in کد

1s ٠�۵ ١ ١ ٠

2s ٠�٢۵ ٢ ٢ ١٠

3s ٠�١٢۵ ٣ ٣ ١١٠

4s ٠�١٢۵ ٣ ٣ ١١١

قضیه کدبندي شود روش هاي مختلف نمیعدد صحیح ) سمبل ها(کلی که اطالعات اجزاي پیام در حالت

.براي کدبندي وجود دارد

و ) گیبهینه از منظر کمینه کردن افزون(هافمن فانو، -شانن، شانون : معروف ترین روش هازیو -لمپل

قضیه کدبندي:

با آنتروپی براي منبعH و سرعت اطالعاتR  به شرطی کهR > H باشد، امکان کدبندي.وجود دارد  R [bit/sec]سرعت هر با احتمال خطاي کوچک دلخواه با

اگرR < H خطا را نمی توان صفر کردباشد احتمال.

روش هافمن 9 – 3مثال

بل با با یک سماحتمال سمبل با کمترین تشکیل نمودار درختی و جایگزین کردن دو.مجموعاحتمال

واحد تبدیل می شودسمبل ها به یک سمبل با احتمال ، همه ادامه این کاربا.

درخت هر انتخاب، هر سمبل به آدرس خود روي به شاخه هاي ١و  ٠رقمبا تخصیص. منتهی می شود

40

Page 21: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 21

)2( 9 – 3مثال گري سمبلی در مسیر آدرس دینیست و هیچ کدي مقدمه کد دیگر در این روش، هیچ

.قرار ندارد

مثال

41

8

1

2

log 1/ 2.64   bit / symbol

/ log 8 0.88   ,       12%

2 0.343 2 0.147 4 0.027 2.726   bit / symbol

i ii

H p p

e H

n

کد با طول ثابت )il(کد si pi

٠٠٠ ٠٠ s1 0.343٠٠١ ١٠ s2 0.147٠١٠ ٠١٠ s3 0.147٠١١ ٠١١ s4 0.147١٠٠ ١١١٠ s5 0.063١٠١ ١١١١ s6 0.063١١٠ ١١٠٠ s7 0.063١١١ ١١٠١ s8 0.027

)3( 9 – 3مثال

42

Page 22: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 22

ادامه-کد هافمن ته متغیر نگاشبا طول ثابت به بلوك هاي باینري با طول در روش هافمن بلوك هاي

.متغیر می گوییم-به –می شود از این رو به آن کدبندي طول ثابت

برعکسو د کمتر تبدیل می شوبا احتمال بیشتر به رشته هاي باینري با طول رشته هاي.

ه باینري و فقط یک راه براي شکستن رشتاصلی این روش همزمانی است، فقط مسئله. اصلی وجود دارددریافتی و تبدیل آن به رشته

صورت باشد، ثابت می شودطول متوسط کد هافمن به اگر:

ه استبلوك فراهم می کند بهینطول مینیمم با از این نظر که کدي کدبندي هافمن.

:اساسی کدبندي هافمنمشکالت

منبعوابستگی شدید به آمارگان

بیتی ک بلوك هاي منبع ی(نمایی پیچیدگی الگوریتم براي منابع با حافظه افزایش)بودند

43

  1H R H

  i iiR p I

Ziv–Lempelکدبندي منبع ثابتطول متغیر به کدبندي

ه هاي متغیرشکسته و سپس رشترشته صادر شده از منبع به رشته هایی با طول هر. ثابت نگاشته می شودشکسته شده به کدهاي با طول

رار نشده رشته اي که تا کنون تکمرحله کوتاه ترین در هر : منبعشکستن رشته خروجیاینري بسپس بسط . منبع تکرار می شودکار براي کل خروجی شناسایی شده و این

.اضافه می شودترتیب عبارت قبلی به بیت جدید

استمنبعمستقل از آمارگان این کدبندي.

10 – 3مثال

را ٠١٠٠٠٠١١٠٠٠٠١٠١٠٠٠بیتی -19رشته زیو، –با استفاده از روش لمپل.کدبندي کنید

:جواب

غیرتکراري می شکنیمصورت رشته هاي کوچک تر ابتدا رشته را به.

44

Page 23: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 23

)2( 10 – 3مثال

،به هریک از رشته هاي کوچک تر .می گوییم  (phrase)عبارت

براي . است 8تعداد عبارت هاه سه بیت بعبارت، توصیف هر

ان عالوه یک بیت اضافه براي نشمنبع الزم دادن خروجی جدید

شده بیت کد 32کال ( داریم .)داریم

45

seq. 0 1 00 001 10 000 101 0000

phrase 1 2 3 4 5 6 7 8

مکان معادل باینري محتوا کلمه کد

١ ٠٠١ ٠ ٠٠٠٠٢ ٠١٠ ١ ٠٠٠١٣ ٠١١ ٠٠ ٠٠١٠۴ ١٠٠ ٠٠١ ٠١١١۵ ١٠١ ١٠ ٠١٠٠۶ ١١٠ ٠٠٠ ٠١١٠٧ ١١١ ١٠١ ١٠١١٨   ٠٠٠٠ ١١٠٠ زیو -ویژگی هاي کدبندي لمپل:

افزایش بازدهی کدبندي با افزایش طول رشتهتعداد زیاد عبارت ها و در نتیجه تعداد بیت هاي هر عبارت: اشکال

نام مبحث آموزشیظرفیت کانال گسسته 3-4

46

Page 24: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 24

گسستهکانال ظرفیت ظرفیت کانال(C) : مقدار اطالعات بدون خطا برحسب(bit/sec) که کانال قادر

.است در واحد زمان انتقال دهد

مانند ارقام انتقال : وظیفهرشته ارقام، : خروجیو ورودي : گسستهکانالaa’ وbb’.

مانند سیگنال انتقال : وظیفه سیگنال،: خروجیو ورودي : کانال پیوستهcc’.

آماري کانال گسستهتوصیف

.براي توصیف کانال گسسته پارامترهاي زیر را در نظر می گیریم

تنوع ارقامM : وروديتعداد سمبل الفباي

47

)2(گسسته ظرفیت کانال سرعت ارقامr : استانتقال تعداد رقم هایی که کانال در واحد زمان قادر به.

کیفیت انتقال ارقامP : ماتریسی که هر عنصر آن مانندijp احتمال تبدیلi بهj حین.انتقال است

توصیف آماري کانال گسسته

48

11 12 1

1

M

M MM

p p p

P

p p

Page 25: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 25

)3(توصیف آماري کانال گسسته گسسته از نمودار کانال استفاده می شودتوصیف آماري کانال براي.

خطا داریممثال، براي کانال هاي بدون براي:

49

1 0 0 0

0 1

1

1

0 1

P

متوسط ارسالی، دریافتی و انتقالیاطالعات

احتماالت و با هم از رشته ارقام استقالل ورودي با فرضtip

احتمال ارسالماتریس

کانالماتریس احتمال خطاي

50

[ ];  { | }ij ijP p p P y j x i

1

1M

tii

p

1 2[     ]t t t tMP p p p

11 12 1

21

1

M

M MM

p p p

pP

p p

Page 26: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 26

)2(ی انتقالاطالعات متوسط ارسالی، دریافتی و استفاده از بقیه احتماالت باtP وP براي مثال. محاسبه می شود:

صورت ماتریسبه

معرفی احتمال توام ارسال باi و دریافتj :

ی توان هاي مختلفی م) آنتروپی(در رابطه با ارقام دریافتی و ارسالی اطالعات متوسط.در نظر گرفت

51

1

[ ]M

rj ti iji

P P y j p p

: jاحتمال دریافت 1

( 1)M

rjj

P

1 2( , , , )

Mr r r r tP p p p PP

{ , } ti ijP x i y j p p

1

( | ) ( ) ( , )   ( | )ti ij ti ij

M

rjtk kj

k

p p p pP y x P x P y x p x i y j

pp p

)3(ی اطالعات متوسط ارسالی، دریافتی و انتقالوروديهر رقم اطالعات متوسط دریافتی با : ) ورودي(ارسالی آنتروپی ) الف(

جیخروازاي هر رقم اطالعات متوسط دریافتی به : ) خروجی(دریافتی آنتروپی ) ب(

بدون خطا کانال براي(P = I)

52

1

1( )   log

M

i

H x P x iP x i

1

 

1( ) ( ) log

{ }

  ( )

( ) ( )

M

i

r t t

H y P y iP y i

P PP P P y i P x j

H y H x

Page 27: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 27

)4(ی اطالعات متوسط ارسالی، دریافتی و انتقال اطالعاتی که به طور: ) ورودي و خروجی(آنتروپی توام ارسالی و دریافتی ) ج(

.یافته در بر دارندازاي هر رقم انتقال ارسالی تواما به دریافتی و متوسط، ارقام

براي کانال بدون خطا:

53

1 1

1( , ) { , y = }log

{ , y = }

M M

i j

H x y P x i jP x i j

1

0 ,

1 ,

0 ;{ , } { },

( ) ;

1( , ) ,  log ( )

( , )

ij

ij

M

i

j ip

j i

j iP x i y j P x i p

P x i j i

H x y P x i y j H xP x i y j

)5(ی اطالعات متوسط ارسالی، دریافتی و انتقالپس در کانال بدون خطا

ازاي دریافتی بهمتوسط اطالعات : ) شرطی خروجی(آنتروپی شرطی دریافتی ) د(.می دانیمهر رقم خروجی، وقتی ارقام ورودي را

پس

استفاده از رابطه قبلیبا

54

1

1

1( | ) |  log

( | )

( | )       ( | )

M

i

M

i

H y x i P y j x iP y j x i

H y x P x i H y x i

( , )   ( )   ( )H x y H x H y

1 1

1 1

1( | ) | log

|

1, log

|

M M

i j

M M

i j

H y x P x i P y j x iP y j x i

P x i y jP y j x i

Page 28: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 28

)6(ی اطالعات متوسط ارسالی، دریافتی و انتقال در مورد ی می توانند اطالعاتدریافتی ارسالی، ارقام ارقام با دانستن ): نویز(آنتروپی خطا

:براي کانال بدون خطامثال )H(n)(. باشندداشته ) کانالنویز (خطا

عبارت درH(y/x) جمالت همه�≠i به دلیل صفر بودن ضریبlog و جملهj=i به.صفر است ،log(1/P{y=j|x=i})دلیل صفر بودن

به ال اطالعات متوسط داده شده به کان: ) شرطی ورودي(آنتروپی شرطی ارسالی ) ه( این آنتروپی آنتروپی اطالعات. ورودي وقتی که ارقام خروجی را می دانیمازاي هر رقم

متوسطی است که علی رغم داده شدن ورودي، در خروجی موجود نیست و لذا به آن .آنتروپی گم شده هم گویند

رقم دریافتی برايjام

55

0,{ , }

( },

j iP x i y j

P x i j i

( / ) 0H y x

1

1( | ) |  log

( | )

M

i

H x y j P x i y jP x i y j

)7(ی اطالعات متوسط ارسالی، دریافتی و انتقالدر نتیجه

نظیرH(y/x) براي کانال بدون نویز :

هر ازاياطالعات متوسط که به : ) مشترك ورودي و خروجی(آنتروپی انتقالی ) و(. رقم از ورودي به خروجی منتقل می شود

اطالعات مشتركتعریف:

56

1

1 1

( | )       ( | )

1, log

|

M

j

M M

i j

H x y P y j H x y j

P x i y jP x i y j

( | ) 0H x y

1 1 1( ) log , ( ) log , ( , ) log

( , )

( ) ( ) ( ) ( , )

1 ( , )( ) log log

( ) ( ) ( )

A B

I A I B I A BP P P A B

I A B I A I B I A B

P A BI A B

P A B P A P B

Page 29: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 29

)8(ی اطالعات متوسط ارسالی، دریافتی و انتقال مانند(است اطالعات مشترك صفر مستقل باشند پیام اگر دو :A- بودن هواي ابري

)سرانه مطالعه کتاب در استانی دیگر -Bاستان و

انتقالیآنتروپی:

خطا کانال بدون براي:

57

1 1

,( ) , log

M M

i j

P x i y jH x y P x i y j

P x i P y j

( ) ( ) ( )H x y H x H y

)9(ی اطالعات متوسط ارسالی، دریافتی و انتقالدر حالت کلی:

براي محاسبه مناسب تر استرابطه آخر.

58

( ) ( ) ( ) ( , )

( ) ( | )

( ) ( | )

H x y H x H y H x y

H x H x y

H y H y x

Page 30: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 30

)10(ی اطالعات متوسط ارسالی، دریافتی و انتقال

اگرx وy مستقل باشند.نمی دهد xدرمورد اطالعاتی yدانستن

اگرx وy وابسته باشند، وقوع کامالy وقوع ، توسطx مشخص می شود.

11 – 3مثال

کانالمشترك یک آنتروپی

.باینري را محاسبه کنید

59

( ) ( , ) ( | )( ) log log log

( ) ( ) ( ) ( )

p x y p x y p y xH x y

p x p x p y p y

( ) 0H x y

( | ) 1P x y

)2( 11 – 3مثال جواب :

حالت خاص کانال درBSC احتمال خطا : (با ورودي هم احتمالep(

60

0

1 01

1 1    ( ) log log

( ) , ( | )

( ) ( ) ( | )

r

r r

p

p p

p p

p p p

p p p p

H x p p Hp p

H y H H y x pH pH

H x y H y H y x

H pH pH

1/2

0 1 1/2

        ( ) 1  bit / binit

1/ 2    ( ) 1e

r r

p H x H

p p H y H

Page 31: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 31

)3( 11 – 3مثال

را خروجی می رسد زییک بیت اطالعات ورودي به حتمی همه حالت کانال با خطاي در. حتمی بودن خطا می توان یک ها را صفر و صفرها را یک تلقی کردبه دلیل

خروجی منتقل نمی شود زیرااز ورودي به با هیچ اطالعاتی در حالت کانال

چنین کانالی را . است 0/5برابر دریافت صفر یا یک، مستقل از رقم ارسالی و احتمال کانال بی خاصیت می نامند زیرا می توان کانال را حذف کرده و با قرعه کشی ارقام

.خروجی را ایجاد کرد

کانالانتقال اطالعات و ظرفیت سرعت

سرعت انتقال اطالعات در کانالtD : توسط کانال هر ثانیه اطالعاتی که در مقدار. انتقال داده می شود

tD اطالعات ورودي یا به عبارتی (. هم به کانال بستگی دارد ورودي وهم بهtP ،)Pبه عبارتی خطا در ارسال یا احتمال

61

12

1 12 2( ) 1 bit / binit

e e ep p pH x y H H H H

  ( )  sec

t

digit bitD r H x y

digit

1

2ep

)2(کانال سرعت انتقال اطالعات و ظرفیت ظرفیت کانالC : با (کانال حداکثر اطالعاتی که یکr وP واحد بتواند در ) مشخص

).ترین ورودي ازاي مناسبیعنی به (زمان انتقال دهد

12 – 3مثال

براي کانال بدون نویز و کانال باینري ظرفیت کانال را محاسبه کنید.

:جواب

در کانال بدون نویزH(x ↔ y)=H(y)

62

  ( )     /t max maxC D r H x y bit sec

max max

2

( ) ( ) log

log   /

H x y H x M

C r M bit sec

Page 32: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 32

)2( 12 – 3مثال در کانال باینري دیدیم که

آنتروپیH(xy) هم به کانال)α  وβ ( و هم به ورودي(p) بستگی دارد.

ازاي مناسب ترین براي محاسبه ماکزیمم بهpمشتق را برابر صفر قرار می دهیم ،.

63

( )

1 1( ) log (1 ) log

1

p pH x y H pH pH

p p p pp p p p

pH pH

1

1

max

( ) 1 10

11 2

( ) log[1 2 ]1

H H

H H

H x yp

p

H HH x y

)3( 12 – 3مثال

حالت کانال باینري متقارن در کانال محاسبه ظرفیت)BSC(

براي محاسبه)yx(maxH باید)y(maxH را داشته باشیم.

64

max ( )C rH x y

( ) ( ) – ( | )

( | ) (1– )e e

e

p p

p

H x y H y H y x

H y x pH p H

H

1 0

max 1/2

   1/ 2

( ) ( – )

     (1– )    bit/sece

r r

Pe

p

p p

C rH x y r H H

r H

Page 33: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 33

)4( 12 – 3مثال منبعترین مناسبتقارن، با توجه به

کانال باینري متقارنظرفیت

با فرضr = 1000 bit/sec  احتمال خطاي مختلفکانال با ظرفیت:

65

1

1 1  1–

2 2ro rp p p p

ep)ep-1(1000C = 

٠١٠٠٠۴-١٠٩٩٩١٠٩١٩-٢١٠-١۵٣١

)کانال بی خاصیت( 0.5٠

نکاتدر حالت باینري احتمال خطاهاي کم اثر زیادي روي ظرفیت کانال نمی گذارند.

با می توان ظرفیت کانال را تقری) مقادیر عملی احتمال خطا(براي احتمال خطاي کم.ظرفیت کانال بدون خطا فرض کرد

C=r(logM)

ارقام تقارن داشته باشد برخی از اگر کانالی براي انتقال)tD تابع متقارنی از احتمالمی توان احتمال صدورآن ارقام را مساوي C، در محاسبه )بعضی ارقام وروديصدور

ارقام به سرعت انتقال برخی از آن تر وجود ندارد که صدور فراوانکرد، زیرا دلیلی .اطالعات بیشتري منجر شود

66

Page 34: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 34

نام مبحث آموزشیظرفیت کانال پیوسته 3-5

67

آماري منبع پیوستهتوصیف آنالوگ منبعی که خروجی آن سیگنال :پیوستهمنبعx(t) ز کمیتی پیوسته ایعنی . باشد

. با زمان هم داردپیوسته تغییرات که نظر اندازه

پارامترهاي توصیف کننده منبع پیوسته

پهناي باند منبعW : باندي که مؤلفه هاي موجود در پهنايX(f) در داخل آن قرار.دارند

سیگنال : نظریه نمونه برداريx(t) با عرض باندW 2داشتن تعداد را می توان باW نمونه. ثانیه کامال توصیف کرددر

سرعتبا گسسته اي است که معادل منبع پیوسته منبع اطالعاتی، از نظرW2=sr نمونه).نمونه هاي گرد شده(در ثانیه تولید می کند

PDF منبع)x(Xf: : تابع چگالی احتمال)t(x  در حالت کلی با زمان است کهt تغییرهر یک از نمونه هاي منبع نیز PDFزمان است و براي منبع ساکن مستقل از می کند ولی

)x(xf است.

با (یجیتال به صورت دپیوسته را پیوسته مثل نمونه اي کردن می توان کمیتی گرد عمل با. در آورد) تنوع محدود

68

Page 35: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 35

)2(توصیف آماري منبع پیوسته نمونه هاي گرد نشده، حد نمونه هاي گرد شده است که در آن خطاي گرد کردن

x→0 است.

منبع پیوسته با پهناي باندW 2را می توان معادل حد منبع دیجیتال با تولیدW .در نظر گرفت x→0نمونه گرد شده در هر ثانیه و خطاي گرد کردن

69

)3(توصیف آماري منبع پیوسته طیف قدرت)f(xS : فرکانسی موجود درطیف قدرت مؤلفه هاي)t(x

عه کنیممختلف را مطالبین نمونه هاي با استفاده از طیف قدرت می توانیم همبستگی.

و سرعت اطالعات منبع پیوستهآنتروپی

منبعآنتروپیH(x) )و) اطالعات متوسط موجود در هر نمونهR(x) سرعت اطالعات:عبارت است از) ثانیهمتوسط در هر اطالعات (منبع

براي محاسبهH(x) 1/2به فاصله ، فرض می کنیم نمونه هاي Wمستقل هستند.

70

2 ( ) (0) ( )x xS E x t R S f df

( )  ( )   2 ( )sR x r H x WH x

01

0 01 1

( ) lim ( ) log(1/ ( ) )

lim ( ) log(1/ ( )) lim ( ) log(1/ )

M

X k X kx

k

M M

X k X k X kx x

k k

H x f x x f x x

f x x f x f x x x

Page 36: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 36

)4(آنتروپی و سرعت اطالعات منبع پیوسته

حد فوق نامحدود است، در نتیجه آنتروپی منبع پیوسته بی نهایت است.

شدنبی نهایتH(x)  : شده، به هیچ وجه قابل گرد هاي نامحدود نمونهتنوع. پیش بینی نیست

71

0

1

0

1

0 01

lim (

( ) log(1/ ( )) lim ( ) lim log(1/ )

1( ) ( ) log lim

) (

log(

)

(

1

))

M

X X X kx x

k

M

X k Xx

k

X xxX

f x x

f x f x dx f x x x

H x f x dxf x

f x dx

0 0

0

1( ) 0 ( ) log

( )P x x I x x

P x x

)5(آنتروپی و سرعت اطالعات منبع پیوسته می تواند حاوي کلیه  ٠�٢٢٧٣۶به اندازه ) 1از کوچک تر (پیوسته کمیت یک : مثال

.اطالعات دانش نامه هاي دنیا باشد

د، کربا هر دقت دلخواه تولید به دلیل وجود خطا و نویز در عمل نمی توان کمیتی. انتقال داد و سنجید

کرداستفاده نمی توان از نامحدود بودن اطالعات کمیت پیوسته عمال.

شوددر مواردي که اختالف آنتروپی ها مطرح است، آنتروپی به صورت زیر توصیف می .

در تفاضل حذف می شودنامحدود کننده آنتروپی عامل.

1( ) ( ) log

( )X

X

H x f x dxf x

Page 37: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 37

)6(آنتروپی و سرعت اطالعات منبع پیوسته 2[با قدرت ثابتبراي منبع : ماکزیمم آنتروپیX[E=S باندو پهنايW ، آنتروپی

:یعنی. است که طیف یکنواخت و توزیع نمونه ها گوسی باشد ماکزیمم زمانی

: نتایجبرخی

طیف قدرت بدون ضربه در مبداء :

به ازاي

به فاصله ا در نتیجه براي توزیع نرمال، نمونه ه. ناهمبسته هستند       به فاصلهنمونه ها       

.هستندمستقل         

73

2

0

00

1 ( )( : ( , / 2)), ( ) exp , 0X

x xn N m N f x m

NN

( / 2 ) [ ( ) ( / 2 )] 0xR k W E x t x t k W

[ ] 0

( ) ( ) sinc(2 )2 2

X x

E X X

S fS f rect R S W

W W

2

k

W

1

2W 1

2W

)7(آنتروپی و سرعت اطالعات منبع پیوسته

سفید نرمال محدود به باند نویزW ماکزیمم اطالعات را ،.دارد

پیش بینی این نویز بسیار مشکل این نویز است.

74

2

2

max 2 2

2max 2

1( )

2

2( ) ( ) log

exp( / 2 )

loglog 2 log 2 bit / sample

2

x

SX

X

f x eS

SH x f x dx

x S

eS S H eS

S

Page 38: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 38

)8(آنتروپی و سرعت اطالعات منبع پیوسته با در نظر گرفتن شرایط Cظرفیت محاسبه

نویز جمع شونده . 1

2 .n(t) با توان) بدترین نویز(نویز سفید نرمال

سیگنالاستقالل نویز و . 3

قدرت سیگنال . 4

آنتروپی شرطی

75

2  [ ]S E X

( | ) ( ) ( | )

1( ) ( | ) log

( / )

X

X Y

Y

H y x f x dx H y x

f x dx f y x dyf y x

( )  ( )  ( )y t x t n t 2 2

0  [ ( )]  nN E n t N W

( ) ( )n t x t╨

)9(آنتروپی و سرعت اطالعات منبع پیوسته

سیگنال و نویز

:مستقل هستند

می دانیم

قدرت ورودي با فرض ثابت شدنS=)2XE(قدرت خروجی هم ثابت است ،.

76

( ) [ ( )  – ( | )]

2 [ ( )  – ( | )]

2 ( ( ) – ( ))

max max

max

max

C rH x y r H y H y x

W H y H y x

W H y H N

2 2 2E[ ]  E[ ]  E[ ]       Y X N S N

( ) ( ) ( ) ( )

( ) ( )

      ( | ) ( – )

1( | ) ( ) log

( )

( ) log(1/ ( )) ( )

Y N

Y N

Y N

N

N

N N

F y P Y y P N y X F n

f y f n

Y X N f y x f y x

H y x f y x dxf y x

f n f n dn H N

Page 39: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 39

)10(آنتروپی و سرعت اطالعات منبع پیوسته اما

هارتلی-رابطه شانن

محاسبه شرایط براي ورودي

77

max

2

( ) log 2 ( )

( )2 2

1( ) exp

2 ( )2 ( )

Y

Y

H y S N e

S N fS f rect

W W

yf y

S NS N

2

   2    ( 2 ( ) log 2 )

(

   (

) ( ) ( ) ( ) ( ) ( )

( )2 2

1 ) bit / sec

y x n

X

C W log e S N eN

y t x t n t S f S f

C W

S f

S fS f rect

W W

log SNR

)11(آنتروپی و سرعت اطالعات منبع پیوسته مشخصه تابع

یکنواخت وقدرت ورودي، باید طیف کانال حداکثرظرفیت استفاده از برايPDF .)مستقل و گوسی 1/2Wنمونه ها به فاصله (باشد گوسی

کانال تلفنSNR=30 dB وW=3 kHz

78

2 2 2

2

( ) ( )2 2 2

2

( ) ( ). ( )

( ) ( )

1( )

2

Y X N

S N N S

x x

x

Sx

e e e

f x eS

2 0 2

0

32

        1 , lim / log

 3000  (1   10 )   29900 ~ 24.9  kbit / sec

w

SC W log C S N e

N W

C log

Page 40: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 40

)12(آنتروپی و سرعت اطالعات منبع پیوسته نرمالیزه شده به (ظرفیتe2logoN/S(

مکالمات تلفنی تا چه حد از در : سوالمی شود؟این فرصت استفاده

تخمینtD : طور فرض می کنیم بهکلمه در ثانیه گفته شود و 2متوسط

:حرف باشد 5کلمه به طور متوسط هر

79

word letter bit  bit   2     5     1   10

sec word letter sectD

C و tDبررسی علل اختالف فاحش بین عدم منظور کردن اطالعات جنبی مبادله شده –الف

نوع شرایط جسمی ١٠٠٠نفر و از لحن صدا ١٠٠٠می توانیم از روي صدا : فرض.روحی را تشخیص دهیم

جنبیاطالعات

براي مکالمه اي به مدتsec 20:

در نتیجه تاثیر ندارد.

بازدهی کم زبان مکالمه –ب

حرف هم احتمال وجود داشته باشد، حروف متن مستقل از هم 32کنیم فرض می.بوده و همه ترکیبات مختلف حروف، متون هم احتمال و با معنی بسازند

هنوز هم اختالف فاحشی باC دارد.

80

    log  1000    log  1000 ~ 20 bit

20     10   11 ~ 10  bit / sec20

t

I

D

32max 2log 5 bit / letter  5 10 letter / sec = 50 bit / sectH D

Page 41: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 41

)C )2 و tDبررسی علل اختالف فاحش بین بازدهی کم سیگنال مکالمه –ج

کانال، سیگنال باید طیف قدرت یکنواخت واز ظرفیت براي استفادهPDF گوسی)مستقل و گوسی نمونه ها به فاصله . (داشته باشد

:مکالمهسیگنال

PDF 1000-800حول نسبتا باریک قدرت گوسی و طیف غیر Hz دارد.

مشابه موجAM  دهان ایجاد شده و پوش دمیدن در یا صوتی کاریر آن با تارهاي که.ایجاد می شودلب و دهان ،که حاوي اطالعات است، با حرکات

ر می کند بنابر با سرعت خیلی کم تغیی) پیام(پوش . کاریر، پهناي باند نسبتا زیادي دارد.این پهناي باند کمی دارد

چند کیلو (اد با پهناي باند زی، سیگنال )چند ده هرتز(براي سیگنالی با پهناي باند کم.ایجاد می شود) هرتز

81

1

2W

)C )3 و tDبررسی علل اختالف فاحش بین وکودرها

د که به و پوش جداگانه ارسال می شو) پریودیک یا شبه نویز سفید(معموال نوع کاریر.پهناي باند کمی نیاز دارد

در گیرنده سیگنال مکالمه از روي پوش و نوع کاریر بازسازي می شود.

با وکودرها می توان پهناي باند الزم را به حدود تا چند هرتز تقلیل داد.

82

Page 42: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 42

SNRو Tزمان ،Wپهناي باند مبادله بین ، مبادالتی مخابراتی ایده آلدر سیستم هايW، T وSNR می تواند وجود داشته

.باشد

ارسالبا فرضI بیت

Wو T مبادله -الف

با فرضSNR بینمستقیم ثابت، مبادلهW  1و/T وجود دارد.

با مانند کاهش پهناي باند الزم( این مبادله در عمل وجود داشته و استفاده می شود).ضبط سیگنال و پخش و ارسال آهسته آن

83

2 2log (1 ) log (1 )C W SNR TC TW SNR

2

1

log (1 )

IW

T SNR

)W )2و Tمبادله 5ویدئو با پهناي باند ارسال سیگنال MHz باند پهناي برابر به 3/5∘∘∘سرعت با

kHz 3 )برابر 5∘∘∘/3زمان مخابره ( نیاز دارد ) کانال تلفنی(

مبادله -بW وSNR

براي I  وT ،رابطه بینثابتSNR 1الزم و/W الزم نمایی و به صورت زیر است:

29900براي ارسال bit/sec،SNR الزم عبارت است از:

84

1

2 1I

W TSNR

٠�٧۵١١�۵٣۶١٢[kHz]پهناي باند

SNR الزم[dB]∘١٢∘9∘6٢٩�٩٩١۴�٨۶۶�۶۵

Page 43: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 43

)SNR )3و Wمبادله نمایی برحسبدر مبادلهdB ، 1بینتقریبا مبادله خطی/W وSNR برقرار است.

آنالوگخابرات ممثال در . می شوداستفاده وجود داشته و در عمل این مبادلهFM برابر شدن 2براي . (وجود دارد W/1 و SNRمجذوري بین ، یک مبادله PMو

. )استضعیف تر از مبادله نمایی آن برابر می شود که خیلی SNRپهناي باند،

درFM وPM افزایشتنها در جهت مبادلهW و کاهشSNR میسر است.

در مخابرات دیجیتال مثلPCM بین ، مبادله نماییSNR 1و/W وجود دارد وباشد اما جهت معکوس ) کاهش یا افزایش پهناي باند الزم(می تواند در هر دو جهت

. کاربرد عملی ندارد) Wکاهش (

ل هارتلی قاب –رابطه شانن در عمل این مبادله با پدیده آستانه همراه است که با.پیش بینی نیست

SNRو Tمبادله –ج

براي W بین ثابت، مبادله نماییSNR 1الزم و/T در عمل نیز . الزم وجود دارد.ممکن بوده و استفاده می شود SNRو Tمبادله

85

14

SNRو Tمبادله):ترکیبی از الف و ب(غیرمستقیم

افزایش(آهسته سیگنال براي مثال ارسالT به منظور کاهشW( و استفاده از) SNRازاي کاهش در Wمجدد افزایش (مقاوم در مقابل نویز مدوالسیون هاي

: مستقیم

سیگنال، دوباره با ارسالSNR تکرار مطالب در مخابرات تلفنی . (کم جبران می شود) خطاتقاضاي ارسال مجدد با تشخیص دیجیتال مخابرات نامفهوم و در

به گنال با افزودن بیت هاي اضافه براي قابل تصحیح کردن خطا می توان مخابره با سی.انجام داد) اضافیبه دلیل بیت هاي (بیشتر زمان نویز کم ولی

86

Page 44: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 44

نام مبحث آموزشیاعوجاج سرعتتابع 3-6

87

اعوجاج سرعتتابع منبع با آنتروپیH(x) : با فرضR > H می توانیمH(x) با منبع در خروجی بیت

.دلخواه ارسال کنیماحتمال خطایی کوچک و

نبع خروجی مکنیم یعنی تعداد بیت هاي ارسال مقدار را نتوانیم این اگر به دالیلی.خطاي منبع امکان پذیر نیستبدون باشد، بازسازي H(x)ازکمتر

بوده امکان پذیر چقدرسرعت خطاي کم ترین بیت در سمبل، معینی تعداد در : 1سوالآن چگونه است؟و نحوه اجراي

با پذیرشتعداد بیت الزم در خروجی منبع براي بازسازي منبع کم ترین : 2سوال اعوجاج چقدر است؟سطح معینی از

اصلی استبازسازي خروجی منبع ) یا نزدیکی(اندازه اي از کیفیت : اعوجاج.

ویژگی اندازه اعوجاج:

.دریافت باشدخوبی براي فرایند تقریب -1

.ریاضی باشدمحاسبه به قدري ساده باشد که قابل -2

88

Page 45: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 45

)2(اعوجاج سرعت تابع سیگنال صوت :مثال

تگی فاز بسبه بازسازي دقیق اعوجاج فاز اهمیت زیادي ندارد بنابر این اندازه اعوجاج. ندارد

رددر تصویر، فاز نقش مهمی داشته بنابر این در انتخاب اندازه اعوجاج باید دقت ک.

بین در حالت کلی فاصله : اندازه اعوجاجx و است.

استاعوجاج همینگ ، اندازه اعوجاج معموال گسستهدر حالت:

به کار می رودمربع خطاي اعوجاج ، اغلب پیوستهدر حالت.

آن استیک رشته، اعوجاج برابر میانگین اعوجاج عناصر براي.

89

ˆ1 ;ˆ( , )

0 ; .H

x xd x x

o w

1

1ˆ ˆ( , ) ( , )n

n n i ii

d X X d x xn

2ˆ ˆ( , ) ( )d x x x x

( , )d x xx

)3(اعوجاج سرعت تابع آماري اینتصادفی است و اعوجاج میانگین خروجی منبع، فرایند در حالت کلی

.متغیرها تعریف می شود

اعوجاج برابر است با احتمال خطااعوجاج همینگ، با:

بی حافظه با توزیع احتمالاطالعات براي منبع : 3سوالf(x) اندازه وبراي عدم تجاوز (R)تعداد بیت الزم در خروجی منبع ، کم ترین اعوجاج

چقدر است؟ Dمعین مقدار از

R تابعی کاهشی ازD براي بازسازي با کیفیت باال است و)D به) پایینR بزرگ نیاز. داریم

90

1

1ˆ ˆ[ ( , )] [ ( , )]

ˆ[ ( , )]

n

n n i ii

D E d X X E d x xn

E d X X

ˆ[ ( , )]

ˆ ˆ ˆ1 ( ) 0 ( ) ( )

HD E d X X

P x x P x x P x x

( , )d x x

Page 46: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 46

)4(اعوجاج سرعت تابع حافظه با کم ترین تعداد بیت الزم در خروجی منبع براي بازسازي یک منبع بدون :قضیه

.نامیده می شوداعوجاج سرعت تابع ،Dاعوجاجی کمتر یا مساوي

بدون حافظه باینري، با این تابع براي منبعp)=0=iX(P-1)=1=iX(P اعوجاج و:همینگ

خطااندازه اعوجاج مربع و واریانس صفر، گوسی با میانگین براي منبع:

91

; 0 min( , 1 )( )

0; . .

p DH H D p pR D

o w

2 0 0

1log ( / 2 ) ; 0 / 2

2( )

0 ; . .

g

N D D NR D

o w

ˆmin ( )( )

ˆ ˆ( | ) : [ ( | )]

I X XR D

f X X E d X X D

0

2

N

)5(اعوجاج سرعت تابع واریانسر و میانگین صفآنالوگ با بی حافظه براي منبع اعوجاج سرعت کران باالي تابع

کران پایین:

13 – 3مثال

8مقدار اعوجاج با فرض ، کم ترین 1واریانس و میانگین صفر در یک منبع گوسی با ، اعوجاج چقدر کاهش 16منبع چقدر است؟ با افزایش بیت ها به بیت در خروجی

می یابد؟

جواب:

92

02

1( ) log ( ) ( )

2 2g

NR D R D

D

2

1( ) ( ) log (2 )

2R D H x eD

2 51 0

22 0 2 1 8

( ) 2 2 1.52 10

1( ) 2 2 / 48

4

R

R

D R N

D R N D D dB

0

2

N

Page 47: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 47

نام مبحث آموزشیکوانتیزه کردن 3-7

93

کوانتیزه کردن آنالوگ، نمونه ها منظور دیجیتال کردن پیام به

.کدبندي می شود

براي آن که تعداد ارقام مورد استفاده در کدبندي .می شود) کوانتیزه(محدود باشد نمونه ها گرد

x : ه و با دامنه پیوست) سیگنالنمونه (عدد وروديPDF اي به صورت مقابل است.

Q :کوانیتره کننده دامنهMx - تاMx+  را بهq بسته به این که تقسیم می کند و) کوانتوم(قسمت

ر با متناظمقدار به ، باشدکوانتم عدد ورودي در کدام . گرد می کند) امiبراي کوانتم imمثال(آن کوانتم

دکوانتوم ها عرض مساوي دارن: کوانتیزه یکنواخت.

کوانتم ها عرض نامساوي: غیریکنواختکوانتیزه .دارند

qx : خروجی که اندازه گسسته دارد و می تواندعدد .باشد 1m,2m,…,qmمقادیر از یکی

94

Page 48: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 48

کننده یکنواختکوانتیزه

اگرx ه از دامنه کار کوانتیزه کنند

mx یا کند، در اولین تجاوز.کوانتم فرض می شودآخرین

براي خطاي معیاري ): اعوجاج(خطاکردن در نظر گرفته کوانیتزه .می شود

95

2 2 2

2 2

1

 [ ( )] =  ( ) ( ) ( )

( ) ( ) (*)i i

i i

q q q

qm

q imi

E e x e x e x f x dx

e x m f x dx

)2(کننده یکنواخت کوانتیزه

96

Page 49: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 49

)3(یکنواخت کننده کوانتیزه

به طوریکهعرض کوانتم ها به اندازه کافی کوچک باشد، اگرf(x) در هر کوانتم را بتوانامiخطی فرض کرد، در کوانتوم

متغیرتغییرz=im–x در رابطه(*):

در محاسبه فوق، خطاي ناشی از تجاوزx از حدودMx نویز برش (منظور نشده)ناچیز overloadیا

یکنواختدر حالت:

97

'( ) ( ) ( )( )i i if x f m f m x m 2 2 ' 3

1

2 ' 3

1 1

0

3

1

( ( ) ( ) )

( ) ( )

2( ) (**)

3

i

i

i i

i i

q

q i ii

q q

i ii i

qi

ii

e f m z f m z dz

f m z dz f m z dz

f m

22 2 M M

i i

x x

q q

)4(کوانتیزه کننده یکنواخت

اما

در نتیجه

نسبت نسبت سیگنال به نویز ناشی از کوانتیزه کردن

98

'

1

1 1

23 22

3 2 2 21

( ) 1 ( ) ( )( ) 1

12 ( ) 1 ( )

2 2

2 1( )

3 3 3

i i

i i

qm

i i im

i

q q

i i ii i M

qqM M

q ii M

f x dx f m f m x m dx

qf m f m

x

ex xe f m

q q x q

بنابر این

2 2 22 2

22

3SQNR 3 ( 1)M

Mq

x x qq x x

xe

Page 50: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 50

)5(کوانتیزه کننده یکنواخت

99

2 20.1 SQNR = 0.3x q 2 20.5 SQNR = 1.5x q99

2 21 1SQNR =

6 2x q

2 21SQNR =

3x q

)6(کوانتیزه کننده یکنواخت

100

0/04و سیگنال تلفنی با توان 0/5مقایسه سیگنال سینوسی با توان

Page 51: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 51

کوانتیزه کردن غیریکنواخت دلیل استفاده ازسهQ غیریکنواخت:

با مینیمم کردن نویز کوانتیزاسیون SQNRماکزیمم کردن – 1

می توانi و اگر الزم بود(هاim شودرا به گونه اي انتخاب کرد که مینیمم ) ها .

دامنه هاي محتمل تر با دقت بیشتري کوانتیزه می شوند.

خروجی qHماکزیمم کردن آنتروپی – 2

یر براي ماکزیمم کردن آنتروپی باید احتماالت مساوي باشد یعنی سطح برابر ز.می شوند منحنی ها برابر باشد بنابر این دامنه هاي بزرگتر با پهناي کمتري کوانتیزه

وندباز نتیجه آن خواهد بود که دامنه هاي با احتمال بیشتر دقیق تر کوانتیزه می ش

101

21

1( ) log

( )

q

q q ii q i

H P x mP x m

2qe

1max ( )q q iH P x m

q

)2(کوانتیزه کردن غیریکنواخت )مهم ترین( ��ورودياز قدرت SQNRمستقل کردن – 3

توان هاي متفاوت استفاده می کندبا وقتی سیستم از منابعSQNR  براي منابع. مختلف می تواند خیلی متفاوت باشد

تلفنی، اختالف قدرت تا حدود در کانال هايdB 40 مختلف وجود منابع می تواند بین)دیگريبرابر نمونه هاي 100یکی حدود نمونه هاي . (داشته باشد

درQ ،ودکوانتم هاي خیلی کمتري گرد می شنمونه هاي منبع ضعیف با یکنواخت .)کوانتم موجود 256از کوانتم 3الی 2مثال با (

راه حل دقیق تر کوانتیره کردن دامنه هاي

. کوچکتر است

اگر دامنه هاي کوچکتر محتمل تر باشند، با این

متوسط و آنتروپی در جهت ماکزیمم شدن SQNRکار

. خواهد بود

102

Page 52: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 52

)3(کوانتیزه کردن غیریکنواخت

103

از سیستم: مخابرات آنالوگCompanding استفاده می شود.استفاده ازQ غیریکنواخت معادل استفاده از سیستمCompanding است و عرض

.کوانتوم ها با همان مشخصه کمپرسور تعیین می شود

)4(کوانتیزه کردن غیریکنواخت 1کمپرسور دامنه فرض می کنیم مشخصه 1را به تبدیل کند و ضمنا در

.کردکوانتوم هاي مختلف، آن را بتوان خطی فرض

فرض خطی بودن مشخصه در کوانتومباiام

جایگذاري در رابطه(**)

104

2 3

1

2( ) : ( 1)

3

q

q i i Mi

e f m x

2 / 1( )

2 ( )i i

i i

qy m

q y m

2

2 21

( )2

3 ( ( ))

qi

q ii i

f me

q y m

Page 53: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 53

)5(کوانتیزه کردن غیریکنواخت با فرض خطی بودنf(x) وy(x) در کوانتم هاي

کوانتیزاسیون عبارت ) اعوجاج(خطايمختلف، :است از

در نتیجه

ورودي PDFبراي استقالل از

105

12

2 2 2 21

1 ( ) 1 1( 2 )

3 3q i

f xe dx dx

q y q y

2

2 22

12 1

22 2 2 2

2 2 2

2 2 ' 22 1 2

3( )

1( ) ( ) ( ) 0

/ 0 / ln( )

q y

x xSQNR q k

e

kx k x f x dx

y y

x k y y k x y k kx

)6(کوانتیزه کردن غیریکنواخت برايx هاي مثبت معادله فوق استفاده شده و برايx آن اضافه هاي منفی، قرینه فرد

.می شود

درx>0 شیب مثبت است.

106

2

  ln    ln   0

ln

kxy k kx x

k )در حالت نرمالیزه(

ل این رابطه به طور دقیق قاب.ب زدتحقق نیست و باید تقری

:دو قانون معروف عبارتند ازقانون لگاریتمی –الف

(µ - law) µ

این قانون استانداردکشورهاي کانادا، آمریکا و

.ژاپن است

Page 54: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 54

)7(کوانتیزه کردن غیریکنواخت 1k به صورت زیر انتخاب شده است.

– A (Aقانون لگاریتمی –ب law) استاندارد کشورهاي اروپایی و ایران

107

ln(1 )sgn( ) ; 100

ln(1 )

xy x

1

1     

ln 1k

µ

1;0

ln( )

ln( ) 1;

ln( )

Axx

eA Ay

eAxx

eA A

)8(کوانتیزه کردن غیریکنواخت با μ=100 وA=87.58 ،SQNR در دامنه اي برابرdB40 ثابتی دارد که مقدار

. تلفنی کافی استتمام ارتباطات براي

255: کاناداو در آمریکا = µ ،q=128 وN=7.

زمان منبعاز نمونه برداري نتیجه (گسسته –در این تکنیک هر خروجی منبع زمان. جداگانه کوانتیزه شده و سپس کدبندي می شود) پیوسته

هر: روش دیگرn یک فضايدر نمونه از منبع در هر زمانn نقطه بعدي به صورت یک.تصور می شود

108

Page 55: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 55

نام مبحث آموزشیکدبندي شکل موج 3-8

109

شکل موجکدبندي )PCM( پالس کد مدوالسیون

کالسیک PCMبلوك نمودار

110

Page 56: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 56

PCM PCM موج استو قدیمی ترین شماي کدبندي شکل ساده ترین.این سیستم انتقال از مدوالسیون هاي دیجیتال بهره می برد . باند پهنايPCM براي انتقال بستگی دارد، مثال سیستم بهPCM تلفنی

درPCM کدبندي می شوندنمونه ها مستقل از هم کوانتینره و کالسیک. مشتقاتPCM : نمونه ها، اقتصادي تر است که به نحويبه جاي کدبندي مستقل

. ي باشدکمتربه ارقام باینري در کدبندي لحاظ شود تا نیاز وابستگی بین نمونه ها هاي مشروط به معلوم بودن نمونه(اطالعات اضافی هر نمونه سیستم ایده آل، تمام در

.کدبندي و ارسال می شود) قبلی ارسال شده سبتا با دقت نرابطه اي خطی می توان از روي نمونه هاي قبلی، نمونه بعدي را با معموال

.خوبی پیش بینی کرد

111

2

8000 , 256sec

log 8, 64 / sec

s

qb s

samplef q

N r Nf kbit

PCM )2( در سیستم(Linear Predictive Coding) LPC ،خطاي این گونه پیش بینی ها

ر معموال خطا خیلی کوچکتر از خود نمونه ها بوده و دکدبندي و ارسال می شود زیرا .کمتري نیاز استباینري خیلی کدبندي، ارقام

پیش گویی از روي نمونه هاي قبلی :

پیش گویی خطاي

ترین سیستم در سادهLPC هاي پیش بینی خوبی از نمونهقبلی به عنوان نمونه ، خود ندي و ارسال قبلی کدبهر نمونه با نمونه بعدي در نظر گرفته می شود بنابر این اختالف

.می شود

112

1

1 1

ˆ ˆ,P i

i n i n ii is s

n n iX a X X a X

f f

ˆ

s s s

n n ne X X

f f f

( / ) ( / ) ( 1 / )s s se n f X n f X n f

Page 57: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 57

PCM )3( این سیستم(Differential PCM) DPCM مخابره نامیده می شود که در

.سیگنال هاي تلویزیون رایج است

از در نسخه پیچیده تريDPCM ،P ه بعدي بآخر براي پیشگویی مقدار نمونه نمونه.و مقدار پیش بینی شده آن کوانتیزه می شود nXیعنی اختالف بین نمونه . کار می رود

استفاده می شود پیش گویی خطی به فرم معموال از.

ضرایبia خطاي میانگین مربع به گونه اي انتخاب می شود کهD مینیمم شود یعنی:

گیري از با مشتقia ها نسبتD، واکر می رسیم –به رابطه یول.)XR تابع خودبستگی فرایندnX (

113

1

P

i n ii

a X

2

1 1

1

(0) 2 ( ) ( )

( ) ( )

P P P P

n n i x i x i j xi i i j

P

i x xi

D E X X R a R i a a R i j

a R i j R j

PCM )4(شد هر نایکیست بااز سرعت بیش تر نمونه برداري خیلی اگر سرعت : مدوالسیون بیت ک یسپس می توان اختالف را با . قبلی اختالف کوچکی خواهد داشتنمونه با نمونه

بت به باینري مستقیما معرف افزایش یا کاهش هر نمونه نسکدبندي کرد یعنی ارقام .می شود) به اندازه مثال (نمونه قبلی

را می توان حالت خاص مدوالسیونDPCM الاقل ( دانست اما در مدوالسیون.است هدف ساده کردن مدار و نه کاهش سرعت بیت) انواع اولیه آن

براي سیگنال هاي صوتیKHz100 =sf نیاز است که بهsec/kbit100 =br )استاندارد kb/sec 64به جاي. (منجر می شود

می تواند به ) ارتفاع پله وفقی تغییر ( وفقی مدوالسیونbr کمتر ازPCM کالسیک. منجر شود

دو سطح(بیتی 1کننده در مدوالسیون وفقی، کوانتیزه(PCMکمتر از Mارسالی در بیت هاي و تعداد است .است

114

Page 58: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 58

PCMبه نویز در سیگنال می یابیمنویز کانال را به صورت متوسط مربع خطاي ناشی از این نویز ابتدا.

: فرضیات .باشدکوانتوم qکوانتیزه کننده یکنواخت با – 1. اغماض باشداحتمال خطا روي بیش از یک رقم در طول هر کد قابل – 2.کوانتم را نشان دهدشماره به طور عددي کد انتخاب شده براي هر کوانتوم – 3

115

q=8 , N=3

)PCM )2به نویز در سیگنال

SNR ناشی از نویز کانال:

،است و این که شکل نکته مهم در این رابطهep تابعی نمایی از سیگنال به

استکانال نویز.

116

2 2 1

2

2

2

4(1 4 4 ... 4 )

4 4 1

4 1

4(4 1)

3

Nc e

Ne

Ne

e pq

p

q

p

q

2 2 2

22

3

4( 1) ec

x q xSCNR

q pe

0

( )R

b

S

N r

2

e

k x

p

Page 59: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 59

)PCM )3به نویز در سیگنال

محاسبه خطاي کل:

با فرض ناهمبسته بودن خطايn نمونه مختلف و

117

( / )

1/

( / ) ( / ) ( / )

( / ) ( / ) ( / )

( ) ( / ) ( / )

( ) ( )

s

q

s

q s q s c s

s q s c s

n k f

x q s sx

f n

x k f x k f e k f

x k f e k f e k f

d t x k f t k f

comb x t d t

( / ) 0sn k f

( ) ( / ) ( / )n s sx

d t n k f t k f

)PCM )4سیگنال به نویز در

نظیر نویز سفید

می دانیم

2(خروجی فیلتر( :f)X(sf .داریم :

118

22( / )

( )1/

sn s

s

n k fS f f n

f

1/ { ( )} { ( )}s sf s fComb x t f rep X f

(1) (2)

     s oy t f x t n t

Page 60: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 60

)PCM )5سیگنال به نویز در سیگنال قدرت و نویز قدرت:

صفرو متوسط استقالل با فرض:

درنتیجه

119

2 2 2 20 0

2 2 20

( )

[ ( )]

s s s

s s

N n t f n f f n

S f x t f x

2 2 2 2( )q c q cn e e e e

2

1 12 2

2 2

2

1SNR

(SQNR) (SCNR)

3

1 4( 1)

q c

e

x

e e

q x

q p

)PCM )6سیگنال به نویز در

نمودارSCNR وSQNR  برکانال SNRحسب

در ناحیه اي که SQNR << SCNR نویز اصلی

.کردن استهمان نویز کوانتیزه اشباعSNR به دلیل برگشت.استکردن کوانتیزه ناپذیري عمل در ناحیه اي کهSQNR>>

SCNRنویز اصلی ناشی از ،خطاي ارقام است، در نتیجه پدیده

.می دهد آستانه روي در عمل نقطه کار چندdB ازباالترکاهش پیدا کرد هنوز باالي نقطه SNRنقطه کار آستانه در نظر گرفته می شود تا چنانچه

.آستانه باشیمموج شکل طیفی کدبندي مقابل در .گویند موج شکل زمانی کدبندي را کدبندي نوع این

.داریم نیز

120

Page 61: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 61

و مدوالسیون هاي آنالوگ PCMمقایسهکه این فرض باWباشد سیگنال ها باند پهناي.

:پهناي باند – 1

باند پایهPCM دارد نیاز بیشتر باند پهناي به.:باند پهناي و SNR مبادله – 2در PCM است نمایی مبادله آستانه، باالي:

درFM آستانه مبادله مربعی استباالي.

121

, 2

2 (PCM)

b s s

b

r Nf f W

r NW

2 2 2 2 ( / )PCMSNR 3 3 4 3 4N B Wq x x x

2

2

0

3SNR

4R

FM

S Bx

N W W

2brB NW

)2(آنالوگ و مدوالسیون هاي PCMمقایسهرمز ، سیگنال دیجیتال بوده و می توان از مزایاي مخابرات دیجیتال مانندPCMدر – 3

.کردن ساده، سوئیچینگ ساده تر و ضبط ساده تر بهره گرفتن ، بیشتر مدارها دیجیتال بوده و داراي مزایایی مانند قابلیت اطمیناPCMدر – 4

.استو امکان به روز کردن تر بیشتر، نگهداري ساده.کمتري داردخیلی نویز، اثر انباشته شدن خطا به جاي – 5.دیجیتال هستندعمدتا منابع که امروزه سازگاري با دیگر – 6

ایران PCMسیستم مشخصات 300تلفنی باند کانال پهناي – 3400 Hz W= نمونه برداري سرعتsecsamples/8000 =sf

تعداد کوانتوم هاsamplebit/8 q2log=N→ 256 =qقانون با لگاریتمی غیریکنواخت :کننده کوانیتره نوع A مقدار با A = 87.56بیت سرعت

122

8000 sample/sec 8 bit/sample 64 kbit/secbr

Page 62: ﻊﺒﻨﻣ يﺪﻨﺑﺪﮐ و تﺎﻋﻼﻃا ﻊﺑﺎﻨﻣ : 3 ﻞﺼﻓstaff.guilan.ac.ir/staff/users/baghersalimi/fckeditor_repo/file/COM II... · لﺎﺗﯾﺟﯾد تارﺑﺎﺧﻣ-نﻼﯾﮔ

.

مخابرات دیجیتال-دانشگاه گیالن 62

123

مختلف شکل پالس هاي