Lösung 2.1Information

6
Lösung 2.1 Information 1. Wieviele Fragen benötigen Sie beim „Zahlenraten“ a) 7 b) nächste_ganze_Zahl_größer( ld n) 2. Eine Nachrichtenquelle sendet Zeichen aus dem Alphabet X = {a,b,c,d} mit den Wahrscheinlichkeiten p(a)=1/4, p(b)=p(c)=1/8 a) H(x) = p(x) *h(x) = ((1/4*2)+(1/8*3)+(1/8*3)+(1/2*1)) bit = 1,75 bit b) (2+3+3+1) bit = 9 bit c) 4 * 1,75 bit = 7 bit d) 1000 * 1,75 bit = 1750 bit e) 1000 * H(x) = 1000 * (4 * (1/4 * 2 bit)) = 2000 bit

description

Lösung 2.1Information. Wieviele Fragen benötigen Sie beim „Zahlenraten“ 7 nächste_ganze_Zahl_größer( ld n) Eine Nachrichtenquelle sendet Zeichen aus dem Alphabet X = {a,b,c,d} mit den Wahrscheinlichkeiten p(a)=1/4, p(b)=p(c)=1/8 - PowerPoint PPT Presentation

Transcript of Lösung 2.1Information

Page 1: Lösung 2.1Information

Lösung 2.1 Information

1. Wieviele Fragen benötigen Sie beim „Zahlenraten“a) 7

b) nächste_ganze_Zahl_größer( ld n)

2. Eine Nachrichtenquelle sendet Zeichen aus dem AlphabetX = {a,b,c,d} mit den Wahrscheinlichkeiten p(a)=1/4, p(b)=p(c)=1/8

a) H(x) = p(x) *h(x) = ((1/4*2)+(1/8*3)+(1/8*3)+(1/2*1)) bit = 1,75 bit

b) (2+3+3+1) bit = 9 bit

c) 4 * 1,75 bit = 7 bit

d) 1000 * 1,75 bit = 1750 bit

e) 1000 * H(x) = 1000 * (4 * (1/4 * 2 bit)) = 2000 bit

Page 2: Lösung 2.1Information

Lösung 2.2 Huffmann

a) siehe Tabelle rechts: h(x)b) mittlerer Informationsgehalt:

H(x) = 4,06 bit

Redundanz bei 8bit-Kodierung(z.B. ASCII mit Parity-Bit):R = L-H = 8 bit - 4,06 bit = 3,94 bitr = R/L = 0,49

p(x)(in %) h(x) (in Bit) p(x) * h(x)a 6,51 3,94 0,2566b 1,89 5,73 0,1082c 3,06 5,03 0,1539d 5,08 4,30 0,2184e 17,40 2,52 0,4390f 1,66 5,91 0,0982g 3,01 5,05 0,1521h 4,76 4,39 0,2091j 7,55 3,73 0,2814j 0,27 8,53 0,0230k 1,21 6,37 0,0771l 3,44 4,86 0,1672m 2,53 5,30 0,1342n 9,78 3,35 0,3280o 2,51 5,32 0,1334p 0,79 6,98 0,0552q 0,02 12,29 0,0025r 7,00 3,84 0,2686s 7,27 3,78 0,2749t 6,15 4,02 0,2474u 4,35 4,52 0,1967v 0,67 7,22 0,0484w 1,89 5,73 0,1082x 0,03 11,70 0,0035y 0,04 11,29 0,0045z 1,13 6,47 0,0731

Page 3: Lösung 2.1Information

Lösung 2.2 Huffmann  p(x) (in %)

a 6,51

b 1,89c 3,06

d 5,08

e 17,40

f 1,66g 3,01

h 4,76

i 7,55

j 0,27k 1,21

l 3,44

m 2,53

n 9,78

o 2,51p 0,79

q 0,02

r 7,00

s 7,27t 6,15

u 4,35

v 0,67

w 1,89x 0,03

y 0,04

z 1,13

jqpvxy (1,82) kz (2,34)f b

q x o w m g

fjqpvxy (3,48) bkz (4,23) c l

qx (0,05) y ow (4,40) gm (5,54)u h dt

cl (6,50)bfjkqpvxyz (7,71) a r si

qxy (0,09) j ouw (8,75) dh (9,84)gmt (11,69)n

jqxy (0,36) v nouw (18,53) dghmt (21,53)

acl (13,01) rs (14,27)bfijkqpvxyz (15,26) e

aclrs (27,28)befijkqpvxyz (32,66)

abcefijklqprsvxyz (59,94)

jqvxy (1,03) p z k dghmntouw (40,06)

Die Bezeichnung der Kanten mit 0 oder 1 ist willkürlich

o

1

c) Beispiele:a 0101b 000010c 01000d 1111e 001f 000001...

o

o

o

o

1

1

...

...

... ...

............

Page 4: Lösung 2.1Information

Lösung 2.2 Huffmann

d) H(x) = 4.,06 bitL = 4,1 bitR = L-H = 0,04 bit

e) r = R/L = 0,01

p(x) (in %) l(x) p(x)*l(x)a 6,51 4 0,2604b 1,89 6 0,1134c 3,06 5 0,1530d 5,08 4 0,2032e 17,40 3 0,5220f 1,66 6 0,0996g 3,01 5 0,1505h 4,76 4 0,1904j 7,55 4 0,3020j 0,27 9 0,0243k 1,21 7 0,0847l 3,44 5 0,1720m 2,53 5 0,1265n 9,78 3 0,2934o 2,51 5 0,1255p 0,79 7 0,0553q 0,02 11 0,0022r 7,00 4 0,2800s 7,27 4 0,2908t 6,15 4 0,2460u 4,35 4 0,1740v 0,67 8 0,0536w 1,89 5 0,0945x 0,03 11 0,0033y 0,04 10 0,0040z 1,13 7 0,0791

Page 5: Lösung 2.1Information

Lösung 2.3 Hamming

1. Hamming-Distanz bei ASCII-Codea) D=1

b) (D-1) = 0

c) (D-1)/2 = 0

2. Hamming-Codierung für 0000 - 1111a) D=3 (durch Vergleich der Distanz zwischen allen Codes)

b) 2-bit Fehler können erkannt werden

c) 1-bit Fehler können korrigiert werden

0000000 10010110000111 10011000011001 10100100011110 10101010101011 11000010101100 11001100110011 11110000110100 1111111

Page 6: Lösung 2.1Information

Lösung 2.3 Hamming

3. Betrachten Sie den mit der Hamming-Methode codierten Code für „1000“

a) 1001011 P-Bits falsch => Fehler bei bit 1001010 1 1 1001001 2 2 1001111 1,2 3 1000011 4 4 1011011 1,4 5 1101011 2,4 6 0001011 1,2,4 7

b) Kippen von Bit 1 und Bit 6: 1101010 1,2,4 7es wird ein Fehler erkannt (gut !).Allerdings wird der Fehler bei Bit 7 erkannt, wobei der Code bei derKorrektur also fälschlicherweise zu 0101010 korrigiert wird, statt zu 1001011