Bai_10-Huffman (Nen Du Lieu)

Data Structure Structure & Algor Algorithm ithm - Nguy Nguyen en Tri Tri Tua uann - Kh Khoa oa CNT CNTT T H KHTN Tp.HCM

NÉN D LIU NÉN HUFFMAN Bài gi ging C Cu trúc d d li liu & Gi Gii thu thut

1

2

Ni dung trình bày    

Gi i thiu nén d liu G thut nén RLE Static Huffman (Nén Huffman t ĩ nh) ĩ nh) Adaptive Huffman (Nén Huffman ng)

2

Ni dung trình bày    

Gi i thiu nén d liu G thut nén RLE Static Huffman (Nén Huffman t ĩ nh) ĩ nh) Adaptive Huffman (Nén Huffman ng)

Gii thiu 3



Các thut ng thư ng ng dùng Data Compression  Lossless Compression  Loss Com ression  Encoding  Decoding  Run / Run Length LZ77 , LZ78  RLE, Arithmetic, Huffman, LZ77, 

Gii thiu (tt) 4



Mc ích ca nén d liu: 

Gi Gim kích thư thư c d d li liu Khi lưu tr  Khi truyn d liu 



Tăng tính b bo m mt

Gii thiu (tt) 5



Có hai hình thc nén: 

Nén bo toàn thông tin (Lossless Compression): Không mt mát thông tin nguyên thy  Hiu sut nén không cao: 10% – 60%  Các gii thut tiêu biu: RLE, Arithmetic, Huffman, LZ77, LZ78, … 



Nén không bo toàn thông tin (Lossy Compression): Thông tin nguyên thy b mt mát  Hiu sut nén cao 40% – 90%  Các gii thut tiêu biu: JPEG, MP3, MP4, … 

Đnh ngh ĩ a 6



Hiu sut nén (%): T l % kích thư c d liu gim ư c sau khi áp dng thut toán nén



D (%) = (N – M)/N*100



N: kích thư c data trư c khi nén M: kích thư c data sau khi nén 

Hiu sut nén tùy thuc 

Phươ ng pháp nén



c trưng ca d liu

ng dng 7



Nén tp tin: Dùng khi cn Backup, Restore,… d liu  Dùng các thut toán nén bo toàn thông tin uan tâm n  nh d n format ca t  Khôn  Các phn mm: PKzip, WinZip, WinRar,… 

tin

Gii thut nén RLE 8 



RLE = Run Length Encoding: mã hoá theo  dài lp li ca d liu Tư tư ng Hình thc biu din thông tin dư tha ơ n gin: “ư ng chy” (run) – là dãy các ký t lp li liên tip ư ng c y ư c u n ng n gn: <  n p> < t>  Khi  dài ư ng chy l n → Tit kim áng k Ví d Data = AAAABBBBBBBBCCCCCCCCCCDEE (# 25 bytes) Datanén = 4A8B10C1D2E (# 10 bytes)

Gii thut nén RLE 9



Tư tư ng 

Khi vn dng thc t, cn có bin pháp x lý  tránh trư ng h p “phn tác dng” i v i các “run c bit – 1 ký t”

X (# 1 bytes) → 1X (# 2 bytes)

10

Gii thut nén Huffman 

Gi i thiu



Huffman t ĩ nh (Static Huffman)



Huffman ng (Adaptive Huffman)

Gii thut Huffman – Gii thiu 11



Hình thành 

Vn : Mt gii thut nén bo toàn thông tin;  Không ph thuc vào tính cht ca d liu;   ng dng rng rãi trên bt kỳ d liu nào, v i hiu sut tt 




Tư tư ng chính  Phươ ng pháp cũ: dùng 1 dãy c nh (8 bits)  biu din 1 ký t  Huffman: S dn vài bits  biu din 1 k t ( i là “mã bit” – bits code)   dài “mã bit” cho các ký t không ging nhau: Ký t xut hin nhiu ln → biu din bng mã ngn; Ký t xut hin ít → biu din bng mã dài → Mã hóa bng mã có  dài thay i (Variable Length Encoding) 



David Huffman – 1952: tìm ra phươ ng pháp xác nh mã ti ưu trên d liu t ĩ nh




Gi s có d liu như sau f = “ADDAABBCCBAAABBCCCBBBCDAADDEEAA”



Biu din bình thư ng (8 bits/ký t): Sizeof f = 10*8 + 8*8 + 6*8 + 5*8 + 2*8 = 248 bits Ký t A B C D E

S ln xut hin trong file f 10 8 6 5 2




Biu din bng mã có  dài thay i (theo bng): Sizeof(f) = 10*2 + 8*2 + 6*2 + 5*3 + 2*3 = 69 bits Ký t A B C D E

Mã 11 10 00 011 010

15

Static Huffman     

Thut toán nén To c y Hu man Phát sinh bng mã bit Lưu tr thông tin dùng  gii nén Thut toán gii nén

Static Huffman – Thut toán 16



Thut toán nén: [b1] Duyt file → Lp bng thng kê s ln xut hin ca mi loi ký t  [b2] Phát sinh cây Huffman d a vào bng thng kê  [b3] T cây Huffman → phát sinh bng mã bit cho các ký t   [b4] Duyt file → Thay th các ký t bng mã bit tươ ng ng  [b5] Lưu li thông tin ca cây Huffman dùng  gii nén 


f = “ADDAABBCCBAAABBCCCBBBCDAADDEEAA” [b1]

Ký t

1 CEDBA

Level 1

31

Root node

2 Level 2

3

CED 02

BA 18

0

1

4 Level 3

5

6

7

C 06

ED 07

B 08

A 10

0

1

0

1

8 Level 4

[b2]

9

E 02

D 05

0

1

[b3] [b4]

Node Character Frequency Code

f = “11011011111110100000101111111010000000 1010100001111110110110100101111”

A B C

S ln xut hin 10 8 6

E

2

Ký t Mã bit A 11 B 10 C 00 D 011 E 010

Static Huffman – Cây Huffman 18



To cây Huffman 

Mô t cây Huffman: mã Huffman ư c biu din bng 1 cây nh phân  



Mi nút lá cha 1 ký t Nút cha s cha các k t ca nhng nút con Mi nút ư c gán mt trng s:  Nút lá có trng s bng s ln xut hin ca ký t trong file  Nút cha có trng s bng tng trng s ca các nút con

1

Level 1

CEDBA

2

Level 2

3

CED 02

BA 18

0

1

4

5

Level C 06 3 0 Level 4

31

6

7

ED 07

B 08

A 10

1

0

1

8

9

E 02

D 05

0

1





To cây Huffman: 

Tính cây Huffman: Nhánh trái tươ ng ng v i mã hoá bit ‘0’; nhánh phi tươ ng ng v i mã hoá bit ‘1’  Các nút có tn s thp nm  xa gc → mã bit dài  Các nút có tn s cao nm  gn gc → mã bit ngn  S nút ca cây: (2n-1) 

Static Huffman – D liu 20

// Cu trúc d liu lư u tr cây Huffman #define MAX_NODES 511 // 2*256 - 1 typedef struct { char c; // ký t  long nFreq; // tr ng s int nLeft; // cây con trái int nRight; // cây con ph i } HUFFNode; HUFFNode HuffTree[MAX_NODES];

Static Huffman – Phát sinh cây 21



To cây Huffman: 

Thut toán phát sinh cây:  [b1] Chn trong bng thng kê 2 ph n t x,y có trng s thp nht → to thành nút cha z: .

=

.

.

z.nFreq = x.nFreq + y.nFreq; z.nLeft = x (*) z.nRight = y (*)

[b2] Loi b nút x và y khi bng;  [b3] Thêm nút z vào b ng;  [b4] Lp li bư c [b1] - [b3] cho n khi ch còn li 1 nút duy nht trong bng 

Static Huffman – Phát sinh cây 22

(*) Qui ư c: nút có trng s nh nm bên nhánh trái; nút có trng s l n nm bên nhánh phi; nu trng s bng nhau, nút có ký t nh nm bên nhánh trái; nút có ký t l n nm bên nhánh phi 



Static Huffman – Ví d 23

Ký t SLXH A 10 B 8 C 6 D 5 E 2

ED 07 1

E 02

D 05

0

1

Ký t SLXH A 10 B 8 ED 7 C 6

Ký t SLXH BA 18 CED 13

CEDBA 31 1

BA 18 1

CED 13

BA 18

B 08

A 10

0

1

0

1

Minh ha quá trình to cây

CED 13 0

C 06

ED 07

0

1

Ký t SLXH CED 13 A 10 B 8

Static Huffman – Ví d 24

1 CEDBA

Level 1

31

Root node

2 Level 2

3

CED 02

BA 18

0

1

4 Level 3

5

6

C 06

ED 07

B 08

A 10

0

1

0

1

8 Level 4

7

9

E 02

D 05

0

1

Node Character Frequency

Cây Huffman sau khi to

Code

Static Huffman – Phát sinh mã 25



Phát sinh mã bit cho các ký t: Mã ca mi ký t ư c to bng cách duyt t nút gc n nút lá cha ký t ó;  Khi duyt sang trái, to ra 1 bit 0;  Khi duyt sang phi, to ra 1 bit 1; 

Static Huffman – Phát sinh mã 26



Phát sinh mã bit cho các ký t: 1

Level 1

Ký t A B C D E

Mã bit 11 10 00 011 010

CEDBA

Root node

2

Level 2

3

CED 13

BA 18

0

1

4

5

Level C 06 3 0 Level 4

31

6

7

ED 07

B 08

A 10

1

0

1

8

9

E 02

D 05

0

1


Static Huffman – Lưu tr 27



Lưu tr thông tin dùng  gii nén

P. Pháp 1: lưu bng mã bit Ký t A B C D E

Mã bit 11 10 00 011 010

P. Pháp 2: lưu s ln xut hin Ký t S ln xut hin A 10 B 8 C 6 D 5 E 2

Static Huffman – Gii nén 28



Thut toán gii nén: [b1] Xây dng li cây Huffman (t thông tin ư c lưu)  [b2] Kh i to nút hin hành pCurr = pRoot  [b3] c 1 bit b t  file nén f n  b4 Nu (b==0) thì Curr = Curr.nLeft 

ngư c li pCurr = pCurr.nRight 

[b5] Nu pCurr là nút lá thì: - Xut ký t ti pCurr ra file - Quay li bư c [b2]

ngư c li - Quay li bư c [b3] 

[b6] Thut toán s dng khi ht file f n

Static Huffman – Gii nén 29

0

0

1

1

0

1

T

E 0

1

0

1

A

S

N

O

30

Adaptive Huffman     

Gi i thiu tư ng Cây Huffman ng Thut toán nén (Encoding) Thut toán gii nén (Decoding)

Adaptive Huffman – Gii thiu 31



Hn ch ca Huffman t ĩ nh: Cn duyt file 2 ln khi nén  chi phí cao  Cn phi lưu tr thông tin  gii nén tăng kích thư c d liu nén  D liu cn nén phi có sn  không nén ư c trên d liu phát sinh theo th i gian thc (online) 

Adaptive Huffman – Ưu đim 32

   

Không cn tính trư c s ln xut hin ca các ký t Quá trình nén: ch cn 1 ln duyt file Không cn lưu thông tin phc v cho vic gii nén n “on- ne” r n u s n eo g an thc

Adaptive Huffman – Ý tưng 33



Huffman t ĩ nh: cây Huffman ư c to thành t bng thng kê s ln xut hin ca các ký t

Nén “on-line”  không có trư c bng thng kê  To cây như th nào ?  Phươ ng pháp: kh i to cây “ti thiu” ban u và “ c p nh t cây d  n d  n” (~ thích nghi – Adaptive) da trên d liu phát sinh trong quá trình nén/gii nén 

Adaptive Huffman – Ý tưng 34





Quá trình nén/gii nén ca Adaptive Huffman s ư c thc hin cùng lúc v i quá trình cp nht cây. Nén Adaptive Huffman: Kh i to cây  c ký t  u vào  Nén ký t và cp nht cây 



Gii nén Adaptive Huffman: Kh i to cây  c ký t t d liu nén  Gii nén và cp nht cây 

35

Adaptive Huffman Cây Huffman đng 

Mt cây nh phân có n nút lá ư c gi là cây Huffman nu tha: Các nút lá có trng s Wi >= 0, i ∈ [1..n]  Các nút nhánh có tr n s bn tn tr n s các nút con ca nó  Tính cht Anh/Em (Sibling Property): 

Mi nút, ngoi tr nút gc, u tn ti 1 nút anh/em (có cùng nút cha)  Khi sp xp các nút trong cây theo th t tăng dn ca trng s thì mi nút luôn  k v i nút anh/em ca nó 

36

Adaptive Huffman Cây Huffman đng (tt) 

 thun l i khi to cây, ta quy ư c: Các nút s ư c gán mt s th t gim dn. Các nút m i ư c thêm vào luôn có s th t nh hơ n nhng node ang có trên cây.  Trong quá trình to cây, tính anh em phi ư c bo toàn: nhng nút có s th t l n phi có trng s >= nhng nút có trng s nh Nu không  vi phm  cn iu chnh 

Adaptive Huffman – To cây 37



Cách thc to cây: 



Kh i to cây “ti thiu”, ch có nút Escape (0-node) hay nút NYT (Not yet transmitted): nút không con, không ký t. Cp nht 1 ký t c vào cây: Nu c chưa có trong cây  thêm m i nút lá  Nu c ã có trong cây  tăng trng s nút c lên 1 (+1)  Cp nht trng s ca các nút liên quan trong cây 

Adaptive Huffman - Thêm nút lá 38



Khi thêm nút lá cho ký t c: To 2 nút: mt nút cho ký t c (W = 1) và mt nút Escape m i (W = 0)  Hai nút m i ư c thêm vào làm con ca nút Escape hin ti  Kim tra vi phm tính cht anh em và Cp nht trng s các nút có liên quan 

Adaptive Huffman – Ví d 39



Kh i to cây:



Thêm A: 

Cp nht cây

D liu nén

ESC W = 0; #50

D liu nén W = 1; #50 ESC W = 0; #48

A

A W = 1; #49

40

Adaptive Huffman Cp nht trng s  

Bt u t nút m i thêm hoc ư c cp nht i ngư c lên n nút gc và tăng trng s các nút lên 1 cp nht

Adaptive Huffman– Ví d (tt) 41

D liu nén W = 1; #50 ESC W = 0; #48 

A

A W = 1; #49

Thêm B:

D liu nén

Nén B  Cp nht cây

W = 2;



W = 1;

ESC W = 0; #46

#48

#50

A0B

A W = 1; #49

B W = 1; #47

42

Adaptive Huffman Kim tra tính cht anh em 

Tính cht anh em vi phm khi: 



Tn ti mt nút X có trng s W + 1 có s th t nh hơ n mt nút có Y trng s W

iu chnh: i ch (d liu) nút X có hin ti v i nút có s th t  l n nh t có trng s W.  Cp nht trng s các nút có liên quan, kim tra lan truyn n các nút khác. 

Adaptive Huffman – Ví d (tt) 43



Thêm B

D liu nén A0B01

W = 2;

ESC W = 0; #46

W = 3;

#50

#48

A W = 1; #49

B W = 2; #47

W = 1;

ESC W = 0; #46

W = 3;

#50

#48

B W = 2; #49

A W = 1; #47

Adaptive Huffman– Ví d (tt) 44



Thêm CC

D liu nén A0B0100C001

W = 3;

W = 2; #46

ESC W = 0; #44

W = 5;

#50

#48

B W = 2; #49

A W = 1; #47

C W = 2; #45

W = 3;

W = 1; #46

ESC W = 0; #44

W = 5;

#50

#48

B W = 2; #49

C W = 2; #47

A W = 1; #45




iu chnh cây W = 5;

#50

B W = 2; #48

W = 3;

W = 1; #46

ESC W = 0; #44

#49 C W = 2; #47

A W = 1; #45




Thêm AA: D liu nén ?  Cây Huffman ? 

Bai_10-Huffman (Nen Du Lieu)

Recommend Documents