Tìm hiểu phương pháp phân tích trang tài liệu bằng fractal signaturee

Trong thực tế không phải quá trình nhận dạng nào cũng chỉ trải qua hai bướcnhư trên, bởi vì có rất nhiều tham số ảnh hưởng đến kết quả của các chương trìnhnhận dạng như nhiễu, Font chữ,

I Đặt vấn đề 1

II Nội dung nghiên cứu 2

III Bố cục của luận văn 3

CHƯƠNG I TỔNG QUAN VỀ HỆ THỐNG NHẬN DẠNG CHỮ VIẾT VÀ

I.1 Ảnh tài liệu và nhận dạng ảnh tài liệu 4

I.1.1 Tổng quan về ảnh tài liệu 4I.1.2 Nhận dạng tài liệu và vai trò của phân tích ảnh tài liệu 5I.2 Cấu trúc của ảnh tài liệu 6

I.2.1 Cấu trúc vật lý 6I.2.2 Cấu trúc logic 9I.3 Quá trình phân tích tài liệu 9

I.3.1 Tiền xử lý (preprocessing): 10I.3.2 Phân tích cấu trúc vật lý 11I.3.3 Phân tích cấu trúc logic 12I.4 Một số hệ thống phân tích tài liệu hiện nay 13

I.4.1 VnDOCR 13I.4.2 OminiPage 17I.4.3 Finereader 18I.5 Kết luận 21

CHƯƠNG II CÁC PHƯƠNG PHÁP TIẾP CẬN ĐỂ PHÂN TÍCH TRANG TÀI LIỆU 22

II.1 Các phương pháp phân tích định dạng trang tài liệu 22

II.1.1 Top-down 22II.1.2 Bottom-up 26II.1.3 Phương pháp Tách và Nối thích nghi (Adaptive Split – and – Merge) 29II.1.4 Fractal Signature (FS) 31

II.2 Lựa chọn giải pháp 35

II.3 Thiết kế hệ thống 35

II.3.1 Sơ đồ khối 35

II.3.2 Ảnh đầu vào 36

II.3.3 Module Tiền xử lý 37

II.3.3 Module chuyển ảnh sang hệ màu RGB 37

II.3.4 Phân tích từng lớp màu sử dụng giải pháp Fractal Signature 38

II.4 Kết luận 41 CHƯƠNG III XÂY DỰNG CHƯƠNG TRÌNH THỬ NGHIỆM 42 III.1 Yêu cầu hệ thống 42 III.2 Thiết kế chương trình 42 III.2.1 Cấu trúc dữ liệu 42

III.2.2 Module chuẩn hóa ảnh 44

III.2.3 Module giao diện chính 46

III.2.4 Module phân tích Top-down (TD) 47

III.2.5 Module phân tích Fractal Signature 50

III.2.6 Module lọc và làm trơn nhiễu 53

III.2.7 Module mô phỏng thuật toán FS 53

III.2.8 Các hàm chức năng chính của image processing tool trong matlab sử dụng trong chương trình 56

III.3 Kết luận và đánh giá kết quả 59 KẾT LUẬN 71 TÀI LIỆU THAM KHẢO 72 PHỤ LỤC 73 A Mã nguồn đầy đủ của chương trình 73 A.1 Danh mục các chương trình con trong chương trình 73

A.2 Sơ khối liên kết giữa các thủ tục trong chương trình 73

A.3 Mã nguồn các module 74

DANH M C CÁC HÌNH NHỤC CÁC HÌNH ẢNH ẢNH

Hình 1: Sơ đồ tổng quan quá trình tạo ảnh tài liệu 4

Hình 2: Ví dụ ảnh tài liệu 5

Hình 3: Sơ đồ OCR cơ bản 6

Hình 4: b-Cấu trúc vật lý: c,d-Cấu trúc logic của một tài liệu[4] 8

Hình 5: Ví dụ loại tài liệu có bố cục phức tap 9

Hình 6: Sơ đồ nguyên lý hệ thống xử lý tài liệu[6] 10

Hình 7: a - Ảnh gốc b - Ảnh sau khi tách nền 11

Hình 8: Ví dụ một ảnh tài liệu bị nghiêng một góc 5 độ 12

Hình 9: Ví dụ một cây mô tả cấu trúc logic của một trang tài liệu[5] 13

Hình 10: VnDOCR và một ví dụ nhận dạng 14

Hình 11: Ảnh mẫu có cấu trúc vật lý phức tạp 15

Hình 12: Kết quả ra hai vùng ảnh với ảnh mẫu 11 15

Hình 13: Mẫu ảnh có cấu trúc vật lý phức tạp, nhưng các khối bao bởi hình chữ nhật 16

Hình 14: Kết quả phân tích với ảnh 13 17

Hình 15: Đầu ra phân vùng chỉ có 1 vùng văn bản 18

Hình 16: Đầu ra có vùng chứa cả ảnh và text 18

Hình 17: Với ảnh 13 đạt hiệu quả 90% 19

Hình 18 Với ảnh I-15 hiệu quả đạt 100% 20

Hình 19: Với mẫu phức tạp hơn Finereader cho kết quả 95% 20

Hình 20: Kết quả chiếu nghiêng theo phương ngang và phương thẳng đứng của một trang tài liệu 23

Hình 21: Phân tách cột dựa vào phép chiếu nghiêng theo phương ngang 24

Hình 22: Phép chiếu nghiêng theo phương ngang để phân đoạn ký tự hoặc từ 24

Hình 23: Lược đồ chiếu ngang của một dòng chữ nghiêng - rất khó phân đoạn ký tự 25

Hình 24: Lược đồ chiếu đứng của trang tài liệu bị nghiêng 25

Hình 25: Lược đồ chiếu đứng của một bài báo 26 Hình 26: Phương pháp Dostrum cho phân tích định dạng trang từ dưới lên (a) Một phần của nội dung văn bản gốc (b) Các thành phần lân cận gần nhất được xác định

(c) Các hình chữ nhật tối thiểu tạo nên nhóm láng giềng gần nhất từ đó xác định

được dòng văn bản 28

Hình 27: Mô tả thuật toán Tách và Nối thích nghi 30

Hình 28: Mô tả thuật toán FS 32

Hình 29: Sơ đồ khối hệ thống phân tích tài liệu trong phạm vi đề tài 36

Hình 30: Ví dụ một bolck chuyển sang dạng bề mặt trong không gian 3D 38

Hình 31: Ví dụ chuyển ảnh chữ "c" sang dạng bề mặt trong không gian 3D 38

Hình 32: (a) Ảnh một tài liệu gốc, (b) kết quả sau khi áp dụng FS 41

Hình 33: Giao diện chính 46

Hình 34: Kết quả phân tích của top-down trên tài liệu có cấu trúc đơn giản 60

Hình 35: Kết quả phân tích của top-down trên tài liệu có cấu trúc bảng 61

Hình 36: : Kết quả phân tích của top-down trên tài liệu thuần văn bản 62

Hình 37: : Kết quả phân tích của top-down trên tài liệu có cấu trúc phức tạp (trang tạp trí) 63

Hình 38 : Kết quả phân tích của top-down trên một tờ quảng cáo 64

Hình 39: Kết quả phân tích của top-down trên tài liệu có cấu trúc phức tạp 65

Hình 40: Kết quả phân tích của top-down trên tài liệu bị nghiêng 66

Hình 41: Kết quả phân tích của FS trên tài liệu bị nghiêng 67

Hình 42: Kết quả phân tích của FS trên tài có cấu trúc phức tạp 68

Hình 43: Kết quả phân tích của FS trên một trang quảng cáo 69

Hình 44: Kết quả phân tích của FS trên tài liệu đơn giản 70

trên máy tính, việc số hóa đảm bảo tính an toàn và thuận tiện hơn hẳn so với sửdụng tài liệu giấy Tuy nhiên việc sử dụng giấy để lưu trữ tài liệu trong một số mụcđích là không thể thay thế hoàn toàn được (như sách, báo, tạp chí, công văn,…).Hơn nữa, lượng tài liệu được tạo ra từ nhiều năm trước vẫn còn rất nhiều mà khôngthể bỏ đi được vì tính quan trọng của chúng.

Việc chuyển đổi tài liệu điện tử sang tài liệu giấy có thể thực hiện được dễdàng bằng cách in hay fax, nhưng công việc ngược lại là chuyển từ tài liệu giấysang tài liệu điện tử lại là một vấn đề không hề đơn giản Chúng ta mong muốn cóthể điện tử hóa tất cả các tài liệu, sách, báo đó và lưu trữ chúng trên máy tính, việc

tổ chức và sử dụng chúng sẽ thuận tiện hơn rất nhiều Vậy nhưng giải pháp sẽ là gì?

Công nghệ đang phát triển một cách chóng mặt, các máy scan với tốc độhàng nghìn trang một giờ, các máy tính với công nghệ xử lí nhanh chóng và chínhxác một cách siêu việt Vậy tại sao chúng ta không quét các trang tài liệu vào và xử

lý, chuyển chúng thành các văn bản một cách tự động? Nhưng vấn đề là khi quétchúng ta chỉ thu được các trang tài liệu đó dưới dạng ảnh nên không thể thao tác,sửa chữa, tìm kiếm như trên các bản Office được, khi đó máy tính không phân biệtđược đâu là điểm ảnh của chữ và đâu là điểm ảnh của đối tượng đồ họa

Một giải pháp được đưa ra đó là xây dựng các hệ thống nhận dạng chữ trongcác tấm ảnh chứa cả chữ và đối tượng đồ họa, sau đó chuyển thành dạng trang vănbản và có thể mở, soạn thảo được trên các trình soạn thảo văn bản Một cách tổngquát thì cách thức hoạt động của một hệ thống nhận dạng chữ đó như sau [5]:

1 Chụp ảnh hoặc scan các trang tài liệu và lưu lại trên máy tính dưới dạnghình ảnh

2 Phân tích hình ảnh sau khi quét, đọc được ký tự trên hình ảnh và ghi lạivào máy tính theo cách mà máy tính quản lý được thông tin dữ liệu đó

- Bước 1: phân tích cấu trúc của ảnh tài liệu, từ đó xác định đâu là phầnchứa ký tự, đâu là phần chứa cả ảnh lẫn ký tự và đâu chỉ chứa hìnhảnh Bước này thực sự quan trọng cho bước nhận dạng Bởi nó định vịchính xác cho việc áp dụng các thuật toán nhận dạng lên vùng đã xácđịnh tính chất, nếu bước này chính xác trước tiên nó hạn chế thời gian

cho việc nhận dạng, sau là tăng ngữ nghĩa bổ sung cho việc nhậndạng.

- Bước 2 nhận dạng ký tự dựa vào các tính chất của ký tự, ví dụ như sắpxếp theo dòng, khoảng cách giữa 2 từ lớn hơn khoảng cách giữa 2 ký

tự, dùng trí tuệ nhân tạo để dự đoán các ký tự kề nhau phải như thếnào, các từ trong câu phải như thế nào để câu có nghĩa Từ đó có nộidung đúng để lưu trữ, quản lý…

Trong thực tế không phải quá trình nhận dạng nào cũng chỉ trải qua hai bướcnhư trên, bởi vì có rất nhiều tham số ảnh hưởng đến kết quả của các chương trìnhnhận dạng như nhiễu, Font chữ, kích thước chữ, kiểu chữ nghiêng, đậm, gạch dưới.Ngoài ra các dòng chữ cũng có thể trộn lẫn với các đối tượng đồ họa, vì thế trướckhi nhận dạng chữ, một số thao tác tiền xử lý sẽ được tác động lên ảnh như, lọcnhiễu, chỉnh góc nghiêng và đặc biệt quan trọng là phân tích trang tài liệu để xácđịnh cấu trúc của trang văn bản đồng thời tách biệt hai thành phần là chữ và các đốitượng đồ họa

II Nội dung nghiên cứu

1 Mục tiêu nghiên cứu chính của đề tài

 Tìm hiểu cấu trúc trang tài liệu (cấu trúc vật lý, logic)

 Tìm hiểu một số kỹ thuật phân tích trang tài liệu (phân vùng, phân đoạn,

…)

 Cài đặt thử nghiệm một giải pháp phân tích có hiệu quả cao so với cácphương pháp truyền thống như top-down hay bottom-up trên ảnh vào làảnh màu có cấu trúc phức tạp và nhiễu

 Từ kết quả nghiên cứu có một sự chuẩn bị kiến thức đẩy đủ cho bướcnghiên cứu tiếp theo là nhận dạng ký tự quang

2 Ý nghĩa khoa học của đề tài

 Giải quyết được vấn đề về học thuật: đề tài sẽ mang ý nghĩa cung cấp vềmặt lý thuyết để làm rõ về các phương pháp phân tích trang tài liệu

 Đáp ứng được yêu cầu của thực tiễn: từ các lý thuyết đã được nghiên cứu,

từ đó liên hệ và gắn vào thực tiễn để có thể áp dụng vào các lĩnh vựcnhư: Số hóa tài liệu, lưu trữ thư viện, điện tử hóa văn phòng, nhận dạng

và xử lý ảnh, …

3 Nhiệm vụ nghiên cứu

Mục đích của luận văn đề cập được đến hai phần:

 Phần lý thuyết: Nắm rõ và trình bày những cơ sở lý thuyết liên quan đếncấu trúc trang tài liệu, một số kỹ thuật phân tích trang tài liệu, từ đó có để

có thể xác định tính quan trọng của bước này trong nhận dạng ký tự, đồngthời hiểu các công việc kế tiếp cần làm trong bước nhận dạng ký tự

 Phần phát triển ứng dụng: Áp dụng các thuật toán đã trình bày ở phần lýthuyết từ đó lựa chọn một giải pháp tối ưu và cài đặt thử nghiệm chươngtrình phân tích trang tài liệu

4 Phương pháp nghiên cứu

 Tìm kiếm, tham khảo, tổng hợp tài liệu từ các nguồn khác nhau để xâydựng phần lý thuyết cho luận văn

 Sử dụng các kỹ thuật được áp dụng phân tích trang tài liệu để làm rõ bảnchất của các vấn đề được đưa ra trong phần lý thuyết

 Xây dựng chương trình Demo

5 Phạm vi nghiên cứu

Bài toán nhận dạng và xử lý ảnh tài liệu đã được phát triển với nhiều thành tựutrong thực tế, có rất nhiều thuật toán tối ưu đã được các nhà khoa học đề nghị Tuynhiên có thể nói chưa có một chương trình nào có thể “đọc” một ảnh văn bản nhưcon người, vì thực tế có rất nhiều kiểu trang văn bản khác nhau, khác nhau về cấutrúc trình bày, ngôn ngữ, kiểu font, chữ viết tay,… Đây thực sự là một bài toán lớn,chính vì thế trong phạm vi của luận văn chỉ tìm hiểu một số kỹ thuật phân tích trangvăn bản tiêu biểu với mục đích để so sánh với một thuật toán mới chưa được đưa ra

ở các đề tài trước Cuối cùng, dựa vào đó để xây dựng Demo cho một ứng dụng.Các kết quả nghiên cứu dự kiến cần đạt được:

 Tìm hiểu tài liệu liên quan đến lĩnh vực quan tâm để nắm bắt được bảnchất vấn đề đặt ra

 Báo cáo lý thuyết

 Chương trình Demo

III Bố cục của luận văn

Nội dung của luận văn được trình bày trong ba chương với nội dung chính sau:

Chương I: Trình bày các khái niệm và mô hình tổng quát của hệ thống nhận

dạng chữ viết, cùng với một số phần mềm nhận dạng tiêu biểu hiện nay

Chương II: Trình bày một số phương pháp phân tích trang tài liệu, từ đóđánh giá ưu nhược điểm để lựa chọn phương pháp Fractal Signature chochương trình thử nghiệm Trình bày về thiết kế cho chương trình demo.

Chương III: Trình bày chi tiết về việc cài đặt chương trình cũng như các thủ

tục sử dụng trong chương trình với phương pháp phân tích Fractal Signature

và ảnh đầu vào là ảnh màu có độ phức tạp cao và nhiễu

CHƯƠNG I TỔNG QUAN VỀ HỆ THỐNG NHẬN DẠNG CHỮ VIẾT VÀ PHÂN TÍCH TRANG TÀI LIỆU

Chương này đưa ra các khái niệm về đối tượng làm việc của đề tài là ảnh tàiliệu, khái niệm về cấu trúc vật lý và cấu trúc logic Giới thiệu các khâu trong một hệthống nhận dạng chữ viết hoàn chỉnh Đồng thời đưa ra một số phần mềm nhậndạng của Việt Nam và Thế giới cùng với các mẫu kết quả phân tích của nó nhằmmục đích so sánh và xác định phạm vi cho đề tài

I.1 Ảnh tài liệu và nhận dạng ảnh tài liệu

I.1.1 Tổng quan về ảnh tài liệu

Trang ảnh tài liệu được đề cập ở đây là các file ảnh số hoá thu được bằngcách quét các trang tài liệu dùng máy scanner, hoặc chụp từ các máy ảnh số, haynhận từ một máy fax (Hình 1), file ảnh này được lưu giữ trong máy tính Ảnh tàiliệu có nhiều loại: ảnh đen trắng, ảnh màu, ảnh đa cấp xám với các phần mở rộngnhư TIF, BMP, PCX, …(Hình 2) và ảnh tài liệu được đưa ra trong luận văn này là

ảnh màu.

Tài liệu Thiết bị thu nhận ảnh Ảnh số tài liệu

Hình 1: Sơ đồ tổng quan quá trình tạo ảnh tài liệu

I.1.2 Nhận dạng tài liệu và vai trò của phân tích ảnh tài liệu

Ngày nay, máy tính đang phát triển mạnh mẽ, tốc độ xử lý không ngừngđược nâng lên Cùng với nó là sự ra đời của các phần mềm thông minh đã khiếnmáy tính ngày một gần gũi với con người hơn Một trong các khả năng tuyệt vờicủa con người mà các nhà khoa học máy tính muốn đạt được đó là khả năng nhậndạng và lĩnh vực nhận dạng thu được nhiều thành công nhất là nhận dạng ký tựquang OCR–Optical Character Recognition OCR có thể được hiểu là quá trìnhchuyển đổi tài liệu dưới dạng file ảnh số hoá (là dạng chỉ có người đọc được) thànhtài liệu dưới dạng file văn bản (là tài liệu mà cả người và máy đều có thể đọc được)

OCR có rất nhiều ứng dụng hữu ích trong cuộc sống như:

- Sắp xếp thư tín, dựa vào việc nhận dạng mã bưu chính (Zipcode) hay địachỉ gửi tới

- Tự động thu thập dữ liệu từ các mẫu đơn/báo biểu hay từ các hồ sơ laođộng

- Hệ thống tự động kiểm tra trong ngân hàng (tự động xác nhận chữ ký)

- Tự động xử lý các hóa đơn hay các yêu cầu thanh toán

- Hệ thống tự động đọc và kiểm tra passport

- Tự động phục hồi và copy tài liệu từ các ảnh quét

- Máy đọc cho những người khiếm thính

- Scanner: Thiết bị quét ảnh

- OCR hardware/software:

o Document analysis: Phân tích tài liệu

o Character recognition: Nhận dạng ký tự

o Contexttual processor: Xử lý văn cảnh

- Output interface: Đầu ra

 Như vậy vai trò chính của khâu phân tích ảnh tài liệu là việc phân đoạn trang,tách vùng văn bản ra khỏi nền và đồ họa tạo mẫu chuẩn cho khâu nhận dạng Rõràng là kết quả của khâu phân tích này ảnh hưởng rất lớn đến hiệu của của khâunhận dạng nếu sử dụng mẫu hay các chuỗi văn bản đầu ra của nó

Hình 1: Sơ đồ OCR cơ bản

I.2 Cấu trúc của ảnh tài liệu

Một khái niệm mấu chốt trong xử lý tài liệu đó là cấu trúc của tài liệu Cấutrúc tài liệu thu được từ việc liên tiếp chia nhỏ nội dung của tài liệu thành các phầnnhỏ đơn vị (tức không thể phân chia được nữa) và chúng được gọi là các đối tượng

cơ sở (basic objects) Còn tất cả các đối tượng khác được gọi là các đối tượng hỗnhợp

Có hai loại cấu trúc của tài liệu được quan tâm ở đây đó là cấu trúc vật lý(hay bố cục vật lý) và cấu trúc logic mô tả mối quan hệ logic giữa các vùng đốitượng trong tài liệu

I.2.1 Cấu trúc vật lý

Bố cục vật lý của một tài liệu mô tả vị trí và các đường danh giới giữa các

vùng có nội dung khác nhau trong một trang tài liệu[6] Quá trình phân tích bố cụctài liệu là thực hiện việc tách từ một trang tài liệu ban đầu thành các vùng có nộidung cơ sở như hình ảnh nền, vùng văn bản,…

Để mô tả bố cục vật lý của tài liệu người ta sử dụng một cấu trúc hình họcvới mỗi đối tượng trong cấu trúc là một phần tử chỉ chứa nội dung đồng nhất Cáckiểu đối tượng hình học được định nghĩa như sau[4]:

 Block là đối tượng cơ sở tương ứng với một vùng hình chữ nhật chứa một phầnnội dụng của tài liệu

 Frame một đối tượng hỗn hợp tương ứng với một hình chữ nhật bao gồm mộthoặc nhiều block hoặc bao gồm các frame

 Page là đối tượng hình học hoặc hỗn hợp các thành phần cơ sở tương ứng vớimột vùng hình chữ nhật, nếu là đối tượng hỗn hợp nó chứa một hoặc nhiềublock, một hoặc nhiều frame

 Page set (tập trang) là một tập của một hoặc nhiều page

 Điểm gốc của cấu trúc (hay nút gốc) là một đối tượng ở mức cao nhất trong sơ

đồ phân cấp của cấu trúc hình học tài liệu Hình 4(b) cho ví dụ một cấu trúc hìnhhọc mô tả bố cục vật lý của trang tài liệu tương ứng

Các thuật toán phân tích bố cục tài liệu có thể được chia làm ba loại chínhdựa theo phương pháp thực hiện của nó

- Bottom-up: Ý tưởng chính của các thuật toán loại này là bắt đầu từ nhữngphần tử nhỏ nhất (như từ các pixel hay các phần tử liên thông) sau đó liêntục nhóm chúng lại thành các vùng lớn hơn

- Top-down: Thuật toán này bắt đầu từ vùng lớn nhất chứa cả trang tài liệusau đó liên tục phân chia thành các vùng nhỏ hơn

- Các thuật toán không theo thứ bậc: như Fractal Signature, Adaptive and-merge …

split-Hình 4: b-Cấu trúc vật lý: c,d-Cấu trúc logic của một tài liệu[4]

I.2.2 Cấu trúc logic

Ngoài bố cục vật lý, các trang tài liệu còn chứa đựng nhiều thông tin về ngữcảnh và nội dung như các tiêu đề, đoạn văn, đề mục, …và mỗi vùng nội dung nàylại được gán các nhãn logic hay nhãn theo chức năng tương ứng, khác biệt hoàntoàn với các nhãn trong bố cục vật lý Hầu hết các tài liệu đều có một quy tắc đọc để

có thể hiểu hết nội dung của tài liệu Với một số ngôn ngữ đặc biệt như tiếng Trung,tiếng Ả rập lại có quy cách đọc khác biệt (như đọc từ phải qua trái, trên xuống) Tậphợp tất cả các yếu tố logic và chức năng trong một tài liệu và mối quan hệ giữachúng được gọi là cấu trúc logic của tài liệu[6] Thông thường pha phân tích cấutrúc logic của tài liệu được thực hiện trên kết quả của bước phân tích bố cục vật lý.Tuy nhiên với một số loại tài liệu phức tạp, thì pha phân tích bố cục vật lý lại cầnthêm một số thông tin logic liên quan đến các vùng để có thể phân đoạn một cáchchính xác Hình 4(c,d) mô tả một ví dụ cấu trúc logic của tài liệu

I.3 Quá trình phân tích tài liệu

Ảnh tài liệu chứa rất nhiều loại vùng thông tin khác nhau như các block,lines, words, figures, tables và background Ta có thể gọi các vùng này theo chứcnăng của nó trong tài liệu hoặc gán cho nó các nhãn logic như sentences, titles,captions, address,… Quá trình phân tích tài liệu là thực hiện việc tách một tài liệuthành các vùng theo một tiêu chuẩn hay mối quan hệ lẫn nhau nào đấy Công việcnày được thực hiện qua nhiều bước như tiền xử lý, tách vùng, lặp cấu trúc tài liệu,

…

Một số loại tài liệu như báo, tạp chí, sách quảng cáo, chúng có cấu trúc và bốcục rất phức tạp và không có một form chung nào cả (Hình 5) Với con người để cóthể đọc hiểu được một trang tài liệu còn cần thêm nhiều kiến thức bổ sung như ngônngữ, hoàn cảnh, các luật ngầm định, vì thế việc tự động phân tích các trang tài liệumột cách tổng quát là một việc rất khó khăn thậm chí là không khả thi ngay cả vớicác hệ thống phân tích tài liệu tiên tiến nhất[6]

Hình 2:

Ví dụ loại tài liệu

có bố cục phức tap

Sơ đồ nguyên lý của một hệ thống tự động phân tích tài liệu như sau:

Hình 3: Sơ đồ nguyên lý hệ thống xử lý tài liệu[6]

I.3.1 Tiền xử lý (preprocessing):

Hầu hết các ảnh tài liệu đều có nhiễu do quá trình thu nhận ảnh gây ra (môitrường, chất lượng máy quét, máy ảnh), vì thế trong quá trình xây dựng các thuậttoán phân tích cần loại bỏ các nhiễu này và công việc này thường được tiến hànhtrước khi bắt đầu phân tích bố cục hay cấu trúc và gọi là Tiền xử lý Nhiệm vụchính của bước này là loại bỏ nhiễu, tách nền ra khỏi nội dung, phát hiện và xoaygóc nghiêng,…

 Tách nền (Background separation):

Đây là một vấn đề rất quan trọng ảnh hưởng trực tiếp đến hiệu quả của cácthuật toán phân tích tài liệu Nếu đối với các loại tài liệu có nền đồng nhất màutrắng hoặc đen thì việc tách có thể thực hiện đơn giản bằng phép phân ngưỡng, tuynhiên trong thực tế rất nhiều ảnh tài liệu có nền rất phức tạp như ảnh hay đồ họa(Hình 7) thì việc xác định các pixel nào thực sự thuộc về “phần nổi” là một công

việc khó khăn.

Ta có thể tách nền bằng một số kỹ thuật như sau:

- Gán mỗi điểm ảnh vào “phần nổi” hay phần nền dựa theo một tiêu chínào đấy (như ngưỡng mức xám, …)

- Dựa theo độ đo xác suất xuất hiện của mỗi điểm ảnh mà phân lớp nó vàonền hay phần nổi

- Dựa vào các pixel liên thông kết hợp với mạng noron để phân tách

Hình 4: a - Ảnh gốc b - Ảnh sau khi tách nền

 Xác định góc nghiêng:

Do quá trình thu nhận ảnh (như đặt lệch tài liệu khi scan,…) ảnh tài liệu thuđược rất có thể bị nghiêng, tức trục của các dòng văn bản không song song với trụcngang (Hình 8) Việc xác định được góc nghiêng và xoay lại tài liệu là một khâu rấtquan trọng ảnh hưởng đến hiệu quả trong một số thuật toán phân tích Ví dụ như cácthuật toán dựa theo biểu đồ sau phép chiếu nghiêng để tiến hành phân tích thì sẽhoàn toàn thất bại nếu văn bản bị nghiêng Tuy nhiên việc có thể tự động ước lượngđược chính xác góc nghiêng của ảnh tài liệu là một bài toán khó

Có nhiều kỹ thuật để có thể xác định được góc nghiêng của tài liệu, điểmchung trong hầu hết các thuật toán là xác định góc nghiêng bằng việc xác địnhhướng của các dòng văn bản dựa vào vị trí một số ký tự trong tài liệu

I.3.2 Phân tích cấu trúc vật lý

Phân tích tài liệu được định nghĩa là quá trình xác định cấu trúc vật lý củamột tài liệu Trong khâu này thì từ một ảnh tài liệu đầu vào sẽ được chia thành một

số khối (block) chứa các nội dung thành phần của tài liệu như các dòng văn bản,tiêu đề, đồ họa, cùng với có hoặc không các tri thức biết trước về định dạng củanó[6]

Có một số phương pháp phân tích và được phân ra làm hai loại như sau:

 Các phương thức có thứ bậc: Trong quá trình chia tài liệu thành các blockchúng ta quan tâm đến mối quan hệ về mặt hình học giữa các block Có

ba phương pháp thuộc loại này là:

o Phân tích top-down (trên xuống)

o Phân tích buttom-up (dưới lên)

o Phân tích kiểu Adaptive split-and-merge (tách và nối thích nghi)

 Các phương pháp không có thứ bậc: Trong quá trình chia tài liệu thànhcác khối chúng ta không quan tâm đến mối quan hệ hình học giữa cácblock

Hình 5: Ví dụ một ảnh tài liệu bị nghiêng một góc 5 độ I.3.3 Phân tích cấu trúc logic

Từ kết quả của pha phân tích cấu trúc vật lý, phân tích cấu trúc logic sẽ đixác định mối quan hệ logic giữa các vùng đã được gắn nhãn như tiêu đề, văn bản,

đề mục, hearder,… Bước này là cơ sở cho việc nhận dạng ký tự

- Việc xác định được vị trí chính xác của mỗi vùng trong cấu trúc logic sẽtăng thêm thông tin cho quá trình nhận dạng như thông tin về ngữ cảnh,

đoán nhận được kiểu font và kích thước chữ nếu biết nó thuộc vùng tiêu

đề, đề mục hay trong đoạn văn,… (Hình 9)

I.4 Một số hệ thống phân tích tài liệu hiện nay

I.4.1 VnDOCR

Vndocr phần mềm nhận dạng tiếng Việt là một sản phẩm của Viện côngNghệ thông tin VnDOCR thu thập thông tin nhờ quá trình quét các loại sách báothông qua máy quét thành các tệp ảnh và chuyển đổi thành các tệp có định dạng

*.doc, *.xls, *.txt, *.rtf, có thể đọc và chỉnh sửa được trên các phần mềm soạnthảo văn bản thông dụng như Office, Wordpad,… (Hình 10)

Môi trường

 PC với hệ điều hành Windows 9x, ME, 2000, XP, NT,… Tiện ích: Bộ gõ chữViệt, bộ font ABC, VNI, Unicode,

Thông tin đưa vào

 Quét trực tiếp các loại sách báo, văn bản qua máy quét (Scanner)

 Đọc và xử lý hơn 30 dạng tệp tin ảnh phổ dụng nhất như PCX, BMP, TIF, GIF,JPG,

 Có thể nhận dạng trực tiếp tài liệu quét qua Scanner không cần lưu trữ dưới dạngtệp ảnh trung gian Các trang tài liệu có thể được quét và lưu trữ dưới dạng tệptin nhiều trang

- Phân tích cấu trúc vật lý của tài liệu và đưa ra cấu trúc phân vùng

- Phân tích và nhận dạng chữ đầu ra là text có thể copy hay lưu trữ và soạnthảo lại được

Hình 6: VnDOCR và một ví dụ nhận dạng 1

Một số hạn chế: Tính đến phiên bản 4.0

- VnDOCR chỉ làm việc với ảnh đen trắng

- Với các ảnh có cấu trúc vật lý phức tạp VnDOCR cho kết quả còn hạnchế (Hinh 11, 12)

Thí nghiệm 1:

- Với ảnh đầu vào như sau:

1 Nguồn từ www.vndocr.com

Hình 10: Kết quả phân tích với ảnh 13 I.4.2 OminiPage

OmniPage là phần mềm nhận dạng văn bản của NUANCE Nó có thể chuyểnđổi các file ảnh tài liệu hay file PDF sang dạng file văn bản có thể đọc được bởi cácphần mềm soạn thảo như Office, với khả năng nhận dạng các ký tự la tinh chính xáctới 99%

Thí nghiệm 2: Với ảnh đầu vào 13, tương tự như VnDOCR OmniPage vẫn phân

Finereader là một sản phẩm ORC của ABBYY với một số tính năng chính sau3:

- Cho phép kết nối và nhận dạng ảnh trực tiếp từ Camera

- Nhận dạng được 38 ngôn ngữ khác nhau

- Nhận dạng cả text trong đồ họa

- Với 2 mẫu văn bản có cấu trúc phức tạp như trên thì Finereader đều chohiệu quả cao, nói chung Fineread đều có hiệu quả cao với các tài liệu có

bố cục phức tạp

Hình 13: Với ảnh 13 đạt hiệu quả 90%

3 Nguồn từ nhà sản xuất http://finereader.abbyy.com/full_feature_list

Hình 14 Với ảnh I-15 hiệu quả đạt 100%

Hình 15: Với mẫu phức tạp hơn Finereader cho kết quả 95%

Hạn chế chính của Finereader là tốc độ làm việc chậm so với 2 phần mềm kể trên.

CHƯƠNG II CÁC PHƯƠNG PHÁP TIẾP CẬN ĐỂ PHÂN TÍCH TRANG TÀI LIỆU

Với phạm vi đặt ra ở chương một và phần mở đầu là đề tài sẽ tập trung vàogiải pháp phân tích cấu trúc vật lý của trang tài liệu, chương 2 sẽ giới thiệu một sốphương pháp phân tích hiện nay, từ đó đưa ra và đánh giá được ưu nhược điểm củamỗi phương pháp đó Sau đó sẽ tập trung phân tích kỹ một phương pháp mới chưađược trình bày ở các đề tài trước đó là Fractal Signature với những ưu điểm vượttrội của nó là hiệu quả cao với tài liệu phức tạp, không phân biệt góc nghiêng Đồngthời thiết kế hệ thống demo với giải pháp mới này

II.1 Các phương pháp phân tích định dạng trang tài liệu

 Phép chiếu nghiêng theo hướng x bất kỳ: Thực chất là đi xác định lược đồ xámbằng cách tính tổng các điểm ảnh màu đen (hoặc trắng) theo phương vuông gócvới x dọc theo trục x Trong thực tế x thường là phương nằm ngang hay phươngthẳng đứng so với trang văn bản

Một ví dụ về phép chiếu nghiêng với một trang tài liệu cho ở Hình-20:

Trên lược đồ xám của phép chiếu nghiêng sẽ xuất hiện các điểm cực trị, vớiphép chiếu nghiêng theo phương thẳng đứng ta dễ nhận thấy độ rộng của các đáychính là khoảng cách giữa hai dòng, với các độ rộng của đáy nào đó mà tần suấtxuất hiện ít hoặc vượt quá một ngưỡng chính là khoảng các giữa hai vùng văn bản.Còn tại vị trí các đỉnh là trục của mỗi dòng văn bản

Với phép chiếu nghiêng theo phương ngang ta có thể phân tách được các cộthay các vùng cơ sở dựa vào ngưỡng khoảng cách của đáy (Hình-20) Cũng theonguyên tắc này nếu áp dụng phép chiếu nghiêng trên mỗi dòng văn bản ta cũng cóthể phân đoạn được các ký tự hoặc các từ dựa vào khoảng cách của đáy (ví dụ nhưHình-21)

Hình 16: Kết quả chiếu nghiêng theo phương ngang và phương thẳng đứng

của một trang tài liệu 4

4 (Anoop M Namboodiri and Anil K Jain)

Hình 17: Phân tách cột dựa vào phép chiếu nghiêng theo phương ngang 5

b) Hạn chế:

Phân tích top-down tồn tại nhiều hạn chế như:

- Kém hiệu quả với các loại tài liệu có bố cục phức tạp (hình 25)

- Cần xoay ảnh về đúng vị trí ngang nếu ảnh bị nghiêng (hình 23,24)

- Làm việc tốt chỉ với ảnh nhị phân

5 Serban Iliescu PATTERN RECOGNITION lecture Concordia University, Montreal, Canada (p 8)

Hình 18: Phép chiếu nghiêng theo phương ngang để phân đoạn ký tự hoặc từ

- Kém hiệu quả với các trang tài liệu sử dụng nhiều loại font và size khácnhau.

- Thông thường top-down được sử dụng cho các loại tài liệu biết trướcform bố cục, và có bố cục vật lý đơn giản

Hình 19: Lược đồ chiếu ngang của một dòng chữ nghiêng - rất khó phân đoạn ký tự

Hình 23: Lược đồ chiếu đứng của trang tài liệu bị nghiêng

II.1.2 Bottom-up

a) Tổng quan

Bottom-up bắt đầu với những phần nhỏ và tìm cách nhóm chúng vào nhữngphần lớn hơn, liên tiếp tới khi mọi khối trên trang được xác định Trong phạm viluận văn này, chỉ giới thiệu một số cách tiếp cận được coi là bottom-up nhưng sửdụng những phương pháp trực tiếp rất khác nhau nhằm đạt cùng mục đích

 Môt giải pháp được mô tả với các bước như sau:

1 Xác định góc nghiêng  thông qua phép biến đổi Hough

2 Xác định khoảng cách giữa các dòng thông qua việc xác định khoảngcách giữa các đỉnh của phép chiếu nghiêng  cố định bằng góc nghiêngợc

3 Làm trơn theo loạt (run-length-smothing), sau đó thực hiện tách các từhoặc ký tự dựa vào việc xác định các khoảng trắng trong dòng thông quaviệc tìm đỉnh trên biểu đồ chiếu nghiêng và các độ dài vùng đen (các từ)

4 Thực hiện phép nhóm bottom-up các phần văn bản nhờ một loạt thao táclàm trơn theo loạt, theo các hướng Kết quả thu được là các vùng ON và

ta phân tích các vùng liên thông trên đó Tính toán một vài số liệu trên

Hình 25: Lược đồ chiếu đứng của một bài báo

những vùng liên thông này, ví dụ khoảng chiều cao và chiều dài các từ.Những thông tin đặc trưng này được dùng để phân biệt các khối văn bản

và phân biệt phần văn bản và phần đồ họa Esposito6 đã dùng cách tiếpcận tương tự, nhưng trước hết xác định hợp biên của từng ký tự, sau đóthao tác trên hợp biên này, thay vì trên từng pixel nhằm giảm lượng tínhtoán

 Một phương pháp Dostrum bó cụm khác thực hiện với k lân cận gần nhất đểnhóm các ký tự và các dòng văn bản và các khối cấu trúc (Hình 26)

- Trước tiên, với mỗi phần tài liệu, xác định các đường nối k lân cận gầnnhất với các phần xung quanh Khoảng cách và góc của các đường nốinày được vẽ trên các biểu đồ Vì hầu hết các đường nối được tạo giữa các

ký tự cùng dòng, góc tối đa sẽ chỉ ra góc nghiêng và khoảng cách tối đa

sẽ là khoảng cách giữa các ký tự Sử dụng các ước lượng này, các dòngvăn bản được xác định như nhóm các ký tự và các từ dọc theo hướng củatrang Các dòng văn bản được nhóm thành các khối-sử dụng đặc tính củatài liệu là các dòng cùng khối thường gần nhau hơn các dòng khác khối

6 Floriana Esposito, Dipartimento di Informatica, Università degli Studi di Bari, Italy

b) Hạn chế

Phương pháp phân tích Bottom-Up cũng tồn tại nhiều hạn chế như sau:

- Cần phải phân đoạn để xác định các thành phần cơ sở trước khi có thểnhóm lại

- Tốc độ thực hiện chậm và phụ thuộc vào số thành phần trong trang tàiliệu

Hình 26: Phương pháp Dostrum cho phân tích định dạng trang từ dưới lên (a) Một phần của nội dung văn bản gốc (b) Các thành phần lân cận gần nhất được xác định (c) Các hình chữ nhật tối thiểu tạo nên nhóm láng giềng gần nhất từ đó xác định được dòng văn bản.

- Cũng như Top-Down hiệu quả phục thuộc trực tiếp vào việc xác địnhđược góc nghiêng của tài liệu, vì khoảng cách dòng và từ chỉ xác địnhchính xác được nếu góc nhiêng của tài liệu ≈00

- Kém hiệu quả với những trang tài liệu có cấu trúc phức tạp (nhiều bảng,

tỷ lệ đồ họa lớn hơn văn bản)

- Kém hiệu quả với loại trang tài liệu có nhiều loại Font chữ (chứa nhiềusize chữ khác nhau), vì với các trang chứa nhiều font có size khác nhauhoặc loại font chữ nghiêng đặc biêt với chữ viết tay thì chương trình rấtkhó có thể tính được chiều cao chữ hay độ rộng giữa hai dòng thông quabiểu đồ chiếu nghiêng

II.1.3 Phương pháp Tách và Nối thích nghi (Adaptive Split – and – Merge) a) Tổng quan

Phương pháp phân tích Adaptive Split – and – Merge được Lui, Tang vàSuen thiết kế với ý tưởng chính từ một trang tài liệu ban đầu và coi đó như mộtvùng chưa đồng nhất, từ đó liên tiếp chia mỗi vùng thành các vùng nhỏ hơn, tại mỗibước chia thực hiện nối các vùng đồng nhất và chia tiếp các vùng không đồng nhất

Để có thể mô tả được thuật toán một cấu trúc cây tứ phân phân lớp được sửdụng để biểu diễn quá trình tách và nối của thuật toán Trong đó nút ở đỉnh tươngứng với trang tài liệu ban đầu và là gọi là lớp cao nhất, các nút con tiếp theo là cácvùng con tương ứng với lớp thứ k của bước chia thứ k các vùng không đồng nhất(mô tả ở hình)

 Các bước của thuật toán[7]:

 B1: Tại lớp thứ K nếu tìm thấy một vùng không đồng nhất thì tiếnhành chia vùng đó thành 4 vùng nhỏ hơn

 B2: Nếu thấy ít nhất 2 vùng trong 4 vùng vừa tách là đồng nhất thìtiến hành nối chúng lại, còn các vùng không đồng nhất ta qua lại B1

và tách chúng thành các vùng ở lớp thứ K+1

 Tiêu chuẩn xác định vùng đồng nhất để nối ghép[7]

Hai vùng tương ứng rm và rn được coi là đồng nhất nếu chúng thảo mãn điềukiện sau:

Trong đó:

Lớp 0

(Trang tài liệu)

Trong đó: Nm và Nn biểu thị số vùng con trong mỗi vùng tương ứng rm và rn

và biểu thị giá trị trung bình của mỗi vùng tương ứng rm và rn

b) Ưu điểm

- Có thể áp dụng với các loại trang tài liệu có cấu trúc phức tạp vì thuậttoán này không quan tâm đến việc phân đoạn các thành phần cơ sở, màchỉ chia trang tài liệu thành các vùng hình chữ nhật và xem xét giá trịtrung bình của nó Như vậy các trang tài liệu có thể bỏ qua khâu xác định

- Không có một giá trị hằng số τ cho mọi trang tài liệu vì thế việc xác địnhgiá τ là một vấn đền khó

II.1.4 Fractal Signature (FS)

a) Tổng quan

Ý tưởng chính của thuật toán chia trang tài liệu A thành các vùng có kíchthước bằng nhau Bk (k=1, ,n) sao cho Bk Є A Sau đó tính FS cho mỗi vùng này,theo lý thuyết FS thì nếu có 3 vùng B1(giả thiết là vùng nền), B2(giả thiết là vùngchữ), B3(giả thiết là vùng đồ họa) thì luôn có FS(B1)<FS(B2)<FS(B3)

Quá trình thực hiện thuật toán có thể được mô tả như sau:

 Cơ sở toán học tính Fractal Signature[1]

Cho F{Xi,j}, với i=0,1,…,K và j=0,1,…,L là một ảnh tài liệu màu, trong đó

Xi,j là giá trị cấp xám của điểm ảnh thứ (i,j) Trong một dải đo nào đấy thì bề mặttạo bởi các độ xám của các điểm ảnh có thể xem như một phần tử hình học(Fractal) Vùng bề mặt này có thể được dùng để xác định gần đúng hướng hình họccủa nó (Fractal dimension) Cho một đơn vị đo , khi đó thể tích của một vùng A( )

có thể được tính xấp xỉ như sau:

Thuộc vùng Text

FS trung bình

Thuộc vùng Graphic

FS Cao

B3: Phân đoạn dựa vào FS

Hình 28: Mô tả thuật toán FS

trong đó là một hằng số, D là fractal dimension có thể tính được từ A( ).

Để chính xác hơn ta logarithm hai vế của phương trình (1) ta được:

Để tính fractal dimension, chúng ta cần đo được vùng bề mặt mức xám,trong giải thuật này sử dụng đối tượng là một “lớp” (blanket) để tính Ý tướng

tưởng của kỹ thuật sử dụng “blanket” dựa theo định nghĩa về -parallel body F δ ”

Định nghĩa: Thể tích Volδ của một Blanket tính được quá bán kính δ, tứ đó ta cóthể tính được cho một vùng bề mặt hình học (area of a fractal surface) và chúng tagọi nó là đặc trưng hình học (FS – Fractal Signature):

Theo công thức (1) ta có một vùng bề mặt hình học như sau:

Theo đó hướng hình học D có thể được tính, để xác định hướng ta chỉ cần đến 2điểm vì vậy ta sẽ phải dùng 2 giá trị δ để tính hướng hình học, khi đó ta cho δ = δ1

và δ2, sau đó tính:

Ta lấy biểu thức (5) chia cho biểu thức (6) được: