Nghiên cứu một số phương pháp phân cụm bán giám sát mờ trong phân đoạn ảnh nha khoa

MỞ ĐẦU Phân đoạn ảnh là chia nhỏ một ảnh thành các vùng đồng nhất cấu tạo nên ảnh hoặc các đối tƣợng [17], [52]. Phân đoạn ảnh thƣờng đƣợc sử dụng để xác định vị trí đối tƣợng (chẳng hạn nhƣ các loại cây trồng, khu vực đô thị, rừng của một hình ảnh vệ tinh, v.v.) và các đƣờng biên, ranh giới (đƣờng thẳng, đƣờng cong, v.v.) trong ảnh. Với ảnh nha khoa thì mục đích của phân đoạn ảnh nha khoa là bƣớc xử lý quan trọng trong nha khoa thực hành nhằm hỗ trợ bác sĩ chẩn đoán một cách hiệu quả các bệnh quanh răng. Ảnh X-quang nha khoa gồm 3 phần chính [54]: i) Phần răng: phần có độ xám cao và là phần ta nhìn thấy rõ nhất trên ảnh; ii) Phần cấu trúc răng: là phần có độ xám trung bình gồm lợi răng, xƣơng, phần khác (tủy, xi măng v.v.); iii) Phần nền: là phần có giá trị độ xám nhỏ nhất, là nền tảng của cấu trúc răng. Với cấu trúc của ảnh X-quang nha khoa thì việc phân đoạn ảnh phức tạp hơn phân đoạn ảnh thông thƣờng [70]. Bài toán phân đoạn ảnh nha khoa đã đƣợc sử dụng để hỗ trợ việc chẩn đoán bệnh nha khoa và dự đoán tuổi nha khoa [51]. Đồng thời, phân đoạn ảnh nha khoa mang lại những thông tin có giá trị cho nha sĩ trong quá trình phân tích các thông tin từ một hình ảnh [51]. Liên quan đến độ chính xác của phân đoạn ảnh nha khoa, có các phƣơng pháp học máy khác nhau đƣợc áp dụng [30], [35]. Kết quả phân đoạn ảnh nha khoa còn cung cấp thêm các thông tin cho các nha sỹ trong quá trình chẩn đoán bệnh, giúp các nha sỹ chẩn đoán bệnh chính xác và hiệu quả hơn. Với bài toán phân đoạn ảnh nha khoa, các nghiên cứu trƣớc đây đã đƣa ra các kỹ thuật phân đoạn nhƣ phân đoạn ảnh dựa trên phân ngƣỡng [21], [27], phân đoạn ảnh dựa trên phân cụm [44], [70]. Tuy nhiên các phƣơng pháp này thƣờng gặp vấn đề khi xác định tham số ngƣỡng hay biên chung của các mẫu răng và phƣơng pháp phân cụm mờ đƣợc cho là xử lý tốt hơn [59]. Trong phân cụm rõ, dữ liệu đƣợc chia vào các nhóm, trong đó mỗi điểm dữ liệu thuộc vào chính xác một cụm [10]. Trong phân cụm mờ, mỗi điểm dữ liệu có thể thuộc vào nhiều hơn một cụm với độ thuộc tƣơng ứng [10]. Khi đó, tƣơng ứng với các điểm dữ liệu là ma trận độ thuộc, với giá trị của các phần tử trong ma trận chỉ ra mức độ các điểm dữ liệu thuộc vào các cụm khác nhau [10]. Các phƣơng pháp phân cụm mờ đƣợc sử dụng nhiều trong các bài toán nhận dạng mẫu, phát hiện tri thức từ các cơ sở dữ liệu, đánh giá rủi ro và nó có ứng dụng nhiều trong phân đoạn ảnh. Trong các nghiên cứu gần đây việc sử dụng các thông tin bổ trợ cung cấp bởi ngƣời dùng đƣợc gắn với đầu vào trong phân cụm mờ để hƣớng dẫn, giám sát và điều khiển quá trình phân cụm. Các thuật toán phân cụm mờ kết hợp với các thông tin bổ trợ do ngƣời dùng xác định trƣớc hình thành lên nhóm các thuật toán phân cụm bán giám sát mờ [23]. Một số nghiên cứu gần đây cho thấy các thuật toán phân cụm bán giám sát mờ rất hiệu quả trong nhiều lĩnh vực nhƣ xử lý ảnh [16], [31], [49], nhận dạng mẫu, nhận dạng khuôn mặt [5], [33], đánh giá rủi ro [15], dự báo phá sản [36]. Đặc biệt là trong xử lý ảnh với các ảnh màu và ảnh y học. Cũng đã có một số kết quả đƣợc đƣa ra cho bài toán phân đoạn ảnh nha khoa nhƣ sử dụng các đặc trƣng của ảnh nha khoa nhƣ cấu trúc ảnh, màu sắc, hình dáng trong quá trình phân đoạn gồm phƣơng pháp lấy ngƣỡng [21], [27], phƣơng pháp phân cụm [70]. Tuy nhiên, trong nghiên cứu này, chƣa có kết quả nào của phân cụm bán giám sát mờ đƣợc áp dụng cho các ảnh X-quang nói chung và ảnh X-quang nha khoa nói riêng. Các nghiên cứu trƣớc cũng đã sử dụng phân cụm mờ cùng với các đặc trƣng của ảnh nha khoa nhƣng chƣa khai thác thông tin không gian của ảnh. Nội dung nghiên cứu chính của luận án tập trung vào vi ệc đề xuất, cải tiến các kỹ thuật phân đoạn ảnh bằng thuật toán phân cụm bán giám sát mờ. Trong quá trình phân đoạn ảnh nha khoa, các kỹ thuật phân cụm mờ (FCM) [10], phân cụm bán giám sát mờ (eSFCM) [67] và kỹ thuật tách ngƣỡng Otsu [43] là các kỹ thuật cơ bản làm tiền đề cho các phƣơng pháp mới đƣợc đề xuất trong luận án. Trong các phƣơng pháp mới trình bày trong luận án, thông tin bổ trợ đƣợc xác định là ma trận độ thuộc của thuật toán phân cụm mờ FCM kết hợp với các thông tin đặc trƣng của ảnh nha khoa. Đây là một cách tiếp cận mới mà các phƣơng pháp trƣớc đó chƣa đề cập đến. Đồng thời, luận án trình bày một số cách xác định thông tin bổ trợ phù hợp ứng với từng đối tƣợng đầu vào khác nhau. Từ đó thực hiện việc cài đặt và đánh giá các đề xuất trên máy tính. Mục tiêu nghiên cứu: Nghiên cứu các thuật toán phân cụm bán giám sát mờ vào phân đoạn ảnh. Phát triển các nghiên cứu đề xuất cải tiến các phƣơng pháp phân cụm bán giám sát mờ cho phân đoạn ảnh nha khoa. Các thuật toán cải tiến đƣợc đề xuất dựa trên các thông tin không gian đặc trƣng của ảnh nha khoa nhằm mục đích nâng cao chất lƣợng phân cụm của các thuật toán phân cụm bán giám sát mờ áp dụng với bài toán phân đoạn ảnh nha khoa. Với mục tiêu nghiên cứu ở trên luận án đã thu đƣợc một số đóng góp mới nhƣ sau:  Luận án đã nghiên cứu phát triển các thuật toán phân cụm bán giám sát mờ trong phân đoạn ảnh nha khoa, cụ thể: - Đề xuất các phƣơng pháp phân đoạn ảnh nha khoa dựa trên phân cụm bán giám sát mờ lai ghép. (Lai ghép giữa phân cụm bán giám sát mờ với phân cụm mờ và phƣơng pháp tách ngƣỡng Otsu). - Đề xuất phân cụm bán giám sát mờ có sử dụng đặc trƣng không gian ảnh nha khoa vào bài toán phân đoạn ảnh; - Vận dụng các phƣơng pháp giải tối ƣu đa mục tiêu để giải bài toán tối ƣu đa mục tiêu của phân cụm bán giám sát mờ, từ đó đƣa ra các mệnh đề, định lý và tính chất nghiệm của bài toán;

BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN HÀN LÂM KHOA HỌC

VÀ CÔNG NGHỆ VIỆT NAM

HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ

VIỆN HÀN LÂM KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM

HỌC VIỆN KHOA HỌC VÀ CÔNG NGHỆ

LỜI CAM ĐOAN

Tôi xin cam đoan đây là công trình nghiên cứu của riêng tôi được hoàn thành dưới sự hướng dẫn của tập thể hướng dẫn gồm PGS.TS Lê Bá Dũng và

TS Vũ Như Lân Các kết quả được viết chung với các tác giả khác đã được sự nhất trí của đồng tác giả khi đưa vào luận án Các kết quả nêu trong luận án là trung thực và chưa từng được công bố trong bất kỳ công trình nào trước thời gian công bố

Tác giả luận án

Trần Mạnh Tuấn Trần Mạnh Tuấn

LỜI CẢM ƠN

Trước hết, tác giả xin bày tỏ lòng biết ơn chân thành và sâu sắc tới các thầy giáo hướng dẫn, PGS.TS Lê Bá Dũng và TS Vũ Như Lân Sự tận tình giúp đỡ, chỉ bảo, động viện tận tình và quí báu mà các thầy đã dành cho tác giả trong suốt quá trình thực hiện luận án là không thể nào kể hết được

Xin chân thành cảm ơn các thầy các cô, các nhà khoa học thuộc Viện Công nghệ thông tin - Viện hàm lâm và khoa học Việt Nam đã tận tình giúp

đỡ và tạo một môi trường làm việc hết sức thuận lợi giúp tác giả thực hiện tốt công việc nghiên cứu của mình

Xin chân thành gửi lời cảm ơn tới các anh chị em và các bạn trong Trung tâm tính toán hiệu năng cao, Trường Đại học Khoa học Tự Nhiên đã giúp đỡ tác giả trong suốt quá trình học tập và nghiên cứu tại trung tâm Xin đặc biệt cảm ơn TS Lê Hoàng Sơn người đã nhiệt tình hướng dẫn, tạo điều kiện thuận lợi giúp tác giả hoàn thành luận án một cách tốt nhất

Xin gửi lời cảm ơn chân thành tới PGS TS Võ Trương Như Ngọc, Viện đào tạo Răng Hàm Mặt, Đại học Y Hà Nội đã cung cấp số liệu, tư vấn chuyên môn, cung cấp các tài liệu cần thiết trong quá trình nghiên cứu và hoàn thành luận án

Xin chân thành cảm ơn Ban Giám Hiệu Trường đại học Công nghệ thông tin và Truyền thông – Đại học Thái Nguyên đã hết sức tạo điều kiện về thời gian và công việc để tác giả có thể tập trung hoàn thành quá trình học tập, nghiên cứu của mình Đặc biệt xin gửi lời cảm ơn đến các thầy cô, các bạn đồng nghiệp trong Khoa Công nghệ thông tin đã động viên, giúp đỡ tác giả trong suốt quá trình nghiên cứu

Cuối cùng, xin gửi lời cảm ơn sâu sắc nhất tới gia đình, bạn bè và người thân, những người đã luôn là nguồn động viên để tác giả có thể học tập

và nghiên cứu, luôn sẻ chia những khó khăn vất vả trong quá trình nghiên cứu

và hoàn thiện đề tài

Hà Nội, ngày… tháng….năm 2016

Tác giả luận án Trần Mạnh Tuấn

Trần Mạnh Tuấn

MỤC LỤC

MỞ ĐẦU 1

CHƯƠNG 1 TỔNG QUAN VỀ PHÂN CỤM BÁN GIÁM SÁT MỜ TRONG PHÂN ĐOẠN ẢNH NHA KHOA 6

1.1 Bài toán phân đoạn ảnh nha khoa 6

1.1.1 Khái niệm 6

1.1.2 Ảnh X-quang nha khoa 7

1.1.3 Nhu cầu và ứng dụng trong y học 9

1.2 Tổng quan về các nghiên cứu liên quan 9

1.3 Một số kiến thức cơ sở 14

1.3.1 Tập mờ 14

1.3.2 Phân cụm 17

1.3.3 Phương pháp giải bài toán tối ưu đa mục tiêu 27

1.4 Kết luận 31

CHƯƠNG 2 MỘT SỐ THUẬT TOÁN PHÂN CỤM BÁN GIÁM SÁT MỜ CHO PHÂN ĐOẠN ẢNH NHA KHOA 32

2.1 Thuật toán phân cụm bán giám sát mờ lai ghép 32

2.1.1 Lược đồ tổng quan lai ghép 32

2.1.2 Thuật toán tách ngưỡng Otsu 34

2.1.3 Thuật toán phân cụm bán giám mờ lai ghép 37

2.1.4 Phân tích và đánh giá thuật toán phân cụm bán giám sát mờ lai ghép 38

2.2 Thuật toán phân cụm bán giám sát mờ có đặc trưng không gian

38

2.2.1 Lược đồ tổng quát 39

2.2.2 Xây dựng đặc trưng ảnh nha khoa 39

2.2.3 Xác định thông tin bổ trợ 44

2.2.4 Thuật toán phân cụm bán giám sát mờ SSFC-SC 46

2.2.5 Phân tích và đánh giá thuật toán SSFC-SC 51

2.3 Thuật toán phân cụm bán giám sát mờ giải nghiệm bằng thỏa dụng mờ 52

2.3.1 Thuật toán phân cụm bán giám sát mờ (SSFC-FS) 52

2.3.2 Các tính chất và hệ quả từ phân tích nghiệm của thuật toán 57 2.3.3 Phân tích và đánh giá thuật toán SSFC-FS 69

2.4 Xác định thông tin bổ trợ phù hợp cho thuật toán SSFC-FS 70

2.4.1 Lược đồ tổng quát 71

2.4.2 Xây dựng tập các hàm thông tin bổ trợ 71

2.4.3 Xác định hàm thông tin bổ trợ phù hợp cho ảnh nha khoa 74

2.5 Kết luận 78

CHƯƠNG 3 ĐÁNH GIÁ THỰC NGHIỆM 79

3.1 Mô tả dữ liệu ảnh X-quang nha khoa 79

3.1.1 Đặc tả dữ liệu 79

3.1.2 Xác định các đặc trưng của ảnh nha khoa 82

3.2 Độ đo và tiêu chí đánh giá kết quả 85

3.3 Các kết quả so sánh phân đoạn ảnh 88

3.3.1 Kết quả trên tập cơ sở dữ liệu ảnh nha khoa 88

3.3.2 Kết quả với các tham số thay đổi 91

3.4 Ứng dụng phân đoạn ảnh trong hỗ trợ chẩn đoán bệnh nha khoa 98

3.4.1 Mô hình hóa bài toán 99

3.4.2 Chọn phân đoạn có khả năng mắc bệnh 102

3.4.3 Chẩn đoán từng phân đoạn 103

3.4.4 Xây dựng bảng tổng hợp của các đoạn 106

3.4.5 Phân tích và đánh giá mô hình DDS 107

3.4.6 Kết quả thực nghiệm 108

3.5 Kết luận 112

KẾT LUẬN 113

NHỮNG ĐÓNG GÓP MỚI CỦA LUẬN ÁN 115

DANH MỤC CÁC CÔNG TRÌNH ĐÃ CÔNG BỐ 116

TÀI LIỆU THAM KHẢO 117

PHỤ LỤC 1 125

PHỤ LỤC 2 128

DANH MỤC THUẬT NGỮ VÀ TỪ VIẾT TẮT

APC Affinity propagation clustering

APC+ Affinity propagation clustering cải tiến

EEI Entropy, Edge and Intensity

eSFCM Semi-supervised Entropy regularized Fuzzy Clustering

FIS Fuzzy Inference System

FKNN Fuzzy k-Nearest Neighbor

LBP Local Binary Patterns

MAE Mean Absolute Error

PBM Pakhira, Bandyopadhyay and Maulik

SSFCM Semi-Supervised Fuzzy C-Mean

SSFC-FS Semi-Supervised Fuzzy Clustering algorithm with Spatial

Constraints using Fuzzy Satisficing method SSFC-FSAI Semi-Supervised Fuzzy Clustering algorithm with Spatial

Constraints using Fuzzy Satisficing method on the Additional Function

SSFC-SC Semi-Supervised Fuzzy Clustering algorithm with Spatial

Constraints SSSFC Semi-Supervised Standard Fuzzy Clustering

SVM Support Vector Machine

SSWC Simplified Silhouete Width Criterion

DANH MỤC BẢNG BIỂU

Bảng 1.1 Thuật toán phân cụm mờ 21

Bảng 1.2 Thuật toán phân cụm bán giám sát mờ chuẩn 23

Bảng 1.3 Thuật toán phân cụm bán giám sát mờ theo quy tắc entropy 25

Bảng 1.4 Thuật toán phân cụm bán giám sát mờ 26

Bảng 2.1 Thuật toán tách ngưỡng Otsu 35

Bảng 2.2 Thuật toán phân cụm bán giám sát mờ lai ghép 37

Bảng 2.3 Ma trận độ thuộc cuối cùng của FCM 45

Bảng 2.4 Xác định u1 45

Bảng 2.5 Trọng số các đặc trưng nha khoa 46

Bảng 2.6 Xác định u2 46

Bảng 2.7 Xác định ma trận bổ trợ 46

Bảng 2.8 Thuật toán SSFC-SC 51

Bảng 2.9 Bảng đánh giá hàm mục tiêu (pay-off) của phương pháp thỏa dụng mờ 55

Bảng 2.10 Các giá trị của IFV để chọn hàm bổ trợ thích hợp nhất 76

Bảng 3.1 Thông tin về các nhóm bệnh nhân 80

Bảng 3.2 Đặc trưng của tập dữ liệu 82

Bảng 3.3 Thống kê các ảnh trong toàn bộ dữ liệu ảnh X-quang .85

Bảng 3.4 Các giá trị kỳ vọng và phương sai của các thuật toán 89

Bảng 3.5 So sánh hiệu năng của các thuật toán trên bộ dữ liệu thực 89

Bảng 3.6 Giá trị độ đo khi thực hiện thuật toán SSFC-SC với C = 3 và giá trị  .91

Bảng 3.7 Giá trị độ đo khi thực hiện thuật toán SSFC-SC với C = 5 và giá trị  .92

Bảng 3.8 Kết quả thuật toán SSFC-FS với các bộ tham số (b1, b2, b3) 95

Bảng 3.9 Giá trị trung bình của thuật toán SSFC-FS với các bộ tham số 96

Bảng 3.10 Giá trị trung bình IFV lý thuyết và IFV thực nghiệm 97

Bảng 3.11 Thuật toán của phương pháp DDS 101

Bảng 3.12 Thuật toán APC+ 106

Bảng 3.13 Bảng tổng hợp bệnh của các vùng 107

Bảng 3.14 Các kết quả tổng hợp bệnh của ảnh 107

Bảng 3.15 Dự đoán bệnh cuối cùng cho dữ liệu kiểm tra 110

Bảng 3.16 Đánh giá hiệu năng của tất cả các phương pháp 110

DANH MỤC HÌNH VẼ

Hình 1.1 Ảnh phân đoạn 6

Hình 1.2 Một số loại ảnh X – quang nha khoa 8

Hình 1.3 Ảnh nha khoa 10

Hình 1.4 Các phương pháp phân đoạn ảnh 11

Hình 1.5 Một số dạng hàm thuộc cơ bản 15

Hình 1.6 Minh họa phân cụm dữ liệu 17

Hình 2.1 Lược đồ tổng quan của thuật toán lai ghép 33

Hình 2.2 Ảnh đầu vào cỡ 9x9 36

Hình 2.3 Ảnh nhị phân của ảnh đầu vào khi áp dụng thuật toán Otsu 37

Hình 2.4 Lược đồ hoạt động của thuật toán mới 40

Hình 2.5 Cách tính LBP 42

Hình 2.6 Cửa sổ không gian thích ứng 47

Hình 2.7 Sơ đồ hoạt động của phương pháp SSFC-FSAI 71

Hình 2.8 Minh họa các giá trị màu của ảnh 75

Hình 2.9 Giá trị đặc trưng của từng điểm ảnh 76

Hình 2.10 Giá trị tâm cụm và độ thuộc sau phân cụm bằng thuật toán FCM 76 Hình 3.1 Ảnh X-quang nha khoa theo từng nhóm bệnh 81

Hình 3.2 Ảnh phân đoạn 90

Hình 3.3 Độ chính xác của các phương pháp phân cụm với số cụm thay đổi 94 Hình 3.5 Biểu đồ biểu diễn vùng phân đoạn và 4 mẫu bệnh .103

Hình 3.6 Kết quả thực nghiệm trên đồ thị 111

MỞ ĐẦU

Phân đoạn ảnh là chia nhỏ một ảnh thành các vùng đồng nhất cấu tạo nên ảnh hoặc các đối tượng [17], [52] Phân đoạn ảnh thường được sử dụng để xác định vị trí đối tượng (chẳng hạn như các loại cây trồng, khu vực đô thị, rừng của một hình ảnh vệ tinh, v.v.) và các đường biên, ranh giới (đường thẳng, đường cong, v.v.) trong ảnh Với ảnh nha khoa thì mục đích của phân đoạn ảnh nha khoa

là bước xử lý quan trọng trong nha khoa thực hành nhằm hỗ trợ bác sĩ chẩn đoán một cách hiệu quả các bệnh quanh răng

Ảnh X-quang nha khoa gồm 3 phần chính [54]: i) Phần răng: phần có độ xám cao và là phần ta nhìn thấy rõ nhất trên ảnh; ii) Phần cấu trúc răng: là phần có

độ xám trung bình gồm lợi răng, xương, phần khác (tủy, xi măng v.v.); iii) Phần nền: là phần có giá trị độ xám nhỏ nhất, là nền tảng của cấu trúc răng Với cấu trúc của ảnh X-quang nha khoa thì việc phân đoạn ảnh phức tạp hơn phân đoạn ảnh thông thường [70]

Bài toán phân đoạn ảnh nha khoa đã được sử dụng để hỗ trợ việc chẩn đoán bệnh nha khoa và dự đoán tuổi nha khoa [51] Đồng thời, phân đoạn ảnh nha khoa mang lại những thông tin có giá trị cho nha sĩ trong quá trình phân tích các thông tin từ một hình ảnh [51] Liên quan đến độ chính xác của phân đoạn ảnh nha khoa,

có các phương pháp học máy khác nhau được áp dụng [30], [35] Kết quả phân đoạn ảnh nha khoa còn cung cấp thêm các thông tin cho các nha sỹ trong quá trình chẩn đoán bệnh, giúp các nha sỹ chẩn đoán bệnh chính xác và hiệu quả hơn

Với bài toán phân đoạn ảnh nha khoa, các nghiên cứu trước đây đã đưa ra các kỹ thuật phân đoạn như phân đoạn ảnh dựa trên phân ngưỡng [21], [27], phân đoạn ảnh dựa trên phân cụm [44], [70] Tuy nhiên các phương pháp này thường gặp vấn đề khi xác định tham số ngưỡng hay biên chung của các mẫu răng và phương pháp phân cụm mờ được cho là xử lý tốt hơn [59]

Trong phân cụm rõ, dữ liệu được chia vào các nhóm, trong đó mỗi điểm dữ liệu thuộc vào chính xác một cụm [10] Trong phân cụm mờ, mỗi điểm dữ liệu có thể thuộc vào nhiều hơn một cụm với độ thuộc tương ứng [10] Khi đó, tương ứng với các điểm dữ liệu là ma trận độ thuộc, với giá trị của các phần tử trong ma trận chỉ ra mức độ các điểm dữ liệu thuộc vào các cụm khác nhau [10] Các phương pháp phân cụm mờ được sử dụng nhiều trong các bài toán nhận dạng mẫu, phát hiện tri thức từ các cơ sở dữ liệu, đánh giá rủi ro và nó có ứng dụng nhiều trong phân đoạn ảnh Trong các nghiên cứu gần đây việc sử dụng các thông tin bổ trợ cung cấp bởi người dùng được gắn với đầu vào trong phân cụm mờ để hướng dẫn, giám sát và điều khiển quá trình phân cụm Các thuật toán phân cụm mờ kết hợp với các thông tin bổ trợ do người dùng xác định trước hình thành lên nhóm các thuật toán phân cụm bán giám sát mờ [23]

Một số nghiên cứu gần đây cho thấy các thuật toán phân cụm bán giám sát

mờ rất hiệu quả trong nhiều lĩnh vực như xử lý ảnh [16], [31], [49], nhận dạng mẫu, nhận dạng khuôn mặt [5], [33], đánh giá rủi ro [15], dự báo phá sản [36] Đặc biệt là trong xử lý ảnh với các ảnh màu và ảnh y học Cũng đã có một số kết quả được đưa ra cho bài toán phân đoạn ảnh nha khoa như sử dụng các đặc trưng của ảnh nha khoa như cấu trúc ảnh, màu sắc, hình dáng trong quá trình phân đoạn gồm phương pháp lấy ngưỡng [21], [27], phương pháp phân cụm [70] Tuy nhiên, trong nghiên cứu này, chưa có kết quả nào của phân cụm bán giám sát mờ được áp dụng cho các ảnh X-quang nói chung và ảnh X-quang nha khoa nói riêng Các nghiên cứu trước cũng đã sử dụng phân cụm mờ cùng với các đặc trưng của ảnh nha khoa nhưng chưa khai thác thông tin không gian của ảnh

Nội dung nghiên cứu chính của luận án tập trung vào việc đề xuất, cải tiến các kỹ thuật phân đoạn ảnh bằng thuật toán phân cụm bán giám sát mờ Trong quá trình phân đoạn ảnh nha khoa, các kỹ thuật phân cụm mờ (FCM) [10], phân cụm bán giám sát mờ (eSFCM) [67] và kỹ thuật tách ngưỡng Otsu [43] là các kỹ thuật

cơ bản làm tiền đề cho các phương pháp mới được đề xuất trong luận án Trong các phương pháp mới trình bày trong luận án, thông tin bổ trợ được xác định là ma trận độ thuộc của thuật toán phân cụm mờ FCM kết hợp với các thông tin đặc trưng của ảnh nha khoa Đây là một cách tiếp cận mới mà các phương pháp trước

đó chưa đề cập đến Đồng thời, luận án trình bày một số cách xác định thông tin bổ trợ phù hợp ứng với từng đối tượng đầu vào khác nhau Từ đó thực hiện việc cài đặt và đánh giá các đề xuất trên máy tính

Mục tiêu nghiên cứu:

Nghiên cứu các thuật toán phân cụm bán giám sát mờ vào phân đoạn ảnh Phát triển các nghiên cứu đề xuất cải tiến các phương pháp phân cụm bán giám sát

mờ cho phân đoạn ảnh nha khoa Các thuật toán cải tiến được đề xuất dựa trên các thông tin không gian đặc trưng của ảnh nha khoa nhằm mục đích nâng cao chất lượng phân cụm của các thuật toán phân cụm bán giám sát mờ áp dụng với bài toán phân đoạn ảnh nha khoa

Với mục tiêu nghiên cứu ở trên luận án đã thu được một số đóng góp mới như sau:

 Luận án đã nghiên cứu phát triển các thuật toán phân cụm bán giám sát mờ trong phân đoạn ảnh nha khoa, cụ thể:

- Đề xuất các phương pháp phân đoạn ảnh nha khoa dựa trên phân cụm bán giám sát mờ lai ghép (Lai ghép giữa phân cụm bán giám sát mờ với phân cụm mờ và phương pháp tách ngưỡng Otsu)

- Đề xuất phân cụm bán giám sát mờ có sử dụng đặc trưng không gian ảnh nha khoa vào bài toán phân đoạn ảnh;

- Vận dụng các phương pháp giải tối ưu đa mục tiêu để giải bài toán tối

ưu đa mục tiêu của phân cụm bán giám sát mờ, từ đó đưa ra các mệnh đề, định lý

và tính chất nghiệm của bài toán;

- Xây dựng kho dữ liệu các hàm xác định thông tin bổ trợ cho phân cụm bán giám sát mờ, từ đó lựa chọn hàm thông tin bổ trợ phù hợp với từng ảnh đầu vào để chất lượng cụm được tốt hơn

 Cài đặt thực nghiệm các thuật toán cải tiến dựa trên thu thập và phân tích dữ liệu ảnh về các mẫu bệnh nha khoa Ứng dụng phân đoạn ảnh trong hệ hỗ trợ chẩn đoán nha khoa

Ngoài phần phần mở đầu và kết luận, luận án được cấu trúc thành ba chương: Chương 1 trình bày về tổng quan về phân cụm bán giám sát mờ trong bài toán phân đoạn ảnh Đồng thời trình bày các lý thuyết cơ sở sử dụng trong quá trình học tập và nghiên cứu Thông qua chương này, luận án đưa ra được cái nhìn tổng quan về bài toán nghiên cứu, các khái niệm và thuật toán cơ bản sử dụng trong nghiên cứu của luận án

Các đóng góp chính của luận án lần lượt được trình bày trong chương 2, chương 3

Chương 2 trình bày kết quả nghiên cứu các phương pháp phân cụm bán giám sát mờ sử dụng cho phân đoạn ảnh nha khoa Chương này trình bày về phân cụm bán giám sát mờ lai ghép Đặc biệt luận án còn trình bày đề xuất phát triển của phân cụm bán giám mờ có sử dụng thông tin đặc trưng không gian và áp dụng phương pháp nhân tử Lagrange và thỏa dụng mờ giải bài toán tối ưu đa mục tiêu Đồng thời, trong chương 2, luận án xây dựng cách xác định thông tin bổ trợ phù hợp từng ảnh đầu vào để có được kết quả phù hợp nhất

Chương 3 trình bày các kết quả thực nghiệm thu được khi cài đặt các thuật toán phân cụm bán giám sát mờ đề xuất ở chương 2 trên bộ dữ liệu ảnh X-quang nha khoa Trong đó có trình bày về dữ liệu sử dụng và các tiêu chí đánh giá thông qua các độ đo Các kết quả này được sử dụng để đánh giá hiệu năng của các thuật toán đề xuất và so sánh với các thuật toán khác đã được nghiên cứu gần đây đối với

các bài toán tương tự Ứng dụng của phân đoạn ảnh trong thiết kế hệ hỗ trợ chẩn đoán bệnh

Cuối cùng, kết luận nêu những đóng góp, hướng phát triển, những vấn đề quan tâm và các công trình đã được công bố của luận án

CHƯƠNG 1 TỔNG QUAN VỀ PHÂN CỤM BÁN GIÁM SÁT MỜ TRONG

PHÂN ĐOẠN ẢNH NHA KHOA

1.1 Bài toán phân đoạn ảnh nha khoa

1.1.1 Khái niệm

Phân đoạn ảnh là chia nhỏ một ảnh thành các vùng đồng nhất tạo nên ảnh hoặc các đối tượng [17], [52] Phân đoạn ảnh thường được sử dụng để xác định vị trí đối tượng (chẳng hạn như các loại cây trồng, khu vực đô thị, rừng của một hình ảnh vệ tinh, v.v.) và các đường biên/ranh giới (đường thẳng, đường cong, v.v.) trong ảnh Chính xác hơn, phân đoạn ảnh là quá trình gán nhãn cho mọi pixel trong ảnh mà những pixel có cùng nhãn thì có chung một số đặc điểm nhất định nào đó Với phân đoạn ảnh nha khoa thì mục đích của phân đoạn ảnh nha khoa là bước xử

lý quan trọng trong nha khoa thực hành nhằm hỗ trợ bác sĩ chẩn đoán một cách hiệu quả các bệnh quanh răng như viêm chân răng, bệnh nha chu, viêm túi răng, v.v Hình 1.1 cho thấy kết quả của phân đoạn ảnh X-quang nha khoa chia ảnh X-quang thành các vùng, vùng màu xanh trong ảnh phân đoạn có thể mắc một bệnh nha khoa nào đó mà các bác sỹ cần đặc biệt chú ý

Kết quả của phân đoạn ảnh là một tập các phân đoạn mà nó bao trùm toàn

bộ ảnh Mỗi một điểm ảnh trong một phân đoạn là tương đồng nhau về một số thuộc tính hoặc tính chất tính toán, ví dụ như màu sắc, cường độ hoặc cách cấu tạo, v.v Việc áp dụng với ảnh phân đoạn nha khoa người ta có thể xây dựng lên các ứng dụng như: hỗ trợ việc thu thập thông tin trong chẩn đoán bệnh nha khoa của bác sỹ, các đường mức thu được sau khi phân đoạn ảnh có thể được sử dụng để tạo dựng thành 3D với sự giúp đỡ của các thuật toán nội suy để từ đó các bác sĩ có thể nắn chỉnh lại răng sao cho phù hợp v.v

1.1.2 Ảnh X-quang nha khoa

Cơ quan của răng bao gồm răng và nha chu quanh răng là đơn vị hình thái

và chức năng của bộ răng Răng là bộ phận trực tiếp nhai nghiền thức ăn, nha chu

là bộ phận giữ và nâng đỡ răng đồng thời là bộ phận nhận cảm, tiếp nhận và dẫn truyền lực nhai Răng gồm men, ngà (mô cứng) và tủy (mô mềm) Nha chu gồm xương chân răng, men chân răng, dây chằng, xương ổ răng, nướu (lợi), xương Bộ răng là một thể thống nhất thuộc hệ thống nhai tạo thành bởi sự sắp xếp có tổ chức của các cơ quan răng [2]

Mỗi răng có phần thân răng và chân răng Giữa thân răng và chân răng là đường cổ răng hay cổ răng giải phẫu là một đường cong Thân răng được bao bọc bởi men răng, chân răng được men chân răng bao phủ

Nướu răng viền xung quanh cổ răng tạo thành một bờ gọi là cổ răng sinh lý Phần răng thấy được trong miệng là thân răng lâm sàng Cổ răng sinh lý thay đổi tùy theo nơi bám và bờ của viền nướu, khi tuổi càng cao thì nơi bám này càng có khuynh hướng di chuyển dần về phía chóp răng Nhiều trường hợp bệnh lý, nướu răng có thể bị sưng hoặc trụt, làm thân răng bị ngắn lại hoặc dài ra [2]

Các thông tin về răng được hiển thị thông qua ảnh X-quang nha khoa Do đó ảnh X-quang nha khoa là một trong các công cụ chính để trợ giúp các nha sĩ thu được các thông tin nha khoa Ảnh X-quang nha khoa có thể trợ giúp việc thu thập

một số thông tin mà nha sĩ có thể không thấy được trong quá trình thăm khám trực tiếp Từ đó ảnh X-quang có thể trợ giúp cho việc xác định thông tin các bệnh nha khoa như [2]: Lỗ sâu giữa các răng hoặc phát hiện sâu răng bên dưới lớp trám răng, răng mọc ngầm, viêm lợi, tiêu xương quanh răng…

Có rất nhiều loại ảnh X-quang nha khoa khác nhau, trong đó được chia thành hai kiểu ảnh X-quang nha khoa chính: ảnh X-quang phạm vi trong miệng và ảnh X-quang phạm vi cả ngoài miệng [9], [68]

Ảnh trong miệng: là loại ảnh X-quang nha khoa phổ biến Nó mô tả các răng

một cách chi tiết và cho phép nha sĩ tìm sâu răng, kiểm tra sức khỏe của các răng

và xương xung quanh răng, kiểm tra tình trạng phát triển của răng và theo dõi sức khỏe chung của răng và xương hàm Ảnh X-quang thuộc kiểu trong miệng gồm ảnh cắn cánh và ảnh quanh chóp

Ảnh ngoài miệng: cũng cho chúng ta thấy các răng nhưng mục đích chính là

cho thấy toàn bộ hàm răng và xương sọ Nó không cung cấp các đặc điểm chi tiết

về từng răng như ảnh trong miệng và do đó, nó không được sử dụng để phát hiện sâu răng hoặc một số vấn đề khác với từng chiếc răng Thay vào đó, nó được sử dụng để tìm các răng nêm vào nhau, theo dõi sự tăng trưởng và phát triển hàm trong quan hệ với răng, để xác định các vấn đề tiềm ẩn giữa răng và hàm, hội chứng rối loạn thái dương hàm hoặc các xương mặt khác Các ảnh X-quang thuộc kiểu ngoài miệng gồm ảnh toàn cảnh, ảnh cắt lớp, phim sọ nghiêng, ảnh X-quang tuyến nước bọt, ảnh cắt lớp điện toán

Một số hình ảnh X-quang nha khoa được thể hiện ở Hình 1.2

a) Ảnh cắn cánh b) Ảnh quanh chóp c) Ảnh toàn hàm

Hình 1.2 Một số loại ảnh X – quang nha khoa

1.1.3 Nhu cầu và ứng dụng trong y học

Phân đoạn ảnh là giai đoạn đầu tiên trong quá trình xử lý ảnh và đóng vai trò rất quan trọng [32], [49] trong quá trình này Khi đó, phân đoạn ảnh nha khoa là bước xử lý then chốt trong nha khoa nhằm hỗ trợ bác sĩ chẩn đoán một cách hiệu quả các bệnh về răng như: viêm chân răng, răng mọc ngầm [55], [56] Khi đó ứng dụng đầu tiên của phân đoạn ảnh là hỗ trợ việc chẩn đoán bệnh nha khoa

Một trong những ứng dụng thú vị của phân đoạn ảnh nha khoa từ hình ảnh X-quang là giám định pháp y [23], [50], việc giám định pháp y thường sử dụng các công nghệ khoa học để phân tích (trong đó có phân tích răng) trong việc xác định con người, ví dụ: một vụ máy bay rơi sau khi rơi người ta phải giám định pháp y

để nhận dạng với từng người trong tất cả những người đã chết [50] Khi đó người

ta xác định thông qua các nhận dạng sinh trắc học, đặc điểm hình dạng nha khoa còn tồn tại của các nạn nhân (trong trường hợp chết trong một thời gian dài [50])

Do đó, nó trở nên quan trọng để đưa ra quyết định xác định hình thái mặt của con người dựa trên các đặc tính kích thước răng, khoảng cách giữa các răng và các mẫu xoang, xương trên mặt v.v [50] Bên cạnh việc giám định pháp y, phân đoạn ảnh nha khoa còn có một số ứng dụng khác: xác định số răng [35], ước lượng tuổi nha khoa [65], phân đoạn ảnh nha khoa có thể phân tích các mảng bám răng [24], v.v

1.2 Tổng quan về các nghiên cứu liên quan

Phân đoạn ảnh là giai đoạn đầu tiên trong quá trình xử lý ảnh và đóng vai trò rất quan trọng [32], [49] Phân đoạn ảnh cũng là công việc khó khăn của xử lý ảnh Trong đó, phân đoạn ảnh nha khoa là bước xử lý then chốt nhằm hỗ trợ bác sĩ chẩn đoán một cách hiệu quả các bệnh về răng như viêm chân răng, bệnh nha chu, viêm túi răng [42], [43] Khi đó quá trình phân đoạn ảnh là một trong các bước quan trọng và cần thiết để phân tích ảnh X-quang nha khoa cho các quá trình xử lý sau

này như: hỗ trợ chẩn đoán bệnh [50], xác định các thành phần khác nhau trong ảnh (răng, lợi, tủy v.v.) [51]

Hình 1.3 Ảnh nha khoa

(a) Ảnh X-quang nha khoa; (b) Lỗ trống răng bị thiếu Ảnh X-quang nha khoa gồm 3 phần chính (hình 1.3 a) [54]: i) Phần răng: phần có độ xám cao và là phần ta nhìn thấy rõ nhất trên ảnh; ii) Phần cấu trúc răng:

là phần có độ xám trung bình gồm lợi răng, xương, phần khác (tủy, xi măng v.v.); iii) Phần nền: là phần có giá trị độ xám nhỏ nhất là nền tảng của cấu trúc răng Với cấu trúc của ảnh X-quang nha khoa thì việc phân đoạn ảnh phức tạp hơn phân đoạn ảnh thông thường [70] Nói cách khác, sự kết nối giữa các phần khác nhau của một hình ảnh nha khoa X-quang và chất lượng thấp của hình ảnh do tạp chất, độ tương phản thấp, sai sót về chức năng quét hình ảnh, v.v làm giảm hiệu suất phân đoạn

Ví dụ, các lỗ trống trong răng bị mất (hình 1.3 b) không thể được xử lý bằng kỹ thuật xử lý ảnh dựa trên ngưỡng thông thường [26] Vì vậy, phương pháp khai phá

dữ liệu phân đoạn ảnh X-quang nha khoa đã được nghiên cứu để đạt được độ chính xác cao của phân đoạn [40]

Hình 1.4 Các phương pháp phân đoạn ảnh

Hình 1.4 giới thiệu một số phương pháp phân đoạn ảnh dựa trên điểm ảnh, dựa trên biên và dựa trên vùng Trong phân đoạn ảnh có rất nhiều kỹ thuật khác nhau được sử dụng và các kỹ thuật đó có thể được chia thành 2 loại xu hướng cơ bản là: i) Áp dụng các kỹ thuật xử lý ảnh [13], [37] gồm: phương pháp ngưỡng, các phương pháp dựa biên và dựa trên vùng; ii) Áp dụng phương pháp phân cụm [46] gồm: K-means [60], Fuzzy C-Means (FCM) [10] Các phương pháp có sử dụng kỹ thuật xử lý ảnh thường phải biến đổi để biểu diễn ảnh dưới dạng nhị phân, thông qua ngưỡng hoặc sử dụng một đường cong phức tạp để xác định biên Một phương pháp thường được sử dụng là phương pháp tách ngưỡng Otsu [43] Các phương pháp này thường gặp vấn đề hết sức khó khăn là xác định tham số ngưỡng hay biên chung của các mẫu răng [59] Trong khi các phương pháp sử dụng kỹ thuật phân cụm để xác định các cụm thì không cần biết trước thông tin về ngưỡng

và các đường cong Tuy nhiên các phương pháp này đặt ra một thách thức là việc

Phát hiện biên

Kỹ thuật Gradient

Các phương pháp phân đoạn ảnh

Dựa trên điểm ảnh Dựa trên biên Dựa trên vùng

Tập mức

Đường mức kích hoạt

Xây dựng vùng

Phân tách/

Kết hợp

Phương pháp

đồ thị

lựa chọn các tham số và phát hiện biên giữa các cụm [12], [38], [39], [53] Điều này đặt ra các động lực của việc cải tiến các phương pháp phân đoạn ảnh để đạt được hiệu suất tốt hơn

Các nghiên cứu trước đây [6], [66] cho thấy rằng nếu có thêm thông tin bổ sung kết hợp với quá trình phân cụm thì chất lượng phân cụm được tăng cường Việc nghiên cứu đề xuất các phương pháp phân cụm bán giám sát mờ với các thông tin bổ trợ là một trong ba loại [69]: các ràng buộc Must-link và Cannot-link, các nhãn lớp của một phần dữ liệu, độ thuộc được xác định trước Ví dụ, nếu chúng ta biết rằng một điểm ảnh đại diện cho một vùng tương ứng là răng thì ta gán nhãn cho điểm ảnh vào lớp răng, các điểm ảnh khác trong ảnh X-quang nha khoa được phân cụm cùng với sự hỗ trợ của các điểm ảnh đã biết Thông tin về điểm ảnh đã biết làm cho kết quả phân đoạn ảnh chính xác hơn Trong các thuật toán phân cụm bán giám sát mờ được đề xuất trong luận án, thông tin bổ trợ được

sử dụng là ma trận độ thuộc được xác định trước (cách xác định được thực hiện chi tiết cho từng phương pháp trình bày trong chương 2) Đối với thông tin này, các thuật toán phân cụm bán giám sát mờ (SSSFC) [66], thuật toán phân cụm bán giám sát mờ sử dụng Entropy (eSFCM) [67] có hiệu quả hơn so với thuật toán phân cụm

mờ FCM

Một ảnh X-quang đầu vào có thể chỉ ra một số bệnh về răng chứ không phải một bệnh duy nhất Nếu việc chẩn đoán được thực hiện trên từng vùng của ảnh càng chi tiết thì kết quả chẩn đoán cho toàn bộ ảnh càng chính xác Mục tiêu của phân đoạn từ một hình ảnh X-quang nha khoa là tạo ra nhiều phân đoạn khác nhau

từ một ảnh đầu vào sao cho các điểm ảnh trong một phân đoạn có sự tương đồng cao hơn so với các phân đoạn khác Những ảnh X-quang nha khoa có thể được phân loại theo từng vùng khác nhau cụ thể là vùng nền và vùng cấu trúc răng hoặc vùng có bệnh và vùng không có bệnh [70] Những vùng này sau đó được so sánh với các mẫu bệnh bằng một phương pháp tìm kiếm nhanh để xác định hình ảnh

nha khoa có hay không chứa bệnh nha khoa nào Vấn đề này đã được nghiên cứu rộng rãi trong các công trình [10], [12], [19], [29], [30], [43], [45] Trong đó, các phương pháp điển hình và phổ biến là phương pháp tách ngưỡng Otsu [43], phân cụm mờ FCM [10], phân cụm bán giám sát mờ theo quy tắc Entropy eSFCM [67]

Khi ảnh được phân đoạn tạo thành các phân đoạn, thuật toán phân lớp được

sử dụng để xác định bệnh có thể có của từng phân đoạn riêng lẻ và hệ hỗ trợ ra quyết định được áp dụng để xác định các bệnh của toàn bộ ảnh đầu vào Quá trình phân lớp đôi khi còn được gọi là quá trình tìm kiếm ảnh X-quang nha khoa nhằm trợ giúp cho quá trình khớp một ảnh hoặc một phân đoạn X-quang nha khoa với một mẫu bệnh có trong cơ sở dữ liệu

Ở trong nước, những năm gần đây cũng có một số nhóm nghiên cứu về các phương pháp phân đoạn ảnh Chẳng hạn nhóm tác giả Ngô Thành Long và cộng sự [39] đã nghiên cứu phương pháp phân cụm bán giám sát mờ loại 2 dùng với ảnh viễn thám Nhóm tác giả Lê Hoàng Sơn và cộng sự [57] cũng đã đề xuất phương pháp phân cụm áp dụng cho bộ dữ liệu chuẩn từ UCI với các giai đoạn: phân cụm

dữ liệu đầu vào thành các phân hoạch; áp dụng các kỹ thuật phân cụm thông thường để xác định ma trận tương tự cho từng phân hoạch; tính toán trọng số cho các phân đoạn bằng các độ đo phân cụm và xác định ma trận độ thuộc cuối cùng của thuật toán phân đoạn được xác định dựa trên nguyên tắc cực tiểu hóa bình phương sai số từ phương pháp giảm Gradient Phương pháp này chưa sử dụng các thông tin bổ trợ có lợi trong quá trình phân cụm khi thực hiện Nhóm tác giả Phạm Huy Thông và Lê Hoàng Sơn [63] đề xuất thuật toán phân cụm mờ bức tranh như

là một phương pháp của trí tuệ tính toán Các thực nghiệm của phương pháp này được áp dụng cho bộ dữ liệu số Iris và một vài bộ dữ liệu khác trên UCI Một cách tiếp cận của thuật toán phân cụm trong một ứng dụng khác được tác giả Lê Hoàng Sơn trình bày trong [56], thuật toán phân cụm mờ được sử dụng trong phân tích

địa lý của cụm dân cư Các cách tiếp cận này chưa thực hiện trên ảnh nha khoa cũng như chưa sử dụng các thông tin đặc trưng của ảnh trong quá trình phân cụm

 

( , ) |  , 0    1

Trong đó A (x) được gọi là hàm liên thuộc của x trong A viết tắt là MF

(Membership Function) Nó không còn là hàm hai giá trị như đối với tập kinh điển nữa, mà là một hàm với một tập các giá trị hay còn gọi là một ánh xạ Tức là, hàm liên thuộc ánh xạ mỗi một phần tử của X tới một giá trị liên thuộc trong khoảng [0,1]

Như vậy, một tập mờ phụ thuộc vào hai yếu tố là không gian nền và hàm liên thuộc phù hợp

Các hàm liên thuộc được xây dựng từ những hàm cơ bản như: hàm bậc nhất, hình thang, hình tam giác, hàm phân bố Gaussian, đường cong sigma, đường cong

đa thức bậc hai và bậc ba Hình 1.5 ở trên mô tả một vài dạng hàm thuộc cơ bản

x x A

Phép giao: Giao của hai tập mờ A và B được xác định tổng quát bởi một ánh

xạ hai ngôi T, hàm liên thuộc của phép giao giữa hai tập mờ được thực hiện như sau:

AB x TA   x, B x  (1.3) Các yêu cầu cơ bản của hàm T (gọi là toán hạng chuẩn hay T-norm) được phát biểu như sau:

T là một ánh xạ bậc hai T() thoả mãn:

Đường biên: T(0, 0) = 0; T(a, 1) = T(1, a) = a (1.4) Đơn điệu: T(a, b)  T(c, d) nếu a  c và b  d (1.5)

Nếu X là tập hợp các đối tượng rời rạc Nếu X là không gian liên tục (1.2)

Giao hoán: T(a, b) = T(b, a) (1.6) Kết hợp: T(a, T(b, c)) = T(T(a, b), c) (1.7) Trên cơ sở đó, người ta thường sử dụng một số phép toán giao thoả mãn chuẩn T-norm như sau:

Min (Zadeh 1965) T ( x , y )  min( x , y ) (1.8)

Dạng tích: T(x,y)  xy (1.9) Chuẩn Lukasiewicz T(x,y)  maxxy 1 , 0 (1.10)

1 y) max(x, y) min(x, y)

Phép hợp : Giống như điểm giao nhau mờ, phép toán kết hợp mờ được xác

định khái quát bằng một ánh xạ nhị phân S

 x S A   x B x

B

   , (1.13) Những toán hạng kết hợp mờ này thường được coi như những toán hạng

không tiêu chuẩn T (hoặc tiêu chuẩn S), chúng phải thoả mãn những yêu cầu cơ

bản sau:

Toán hạng không tiêu chuẩn T (hoặc tiêu chuẩn S) là một ánh xạ bậc hai S() thoả mãn:

Đường biên: S(1, 1) = 1; S( a, 0) = S(0, a) = a (1.14) Đơn điệu: S( a, b )  S(c, d) nếu a  c và b  d (1.15) Giao hoán: S(a, b) = S(b, a) (1.16) Kết hợp: S(a, S(b, c)) = S(S(a, b), c) (1.17) Trên cơ sở đó, người ta thường sử dụng một số phép toán giao thoả mãn chuẩn S như sau:

Max (Zadeh 1965) S(x,y)max(x,y) (1.18)

Chuẩn Lukasiewicz S(x,y)  minx y, 1 (1.20)

0 y) min(x, y) max(x, y)

Phép phủ định: Phủ định là một trong các phép toán logic cơ bản Để suy rộng

chúng ta cần tới toán tử N gọi là toán tử phủ định mờ Toán tử này thoả mãn điều kiện sau:

Hàm N: [0,1][0,1] không tăng được gọi là hàm phủ định nếu thoả mãn các điều kiện sau:

Điều kiện biên: N(0)=1 và N(1)=0

Đơn điệu: N(A)  N(B) nếu A  B

Nếu N(N(A)) = A thì phép phủ định này gọi là phủ định chặt

1.3.2 Phân cụm

1.3.2.1 Giới thiệu về phân cụm

Phân cụm dữ liệu [10] là quá trình nhóm một tập các đối tượng tương tự nhau trong tập dữ liệu vào các cụm sao cho các đối tượng thuộc cùng một cụm là tương đồng, còn các đối tượng thuộc các cụm khác nhau sẽ ít tương đồng (Hình 1.6)

Hình 1.6 Minh họa phân cụm dữ liệu

Phân cụm dữ liệu là một kỹ thuật trong khai phá dữ liệu nhằm tìm kiếm, phát hiện các cụm, các mẫu dữ liệu tự nhiên tiềm ẩn quan trọng trong tập dữ liệu

1 y x y) max(x, y)

S(x,

lớn từ đó cung cấp thông tin hữu ích cho việc ra quyết định Ngoài ra, phân cụm

dữ liệu còn có thể được sử dụng như một bước tiền xử lý cho các thuật toán khai phá dữ liệu khác như là phân loại và mô tả đặc điểm, có tác dụng trong việc phát hiện ra các cụm Phân cụm dữ liệu đang là vấn đề mở và khó vì người ta cần phải giải quyết nhiều vấn đề cơ bản về dữ liệu để nó phù hợp với nhiều dạng dữ liệu khác nhau

Mục tiêu của phân cụm dữ liệu là xác định được các dữ liêu có bản chất tương đồng nhau thành một cụm (gán nhãn) trong tập dữ liệu chưa có nhãn Vì vậy, phân cụm đòi hỏi người sử dụng phải cung cấp tiêu chuẩn phân cụm một cách

rõ ràng theo cách mà kết quả phân cụm sẽ đáp ứng được yêu cầu của bài toán đặt

ra

Bài toán phân cụm xuất hiện dưới nhiều tên gọi khác nhau tùy theo yêu cầu, mục đích của việc sử dụng bài toán Ngày nay bài toán phân cụm rất phong phú và được sử dụng trong nhiều lĩnh vực Đặc biệt trong các lĩnh vực xử lý thông tin như chúng ta biết, thông tin trong thời đại bây giờ là rất lớn và ngày càng nhiều hơn Vấn đề đặt ra là phải tìm ra giá trị tri thức từ kho thông tin đó, KPDL ra đời và KPDL kết hợp với hệ mờ đang được phát triển để tăng giá trị tri thức rút ra từ bộ

dữ liệu Bài toán phân cụm đang được phát triển theo hướng đó

Phân cụm dữ liệu được chia thành 2 nhóm cơ bản: Phân cụm rõ (phân cụm chính xác) và phân cụm mờ Trong phân cụm rõ, mỗi điểm dữ liệu chỉ thuộc vào một cụm duy nhất nào đó Còn trong phân cụm mờ, một điểm dữ liệu có thể thuộc vào nhiều cụm khác nhau với các độ thuộc khác nhau Mục 1.3.2.2 giới thiệu các thuật toán phân cụm mờ và thuật toán phân cụm bán giám mờ

1.3.2.2 Phân cụm

a) Phân cụm mờ (Fuzzy C-means – FCM)

Bài toán phân cụm rõ được phát biểu như sau:

Cho một tập dữ liệu X={x1,x2,….,xN}, với xi  Rr

, gồm N dữ liệu r chiều phân tách tập dữ liệu thành C cụm : v1, v2,…,vC rời nhau thỏa mãn điều kiện sau:

 vj ≠Ø j 1 ,C

 vj∩ vi = Ø (i ≠ j)

C j

j 



 1C: là số cụm sẽ phân thành, phải cho trước m

vi: véc tơ tâm cụm, dùng đề chỉ cụm thứ i

Nhiều vấn đề đã dẫn đến bài toán phân cụm mờ và các ứng dụng được đề cập đến nhiều trong bài toán phân cụm mờ bao gồm nhận dạng ảnh, xử lý thông tin, phân loại khách hàng trong ngân hàng Đã có rất nhiều nghiên cứu chuyên sâu trong 2 thập kỷ qua Điểm quan trọng là sự khác nhau của hai hướng tiếp cận theo hướng mờ (một véc tơ thuộc đồng thời vào nhiều cụm) và theo hướng xác suất (một véc tơ chỉ được thuộc vào duy nhất chỉ một cụm) Ưu điểm của phân cụm mờ

so với phân cụm rõ được thể hiện trong thực tế khi mà không thể chỉ ra ranh giới

rõ ràng giữa các cụm Phân cụm rõ bắt buộc các điểm chỉ được phép thuộc vào duy nhất một cụm Còn phân cụm mờ cho phép các điểm dữ liệu linh hoạt hơn, một điểm dữ liệu có thể thuộc vào nhiều cụm và ta đưa ra khái niệm độ thuộc để chỉ mức độ liên quan của điểm dữ liệu vào cụm mà nó thuộc Giá trị độ thuộc nằm trong đoạn [0,1], trường hợp điểm dữ liệu không thuộc một cụm nào hay chỉ thuộc vào duy nhất một cụm là rất hiếm

Thuật toán phân cụm mờ được Bezdek [10] đề xuất dựa trên độ thuộc u kj của phần

tử dữ liệu x k từ cụm thứ j Hàm mục tiêu được xác định như sau:

j k C

j

m

kj x v u

 u kj là độ thuộc của phần tử dữ liệu xk vào cụm thứ j, hình thành ma trận độ

thuộc Trong phân cụm mờ, tất cả các phân hoạch mờ có C cụm dữ liệu của tập dữ liệu có N đối tượng trong không gian r chiều thì ma trận độ

u U

C j kj kj

 Vj là tâm của cụm thứ j, j=1, ,C; (vj là một véc tơ có r phần tử tương ứng

số chiều của dữ liệu)

 . là chuẩn Euclid được xác định như sau:   

x

1

2 Khi đó ràng buộc của (1.23) là:

u

C j

Sử dụng phương pháp Lagrange, xác định được tâm của cụm dựa vào (1.25)

và độ thuộc dựa vào (1.26) từ hàm mục tiêu (1.23) và ràng buộc (1.24):

 

x u

v N k

m kj

N k

k m kj

v x

v x

j k

Bảng 1.1 Thuật toán phân cụm mờ Input Tập dữ liệu X gồm N phần tử trong không gian r chiều; số cụm C; mờ

mờ chưa sử dụng các thông tin biết trước để làm tăng chất lượng của cụm, khi đó

đã có những cải tiến và đề xuất các thuật toán phân cụm bán giám sát mờ

b) Phân cụm bán giám sát mờ

Các thuật toán phân cụm bán giám sát mờ xây dựng dựa trên các thuật toán phân cụm mờ kết hợp với các thông tin bổ trợ được người dùng cung cấp Các thông tin bổ trợ nhằm mục đích hướng dẫn, giám sát và điều khiển quá trình phân cụm

Thông tin bổ trợ thường được xây dựng dựa trên 3 loại cơ bản [69] sau:

- Các ràng buộc Must-link và Cannot-link: Ràng buộc Must-link yêu cầu 2 phần

tử phải thuộc vào cùng 1 cụm, ngược lại ràng buộc Cannot-link chỉ ra 2 phần

tử không thuộc cùng 1 cụm (mà phải thuộc 2 cụm khác nhau)

- Các nhãn lớp của một phần dữ liệu: Một phần của dữ liệu được gán nhãn và phần còn lại không được gán nhãn

- Độ thuộc được xác định trước

Một số nghiên cứu về phân đoạn ảnh sử dụng phân cụm bán giám sát thường dùng loại thông tin bổ trợ là giá trị hàm độ thuộc được xác định trước Với loại thông tin bổ trợ này, Zhang [69] đã áp dụng quy tắc entropy để giảm số chiều

và đề xuất một tiếp cận mới với ý tưởng là kết hợp một thành phần theo quy tắc entropy vào hàm mục tiêu Bên cạnh đó, Yasunori [66] đã đề xuất thuật toán phân cụm bán giám sát mờ trên cơ sở của FCM bổ sung thêm hàm độ thuộc bổ trợ sử dụng trong quá trình phân cụm Bouchachia và Pedryzc [12] sử dụng thông tin bổ trợ vào việc xác định các thành phần u kj thông qua giá trị trung gian u ik

Thuật toán phân cụm bán giám sát mờ chuẩn (SSSFC)

Yasunori et al [66] đã đề xuất một thuật toán phân cụm bán giám sát mờ với thông tin bổ trợ là hàm độ thuộc bổ sung trong hàm mục tiêu của FCM để cải thiện hiệu quả trong quá trình phân cụm của thuật toán Khi đó hàm mục tiêu [66] được xác định như sau:

u , k  1 ,N

Khi đó dựa vào điều kiện (1.24) và hàm mục tiêu (1.27) chúng ta có:

C j u

u

x u u

k

m kj kj

k

k m kj kj

m

j k C

i kj kj

kj

v x

v x u

u u

1

1 2

1 2

2

min arg ,

min arg ,

1

i k i kj

C j

i k i kj

kj kj

v x k

khi u

v x k

khi u u

Các bước thực hiện thuật toán SSSFC được trình bày trong bảng 1.2 như sau:

Bảng 1.2 Thuật toán phân cụm bán giám sát mờ chuẩn Input Tập dữ liệu X gồm N phần tử , số cụm C, ma trận độ thuộc bổ trợ U,

ngưỡng , số lần lặp tối đa maxStep > 0

4: Tính U(t) bởi u kj (k  1 ,N ; j 1 ,C) theo công thức (1.29) với m 1

hoặc công thức (1.30) với m 1 5: t = t + 1

6: Tính V(t) bởi v j ( j 1 ,C) theo công thức (1.28)

7: Until t)  (t 1 )  

V

V or t > maxStep

Thuật toán phân cụm bán giám sát mờ theo quy tắc entropy (eSFCM)

Thuật toán eSFCM đƣợc Yasunori và cộng sự [66] đề xuất năm 2009, đến năm 2012 Yin [67] có đề xuất hiệu chỉnh hệ số Entropy và khi đó thuật toán phân cụm bán giám sát mờ dựa trên thuật toán eSFCM, sử dụng độ thuộc bổ trợ u kj để tăng hiệu suất phân cụm với điều kiện:

  k N u

u kj C

u

x u

v N k kj

N k

k kj

1 2 1

k

kj x v x v u

) ,

kj kj kj kj N

k C

j k

i

v x

v x kj

e

e u u

A i k

A j k

1 1

1

2 2

x   và tâm cụm:

C j u

x u

k kj

N

k

k kj

Thuật toán eSFCM được mô tả cụ thể như sau (xem bảng 1.3)

Bảng 1.3 Thuật toán phân cụm bán giám sát mờ theo quy tắc entropy

Input Tập dữ liệu X gồm N phần tử , số cụm C, độ thuộc bổ trợ U ,

ngưỡng , số lần lặp tối đa maxStep > 0

4: Tính U(t) bởi ukj (k  1 ,N; j  1 ,C) theo công thức (1.36)

5: Tính V(t+1) bởi vj ( j 1 ,C) theo công thức (1.37)

Bouchachia và Pedrycz [12] đã đề xuất phương pháp phân cụm bán giám sát

mờ với thông tin bổ trợ là độ thuộc u kj cho trước, khi đó hàm mục tiêu [12] được xác định bởi (1.38)

min )

1 ( )

(

1

1 1

2 2

1 1

2 2

j L k

kj kj kj N

k C j

j

kj

N k C j kj

) 1 ( 2 1 1

C l kj kj

kj

d d

u u

u

1

1

1 1 1

h C C

1

và h là tập các cụm thuộc vào lớp h thì các giá trị u kj được cho bởi công thức (t là số bước lặp)

t kj hk

k

t kj t

kj

k

k u

f u

u

h

1

) 1 ( )

1 ( )

, 0

, 1

* 2

N k

j kj kj kj

j

u u u

x u u u

v

1

2 2

1

2 2

) (

) (





; j 1 ,C (1.42)

Thuật toán SSFCMBP được thực hiện theo các bước như sau (xem bảng 1.4)

Bảng 1.4 Thuật toán phân cụm bán giám sát mờ Input Tập dữ liệu X gồm N phần tử , số cụm C, độ thuộc bổ trợ U, ngưỡng

, số lần lặp tối đa maxStep > 0

8 Tính toán U bởi u kj theo công thức (1.41)

9 Until  t   t1  

U U

1.3.3 Phương pháp giải bài toán tối ưu đa mục tiêu

1.3.3.1 Phương pháp nhân tử Lagrange

Phương pháp nhân tử Lagrange [3] là một phương pháp để tìm cực tiểu hoặc cực đại địa phương của một hàm số chịu các điều kiện giới hạn Đây cũng là một phương pháp khá hiệu quả trong những bài toán cực trị có điều kiện ràng buộc ngoài ra còn có thể dùng phương pháp này để tìm điều kiện xảy ra dấu bằng của bất đẳng thức

Trong đó cực trị có điều kiện của hàm hai biến z = f(x,y) được hiểu là cực trị của hàm này với điều kiện là các biến x, y phải thỏa mãn ràng buộc dưới dạng

phương trình  (x,y)  0 Để tìm cực trị có điều kiện của hàm z = f(x,y) theo

phương pháp nhân tử Lagrange khi ràng buộc  (x,y)  0 được xác định, một hàm

bổ trợ là hàm Lagrange được thiết lập:

) , ( ) , ( )

; ,

Trong đó  là một nhân tử hằng chưa biết gọi là nhân tử Lagrange Điều

kiện cần để có cực trị là hệ các phương trình sau có nghiệm:

0 ) , , (

0 ) , , (

0 ) , , (

' ' '

y x L

y x L y x

(1.44)

Vấn đề tồn tại và đặc tính của cực trị có điều kiện được giải bằng cách xét dấu vi phân cấp 2 của hàm Lagrange tại các điểm P(x0,y0) (gọi là điểm dừng của

hàm L) Đạo hàm cấp 2 của hàm L được xác định bởi:

2 '' ''

2 '' 2

2L dxdy L dy dx

L L

Trong đó dx, dy thỏa mãn ràng buộc biểu thị bằng phương trình:

) 0 (

,

' 'dx y dy dx dy 

Các bước thực hiện của phương pháp nhân tử Lagrange được mô tả như sau:

1 Phát biểu bài toán dưới dạng mô hình toán học: Tìm cực đại (hoặc cực tiểu)

của hàm z = f(x,y) thỏa mãn ràng buộc  (x,y)  0

2 Thiết lập hàm Lagrange như trong công thức (1.43)

là các hàm đa mục tiêu được xem xét

Ý tưởng cơ bản của phương pháp thỏa dụng mờ tương tác là: Trước hết, tách từng phần của hàm đa mục tiêu và giải quyết những bài toán riêng biệt bằng một phương pháp thích hợp Sau đó, dựa trên các nghiệm của bài toán, xây dựng các hàm thoả dụng mờ cho mỗi bài toán con Cuối cùng, tổ hợp các hàm rời rạc