TIỂU LUẬN học PHẦN SEMINAR CHUYÊN đề THUẬT TOÁN máy học PHÂN lớp dữ LIỆU k NEAREST NEIGHBOR (KNN)

Ứng dụng của thuật toán này được sử dụng rất nhiều và rông rã̃i trong các bài toán phân lớp.. CƠ SỞ LÝ THUYẾT 1.1.Machine LearningMachine Learning có liên quan đến thống kê vì cả hai l

Trang 1

ỦY BAN NHÂN DÂN THÀNH PHỐ HỒ CHÍ MINH

TRƯỜNG ĐẠI HỌC SÀI GÒN KHOA CÔNG NGHỆ

THÔNG TIN

-

 -TIỂU LUẬN HỌC PHẦN SEMINAR CHUYÊN ĐỀ

THUẬT TOÁN MÁY HỌC PHÂN LỚP DỮ LIỆU

Trang 2

MỤC LỤC

DANH MỤC TỪ VIẾT TẮT 4

DANH MỤC BẢNG BIỂU 5

DANH MỤC HÌNH ẢNH, ĐỒ THỊ 6

MỞ ĐẦU 7

1 Đặt vấn đề 7

Hình 1 Mối quan hệ giữa AI, Machine Learning và Deep Learning 8

2 Mục đích nghiên cứu 8

3 Phạm vi và đối tượng nghiên cứu 8

4 Nội dung thực hiện 8

5 Cấu trúc đề tài 8

CHƯƠNG 1 CƠ SỞ LÝ THUYẾT 9

1.1.Machine Learning 9

1.1.1 Định nghĩa 9

1.1.2 Một số phương thức của Machine Learning 9

Hình 1.1.2: Ví dụ về mô hình phân lớp 10

1.2 Bài toán phân lớp dữ liệu 11

1.2.1 Quá trình phân lớp dữ liệu 11

CHƯƠNG 2: THUẬT TOÁN K-NEAREST NEIGHBOR 12

2.1 Thuật toán k-nearest neighbor 12

2.1.1 Định nghĩa 12

2.1.2 Quy trình làm việc của thuật toán KNN 12

Trang 3

2.1.4 Ví dụ về Knn nhiễu 14

Hình 2.1.4 Bản đồ minh họa KNN nhiễu với k=1 14

2.1.5 Ưu điểm, nhược điểm của thuật toán 14

2.2 Khoảng cách trong không gian vector 15

2.2.1 Định nghĩa 15

2.2.2 Một số norm thường dùng 15

Hình 2.2.2 Norm 1 và norm 2 trong không gian hai chiều 16

CHƯƠNG 3: THỰC NGHIỆM 17

3.1 Bộ dữ liệu Iris flower dataset 17

3.1.1 Giới thiệu 17

Hình 3.1.1 Hình ảnh minh họa về Iris flower dataset 18

3.1.2 Sử dụng tập dữ liệu 18

Hình 3.1.2 Sơ đồ minh họa phân cụm của Iris flower datasets 19

3.1.3 Tập dữ liệu 19

Bảng 1: Thông tin loài Setosa 19

Bảng 2: Thông tin loài Versicolor 21

Bảng 3: Thông tin loài Virginica 22

3.2 Cài đặt 24

3.2.1 Cài đặt python 3.6 24

3.2.2 Thử nghiệm 30

Hình 3.2.2 Mô hình bài toán 30

CHƯƠNG 4: KẾT LUẬN 37

TÀI LIỆU THAM KHẢO 38

Trang 5

DANH MỤC BẢNG BIỂU

Trang 6

DANH MỤC HÌNH ẢNH, ĐỒ THỊ

1 Hình 1 Mối quan hệ giữa AI, Machine Learning và Deep Learning

5 Hình 2.2.2 Norm 1 và norm 2 trong không gian hai chiều

6 Hình 3.1.1 Hình ảnh minh họa về Iris flower dataset

7 Hình 3.1.2 Sơ đồ minh họa phân cụm của Iris flower datasets

Trang 7

MỞ ĐẦU

1 Đặt vấn đề

Những năm gần đây, AI nổi lên như môt bằng chứng của cuôc cách mạng công

nghiệp lần thứ tư Trí tuệ nhân tạo có thể được định nghĩa như môt nghành của khoa học máy tính liên quan đến việc tự đông hóa các hành vi thông minh Trí tuệ nhân tạo

là môt bô phận của khoa học máy tính và do đó nó phải được đặt trên những nguyên

lý lý thuyết vững chắc, có khả năng ứng dụng được của lĩnh vực này Ở thời điểm hiện tại, thuật ngữ này thường dùng để nói đến các máy tính có mục đích không nhất định và ngành khoa học nghiên cứu về các lý thuyết và các ứng dụng của trí tuệ nhântạo

Theo đà phát triển của công nghệ, ứng dụng trí tuệ nhân tạo luôn là xu hướng công nghệ tương lai mà các hãng công nghệ trên toàn thế giới đua nhau sáng tạo, nó là nền tảng cốt lõi của cuốc cách mạng công nghệ 4.0

ML (Machine Learning) là môt lĩnh vực của trí tuệ nhân tạo, được sinh ra từ khả năng nhận diện mẫu và từ lý thuyết các máy tính có thể học mà không cần phải lập trình để xử lý các nhiệm vụ cụ thể nào đó

Hầu hết mọi nghành công nghiệp đang làm việc với hàm lượng lớn dữ liệu đều nhận ratầm quan trọng của công nghệ ML Những cái nhìn sáng suốt từ nguồn dữ liệu này– chủ yếu dạng thời gian thực – sẽ giúp các tổ chức vận hành hiệu quả hơn hoặc tạo lợi thế cạnh tranh so với các đối thủ

Các ứng dụng của ML đã quá quen thuôc với con người: xe tự hành của Google và Tesla, hệ thống tự tag khuôn mặt trên Facebook, hệ thống gợi ý sản phẩm của

Amazon, hệ thống gợi ý phim của Netflix…, chỉ là môt vài trong vô vàn những

ứng dụng của trí tuệ nhân tạo và cụ thể là ML

Hình 1 Mối quan hệ giữa AI, Machine Learning và Deep Learning

Trang 8

Xu hướng phát triển công nghệ thông tin ngày càng tăng, song song với nó lượng dữliệu được sinh ra cũng ngày môt lớn Vì vậy nhu cầu để xử lý dữ liệu cũng lớn hơn,

ML đang góp phần giải quyết vấn đề này Môt trong những thuật toán thường dùng trong ML đó là thuật toán K- nearest neighbor

Ứng dụng của thuật toán này được sử dụng rất nhiều và rông rã̃i trong các bài

toán phân lớp

2 Mục đích nghiên cứu

Nghiên cứu, tìm hiểu thuật toán KNN

Đánh giá hiệu quả của thuật toán

3 Phạm vi và đối tượng nghiên cứu

Phạm vi nghiên cứu: Thử nghiệm trên Iris flower dataset

Đối tượng nghiên cứu: Thuật toán KNN và bô Iris flower dataset

4 Nội dung thực hiện

Tìm hiểu thuật toán KNN

Làm quen với bô dữ liệu Iris

Sử dụng bô dữ liệu vào thử nghiệm và đánh giá

5 Cấu trúc đề tài

Mở đầu

Chương 1: Cơ sở lý thuyết

Chương 2: Thuật toán K-nearest neighbor

Chương 3: Thực nghiệm

Chương 4: Kết luận

Qua đây, nhóm em xin trân trọng cảm ơn tiến sĩ Phan Tấn Quốc đã̃ hướng dẫn

nhóm em trong quá trình thực hiện bài tiểu luận

Trang 9

CHƯƠNG 1 CƠ SỞ LÝ THUYẾT 1.1.Machine Learning

Machine Learning có liên quan đến thống kê vì cả hai lĩnh vực đều nghiên cứu

việc phân tích dữ liệu, nhưng khác với thống kê, học máy tập trung vào sự phức tạp của các giải thuật trong việc thực thi tính toán

Machine Learning có hiện nay được áp dụng rông rã̃i bao gồm máy truy tìm dữ liệu,máy phân tích thị trường chứng khoán, nhận dạng tiếng nói và chữ viết…

1.1.2 Một số phương thức của Machine Learning

Học có giám sát: Thuật toán dự đoán đầu ra của môt dữ liệu mới (new input) dựa trên các cặp (input, outcome) đã biết từ trước Cặp dữ liệu này còn được gọi là (data, label), tức (dữ̃ liêu, nhã̃n) Supervised learning là nhóm phổ biến nhất trong các thuậttoán Machine Learning

Học có giám sát được chia thành hai loại chính:

Classification (phân lớp): Là quá trình phân lớp môt đối tượng dữ liệu vào môt hay nhiều lớp đã cho trước nhờ môt mô hình phân lớp (model) Mô hình này đượcxây dựng dựa trên môt tập dữ liệu được xây dựng trước đó có gán nhãn (hay còn gọi là tập huấn luyện) Quá trình phân lớp là quá trình gán nhã̃n cho đối tượng dữ liệu

Hình 1.1.2: Ví dụ về mô hình phân lớp

Trang 10

Có nhiều bài toán phân lớp như phân lớp nhị phân, phân lớp đa lớp, phân lớp đa trị Trong đó phân lớp nhị phân là môt loại phân lớp đặc biệt của phân lớp đa lớp.Ứng dụng của bài toán phân lớp được sử dụng rất nhiều và rông rãi như nhận dạng khuôn mặt, nhận dạng chữ viết, nhận dạng giọng nói, phát hiện thư rác…Regression (hồi quy): Nếu không được chia thành các nhóm mà là môt giá trị thực

cụ thể Đầu ra của môt điểm dữ liệu sẽ bằng chính đầu ra của điểm dữ liệu đã biết.Học không giám sát: là môt kĩ thuật của máy học nhằm tìm ra môt mô hình hay cấu trúc bị ẩn bơi tập dữ liệu không được gán nhã̃n cho trước UL khác với SL là không thể xác định trước output từ tập dữ liệu huấn luyện được Tùy thuôc vào tập huấn luyện kết quả output sẽ khác nhau Trái ngược với SL, tập dữ liệu huấn luyện của

UL không do con người gán nhã̃n, máy tính sẽ phải tự học hoàn toàn Có thể nói, họckhông giám sát thì giá trị đầu ra sẽ phụ thuôc vào thuật toán UL Ứng dụng lớn phổ biến của học không giám sát là bài toán phân cụm

Học bán giám sát: Các bài toán khi có môt số lượng lớn dữ liệu nhưng chỉ môt phần trong chúng được dán nhã̃n Những bài toán này nằm giữa phương thưc học giám sát

và học không giám sát

1.2 Bài toán phân lớp dữ liệu

1.2.1 Quá trình phân lớp dữ liệu

Để xây dựng được mô hình phân lớp và đánh giá hiệu quả của mô hình cần phải thực hiện quá trình sau đây:

Bước 1: Chuẩn bị tập dữ liệu huấn luyện và rút trích đặc trưng.

Công đoạn này được xem là công đoạn quan trọng trong các bài toán về ML vì đây là input cho việc học đẻ tìm ra mô hình của bài toán Chúng ta phải biết cần chọn ra nhữngđặc trưng tốt của dữ liệu, lược bỏ những đặc trưng không tốt của dữ liệu, gây nhiễu Ước lượng số chiều của dữ liệu bao nhiêu là tốt hay nói cách khác là chọn bao nhiêu feature Nếu số nhiều quá lớn gây khó khăn cho việc tính toán thì phải giảm số chiều củadữ liệu nhưng vẫn giữ được đô chính xác của dữ liệu

Ở bước này chúng ta cũng chuẩn bị bô dữ liệu để test trên mô hình Thông thường sẽ sửdụng cross-validation (kiểm tra chéo) để chia tập dataset thành hai phàn, môt phần phục

vụ cho training và phần còn lại phục vụ cho mục đích testing trên mô hình Có hai cáchthường sử dụng trong cross-validation là splitting và k-fold

Trang 11

Bước 2: Xây dựng mô hình phân lớp

Mục đích của mô hình huấn luyện là tìm ra hàm F(x) và thông qua hàm f tìm được

để chúng ta gán nhã̃n cho dữ liệu Bước này thường được gọi là học hay training

F(x)= y

Trong đó: x là các feature hay input đầu vào của dữ liệu

y là nhã̃n dán lớp hay output đầu ra

Thông thường để xây dựng mô hình phân lớp cho bài toán này chúng ta sử dungjcacs

thuật toán học giám sát như KNN, NN, SVM, Decision tree, Navie Bayers

Bước 3: Kiểm tra dữ liệu với mô hình

Sau khi tìm được mô hình phân lớp ở bước hai, thì bước này chúng ta sẽ đưa vào các dữ liệu mới đẻ kiểm tra trên mô hình phân lớp

Bước 4: Đánh giá mô hình phân lớp và chọn ra mô hình tốt nhất

Bước cuối cùng chúng ta sẽ đánh giá mô hình bằng cách đánh giá mức đô lỗi của dữ liệu testing và dữ liệu training thông qua mô hình tìm được Nếu không đạt được kết quả mong muốn của chúng ta thì phải thay đổi các tham số của thuật toán học để tìm ra các

mô hình tốt hơn và kiểm tra, đánh giá lại mô hình phân lớp và cuối cùng chọn ra mô hìnhphân lớp tốt nhất cho bài toán của chúng ta

Trang 12

CHƯƠNG 2: THUẬT TOÁN K-NEAREST NEIGHBOR 2.1 Thuật toán k-nearest neighbor

2.1.1 Định nghĩa

K-nearest neighbor (KNN) là môt trong những thuật toán học có giám sát đơn giản nhấttrong Machine Learning Ý tưởng của KNN là tìm ra output của dữ kiệu dựa trên thôngtin của những dữ liệu training gần nó nhất

2.1.2 Quy trình làm việc của thuật toán KNN Bước

1: Xác định tham số K= số láng giềng gần nhất.

Bước 2: Tính khoảng cách đối tượng cần phân lớp với tất cả các đối tượng trong

training data

Bước 3: Sắp xếp khoảng cách theo thứ tự tăng dần và xác định K láng giềng gần nhất với

đối tượng cần phân lớp

Bước 4: Lấy tất cả các lớp của K láng giềng gần nhất.

Bước 5: Dựa vào phần lớn lớp của K để xác định lớp cho đối tượng cần phân lớp.

2.1.3 Ví dụ minh họa

Hình 2.1.3 ví dụ minh họa thuật toán KNN

Trang 13

Giả sử bài toán được đặt ra: mình mới quen môt người bạn, tuy nhiên mình là fan củaUS-UK vậy nên mình cần biết người bạn này có phải là fan của K-Pop hay không Qua thời gian tìm hiểu mình đã thu thập được môt số dữ liệu và đã biểu hiện dưới dạng hình vẽ trên.

Ta dễ dàng nhìn thấy có hai loại: hình vuông màu xanh biểu diễn cho những người là fan của K-pop, tam giác màu đỏ biểu diễn cho những người không là fan của K-pop, hình tròn màu xanh là người bạn mình muốn biết có phải là fan K-pop hay không, khoảng cách giữa chấm tròn và các điểm còn lại biểu diễn đô thân thiết của bạn đó vớinhững người bạn

Phương pháp đơn giản nhất để kiểm tra xem bạn đó chơi thân với người bạn nào nhất, tức là tìm xem điểm gần chấm xanh thuôc class nào (hình vuông hay tam giác)

Từ hình trên ta dễ dàng nhận thấy điểm gần chấm xanh nhất là hình tam giác màu đỏ,

do đó nó sẽ được phân vào lớp tam giác màu đỏ

Có môt vấn đề trong phương pháp trên, xung quanh cấm xanh xuất hiện rất nhiều hình vuông màu xanh nên việc xét điểm gần nhất là chưa khả thi Vì vậy, ta sẽ xét k điểm gần nhất Giả sử, ta lấy K=3, dựa theo hình trên ta dễ dàng nhận ra có hai hình tam giác đỏ và môt hình vuông xanh có khoảng cách gần chấm xanh nhất, do đó chấm xanh được phân vào lớp tam giác đỏ Lấy K=7, ta có năm hình vuông xanh và hai hình tam giác đỏ, lúc này chấm xanh được xếp vào lớp hình vuông xanh Trường hợp lấy K=4, ta nhận thấy sẽ có hai hình vuông xanh và hai hình tam giác đỏ, đây là trường hợp có điểm bằng nhau, với trường hợp này KNN sẽ xử lý bằng cách so sánh tổng khoảng cách của các hình gần nhất với điểm ta đang xét

Do xuất hiện trường hợp có điểm bằng nhau, vì vậy người ta thường chọn k là số

lẻ Đó cũng là ý tưởng của KNN

2.1.4 Ví dụ về Knn nhiễu

Hình 2.1.4 Bản đồ minh họa KNN nhiễu với k=1

Trang 14

Hình trên là bài toán phân lớp với ba lớp: đỏ, lam, lục Mỗi điểm dữ liệu mới sẽ được gán nhã̃n theo màu của điểm đó mà nó thuôc về Trong hình này, chú ý vùng khoanh trònmàu vàng, ta nhận thấy rằng điểm màu lục nằm giữa hai vùng lớn với nhiều dữ liệu đỏ vàlam, điểm này rất có thể là nhiễu dẫn đến việc dữ liệu test nếu rơi vào vùng này sẽ có nhiều khả năng cho kết quả sai lệch.

2.1.5 Ưu điểm, nhược điểm của thuật toán

Ưu điểm:

Dễ sử dụng và cài đặt

Việc dự đoán kết quả của dữ liệu mới dễ dàng

Đô phức tạp tính toán nhỏ

Nhươc điểm:

KNN nhiễu dễ đưa ra kết quả không chính xác khi k nhỏ

Cần thời gian lưu training set, khi dữ liệu training và test tăng lên nhiều sẽ mất

nhiều thời gian tính toán

2.2 Khoảng cách trong không gian vector

Trong không gian môt chiều, việc đo khoảng cách giữa hai điểm đã rất quen thuôc: lấytrị tuyệt đối của hiệu giữa hai giá trị đó Trong không gian hai chiều, tức mặt phẳng, chúng ta thường dùng khoảng cách Euclid để đo khoảng cách giữa hai điểm

Việc đo khoảng cách giữa hai điểm dữ liệu nhiều chiều, tức hai vector, là rất cần thiết trong Machine Learning Chúng ta cần đánh giá xem điểm nào là điểm gần nhất của môt điểm khác; chúng ta cũng cần đánh giá xem đô chính xác của việc ước

lượng; và trong rất nhiều ví dụ khác nữa

Và đó chính là lý do mà khái niệm norm ra đời Có nhiều loại norm khác nhau mà các bạn sẽ thấy ở dưới đây:

Để xác định khoảng cách giữa hai vector y và z, người ta thường áp dụng môt hàm

số lên vector hiệu x = y−z Môt hàm số được dùng để đo các vector cần có môt vài tính chất đặc biệt

Trang 15

2.2.2 Một số norm thường dùng

Giả sử các vector x = [x1; x2…xn], y = [y1; y2…yn]

Nhận thấy khoảng cách Euclid chính là môt norm, norm mày thường được gọi

Được chứng minh thỏa mã̃n ba ddieuf kiện trên, và được gọi là norm p

Nhận thấy rằng khi p→0 thì biểu thức bên trên trở thành số các phần tử khác 0 của x Hàm số (2) khi p=0 được gọi là giả chuẩn (pseudo-norm) 0 Nó không phải là norm vì

nó không thỏa mãn điều kiện 2 và 3 của norm Giả-chuẩn này, thường được ký hiệu

là ‖x‖0, khá quan trọng trong ML vì trong nhiều bài toán, chúng ta cần có ràng buôc

“sparse”, tức số lượng thành phần “active” của x là nhỏ

Có môt vài giá trị của p thường được dùng:

Khi p = 2 chúng ta có norm2 như ở

trên Khi p = 1 chúng ta có:

‖x‖1 =|x1|+|x2|+|x3|+ |x n| (3)

Là tổng các giá trị tuyệt đối của từng phần tử của x Norm 1 thường được dùng

như sấp xỉ của norm 0 trong các bài toán có ràng buôc Dưới đây là môt ví dụ so sánh norm 1 và norm 2 trong không gian hai chiều:

Trang 16

download by : skknchat@gmail.com

Trang 17

Hình 2.2.2 Norm 1 và norm 2 trong không gian hai chiều

Norm 2 (màu xanh) chính là đường chim bay nối giữa vector x và vector y Khoảngcách norm 1 giữa hai điểm này (màu đỏ) có thể diễn giải như là đường đi từ x đến ytrong môt thành phố mà thành phố được tạo hình bàn cờ, chúng ta chỉ có thể đi

theo dọc bàn cờ chứ không thể đi theo đường thẳng

Khi p -> ∞, ta có norm p chính là trị tuyệt đối của phần tử lớn nhất của vector đó:

‖x‖❑= max |x i|

i =1,2 ,… ,n

Trang 18

CHƯƠNG 3: THỰC NGHIỆM 3.1 Bộ dữ liệu Iris flower dataset

3.1.1 Giới thiệu

Tập dữ liệu hoa Iris hoặc tập dữ liệu Iris của Fisher là tập dữ liệu đa biến được giới thiệu bởi nhà thống kê và nhà sinh vật học người Anh Ronald Fisher trong bài báo năm 1936 Việc sử dụng nhiều phép đo trong các vấn đề phân loại như môt ví dụ về phân tích phân biệt tuyến tính Đôi khi nó được gọi là tập dữ liệu Iris của Anderson

vì Edgar Anderson đã thu thập dữ liệu để định lượng sự biến đổi hình thái của hoa Iris của ba loài liên quan Hai trong số ba loài được thu thập ở Bán đảo Gaspé "tất cả

từ cùng môt đồng cỏ, và được chọn vào cùng môt ngày và được đo cùng lúc bởi cùngmôt người với cùng môt bô máy"

Bô dữ liệu bao gồm 50 mẫu từ mỗi ba loài Iris (Iris setosa, Iris virginica và Iris

Verscolor) Bốn đặc điểm được đo từ mỗi mẫu: chiều dài và chiều rông của đài hoa, chiều dài và chiều rông cánh hoa, tính bằng centimet Dựa trên sự kết hợp của bốn tính năng này, Fisher đã phát triển môt mô hình phân biệt tuyến tính để phân biệt cácloài với nhau

Hình 3.1.1 Hình ảnh minh họa về Iris flower

dataset 3.1.2 Sử dụng tập dữ liệu

Dựa trên mô hình phân biệt tuyến tính của Fisher, bô dữ liệu này đã trở thành trườnghợp thử nghiệm điển hình cho nhiều kỹ thuật phân loại thống kê trong học máy như máy vector hỗ trợ

Tuy nhiên, việc sử dụng tập dữ liệu này trong phân tích cụm không phổ biến, vì tập dữ liệu chỉ chứa hai cụm có sự phân tách khá rõ ràng Môt trong những cụm chứa Iris setosa,trong khi cụm còn lại chứa cả Iris virginica và Iris Versolor và không thể tách rời nếu không có thông tin về loài mà Fisher sử dụng Điều này làm cho dữ liệu trở thành môt ví

Trang 19

thể thu được khi biết các loài đối tượng: nhã̃n lớp và cụm không nhất thiết giốngnhau.

Tuy nhiên, cả ba loài Iris đều có thể tách rời trong hình chiếu trên thành phần chính phân nhánh phi tuyến Tập dữ liệu được xấp xỉ bởi cây gần nhất với môt số hình phạtcho số lượng nút, uốn cong và kéo dài quá mức Các điểm dữ liệu được chiếu vào nútgần nhất Đối với mỗi nút, sơ đồ hình tròn của các điểm được chiếu được chuẩn bị Diện tích của chiếc bánh tỷ lệ thuận với số lượng điểm được chiếu Rõ ràng từ sơ đồ (bên dưới) rằng phần lớn tuyệt đối các mẫu của các loài Iris khác nhau thuôc về các nút khác nhau Chỉ môt phần nhỏ Iris-virginica được trôn với Iris- Versolor (các nút màu xanh lam hỗn hợp trong sơ đồ) Do đó, ba loài Iris (Iris setosa, Iris virginica và Iris Verscolor) có thể được phân tách bằng các thủ tục không giám sát trong phân tích thành phần chính phi tuyến Để phân biệt chúng, chỉ cần chọn các nút tương ứng trên cây chính

Hình 3.1.2 Sơ đồ minh họa phân cụm của Iris flower

Định dạng
Số trang	39
Dung lượng	0,95 MB