Báo cáo bài tập lớn đại số tuyến tính ứng dụng svd vào mechine learning

 Mục êu của Machine Learning là hiểu cấu trúc dữ liệu và điều chỉnh dữ liệu đó thành các model mà mọi người có thể hiểu và sử dụng... Mục êu của phân ch suy biến SVD  Phương pháp SV

ỨNG DỤNG SVD

VÀO MECHINE LEARNING

● Lớp L19 - Nhóm 6 BÁO CÁO BÀI TẬP LỚN ĐẠI SỐ TUYẾN TÍNH

THÀNH VIÊN TRONG NHÓM

01   02 03

Cơ sở lý thuyết của

SVD

SVD trong Machine Learning Giới thiệu

 Ví dụ Thách thức và hạn chế  Kết luận

NỘI DUNG

1 GIỚI THIỆU

 Phương pháp phân ch suy biến (Singular Value

Decomposion) được viết tắt là SVD, là một

trong những phương pháp thuộc nhóm matrix

factorizaon được phát triển lần đầu bởi những

nhà hình học vi phân

 Phương pháp SVD đã được phát triển dựa trên

những nh chất của ma trận trực giao và ma

trận đường chéo để m ra một ma trận xấp xỉ

với ma trận gốc

1.1 Giới thiệu về phân ch suy biến SVD

1.2 Machine Learning là gì

 Machine Learning là một lĩnh vực của trí tuệ nhân tạo (AI)

 Mục êu của Machine Learning là hiểu cấu trúc dữ liệu và điều chỉnh dữ liệu đó thành các model mà mọi người có thể hiểu và sử dụng

2 CƠ SỞ LÝ THUYẾT CỦA PHÂN TÍCH

SUY BIẾN SVD

2.1 Mục êu của phân ch suy biến SVD

 Phương pháp SVD sẽ m ra một lớp các ma trận

xấp xỉ tốt nhất với một ma trận cho trước dựa trên

khoảng cách norm Frobenios giữa 2 ma trận

 Quá trình nhân ma trận thực chất là quá trình biến

đổi các điểm dữ liệu của ma trận gốc thông qua

những phép xoay trục (rotaon) và phép thay đổi

độ lớn (scaling) và từ đó tạo ra những điểm dữ liệu

mới trong không gian mới

2.2 Quá trình phân ch SVD của một ma trận

 Biểu diễn SVD qua các trường hợp của ma trận A

Trường hợp: m < n

2.2 Quá trình phân ch SVD của một ma trận

 Biểu diễn SVD qua các trường hợp của ma trận A

Trường hợp: m > n

 Nguồn gốc SVD

2.2 Quá trình phân ch SVD của một ma trận

 Compact SVD (SVD gọn nhẹ hơn)

Ví dụ minh hoạ với m=4, n=6, r=2.

3 SVD TRONG MACHINE LEARNING

3.1 Cách SVD được sử dụng trong Machine Learing

    •

     G  i   ả     m   k   í   c    h   t    h    ư   c   c    ủ   a   t   ậ    p    d    ữ  l   ệ    u    B   ằ    n   g   c   á   c    h         m   c   á   c     m   ẫ    u   c    ơ    b   ả    n

  t    o   g    d    ữ  l   ệ    u   v   à  l    o   ạ  i    b    n    ữ    n   g     m   ẫ    u   í   t    q   a    n   t    ọ   g    h    ơ    n  .

Dimensionality Reducon

    •

     B  i    ể    u    d  i   ễ    n    d    ữ  l   ệ    u    b   ằ    n   g   c   á   c    h   s    ử    d    n   g   í   t        h    n   ă    n   g    h    ơ    n    b   ằ    n   g   c   á   c    h

  c    h  ỉ   g  i    ữ  l   ạ  i   c   á   c   g  i   á   t  ị   s    ố   í   t    q   a    n   t    ọ   g    n    ấ   t   v   à   c   á   c   v   e   c   t    ơ   s    ố   í   t  l   ê    n

   q   a    n  .

Data Compression

    •

    Ư    ớ   c  l    ư    n   g     m    ộ   t     m   a   t   ậ    n  l    ớ    n  ,    p    ứ   c   t   ạ    p    b   ằ    n   g     m    ộ   t     m   a   t   ậ    n    n    ỏ    h    ơ    n  ,

   đ    ơ    n   g  i   ả    n    h    ơ    n  .

Matrix Approximaon

    •

   D    đ   á    n   s    ở   t    h   í   c    h   c    ủ   a    n   g    ư  i    d    n   g   t    o   g   c   á   c    h   ệ   t    h    n   g    đ   ề   x    u    ấ   t    b   ằ    n   g

  c   á   c    h  l   ậ    p     m    ô    h  ì    n     m    ố  i    q   a    n    h   ệ   g  i    ữ   a    n   g    ư  i    d    n   g   v   à   c   á   c     m    ụ   c   t    o   g

    m    ộ   t     m   a   t   ậ    n  l    ớ    n  .

Collaborave Filtering

3.2 Các thuật toán Machine Learning sử dụng SVD

PCA

quan đến nhận dạng

khuôn mặt sơ khai đều

được ứng dụng từ PCA và

SVD để biểu diễn khuôn

mặt như là sự kết hợp

tuyến nh “egenfaces”

Hệ thống gợi ý

kiếm mối quan hệ giữa người dùng và sản phẩm

để tối đa hóa sự tương tác của người dùng với sản phẩm, đề xuất video hoặc nhạc có liên quan để tạo danh sách phát cho người dùng khi họ tương tác với một mục liên quan

Content Filtering

phương pháp dựa trên nội dung là cố gắng xây dựng một mô hình, dựa trên các “nh năng” có sẵn, giải thích các tương tác giữa người dùng và mục được quan sát

3.3 Lợi ích của việc sử dụng SVD trong Machine Learning

Khả năng mở rộng

Kích thước mô hình Hiệu suất

Tính điểm PCA

4 VÍ DỤ VỀ ỨNG DỤNG

CỦA SVD TRONG MACHINE LEARNING

4.1 Phân ch SVD ứng dụng trong nén ảnh

4.2 Ứng dụng SVD trong hệ gợi ý

 Hệ gợi ý dựa trên nội dung- Content-based Recommendaon Systems

4.2 Ứng dụng SVD trong hệ gợi ý

 Hệ gợi ý dựa trên nội dung- Content-based Recommendaon Systems

4.2 Ứng dụng SVD trong hệ gợi ý

 Neighborhood-Based Collaborave Filtering

4.2 Ứng dụng SVD trong hệ gợi ý

 Matrix factorizaon

 Một trong những ứng dụng thành công nhất của mô hình yếu tố ềm ẩn là dựa trên Phân ch ma trận thành nhân tử (Matrix Factorizaon, Matrix Decomposion)

  Kết quả cuộc thi Nelix Prize đã chứng minh, các mô hình phân ch ma trận thành nhân tử vượt trội so với các kỹ thuật hàng xóm gần nhất cổ điển để đưa ra các khuyến nghị sản phẩm, cho phép kết hợp các thông n bổ sung như phản hồi ngầm, hiệu ứng thời gian và mức độ n cậy

5 THÁCH THỨC VÀ HẠN CHẾ KHI SỬ DỤNG TRONG SVD TRONG MACHINE LEARNING

5.1 Các thách thức khi sử dụng SVD trong Machine Learning

 Độ phức tạp nh toán: Phép nh SVD có độ phức tạp cao, đặc biệt là trên dữ liệu lớn.

 Giới hạn bộ nhớ: SVD yêu cầu lưu trữ ma trận toàn phần trong bộ nhớ, điều này có thể gây ra các vấn đề về bộ nhớ cho dữ liệu lớn.

 Khả năng sử dụng trên dữ liệu thưa: SVD không phù hợp với dữ liệu thưa, nghĩa là dữ liệu với số lượng giá trị không xác định (hoặc không có) trong ma trận.

5.2 Các hạn chế khi sử dụng SVD trong Machine

Learning

Khả năng giải thích kết quả

Khó sử dụng trên

dữ liệu có cấu trúc đặc biệt

Hạn chế chế

độ chính

Hạn chế độ chính xác

Hạn chế chọn kích thước

6 KẾT LUẬN

  SVD là một công cụ quan trọng trong đại số tuyến nh và có rất nhiều ứng dụng trong nhiều lĩnh vực khác nhau, từ xử lý số liệu đến học máy và xử lý n hiệu.

Phân ch SVD được sử dụng trong Machine Learning mang lại rất nhiều ứng dụng trong nhiều lĩnh vực như nén ảnh, ứng dụng trong hệ thống gợi ý,

CẢM ƠN THẦY

VÀ CÁC BẠN ĐÃ LẮNG NGHE!