Nghiên cứu ứng dụng công nghệ mạng nơ ron tế bào vào giải phương trình đạo hàm riêng black scholes

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG HOÀNG ĐÌNH THẮNG NGHIÊN CỨU ỨNG DỤNG CÔNG NGHỆ MẠNG NƠRON TẾ BÀO VÀO GIẢI PHƯƠNG TRÌNH BLACK-SCHOLES Chuyên ngà

ĐẠI HỌC THÁI NGUYÊN

TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG

ĐẠI HỌC THÁI NGUYÊN

TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG

HOÀNG ĐÌNH THẮNG

NGHIÊN CỨU ỨNG DỤNG CÔNG NGHỆ MẠNG NƠRON

TẾ BÀO VÀO GIẢI PHƯƠNG TRÌNH BLACK-SCHOLES

Chuyên ngành: Khoa học máy tính

Mã số: 60 48 01 01

LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH

NGƯỜI HƯỚNG DẪN KHOA HỌC: TS VŨ ĐỨC THÁI

Thái Nguyên- 2015

LỜI CAM ĐOAN

Tôi cam đoan đây là công trình nghiên cứu của riêng tôi, dưới sự hướng dẫn của TS Vũ Đức Thái Các số liệu, kết quả nêu trong luận văn là trung thực, bảo đảm tính khách quan, luận văn này cho đến nay chưa được bảo vệ tại bất kỳ hội đồng nào và chưa hề được công bố trên bất kỳ phương tiện nào khác Các tài liệu tham khảo có nguồn gốc xuất xứ rõ ràng

Tác giả xin chịu trách nhiệm về những lời cam đoan trên

Thái nguyên, ngày 30 tháng 06 năm 2015

Tác giả luận văn

Hoàng Đình Thắng

LỜI CẢM ƠN

Em xin chân thành cảm ơn thầy giáo TS Vũ Đức Thái đã trực tiếp giao cho em đề tài, tận tình hướng dẫn và tạo mọi điều kiện cho em hoàn thành luận văn

Em xin chân thành cảm ơn các thầy cô giáo, các cán bộ nhân viên phòng Đào tạo, Lãnh đạo Trường Đại học Công nghệ Thông tin và Truyền thông đã giúp đỡ tạo điều kiện cho em hoàn thành bản luận văn này

Tôi cũng xin chân thành cảm ơn sự quan tâm giúp đỡ của gia đình, bạn

bè và tập thể lớp Cao học K12G đã cổ vũ động viên tôi hoàn thành tốt luận văn của mình

Thái nguyên, ngày 30 tháng 06 năm 2015

Học viên: Hoàng Đình Thắng

MỤC LỤC

Trang

CHƯƠNG 1 CÔNG NGHỆ MẠNG NƠRON TẾ BÀO VÀ PHƯƠNG

TRÌNH ĐẠO HÀM RIÊNG 2

1.1 Giới thiệu công nghệ mạng nơron tế bào 2

1.1.1.Công nghệ mạng nơron tế bào 2

1.1.2 Các khái niệm cơ bản về công nghệ mạng nơ ron tế bào 5

1.1.2.1 Kiến trúc CNN chuẩn 5

1.1.2.2 Kiến trúc chuẩn của CNN 6

1.1.2.3 Các phương trình cơ bản của mạng nơron tế bào 10

1.1.3 Kiến trúc của máy tính mạng nơ ron CNN – UM 16

1.1.4 Các kết quả đạt được về công nghệ mạng nơron tế bào hiện nay 19

1.2 Giới thiệu về phương trình đạo hàm riêng 21

1.2.1 Các khái niệm cơ bản về phương trình đạo hàm riêng 21

1.2.2 Phân loại các phương trình đạo hàm riêng tuyến tính cấp hai với hai biến độc lập 22

1.2.3 Phương pháp sai phân 24

1.2.3.1 Đặt bài toán 24

1.2.3.2 Lưới sai phân 24

1.2.3.3 Xấp xỉ các đạo hàm 25

1.2.3.4 Bài toán sai phân 25

CHƯƠNG 2 PHƯƠNG PHÁP GIẢI PHƯƠNG TRÌNH BLACK-SCHOLES BẰNG CÔNG NGHỆ MẠNG NƠ RON TẾ BÀO 29

2.1 Khái quát về phương trình đạo hàm riêng 29

2.2 Mối quan hệ động học giữa CNN và PDE 29

2.3 Giới thiệu về phương trình Black – Scholes 34

2.4 Giải phương trình Black – Scholes bằng CNN 40

2.4.1 Mô hình toán học của phương trình Black – Scholes 40

2.4.2 Sai phân phương trình Black – Scholes 42

2.4.3 Thiết kế mẫu CNN cho phương trình Black – Scholes 42

2.4.4 Thiết kế khối tính toán giải phương trình Blach-Scholes trên công nghệ FPGA 43

2.4.5 Lưu đồ thuật toán tính toán bằng mạng nơ ron tế bào 45

CHƯƠNG 3 MÔ PHỎNG TÍNH TOÁN KẾT QUẢ TRÊN MATLAB 47

3.1 Các điều kiện ràng buộc bài toán 47

3.2 Mô phỏng tính toán phương trình Black- Scholes trên matlab 47

3.2.1 Xác định thuật toán tính toán trên Matlab 47

3.2.2 Kết quả tính toán trên Matlab 48

3.3 Đánh giá kết quả 54

KẾT LUẬN 55

TÀI LIỆU THAM KHẢO 57

DANH MỤC CÁC CHỮ VIẾT TẮT

CNN Cellular Neural Network Công nghệ mạng nơron tế bàoPDE Partial Difference Equation Phương trình đạo hàm riêng FPGA Field Programmable Logic Array Ma trận cổng logic lập trình được VLSI Very Large Scale Intergrated Chip tích hợp mật độ cao

VHDL Very High Description Language Ngôn ngữ đặc tả phần cứng dù

DANH MỤC CÁC BẢNG

Trang

Bảng 1: Các tham số cho bài toán 47

Bảng 2: Các nút tính toán mẫu 1 mạng nơ ron thực hiện tính toán 50

Bảng 3: Các nút tính toán mẫu 2 mạng nơ ron thực hiện tính toán 51

Bảng 4: Các nút tính toán mẫu 3 mạng nơ ron thực hiện tính toán 52

Bảng 5: Các nút tính toán mẫu 4 mạng nơ ron thực hiện tính toán 53

DANH MỤC CÁC HÌNH

Trang

Hình 1.1 Kiến trúc CNN chuẩn 6

Hình 1.2 Kiến trúc bên trong một tế bào của CNN tuyến tính đơn giản 7

Hình 1.3 Các dạng láng giềng của CNN, (a) r =1; (b) r = 2 9

Hình 1.4 Các tế bào đường biên, góc của mạng 9

Hình 1.5: Mô tả một hệ CNN 1D có 5 tế bào 11

Hình 1.6 : Dạng đồ thị hàm ra của một tế bào 13

Hình 1.7: Các dạng điều kiện của tế bào biên 15

Hình 1.8: Cấu trúc máy tính mạng nơ ron CNN-UM 16

Hinh 2.1: Mạch CNN hai lớp Lớp u có ảnh hưởng đến lớp v 31

Hình 2.2: Lưới sai phân 2 chiều 31

Hình 2.3: Mô hình mạch cho bài toán giải hệ PDE 34

Hình 2.4: Mô hình mạng nơron tế bào giải phương trình Black-Scholes 43

Hình 2.5: Kiến trúc tính toán cho tế bào của lớp v 44

Hình 2.6: Thuật toán tính toán trên mạng nơron tế bào 46

Hình 3.1: Mô phỏng tính toán giải phương trình Black-Scholes trên Matlab mẫu 1 50

Hình 3.2: Mô phỏng tính toán giải phương trình Black-Scholes trên Matlab mẫu 2 51

Hình 3.3: Mô phỏng tính toán giải phương trình Black-Scholes trên Matlab mẫu 3 52

Hình 3.4: Mô phỏng tính toán giải phương trình Black-Scholes trên Matlab mẫu 4 53

1

MỞ ĐẦU

Trong nhiều bài toán khoa học các đại lượng biến thiên phức tạp theo nhiều tham số không gian, thời gian và các điều kiện ngoại cảnh Để giải quyết các bài toán trên thường đưa đến việc giải phương trình vi phân, thậm chí là phương trình vi phân đạo hàm riêng

Phương trình vi phân có nhiều loại, có nhiều cách giải khác nhau như: phương pháp giải tích, phương pháp phần tử hữu hạn, phương pháp sai phân, phương pháp không lưới Để giải trên máy tính PC hoặc các công cụ tính toán chuyên dụng ta phải rời rạc hóa mô hình liên tục với các công thức sai phân Các máy tính PC hiện nay có thể giải được nhưng với tốc độ hạn chế, một số trường hợp không đáp ứng được với ứng dụng trong thời gian thực Công nghệ mạng nơ ron tế bào CNN là mô hình tính toán song song vật lý với các mảng các chip có mật độ lớn thực hiện tính toán đồng thời Việc áp dụng công nghệ mạng nơron tế bào vào giải phương trình đạo hàm riêng đạt được tốc

độ tính toán rất cao đáp ứng nhu cầu cho các bài toán trong thời gian thực

Luận văn này thực hiện “Nghiên cứu ứng dụng công nghệ mạng nơ ron tế

bào vào giải phương trình đạo hàm riêng Black-Scholes” nhằm mục tiêu tìm

hiểu công nghệ mạng nơ ron tế bào và tìm hiểu phương pháp, kỹ thuật thuật thực hiện giải phương trình đạo hàm riêng bằng công nghệ này Để thực hiện mục tiêu này, đề tài này tập trung nghiên cứu các nội dung sau:

Chương 1: Công nghệ mạng nơron tế bào và phương trình đạo hàm riêng: Nghiên cứu công nghệ mạng nơron tế bào và các ứng dụng thực tiễn Chương 2: Phương phát giải phương trình Blach-Scholes bằng công nghệ mạng nơ ron tế bào: Đề xuất phương pháp giải và xây dựng mô hình

bài toán phương trình Blach-Scholes được giải bằng công nghệ mạng nơ ron

tế bào

Chương 3: Mô phỏng tính toán kết quả trên Matlab: Mô phỏng tính

toán kết quả trên Matlab, đánh giá so sánh kết quả

2

CHƯƠNG 1 CÔNG NGHỆ MẠNG NƠRON TẾ BÀO VÀ PHƯƠNG TRÌNH ĐẠO

HÀM RIÊNG 1.1 Giới thiệu công nghệ mạng nơron tế bào

1.1.1.Công nghệ mạng nơron tế bào

Trước kia nhiều người tưởng rằng hoạt động của máy tính điện tử phản ánh

cơ chế hoạt động của bộ não con người Tuy nhiên hiện nay vẫn đề đó đã trở nên

rõ ràng là nơron và các tế bào thần kinh có cơ chế hoạt động hoàn toàn khác Đối với các máy tính số hiện nay việc xử lý tín hiệu âm thanh, hình ảnh, hương vị, tín hiệu tiếp xúc là những vấn đề phức tạp đòi hỏi độ tính toán lớn, ngược lại ở các sinh vật sống việc xử lý các chuỗi tín hiệu này là rất đơn giản Tương tự như vậy các tín hiệu trong tự nhiên đều dưới dạng liên tục và các “ máy tính nơron” trong

cơ thể sinh vật xử lý các dòng tín hiệu liên tục này không phải bằng phương pháp số hoá [2]

Hệ nơron tính toán ở các sinh vật sống thường xử lý mảng tín hiệu tương tự (analog) có tính liên tục về thời gian và biên độ Cấu trúc gồm nhiều lớp mảng 2D nơron có các kết nối mạng cục bộ (local) là chủ yếu Có nơron được tích hợp với các tế bào cảm biến (sensing) và tế bào tác động (actuating) Các nơron hoạt động với độ trễ thay đổi và có cả hoạt động dạng sóng kích hoạt Các dữ liệu và

sự kiện là các mảng tín hiệu phụ thuộc cả không gian và thời gian

Rõ ràng với các tính chất cơ bản hiện nêu trên máy tính số hiện nay khó có khả năng tiếp cận đến khả năng xử lý của các sinh vật sống Để có thể chế tạo được hệ thống điện tử có khả năng tính toán tương tự như hệ nơron tính toán, đòi hỏi ta phải thay đổi về kiến trúc, về thuật toán, về công nghệ và khả năng xử lý song song của hàng vạn hoặc hàng triệu bộ xử lý trên một chip Mạng nơron tế

3

bào (viết tắt là CNN - Cellular Neural Network) là một giải pháp mở đầu cho loại máy tính vạn năng xử lý mảng dữ liệu đầy tiềm năng này [1]

Phát minh ra mạng nơron tế bào của L Chua và L Yang đưa ra từ năm

1988 dựa trên tư tưởng chung là sử dụng một mảng đơn giản các tế bào kết nối cục bộ để xây dựng một hệ thống xử lý tín hiệu analog đồ sộ Đặc điểm mấu chốt của mạng nơron là xử lý song song không đồng bộ, liên tục và ảnh hưởng toàn cục của các phần từ mạng

Khối mạch cơ bản của mạng CNN được gọi là tế bào (cell) Nó chứa các phần tử mạch tuyến tính và phi tuyến Tiêu biểu là các tụ tuyến tính, các điện trở tuyến tính, các nguồn điều khiển tuyến tính, phi tuyến và các nguồn độc lập Mỗi một tế tào trong CNN chỉ kết nối tới các tế bào láng giềng Các tế bào liền kề có thể ảnh hưởng trực tiếp tới nhau Các tế bào không có liên kết trực tiếp có thể tác động đến các tế bào khác gián tiếp bởi sự tác động bởi sự làn truyền của mạng CNN Nhiều bài toán tính toán phức tạp được thực hiện trong hệ CNN như những mô đun được định nghĩa trước Khi xử lý những tín hiệu được đưa vào những lưới không gian hình học 2 chiều hoặc 3 chiều những phần tử xử lý đơn giản (cell) Những tương tác trực tiếp giữa các giá trị tín hiệu trong một phạm vi lân cận nhất định của một cell tạo ra hệ CNN là một ma trận các vi xử lý động Các tương tác động diễn ra theo nguyên tắc: các phần tử xử lý (cell) chỉ tương tác trực tiếp với các láng giếng nhất định Trong một vài mô hình, phương trình toán học cơ bản mô tả CNN tương ứng với không gian rời rạc hoá của phương trình đạo hàm riêng phi tuyến Sự tương tác trong hệ thống giống như hiện tượng khuếch tán cơ học Tương tác này cũng có thể mô hình hoá như cơ chế lan truyền của phản ứng hoá học hay

sự tiến hoá sinh học

4

Mô hình sinh học của bộ não liên quan đến đặc trưng của từng loài, và

xu hướng tiến hoá của hệ thống sinh học còn hình thành nên mô hình không gian, thời gian trong não bộ để thực hiện những vai trò, chức năng cốt yếu trong nhận thức thế giới thực

Khái niệm về mạng nơron tế bào CNN dựa trên cơ sở một vài khía cạnh của nơron sinh học và được mô phỏng bằng mạch tích hợp IC Ví dụ trong bộ não phương tiện tương tác được cung cấp bởi ma trận cực lớn các nơ ron đang tồn tại mà năng lượng của nó nhận được từ việc đốt glucô và ôxy, trong khi với CNN phương tiện tương tác được cung cấp bởi sự tương tác cục bộ của các tế bào (active cell) mà các khối mạch của nó gồm các linh kiện điện tử phi tuyến với nguồn năng lượng một chiều DC

CNN có nhiều khả năng và triển vọng ứng dụng trong xử lý ảnh và nhận dạng Trong những ứng dụng như vậy CNN như một bộ lọc hai chiều xử lý song song ảnh đầu vào và đưa ra ảnh đầu ra đã qua xử lý với thời gian liên tục

mà có ưu thế cho việc xử lý ảnh kích thước lớn với yêu cầu tốc độ đáp ứng trong thời gian thực Hơn nữa CNN có khả năng tương tác trong phạm vi nhỏ

có thể dễ liên kết với chíp tích hợp cao (VLSI)

Sự hoàn thiện chíp CNN đặc trưng bởi kích thước và chức năng một vài loại có mẫu cố định là 256 tế bào (cell), một số loại khác có kích thước giới hạn là 30 cells Hiện nay có loại chíp có thể lập trình có kích thước 1024 cells Khả năng lập trình được và tốc độ cao làm cho CNN phù hợp tốt hơn với các

xử lý phi tuyến, nó cho phép nhận được và xử lý tín hiệu phi tuyến Tuy vậy những ưu thế thực sự của CNN là nó tương đương với chíp có mật độ tích hợp lớn tiêu thụ nhiều năng lượng

Tiềm năng ứng dụng CNN thực ra đã và đang mở rộng về mặt nguyên

lý, từ việc lọc ảnh phức tạp theo phương thức truyền thống hay những vấn đề

5

xử lý tín hiệu sinh học, phương trình vi phân đạo hàm riêng, mô hình phi tuyến

và hệ thống vật lý Hiện nay quá trình xử lý không gian, thời gian phỏng theo

xử lý của võng mạc mắt đã được xây dựng Tương tự võng mạc, CNN gồm tập rất lớn các phần tử xử lý tương tự giống nhau, những phần tử này có khả năng tương tác cục bộ để xử lý Trọng số tương tác trong không gian biến hữu hạn cho thấy mạng làm việc chỉ phụ thuộc vào những biến lân cận và có ít biến tự do Bộ

xử lý có thể xử lý dạng ảnh nhị phân hay đa cấp xám

Hệ CNN đang được nghiên cứu, ứng dụng hiện nay có nhiều khả năng, từ việc khởi tạo tín hiệu tương tự ban đầu đến biểu diễn trạng thái không gian, thời gian động Thực tế, một số hệ thống cơ điện tử đã được thiết kế, xây dựng và sử dụng Sự phát triển ứng dụng dựa trên mạch CNN ban đầu đang được mở rộng, như trong việc điều khiển truyền động với những khớp quay nhiều bậc tự do phức tạp

Từ khi ra đời hệ thống CNN, công nghệ CNN đã bùng nổ cùng với những kiến trúc máy tính tương tự, máy tính vạn năng (Universal Machine-UM) đã được phát minh Những con chíp mới nhất đã được đặt trong tổ hợp tính toán siêu cấu trúc

1.1.2 Các khái niệm cơ bản về công nghệ mạng nơ ron tế bào

1.1.2.1 Kiến trúc CNN chuẩn

Khái niệm về CNN dựa trên cơ sở một vài khía cạnh của nơ ron sinh học và được mô phỏng bằng mạch tích hợp IC Ban đầu, CNN chủ yếu được ứng dụng trong xử lý ảnh và nhận dạng có dữ liệu xử lý dạng ma trận tương ứng với kiến trúc mảng tế bào của mạng CNN, các thao tác xử lý trên mỗi điểm ảnh cũng đơn giản phần lớn là các phép xử lý analog và các phép toán số học lô gic Dần dần, với khả năng lập trình được và tốc độ xử lý cao cho phép CNN có thể nhận và xử lý tín hiệu phi tuyến của nhiều hệ tính toán

6

xử lý khác, bổ sung thêm các phép toán lô gic mở rộng khả năng ứng dụng của CNN Đặc điểm quan trọng của hệ CNN là kiến trúc phần cứng không giống nhau, nghĩa là có nhiều dạng phần cứng được chế tạo dựa trên nguyên tắc chung, thậm chí với mỗi bài toán ta phải thiết kế một kiến trúc phần cứng riêng phù hợp với các tham số và ràng buộc cụ thể Kiến trúc CNN là hệ

thống onchip gồm tập các tế bào liên kết cục bộ với với nhau tạo thành

lưới, có nhiều dạng lưới được đưa ra như lưới hình chữ nhật, tam giác, lục giác [6]

1.1.2.2 Kiến trúc chuẩn của CNN

Kiến trúc CNN chuẩn là một mảng hình chữ nhật kích thước MxN các tế bào, mỗi tế bào tại toạ độ (i,j) ký hiệu là C(i,j) giống như các toạ độ trong không

gian Đề các hai chiều [6] Chỉ số dòng i, cột j thỏa mãn điều kiện:

Hình 1.1 minh hoạ cho một mạng CNN chuẩn, trong đó mỗi ô biểu diễn cho một tế bào C(i,j) có liên kết trực tiếp với các tế bào láng giềng

Hình 1.1 Kiến trúc CNN chuẩn

Một trong những đặc trưng của CNN là mỗi tế bào là một hệ thống động, phi tuyến nhưng liên kết từng cặp là tuyến tính, nói cách khác cấu trúc không gian của mảng là tuyến tính [7]

7

Hình 1.2 Kiến trúc bên trong một tế bào của CNN tuyến tính đơn giản

Một ví dụ điển hình của một tế bào C(i,j) được chỉ ra trong Hình 1.2, các

thông số vxij, vyij vuij lần lượt là điện áp trạng thái, đầu ra, đầu vào Với điện

áp trạng thái vxij tại thời điểm ban đầu được chọn có độ lớn nhỏ hơn hay bằng

1 Điện áp vào vuij là hằng số với độ lớn nhỏ hơn hay bằng 1 Mỗi tế bào C(i,j) chứa một điện áp nguồn độc lập Eij; một nguồn dòng độc lập I; một tụ tuyến tính C, hai điện trở tuyến tính Rx và Ry Gọi m là số các tế bào láng giềng của tế bào C(i,j) thì có nhiều nhất là 2m nguồn điện áp liên kết (thông qua điện áp vào điều khiển vukl của các tế bào láng giềng, và qua điện áp hồi tiếp điều khiển từ đầu ra của các tế bào láng giềng vykl) Gọi Ixy(i,j;k,l),

Ixu(i,j;k,l) là những nguồn dòng điều khiển điện áp tuyến tính, được tính toán

theo công thức Ixy(i,j;k,l) = A(ij,kl).vykl và Ixu(i,j;k,l)= B(ij,kl).vukl với mọi

tế bào C(k,l) là láng giềng của tế bào C(i,j) Phần tử phi tuyến duy nhất trong mỗi một tế bào là nguồn dòng được điều khiển bởi điện áp là hàm tuyến tính

từng đoạn (piecewise linear) Cặp hệ số Aij,kl và Bij,kl được gọi là toán t hồi

tiếp mẫu và toán tử điều khiển mẫu

Giá trị kết quả xử lý chính là điện áp trạng thái của từng tế bào, do

vậy các xử lý được thông qua biến trạng thái đặc trưng cho điện áp này

Khi xử lý, các tế bào nhận được lệnh, tập lệnh này giống nhau cho

8

mọi tế bào, nói cách khác mọi tế bào trong toàn không gian nhận được lệnh giống nhau Với CNN, lệnh được gọi là mẫu (template), một chương trình xử lý được tạo ra bởi nhiều mẫu xắp xếp theo trình tự xử lý (như khái niệm chương trình trong máy PC) Khái niệm mẫu rất quan trọng trong toàn

bộ quá trình hoạt động của CNN chúng ta sẽ nghiên cứu kỹ về mẫu trong các phần sau Mọi tế bào trong một hệ CNN cụ thể có kiến trúc giống nhau nghĩa là giống nhau về phần cứng, có cùng tham số, có cùng mẫu, do đó

có tên gọi là kiến trúc vô tính (hay mẫu vô tính) Các mẫu có thể được diễn

tả bằng dạng thu gọn bởi các bảng hoặc ma trận Chúng ta có một số định nghĩa quan trọng về mô hình CNN [1]

Định nghĩa 1.1: Hệ CNN là ma trận n chiều (n=1,2,3 ) của những

phần tử động, giống nhau, mỗi phần tử là một mạch tích hợp gọi là tế bào (cell), có hai thuộc tính:

- Chỉ liên kết vật lý với các tế bào trong phạm vi láng giềng xác định,

- Mọi giá trị trạng thái của tế bào là những tín hiệu có giá trị liên tục

Định nghĩa 1.2: CNN là mạch điện phi tuyến động (dynamic) có kích

thước lớn được tạo bởi cặp các tế bào liên kết với nhau, phân bố đều trong không gian Mạch này có thể có cấu trúc hình chữ nhật, lục giác đều, cầu Với những đặc trưng:

- Mỗi tế bào của CNN là phần tử động

- Luật tiếp hợp trong CNN biểu diễn sự tương tác từng cặp của tế bào C(i,j) với các tế bào láng giềng của nó

- Mỗi tế bào có điều kiện biên và điều kiện ban đầu

Định nghĩa 1.3: Phạm vi ảnh hưởng của tế bào C(i,j) là tập hợp tất cả

các tế bào láng giềng nằm trong mặt cầu Sr(i,j) có bán kính r (r là số nguyên

dương) thoả mãn:

9

Sr(i,j) = {C(k,l) |max {|k – i|, |l – j|} ≤ r} (1.1)

1≤k≤M, ≤l≤N Phạm vi ảnh hưởng nói lên những tế bào C(k,l) có liên kết vật lý trực

tiếp với tế bào C(i,j) Cũng có thể biểu diễn Sr(i,j) dưới dạng (2r+1)x(2r+1) láng giềng Dễ thấy nếu r =1 ta có dạng 3x3 với 8 láng giềng; r =2 có dạng

5x5 với 24 láng giềng;

r =3 có dạng 7x7 với 48 láng giềng (Hình 1.3)

(a) (b)

Hình 1.3 Các dạng láng giềng của CNN, (a) r =1; (b) r = 2

Các tế bào trong mạng CNN cơ bản là có cấu tạo giống nhau, trừ một

số tế bào ở vị trí đặc biệt Một tế bào C(i,j) được gọi là tế bào thông thường nếu tồn tại tất cả các tế bào láng giềng C(k,l), Sr(i,j) Nếu không thì C(i,j) được gọi là tế bào đường biên hoặc tế bào góc, (Hình 1.4)

Hình 1.4 Các tế bào đường biên, góc của mạng

10

Các tế bào này có cấu tạo đơn giản hơn thậm chí chỉ là một tụ điện để đưa vào giá trị biên ứng với giá trị trên biên của các bài toán Có một số trường hợp sử dụng tế bào biên ảo, về mạch điện chỉ là một đường nối tiếp đất với giá trị điện áp hằng số nào đó [8]

1.1.2.3 Các phương trình cơ bản của mạng nơron tế bào

Một lớp MxN mạng nơron tê bào chuẩn được định nghĩa bởi một mảng hình chữ nhật MxN các cell C(i,j) xác định tại (i,j); i = 1,…M; j = 1,…N Mỗi cell C(i,j) được định nghĩa toán học bởi:

Phương trình trạng thái:

Trong đó:

x i,j(t) là biến trạng thái của tế bào, Nr là tập các điểm lân cận có tương tác với điểm (i,j) chính là các điểm thuộc mặt cầu tác dụng Sr

Hàm ykl(t) là hàm mô tả điện áp ra;

ukl(t) là hàm mô tả điện áp vào

Mẫu A(i,j;k,l) gọi là mẫu hồi tiếp của tế bào C(i,j); mẫu B(i,j;k,l) gọi là mẫu điều khiển của tế bào C(i,j), nếu chọn dạng mẫu 3x3 ta có:

(1.2)

11

Các mẫu A, B nói lên quan hệ động học của mỗi tế bào với các láng giềng của nó trong hệ Hình 1.5 mô tả một hệ CNN 1D có 5 tế bào (có 2 tế bào biên [41] ) có mẫu A = [1 2 -1]; B=0; z=0:

Hình 1.5: Mô tả một hệ CNN 1D có 5 tế bào

Định nghĩa 1.1: Mẫu Aij,kl có tính đối xứng (hay còn gọi là mẫu vô tính)

nếu thỏamãn: A ij,kl =A kl,ij , với 1< i < M; 1< j < N; kl là chỉ số các láng giềng của

(1.3)

12

Đây là phép toán có độ phức tạp cao nhưng rất hay dùng trong các tính toán của CNN thể hiện cho các liên kết cục bộ giữa tế bào hiện hành và các láng giềng Với định nghĩa toán tử nhân chập trên thì phương trình (1.3) có thể viết đơn giản:

Các trọng số liên kết A, B thể hiện các xử lý, tương tác của mỗi tế bào trong các bài toán ứng dụng cụ thể Ví dụ như trong xử lý ảnh, mỗi giá trị của một điểm ảnh khi xử lý là quá trình tính toán, tương tác với các điểm lân cận thông qua các trọng số liên kết này để thay đổi các tham số về điểm ảnh ban đầu tùy theo yêu cầu của bài toán xử lý (làm mờ, làm rõ, xóa nhiễu ) Trong ứng dụng giải phương trình sai phân, điện áp trạng thái của mỗi điểm trong lưới sai phân được tính toán thông qua các giá trị, trọng số liên kết với điểm lân cận và giá trị trạng thái trước đó của tế bào C(i,j) Giá trị trạng thái mới của

tế bào C(i,j) chính là nghiệm của phương trình vi phân

* Phương trình đầu ra:

Đây được gọi là chuẩn phi tuyến

(1.4)

(1.5)

13

Hình 1.6 : Dạng đồ thị hàm ra của một tế bào

hàm f(xij) tuyến tính có giá trị trong khoảng xác định [-1,1]

Giá trị hàm ra yij được đưa vào mẫu hồi tiếp A để tính toán trạng thái của

tế bào C(i,j) cho bước thời gian tiếp theo, ngoài ra giá trị này còn gửi cho tế bào lân cận như thông tin lan truyền Như vậy, khi hoạt động hệ CNN vừa xử

lý tín hiệu tại chỗ (local) bằng việc thay đổi trạng thái của tế bào, vừa lan truyền thông tin qua các lân cận đến toán bộ mạng CNN (global) Mô hình toán học này thể hiện tính “nơ ron” của CNN như các nơ ron thần kinh của

cơ thể sống vừa trực tiếp thực hiện các xử lý tại chỗ vừa truyền thông tin lên não bộ để ra các quyết định xử lý toàn cục [8]

Thực ra, tùy theo kiến trúc CNN cũng có trường hợp không có sự lan truyền tín hiệu trong toàn mạng CNN, ta gọi là CNN không ghép cặp Có trường hợp hệ CNN không có tín hiệu vào (mẫu B=0) mà chỉ thay đổi trạng thái ban đầu với các tương tác nội tại trong CNN

* Trạng thái ban đầu:

xij(0); i=1,…, M; j=1,…, N

14

* Đầu vào: Trước khi xử lý, ta phải thiết lập giá trị trạng thái ban đầu

cho mỗi tế bào

Giá trị này được mô tả bằng phương trình đầu vào:

vuij = Eij 1  i  M; 1  j  N

* Các ràng buộc: Để đảm bảo cho hệ CNN làm việc ổn định cần có

một số điều kiện ràng buộc, những điều kiện nay đã được nghiên cứu chứng minh về mặt toán học Ở đây chỉ đưa ra điều kiện ràng buộc về điện áp trạng thái ban đầu và điện áp vào Dựa trên cơ sở này, khi thiết kế mạch tế bào

người ta chọn các giá trị tụ điện C và điện trở Rx, Ry cho thích hợp

|vxij(0)|  1 1  i  M; 1  j  N

|vuij(0)|  1 1  i  M; 1  j  N

* Các tham số giả định: Giả thiết này thể hiện tính đối xứng và được

gọi là thuộc tính “vô tính” của tế bào, các tế bào có thể hoán đổi vị trí cho nhau nhưng không ảnh hưởng tới quá trình tính toán, nghĩa là các tế bào có

kiến trúc giống hệt nhau giúp cho việc chế tạo dễ dàng, đơn giản:

A(i,j;k,l) = A(k,l;i,j) 1  i  M; 1  j  N

C > 0; Rx > 0 trong đó C, Rx là điện dung và điện trở tuyến tính trong mạch điện của tế bào

* Điều kiện của tế bào biên:

Các bài toán xử lý trên CNN hầu hết là cho mảng dữ liệu (xử lý ảnh số, giải phương trình đạo hàm riêng ) Ta cần quan tâm đến các giá trị biên trong mảng tế bào Với CNN, có các kiểu điều kiện biên Dirichlet, Neumann, Ring Xét các dạng điều kiện biên trên một hàng (theo chiều cột chúng ta cũng có các định nghĩa tương tự):

- Điều kiện biên cố định (Fixed-Dirichlet), trong Hình 1.7.a

15

Trong một hàng thì v0 là điện thế của tế bào bên trái nhất vM+1là điện thế của tế bào bên phải nhất Hai dãy tế bào bên phải và bên trái có điện thế cố định E1, và E2 (gọi là điện thế đất có thể chọn E1 = E2 = 0)

- Điều kiện biên biến thiên (Zero Flux-Neumann), trong Hình 1.7.b

ta chọn giá trị biên bằng giá trị điểm kề với nó trong cùng hàng, về mặt điện thế ta có thể chọn với giá trị bất kỳ cho v1, vM

- Điều kiện biên tuần hoàn (Periodic-Ring), trong Hình 1.7.c

điều kiện biên này ta thấy giá trị điện thế của tế bào bên trái nhất bằng điện thế của tế bào bên phải nhất

Hình 1.7: Các dạng điều kiện của tế bào biên

16

1.1.3 Kiến trúc của máy tính mạng nơ ron CNN – UM

Máy tính vạn năng CNN-UM có thể được coi là mảng các tế bào xử lý phi tuyến đa chiều được liên kết cục bộ CNN-Um có khả năng xử lý tín hiệu hỗn hợp tương tự số do vậy có tên Analogic (Analog-logic) computer Khác với các máy tính lai (hybrid), ở máy tính CNN không có các bộ biến đổi A/D

và D/A và cũng không có khái niệm biểu diễn các giá trị tương tự bằng số Tất cả tín hiệu và phép tính cơ bản đều là tương tự hoặc logic

Hình 1.8: Cấu trúc máy tính mạng nơ ron CNN-UM

Trong đó:

OPT (Optical Sensor): thu nhận tín hiệu đầu vào trực tiếp cho tế

bào mà không cần bộ chuyển đổi A/D

LAM (Local Analog Memory) và LLM (Local Logic Memory): lưu trữ

các giá trị analog và logic của tế bào

17

LLU (Local Logic Unit) và LAOU (Local Analog Output Unit): thực

hiện các phép tính toán logic và tương tự cho mỗi tế bào của mình, các kết quả của mỗi tế bào được lưu trữ trong các bộ nhớ cục bộ

LCCU (Local Communication And Control Unit): điều khiển và trao

đổi thông tin giữa các cell lân cận và tới khối lập trình toàn cục (GAPU)

GAPU (Global Analogic Programming Unit): Có các thanh ghi và khối

điều khiển toàn cục

Cấu trúc của máy CNN-UM được mô tả trong Hình 1.8 Mạng nơ ron

tế bào gốm các tế bào có cấu trúc đồng nhất Lõi của các tế bào này thực hiện chức năng của hệ động lực chuẩn tế bào CNN như mô tả trong hình 1.2 (Analog CNN nucleus) Để mạng có thể hoạt động và có khả năng lập trình thay đổi các trọng liên kết, ở mỗi tế bào đều có bộ nhớ, các thanh ghi, các khối vào ra và truyền thông cục bộ Ngoài ra toàn mạng còn có khối lập trình toàn cục GAPU (Global Analogic Program Unit) phục vụ cho điều hành toàn mạng

APR (Analog Programming instruction Register): lưu trữ các trọng số

của tế bào mạng CNN Trong trường hợp r = 1 tổng số trọng số lưu trữ là 19

số thực

LPR (Logic Program instruction Register): chứa các lệnh logic cần

thực hiện cho các tế bào

SCR (Switch Configution Register): Chứa các thông số khởi động và

các tham số cho các chức năng hoạt động của các tế bào

GACU (Global Analogic Control Unit): Lưu các lệnh tuần tự của

chương trình chính và thực hiện các chức năng điều khiển toàn cục khác

18

Khối đầu ra tương tự cục bộ (LAOU) là thiết bị nhiều đầu vào, một

đầu ra đơn giản Hàm cho các giá trị tín hiệu liên tục của nó giống khối logic cục bộ (LLU) cho các giá trị logic Nó phối hợp các giá trị cục bộ tương tự trong đầu ra đơn giản

Khối truyền thông và điều khiển cục bộ (LCCU) nhận chương trình thủ tục trong mỗi cell từ khối chương trình tương tự toàn cục (GAPU) cụ thể là:

- Các giá trị mẫu tương tự (A, B, z)

- Hàm mã hoá logic cho khối logic cục bộ

- Cấu hình chuyển mạch của các phần tín hiệu cell đặc biệt và một số đặt trong các khối hàm (ví dụ f(.), LAOU, GW(.))

Nghĩa là tại cùng một thời điểm chúng ta cần các thanh ghi trong GAPU cho 3 loại thông tin, cụ thể là:

- Thanh ghi chương trình analog (APR) cho các mẫu CNN

- Thanh ghi chương trình logic (LPR) cho các hàm LLU

- Thanh ghi cấu hình chuyển mạch (SCR)

Một thuật toán chạy trong CNN-UM có thể được tuần tự thực hiện qua các lệnh analog và logic Mức độ kết quả trung gian có thể được tổ hợp và lưu trữ cục bộ Các phép tính analog được định nghĩa bởi các trọng liên kết tuyến tính hoặc phi tuyến Đầu ra có thể được định nghĩa cả trong trạng thái xây dựng hoặc không xây dựng của mạng Các phép tính logic (AND, OR, NOT…) và số học (cộng, trừ…) có thể được thực hiện trong mỗi tế bào Dữ liệu có thể được chuyển đổi giữa các bộ nhớ LAM và LLM

Khối điều khiển tương tự toàn cục lưu trữ dãy các lệnh Mỗi lệnh chứa

mã toán tử (mẫu hoặc logic), mã lựa chọn cho các tham số của toán tử (mã

19

cho 19 giá trị: A, B, z; hoặc mã của hàm logic cục bộ) và cấu hình chuyển mạch Các tham số được chứa trong các thanh ghi (APR, LPR, SCR)

1.1.4 Các kết quả đạt được về công nghệ mạng nơron tế bào hiện nay

Các ứng dụng của công nghệ CNN được chia thành các nhóm chính:

- Các ứng dụng xử lý ảnh tốc độ cao: Đây là một trong những ứng dụng chủ yếu trong nhiều lĩnh vực của cuộc sống mà các hệ camera thông thường không đáp ứng được

- Các ứng dụng đòi hỏi xử lý dữ liệu lớn trong thời gian thực: giải phương trình vi phân đạo hàm riêng, tạo sóng phi tuyến, xử lý dòng tín hiệu video, tối ưu hoá hệ thống truyền dữ liệu băng hẹp, điều khiển các hệ chuyển mạch ATM, v.v…

- Trong công nghiệp và giao thông vận tải-ô tô:

+ Phân tích bề mặt nhãn in, dệt, phân tích kết cấu sợi tốc độ cao, kiểm tra các lỗi và vị trí lỗi của các sản phẩm, các nhãn, rubăng, vải… ngay trong quá trình sản xuất

+ Kiểm tra bề mặt trong công nghiệp chế tạo giấy, nhôm, sắt, các chỗ rối, các chỗ rách, hỏng, những chỗ nhăn, các vết đen của giấy có thể được nhận ra và xác định vị trí trong quá trình sản xuất Cần nhấn mạnh rằng việc kiểm tra này là kiểm tra không tiếp xúc

+ Phát hiện ánh sáng có thời gian tồn tại ngắn: dùng khi cần kiểm tra độ cách điện cho sứ ở điện áp cao cũng như kiểm tra xuất hiện tia lửa điện khi đóng điện Trong những loại hình công việc này các camera CNN có thể phân loại tia lửa điện với tốc độ hơn 50.000fps

+ Phân tích hình dáng và kích thước: Kiểm tra, phân loại số lượng lớn các vật nhỏ như các viên thuốc, hạt ngũ cốc, các đai ốc, đinh ốc v.v…

20

+ Đo tốc độ và giám sát kích thước những vật chuyển động nhanh không cần tiếp cận

+ Trong công nghệ ô tô: dùng các sensor phân tích tình huống trong chế

độ thời gian thực, làm sensor thông minh điều khiển các túi khí bảo vệ, các gương chiếu hậu thông minh

- Trong y tế: phân tích thời gian thực chuỗi DNA, điện tâm đồ 2D thời gian thực, điện tâm đồ 3D trực tuyến, chế tạo mắt nhân tạo

- Trong quân sự:

+ Sử dụng trong các thiết bị không người lái

+ Theo dõi nhiều đối tượng: có thể thực hiện hợp nhất các ảnh từ nhiều nguồn camera khác nhau trong thời gian thực, phát hiện mục tiêu di động Nhận dạng đa mục tiêu trong lĩnh vực giám sát và an ninh

+ Phân tích địa hình thời gian thực v.v…

Trong xu thế hiện nay các ngành khoa học đều có sự đan xen, thừa kế lẫn nhau Do tiềm năng về năng lực tính toán và khả năng ứng dụng rộng rãi trong nhiều lĩnh vực của cuộc sống, công nghệ CNN đã ngày càng thu hút được sự quan tâm của nhiều nhà nghiên cứu khoa học trên thế giới Các hướng nghiên cứu trong thời gian tới về công nghệ CNN vẫn bao gồm cả lý thuyết và thực nghiệm, cả cơ bản và ứng dụng, ngoài các vấn đề đang thực hiện sẽ có thêm các hướng sau:

- Các thuật toán CNN phục vụ cho nghiên cứu miễn dịch

- Các nguyên lý xử lý cặp sóng cho các ứng dụng dò tìm mục tiêu khó khăn

- Camera võng mạc, có thể đảo mắt trơn tru, lập trình được và hiển thị thời gian thực việc nhận biết mục tiêu

21

- Công nghệ nano thực hiện các mảng sensor ứng dụng riêng và các nguyên tắc tính toán sóng tế bào bao gồm các mảng transito nano từ, các mảng hoá

- Mã hoá và đo nội dung thông tin trong các luồng không gian-thời gian

- Quan sát mức độ rộng hoặc toàn cầu Mạng sensor kích hoạt di động phân bố trong không gian

- Trí thông minh nhân tạo qua tổng hợp nhiều sensor, ví dụ nhận dạng viết bằng tay qua các mẫu hình thái ngôn ngữ

1.2 Giới thiệu về phương trình đạo hàm riêng

1.2.1 Các khái niệm cơ bản về phương trình đạo hàm riêng

Định nghĩa: Phương trình đạo hàm riêng là phương trình có chứa đạo hàm riêng của hai hay nhiều hơn hai biến phải tìm Ví dụ:

(1.6)

(1.7)

Dạng tổng quát của phương trình tuyến tích cấp hai đối với hàm hai biến x,y là:

Nếu G(x,y)  0 thì phương trình gọi là thuần nhất, nếu không gọi là không thuần nhất

Nghiệm của phương trình đạo hàm riêng: Là mọi hàm mà khi thay nó vào phương trình ta được một đồng nhất thức Ví dụ: u(x,y) = x + y – 2z là nghiệm của (1.6), hàm u = ex+3y32z là nghiệm của phương trình (1.7)

1.2.2 Phân loại các phương trình đạo hàm riêng tuyến tính cấp hai với hai biến độc lập

Dạng tổng quát của phương trình đạo hàm riêng tuyến tính cấp hai, trong

đó hàm u(x,y) chưa biết phụ thuộc hai biến độc lập (x,y) là

(1.8)

(1.9) y)

23

Người ta chứng minh được rằng mọi phương trình có dạng (1.9) nhờ những phép biến đổi thích hợp có thể đưa về một trong ba dạng sau:

a) Nếu AC - B 2 > 0 trong một miền nào đó thì bằng các phép biến đổi

thích hợp có thể đưa phương trình (1.5) trong miền ấy về dạng

Trong trường hợp này phương trình (1.10) gọi là phương trình loại eliptic

b) Nếu AC - B 2 < 0 trong một miền nào đó thì phương trình (1.9) trong

miền ấy có thể đưa về dạng

Trong trường hợp này phương trình (1.11) gọi là phương trình loại hypebolic

c) Nếu AC - B 2 = 0 trong một miền nào đó thì phương trình (1.9) trong

miền ấy có thể đưa về dạng

Trong trường hợp này phương trình (1.12) gọi là phương trình loại parabolic

(1.10)

(1.11)

(1.12) (1.9)

24

1.2.3 Phương pháp sai phân

Trong các chương trước ta đã xét các phương pháp tìm nghiệm tường minh của bài toán dưới dạng các công thức sơ cấp, các tích phân hoặc các chuỗi hàm đối với một số ít trường hợp Còn đại đa số trường hợp khác, đặc biệt là đối với các bài toán có hệ số biến thiên, các bài toán phi tuyến, các bài toán trên miền bất kỳ thì nghiệm tường minh của bài toán không có, hoặc có nhưng rất phức tạp Trong những trường hợp đó việc tính nghiệm phải dựa vào các phương pháp giải gần đúng

Để giải quyết vấn đề nêu trên thì trong phạm vi bài giảng đưa ra phương pháp sai phân để giải quyết vấn đề nêu trên

Để tiện trình bày phương pháp ta xét một bài toán cụ thể sau