Nghiên cứu ứng dụng công nghệ mạng nơron tế bào vào giải phương trình truyền nhiệt

Tương tự như vậy các tín hiệu trong tự nhiên đều dưới dạng liên tục và các “máy tính nơ ron” trong cơ thể sinh vật xử lý các dòng tín hiệu liên tục này không phải bằng phương pháp số hoá

TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG

ĐỖ MAI QUỲNH

NGHIÊN CỨU ỨNG DỤNG CÔNG NGHỆ MẠNG NƠRON

TẾ BÀO VÀO GIẢI PHƯƠNG TRÌNH TRUYỀN NHIỆT

LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH

Thái Nguyên - Năm 2014

ĐỖ MAI QUỲNH

NGHIÊN CỨU ỨNG DỤNG CÔNG NGHỆ

MẠNG NƠRON TẾ BÀO VÀO GIẢI PHƯƠNG TRÌNH TRUYỀN NHIỆT

Chuyên ngành: Khoa học máy tính

Mã số: 60 48 01

LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH

NGƯỜI HƯỚNG DẪN KHOA HỌC

TS VŨ ĐỨC THÁI

Thái Nguyên - Năm 2014

LỜI CAM ĐOAN

Tôi cam đoan đây là công trình nghiên cứu của riêng tôi, dưới sự chỉ dẫn của TS Vũ Đức Thái Các số liệu, kết quả nêu trong luận văn là trung thực, bảo đảm tính khách quan, luận văn này cho đến nay chưa được bảo vệ tại bất kỳ hội đồng nào và chưa hề được công bố trên bất kỳ phương tiện nào khác Các tài liệu tham khảo có nguồn gốc xuất xứ rõ ràng

Tác giả xin chịu trách nhiệm về những lời cam đoan trên

Thái nguyên, ngày 01 tháng 10 năm 2014

Tác giả luận văn

Đỗ Mai Quỳnh

LỜI CẢM ƠN

Em xin chân thành cảm ơn thầy giáo TS Vũ Đức Thái đã trực tiếp giao cho em đề tài, tận tình hướng dẫn và tạo mọi điều kiện cho em hoàn thành luận văn

Em xin chân thành cảm ơn các thầy cô giáo, các cán bộ nhân viên phòng đào tạo , ban lãnh đạo Trường Đại học Công nghệ thông tin và Truyền thông đã giúp đỡ tạo điều kiện cho em hoàn thành bản luận văn này

Cuối cùng, em xin chân thành cảm ơn sự quan tâm giúp đỡ của gia đình, bạn bè và tập thể lớp Cao học K11A đã cổ vũ động viên em hoàn thành tốt luận văn của mình

Thái nguyên, ngày 01 tháng 10 năm 2014

Học viên Đỗ Mai Quỳnh

MỤC LỤC

Trang

Trang bìa phụ

LỜI CAM ĐOAN i

LỜI CẢM ƠN ii

MỤC LỤC iii

DANH MỤC CÁC CHỮ VIẾT TẮT v

DANH MỤC CÁC BẢNG vi

DANH MỤC CÁC HÌNH vii

MỞ ĐẦU 1

CHƯƠNG I : LÝ THUYẾT VỀ CÔNG NGHỆ MẠNG NƠ RON TẾ BÀO VÀ PHƯƠNG TRÌNH ĐẠO HÀM RIÊNG 3

1.1.Giới thiệu công nghệ mạng nơ ron tế bào 3

1.1.1 Tổng quan về công nghệ mạng nơ ron tế bào 3

1.1.2 Kiến trúc mạng nơ ron tế bào 6

1.1.3 Các định nghĩa về mạng nơ ron tế bào 8

1.1.4 Phạm vi ảnh hưởng của cell C(i,j) 9

1.1.5 Các tế bào thông thường và tế bào biên, tế bào góc 10

1.1.6 Các phương trình cơ bản của CNN 12

1.2 Kiến trúc của máy tính mạng nơ ron CNN – UM 14

1.3 Các dạng kiến trúc mạng CNN 17

1.4 Phương trình đạo hàm riêng và mối quan hệ với CNN 23

1.4.1.Các khái niệm cơ bản về phương trình đạo hàm riêng 23

1.4.2.Một số bài toán từ thực tế dẫn đến phương trình đạo hàm riêng 24

1.4.3 Mối quan hệ giữa phương trình vi phân với mạng nơ ron tế bào 26

1.5 Giới thiệu về Matlab 27

1.5.1 Tổng quan về Matlab 27

1.5.2 Giao diện 29

1.5.3 Các thao tác cơ bản trên Matlab 30

1.5.5 Toán tử 32

1.5.6 Biểu thức 32

1.5.7 Ma trận 32

1.5.8 Đồ thị 33

1.6 Kết luận 34

CHƯƠNG II: GIẢI PHƯƠNG TRÌNH TRUYỀN NHIỆT 35

2.1 Tổng quan về phương trình truyền nhiệt 35

2.1.1 Mô tả vật lý bài toán truyền nhiệt 35

2.1.2 Mô hình toán học của bài toán truyền nhiệt 35

2.1.3 Các điều kiện giải phương trình truyền nhiệt 37

2.2 Giải phương trình truyền nhiệt công nghệ mạng nơ ron tế bào 37

2.2.1 Sai phân phương trình truyền nhiệt 37

2.2.2 Thiết kế mẫu CNN phương trình truyền nhiệt 38

2.2.3 Thiết kế kiến trúc mạng nơ ron cho phương trình truyền nhiệt 40

2.2.4 Lưu đồ thuật toán tính toán trên CNN 41

2.3 Kết luận 43

CHƯƠNG III: CÀI ĐẶT THỰC NGHIỆM MÔ PHỎNG TÍNH TOÁN KẾT QUẢ 44

3.1 Mô phỏng tính toán phương trình truyền nhiệt trên Matlab 44

3.1.1 Các thông số vật lý của phương trình 44

3.1.2 Xác định thuật toán tính toán trên Matlab 44

3.1.3 Kết quả giá trị tính toán 45

3.2 Đánh giá kết quả 52

3.3 Kết luận 52

KẾT LUẬN 53

TÀI LIỆU THAM KHẢO 55

Viết tắt Tiếng Anh Tiếng Việt

Hardware Description Language

Ngôn ngữ đặc tả phần cứng dùng lập trình cấu hình chip FPGA

Trang

Bảng 1: Các tham số vật lý cho bài toán truyền nhiệt 44

Bảng 2: Giá trị nhiệt độ các tế bào đo ở chiều cao 0,3 m thời điểm ban đầu 46

Bảng 3: Giá trị nhiệt độ các tế bào tính được ở độ cao 0,3 m sau thời gian  t 48

Bảng 4: Giá trị nhiệt độ các tế bào đo ở chiều cao 0,6 m thời điểm ban đầu 49

Bảng 5: Giá trị nhiệt độ các tế bào tính được ở chiều cao 0,6m sau thời gian  t 51

Trang

Hình 1.1: Kiến trúc CNN chuẩn 7

Hình 1.2 Một cell của CNN tuyến tính đơn giản 7

Hình 1.3: CNN với r=1; r=2 10

Hình 1.4: Các cell đường biên và cell góc 10

Hình 1.5: Các dạng điều kiện của tế bào biên 12

Hình 1.6: Biểu diễn khoảng giá trị điện áp đầu ra 13

Hình 1.7: Cấu trúc máy tính mạng nơ ron CNN-UM 14

Hình 1.8 Một số kiến trúc CNN không chuẩn 17

Hình 1.9 Kiến trúc CNN hai chiều 3 lớp 18

Hình 1.10: CNN không gian bất biến với 3 láng giềng 20

Hình 1.11 Mô tả cấu trúc tương tác của CNN tổng quát 21

Hình 1.12: CNN hồi tiếp bằng 0: C(0,B,z) 22

Hình 1.14: CNN đầu vào bằng 0, C(A,0,z) 22

Hình 1.15: Mạch điệnCNN đầu vào bằng 0:C(A,0,z) 23

Hình 1.16 : Biểu diễn phân bố nhiệt độ trong thanh vật chất 24

Hình 1.17: Màn hình làm việc của MATLAB 29

Hình.1.18: Đồ thị tạo ra bởi plot(x,y) 34

Hình 2.1: Cân bằng nhiệt cho dV 35

Hình 2.2 Mô hình toán học của bài toán truyền nhiệt 36

Hình 2.3: Mô hình phân bố nhiệt trên hệ tọa độ 0xyz 37

Hình 2.4: Sai phân bài toán truyền nhiệt tổng quát 38

Hình 2.5: Sơ đồ khối CNN 3D cho giải phương trình truyền nhiệt 40

Hình 2.6 Khối xử lý số học của mạng CNN giải phương trình truyền nhiệt 41

Hình 2.7: Thuật toán tính toán trên mạng nơ ron tế bào 42

Hình 3.1: Lưới giá trị các tế bào ở độ cao 0,3 m khởi tạo ban đầu 46

Hình 3.2: Lưới giá trị các tế bào ở độ cao 0,3 m sau thời gian  t 48

Hình 3.3: Lưới giá trị các tế bào ở độ cao 0,6 m khởi tạo ban đầu 49

Hình 3.4: Kết quả tính được ở độ cao 0,6 m sau thời gian  t = 100s tiếp theo (sau 200 giây so với ban đầu): 51

MỞ ĐẦU

Trong nhiều bài toán khoa học các đại lượng biến thiên phức tạp theo nhiều tham số không gian, thời gian và các điều kiện ràng buộc của các quy luật tự nhiên, định luật vật lý, hóa học Để giải quyết các bài toán trên thường đưa đến việc giải phương trình vi phân, thậm chí là phương trình vi phân đạo hàm riêng

Phương trình vi phân có nhiều loại, có nhiều cách giải khác nhau như: phương pháp giải tích, phương pháp phần tử hữu hạn, phương pháp sai phân, phương pháp không lưới Để giải trên máy vi tính hoặc các công cụ tính toán chuyên dụng ta phải rời rạc hóa mô hình liên tục với các công thức sai phân Các máy vi tính hiện nay có thể giải được nhưng với tốc độ hạn chế, một số trường hợp không đáp ứng được với ứng dụng trong thời gian thực

Công nghệ mạng nơ ron tế bào (CNN) là mô hình tính toán song song vật lý với các mảng các chip có mật độ lớn thực hiện tính toán đồng thời Việc áp dụng công nghệ mạng nơ ron tế bào vào giải phương trình đạo hàm riêng đạt được tốc

độ tính toán rất cao đáp ứng nhu cầu cho các bài toán trong thời gian thực

Nhằm tìm hiểu và nắm bắt, vận dụng kiến thức vào giải quyết một bài toán

CỨU ỨNG DỤNG CÔNG NGHỆ MẠNG NƠRON TẾ BÀO VÀO GIẢI PHƯƠNG TRÌNH TRUYỀN NHIỆT” Mục tiêu của luận văn là tìm hiểu những nội dung lý thuyết cơ bản về công nghệ CNN và phương trình truyền nhiệt Nghiên cứu một dạng phương trình truyền nhiệt trong không gian 3 chiều, phân tích, thiết kế mạng CNN dựa trên việc phân tích thiết kế mẫu cho các phương trình Cài đặt chương trình mô phỏng tính toán đưa ra kết quả tính toán giải phương trình với một số giá trị biên, giá trị ban đầu giả định Nội dung luận văn gồm các nội dung sau:

Chương 1: Tổng quan về mạng nơ ron tế bào và các ứng dụng: Nghiên

cứu kiến trúc, thuật toán, phương pháp triển khai một bài toán ứng dụng trên công nghệ CNN Một số kết quả nghiên cứu ứng dụng CNN trên thế giới và trong nước

Chương 2: Phương pháp giải phương trình truyền nhiệt trên công nghệ CNN: Nghiên cứu mô hình bài toán truyền nhiệt đồng chất, đẳng hướng trong

vật lý chất rắn Áp dụng phương pháp giải phương trình đạo hàm riêng trên công nghệ mạng nơ ron tế bào Phân tích thiết kế mạng CNN để thực hiện giải phương trình truyền nhiệt

Chương 3: Mô phỏng thực nghiệm: Xây dựng các điều kiện ràng buộc và

các giá trị thực nghiệm Cài đặt mô phỏng tính toán kết quả trên Matlab

CHƯƠNG I

LÝ THUYẾT VỀ CÔNG NGHỆ MẠNG NƠ RON TẾ BÀO

VÀ PHƯƠNG TRÌNH ĐẠO HÀM RIÊNG

1.1 Giới thiệu công nghệ mạng nơ ron tế bào

1.1.1 Tổng quan về công nghệ mạng nơ ron tế bào

Trước kia nhiều người tưởng rằng hoạt động của máy tính điện tử phản ánh cơ chế hoạt động của bộ não con người Tuy nhiên hiện nay vẫn đề đó đã trở lên rõ ràng là nơ ron và các tế bào thần kinh có cơ chế hoạt động hoàn toàn khác Đối với các máy tính số hiện nay việc xử lý tín hiệu âm thanh, hình ảnh, hương vị, tín hiệu tiếp xúc là những vấn đề phức tạp đòi hỏi độ tính toán lớn, ngược lại ở các sinh vật sống việc xử lý các chuỗi tín hiệu này là rất đơn giản Tương tự như vậy các tín hiệu trong tự nhiên đều dưới dạng liên tục và các “máy tính nơ ron” trong cơ thể sinh vật xử lý các dòng tín hiệu liên tục này không phải bằng phương pháp số hoá

Hệ nơ ron tính toán ở các sinh vật sống thường xử lý mảng tín hiệu tương tự (analog) có tính liên tục về thời gian và biên độ Cấu trúc gồm nhiều lớp mảng 2D nơ ron có các kết nối mạng cục bộ (local) là chủ yếu Có nơ ron được tích hợp với các tế bào cảm biến (sensing) và tế bào tác động (actuating) Các nơ ron hoạt động với độ trễ thay đổi và có cả hoạt động dạng sóng kích hoạt Các dữ liệu và sự kiện là các mảng tín hiệu phụ thuộc cả không gian và/hoặc thời gian

Rõ ràng với các tính chất cơ bản hiện nêu trên máy tính số hiện nay khó

có khả năng tiếp cận đến khả năng xử lý của các sinh vật sống Để có thể chế tạo được hệ thống điện tử có khả năng tính toán tương tự như hệ nơ ron tính toán, đòi hỏi ta phải thay đổi về kiến trúc, về thuật toán, về công nghệ và khả năng xử lý song song của hàng vạn hoặc hàng triệu bộ xử lý trên một chip

Mạng nơ ron tế bào CNN (Cellular Neural Network) là một giải pháp mở đầu cho loại máy tính vạn năng xử lý mảng dữ liệu đầy tiềm năng này

Phát minh ra mạng nơ ron tế bào của Leon O Chua và Lin Yang đưa ra

từ năm 1988 dựa trên tư tưởng chung là sử dụng một mảng đơn giản các tế bào kết nối cục bộ để xây dựng một hệ thống xử lý tín hiệu analog đồ sộ Đặc điểm mấu chốt của mạng nơ ron là xử lý song song không đồng bộ, liên tục

và ảnh hưởng toàn cục của các phần từ mạng

Khối mạch cơ bản của mạng CNN được gọi là tế bào (cell) Nó chứa các phần tử mạch tuyến tính và phi tuyến Tiêu biểu là các tụ tuyến tính, các điện trở tuyến tính, các nguồn điều khiển tuyến tính, phi tuyến và các nguồn độc lập Mỗi một tế ào trong CNN chỉ kết nối tới các tế bào láng giềng Các tế bào liền kề có thể ảnh hưởng trực tiếp tới nhau Các tế bào không có liên kết trực tiếp có thể tác động đến các tế bào khác gián tiếp bởi sự tác động bởi sự làn truyền của mạng CNN Nhiều bài toán tính toán phức tạp được thực hiện trong hệ CNN như những mô đun được định nghĩa trước Khi xử lý những tín hiệu được đưa vào những lưới không gian hình học 2 chiều hoặc 3 chiều những phần tử xử lý đơn giản (cell) Những tương tác trực tiếp giữa các giá trị tín hiệu trong một phạm vi lân cận nhất định của một cell tạo ra hệ CNN là một ma trận các vi xử lý động Các tương tác động diễn ra theo nguyên tắc: các phần tử xử lý (cell) chỉ tương tác trực tiếp với các láng giếng nhất định

Trong một vài mô hình, phương trình toán học cơ bản mô tả CNN tương ứng với không gian rời rạc hoá của phương trình đạo hàm riêng phi tuyến Sự tương tác trong hệ thống giống như hiện tượng khuếch tán cơ học Tương tác này cũng có thể mô hình hoá như cơ chế lan truyền của phản ứng hoá học hay sự tiến hoá sinh học

Mô hình sinh học của bộ não liên quan đến đặc trưng của từng loài, và

xu hướng tiến hoá của hệ thống sinh học còn hình thành nên mô hình không

gian - thời gian trong não bộ để thực hiện những vai trò, chức năng cốt yếu trong nhận thức thế giới thực

Khái niệm về CNN dựa trên cơ sở một vài khía cạnh của nơ ron sinh học và được mô phỏng bằng mạch tích hợp IC Ví dụ trong bộ não phương tiện tương tác được cung cấp bởi ma trận cực lớn các nơ ron đang tồn tại mà năng lượng của nó nhận được từ việc đốt glucô và ô xy, trong khi với CNN phương tiện tương tác được cung cấp bởi sự tương tác cục bộ của các tế bào (active cell) mà các khối mạch của nó gồm các linh kiện điện tử phi tuyến với nguồn năng lượng một chiều DC

CNN có nhiều khả năng và triển vọng ứng dụng trong xử lý ảnh và nhận dạng Trong những ứng dụng như vậy CNN như một bộ lọc hai chiều xử

lý song song ảnh đầu vào và đưa ra ảnh đầu ra đã qua xử lý với thời gian liên tục mà có ưu thế cho việc xử lý ảnh kích thước lớn với yêu cầu tốc độ đáp ứng trong thời gian thực Hơn nữa CNN có khả năng tương tác trong phạm vi nhỏ có thể dễ liên kết với chíp tích hợp cao (VLSI)

Sự hoàn thiện chíp CNN đặc trưng bởi kích thước và chức năng một vài loại có mẫu cố định là 256 tế bào (cell), một số loại khác có kích thước giới hạn là 30 cells Hiện nay có loại chíp có thể lập trình có kích thước 1024 cells Khả năng lập trình được và tốc độ cao làm cho CNN phù hợp tốt hơn với các xử lý phi tuyến, nó cho phép nhận được và xử lý tín hiệu phi tuyến Tuy vậy những ưu thế thực sự của CNN là nó tương đương với chíp có mật

độ tích hợp lớn tiêu thụ nhiều năng lượng

Tiềm năng ứng dụng CNN thực ra đã và đang mở rộng về mặt nguyên lý, từ việc lọc ảnh phức tạp theo phương thức truyền thống hay những vấn đề xử lý tín hiệu sinh học, phương trình vi phân đạo hàm riêng,

mô hình phi tuyến và hệ thống vật lý Hiện nay quá trình xử lý không gian

- thời gian phỏng theo xử lý của võng mạc mắt đã được xây dựng Tương

tự võng mạc, CNN gồm tập rất lớn các phần tử xử lý tương tự giống nhau, những phần tử này có khả năng tương tác cục bộ để xử lý Trọng số tương tác trong không gian biến hữu hạn cho thấy mạng làm việc chỉ phụ thuộc vào những biến lân cận và có ít biến tự do Bộ xử lý có thể xử lý dạng ảnh nhị phân hay đa cấp xám

Hệ CNN đang được nghiên cứu, ứng dụng hiện nay có nhiều khả năng,

từ việc khởi tạo tín hiệu tương tự ban đầu đến biểu diễn trạng thái không gian

- thời gian động Thực tế, một số hệ thống cơ điện tử đã được thiết kế, xây dựng, sử dụng Sự phát triển ứng dụng dựa trên mạch CNN ban đầu đang được mở rộng, như trong việc điều khiển truyền động với những khớp quay nhiều bậc tự do phức tạp

Từ khi ra đời công nghệ CNN đã bùng nổ cùng với những kiến trúc máy tính tương tự, máy tính vạn năng (Universal Machine-UM) đã được phát minh Những con chíp mới nhất đã được đặt trong tổ hợp tính toán siêu cấu trúc Những ứng dụng trong công nghiệp có thể xem trong trang web

www.analogic-computers.com

1.1.2 Kiến trúc mạng nơ ron tế bào

Kiến trúc mạng CNN hiện nay đã phát triển có nhiều mô hình đa dạng, tuỳ thuộc mỗi bài toán xử lý mạng có thể là một chiều, hai chiều, ba chiều hình cầu, lục giác…, đây là vấn đề khác nhau cơ bản giữa máy tính PC với máy tính CNN-UM

Để đơn giản, ta xét kiến trúc CNN chuẩn, một kiến trúc CNN chuẩn bao gồm một mảng hình chữ nhật MxN các tế bào (cell) C(i,j) với toạ độ Đề các (i,j); i = 1,…,M; j = 1,…,N (Hình 1.1)

Hình 1.1: Kiến trúc CNN chuẩn

Mỗi tế bào là một phần tử xử lý C (i,j) và liên kết chỉ ra tương tác giữa các cell Một trong những đặc trưng của CNN là mỗi tế bào là một hệ thống động, phi tuyến nhưng từng cặp là tuyến tính Nói cách khác mảng là phi tuyến, nhưng cấu trúc không gian của nó là tuyến tính

Hình 1.2 Một cell của CNN tuyến tính đơn giản

Một ví dụ điển hình của một tế bào C(i,j) của CNN được chỉ ra trong

dòng độc lập I, 1 tụ tuyến tính C, 2 trở tuyến tính Rx và Ry Ixy(i,j;k,l) và

= Aij,kl vykl và Ixu(i,j:k,l) = Bij,kl vukl đối với mọi C(k,l) Nr(i,j) Phần tử phi

tuyến duy nhất trong mỗi một cell là nguồn dòng điều khiển điện áp ngược

số điều khiển mẫu Chúng ta giả sử rằng mọi cell đều có cùng tham số và như

vậy có cùng mẫu (biến không gian) Tên gọi mẫu vô tính được sử dụng để

lớn bất kỳ Các mẫu có thể được diễn tả bằng dạng thu gọn bởi các bảng hoặc

ma trận Chúng ta sẽ đưa ra hai định nghĩa của CNN theo [24, 27]:

1.1.3 Các định nghĩa về mạng nơ ron tế bào

Khi phát triển lý thuyết về mạng nơ ron tế bào, các nhà nghiên cứu đã

đưa ra một số định nghĩa có tính hình thức về kiến trúc mạng:

Định nghĩa 1: Hệ mạng nơ ron tế bào - CNN là:

a) Ma trận 2-, 3- hoặc n- chiều của những phần tử động giống nhau (gọi là tế

bào - cell)

b) Mỗi tế bào có hai thuộc tính:

- Chỉ tương tác trong vùng có bán kính là r

- Mọi biến trạng thái là tín hiệu có giá trị liên tục

Định nghĩa 2: CNN là mạch phi tuyến động kích thước lớn được tạo bởi cặp

các phần tử liên kết với nhau, phân bố đều trong không gian mà mỗi phần tử

là một mạch tích hợp gọi là cell Mạng này có thể có cấu trúc hình chữ nhật,

lục giác đều, cầu v.v Hệ CNN cấu trúc MxN được định nghĩa một cách toán

học theo 4 đặc tả sau:

1) CNN là phần tử động học nghĩa là trạng thái điện áp của tế bào thay đổi

theo thời gian tùy theo tương tác giữa nó và các láng giềng

2) Luật tiếp hợp trong CNN biểu diễn sự tương tác cục bộ trong từng cặp lân cận trong các tế bào láng giềng, mỗi tế bào có: Điều kiện ban đầu; Điều kiện biên

Chú ý:

- Giá trị của biến không gian thì luôn luôn rời rạc và biến thời gian T có thể là liên tục hay rời rạc

- Tương tác giữa các cell thì luôn luôn xảy ra thông qua mẫu vô tính mà

có thể là hàm phi tuyến của trạng thái x, đầu ra y, và đầu vào u của mỗi cell

Mẫu vô tính có ý nghĩa hình học mà chúng ta có thể sử dụng để mô tả hình dạng hình học và đưa ra phương pháp thiết kế đơn giản

1.1.4 Phạm vi ảnh hưởng của cell C(i,j)

Phạm vi ảnh hưởng, Sr(i,j), của bán kính r của cell C(i,j) được định nghĩa là tập hợp tất cả các cell láng giềng thoả mãn đặc tính sau:

Sr(i,j) = {C(k,l) | max {|k – i|, |l – j|} ≤ r} (1.1)

1≤k≤M, 1≤l≤N

trong đó r là số nguyên dương

Đôi khi chúng ta đề cập tới Sr(i,j) như là (2r+1) x (2r+1) láng giềng hay lân cận

Hình 1.3: CNN với r=1; r=2

Thông thường chúng ta gọi r = 1 lân cận là “3x3 lân cận”, r = 2 lân cận

là “5x5 lân cận”, r = 3 lân cận là “7x7 lân cận” v.v Tập các lân cận được

với mọi C(i,j) và C(k,l) trong mạng nơ ron tế bào

Trong sự thi hành mạch tổ hợp, mọi cell được kết nối tới tất cả các lân cận của nó trong Nr(i,j) qua các mạch “tiếp hợp” Khi r = N – 1 và M = N, chúng ta có một kết nối CNN đầy đủ tại nơi mà mọi cell được kết nối tới mỗicell khác và Nr(i,j) là toàn bộ mảng

1.1.5 Các tế bào thông thường và tế bào biên, tế bào góc

Một cell C(i,j) được gọi là cell thông thường đối với Sr(i,j) nếu tồn tại

tất cả các cell láng giềng C(k,l)Sr(i,j) Nếu không thì C(i,j) được gọi là cell đường biên (H.ình 1.4)

Hình 1.4: Các cell đường biên và cell góc

Cell góc

Cell đường biên

Chú ý: Các cell đường biên ngoài cùng được gọi là các các cell cạnh

Không phải tất cả các cell biên đều là các cell cạnh nếu r > 1, một số cell gọi

là cell góc

* Điều kiện của tế bào biên:

Các bài toán xử lý trên CNN hầu hết là cho mảng dữ liệu (xử lý ảnh số, giải phương trình đạo hàm riêng ) Ta cần quan tâm đến các giá trị biên trong mảng tế bào Với CNN, có các kiểu điều kiện biên Dirichlet, Neumann, Ring Xét các dạng điều kiện biên trên một hàng (theo chiều cột chúng ta cũng có các định nghĩa tương tự):

- Điều kiện biên cố định (Fixed-Dirichlet), trong Hình 1.5.a

tế bào bên phải nhất Hai dãy tế bào bên phải và bên trái có điện thế cố định

- Điều kiện biên biến thiên (Zero Flux-Neumann), trong Hình 1.5.b

ta chọn giá trị biên bằng giá trị điểm kề với nó trong cùng hàng, về mặt điện

- Điều kiện biên tuần hoàn (Periodic-Ring), trong Hình 1.5.c

điều kiện biên này ta thấy giá trị điện thế của tế bào bên trái nhất bằng điện thế của tế bào bên phải nhất

Hình 1.5: Các dạng điều kiện của tế bào biên

1.1.6 Các phương trình cơ bản của CNN

Một lớp MxN CNN chuẩn được định nghĩa bởi một mảng hình chữ nhật MxN các cell C(i,j) xác định tại (i,j); i = 1,…M; j = 1,…N Mỗi cell C(i,j) được định nghĩa toán học bởi:

j S n m l C

lmn k

j S n m l C

lmn ijk

ijk

z u n m l k j i B y

n m l k j i A x

R t

x

C

r r

, ( ) , , (

) , ,

; , , ( )

, ,

; , , ( 1

ij j

N l k C

kl j

N l k C

kl ij

x

r r

( ) (

) ,

; , ( B )

,

; , (

Đây được gọi là chuẩn phi tuyến

Hình 1.6: Biểu diễn khoảng giá trị điện áp đầu ra

Trạng thái ban đầu:

thái, đầu ra, đầu vào và ngưỡng của cell C(i, j) A(i,j; k,l) và B(i,j; k,l) được gọi là các toán tử hồi tiếp và đầu vào tiếp hợp

Trong trường hợp tổng quát nhất, A(i,j;k,l), B(i,j;k,l) và zij có thể biến thiên theo vị trí (i,j) và thời gian T Tuy nhiên với trạng thái khác, chúng ta giả sử chúng là không gian và thời gian bất biến

Trong trường hợp tổng quát nhất cả A(i,j;k,l) và B(i,j;k,l) đều là toán tử

0 ≤ T ≤ t0 với kết quả vô hướng (A(i,j;k,l).ykl)(t0) và B(i,j;k,l).ukl)(t0),

0 ≤ T ≤ t0

phép nhân thông thường với hệ số thực trong khi chúng có thể là các hàm phi

tuyến của các trạng thái, các đầu vào và các đầu ra của các cell C(i,j), C(k,l)

và có thể bao hàm một số thời gian trễ

1.2 Kiến trúc của máy tính mạng nơ ron CNN – UM

Máy tính vạn năng CNN-UM có thể được coi là mảng các tế bào xử lý

phi tuyến đa chiều được liên kết cục bộ CNN-Um có khả năng xử lý tín hiệu

hỗn hợp tương tự số do vậy có tên Analogic (Analog-logic) computer Khác

với các máy tính lai (hybrid), ở máy tính CNN không có các bộ biến đổi A/D

và D/A và cũng không có khái niệm biểu diễn các giá trị tương tự bằng số

Tất cả tín hiệu và phép tính cơ bản đều là tương tự hoặc logic

Hình 1.7: Cấu trúc máy tính mạng nơ ron CNN-UM

Trong đó:

OPT (Optical Sensor): thu nhận tín hiệu đầu vào trực tiếp cho tế

bào mà không cần bộ chuyển đổi A/D

LAM (Local Analog Memory) và LLM (Local Logic Memory): lưu trữ

các giá trị analog và logic của tế bào

LLU (Local Logic Unit) và LAOU (Local Analog Output Unit): thực

hiện các phép tính toán logic và tương tự cho mỗi tế bào của mình, các kết quả của mỗi tế bào được lưu trữ trong các bộ nhớ cục bộ

LCCU (Local Communication And Control Unit): điều khiển và trao

đổi thông tin giữa các cell lân cận và tới khối lập trình toàn cục (GAPU)

GAPU (Global Analogic Programming Unit): Có các thanh ghi và khối

điều khiển toàn cục

Cấu trúc của máy CNN-UM được mô tả trong Hình 1.7 Mạng nơ ron

tế bào gốm các tế bào có cấu trúc đồng nhất Lõi của các tế bào này thực hiện chức năng của hệ động lực chuẩn tế bào CNN như mô tả trong hình 2 (Analog CNN nucleus) Để mạng có thể hoạt động và có khả năng lập trình thay đổi các trọng liên kết, ở mỗi tế bào đều có bộ nhớ, các thanh ghi, các khối vào ra và truyền thông cục bộ Ngoài ra toàn mạng còn có khối lập trình toàn cục GAPU (Global Analogic Program Unit) phục vụ cho điều hành toàn mạng

APR (Analog Programming instruction Register): lưu trữ các trọng số

của tế bào mạng CNN Trong trường hợp r = 1 tổng số trọng số lưu trữ

là 19 số thực

LPR (Logic Program instruction Register): chứa các lệnh logic cần

thực hiện cho các tế bào

SCR (Switch Configution Register): Chứa các thông số khởi động và

các tham số cho các chức năng hoạt động của các tế bào

GACU (Global Analogic Control Unit): Lưu các lệnh tuần tự của

chương trình chính và thực hiện các chức năng điều khiển toàn cục khác

Khối đầu ra tương tự cục bộ (LAOU) là thiết bị nhiều đầu vào,

một đầu ra đơn giản Hàm cho các giá trị tín hiệu liên tục của nó giống khối logic cục bộ (LLU) cho các giá trị logic Nó phối hợp các giá trị cục bộ tương tự trong đầu ra đơn giản

Khối truyền thông và điều khiển cục bộ (LCCU) nhận chương trình thủ tục trong mỗi cell từ khối chương trình tương tự toàn cục (GAPU) cụ thể là:

- Các giá trị mẫu tương tự (A, B, z)

- Hàm mã hoá logic cho khối logic cục bộ

- Cấu hình chuyển mạch của các phần tín hiệu cell đặc biệt và một số đặt trong các khối hàm (ví dụ f(.), LAOU, GW(.))

Nghĩa là tại cùng một thời điểm chúng ta cần các thanh ghi trong GAPU cho 3 loại thông tin, cụ thể là:

- Thanh ghi chương trình analog (APR) cho các mẫu CNN

- Thanh ghi chương trình logic (LPR) cho các hàm LLU

- Thanh ghi cấu hình chuyển mạch (SCR)

Một thuật toán chạy trong CNN-UM có thể được tuần tự thực hiện qua các lệnh analog và logic Mức độ kết quả trung gian có thể được tổ hợp và lưu trữ cục bộ Các phép tính analog được định nghĩa bởi các trọng liên kết tuyến tính hoặc phi tuyến Đầu ra có thể được định nghĩa cả trong trạng thái xây dựng hoặc không xây dựng của mạng Các phép tính logic (AND, OR, NOT…) và số học (cộng, trừ…) có thể được thực hiện trong mỗi tế bào

Dữ liệu có thể được chuyển đổi giữa các bộ nhớ LAM và LLM

Khối điều khiển tương tự toàn cục lưu trữ dãy các lệnh Mỗi lệnh chứa

mã toán tử (mẫu hoặc logic), mã lựa chọn cho các tham số của toán tử (mã cho

19 giá trị: A, B, z; hoặc mã của hàm logic cục bộ) và cấu hình chuyển mạch Các tham số được chứa trong các thanh ghi (APR, LPR, SCR)

1.3 Các dạng kiến trúc mạng CNN

 Phân loại theo hình trạng

Về mặt hình trạng mạch (topology) chúng ta có thể phân loại CNN thành các mô hình khác nhau Ngoài kiến trúc chuẩn như đã giới thiệu trên, sau đây chúng ta xét một số mô hình tiêu biểu:

+ CNN không đồng nhất: (NUP – CNN) có hai loại tế bào được mô tả bởi ô

trắng và đen trong Hình 1.8.a Cấu trúc NUP-CNN có chứa hơn một kiểu tế bào trên lưới trong khi các tế bào tương tác với nhau là biến không gian

+ CNN đa lân cận (MNS-CNN: Multiple Neighborhood Size – CNN): CNN

có hai kiểu lân cận như Hình 1.8.b Mọi chip trong mạch có cấu tạo phần cứng giống nhau nhưng chia làm hai lớp lưới (P, S) Lưới P có các lân cận r=1; lưới S là lớp trên hoặc dưới của lưới P có r=3 Kiến trúc MNS-CNN có chứa những lớp có những lưới và lân cận khác nhau, chúng mô phỏng theo hệ thống tế bào tự nhiên Trường hợp đặc biệt của MNS-CNN với hai kiểu lân cận chỉ chứa một chip trong lớp S, và mọi chíp khác đều kết nối tới con chíp này Như đã nói CNN có cấu tạo rất linh hoạt tùy theo yêu cầu giải quyết xử

lý của mỗi bài toán, do vậy người ta cũng đưa ra mô hình MSN-CNN Loại MSN-CNN không phổ biến chỉ sử dụng trong một số trường hợp đặc biệt cho những bài toán thích hợp

Hình 1.8 Một số kiến trúc CNN không chuẩn (a) Không đồng nhất; (b) Đa lân cận

(a)

+ Kiến trúc CNN đa lớp: Như đã xét ở phần trước, một lớp CNN đơn, mỗi tế

bào chỉ có một biến trạng thái Với bài toán có nhiều biến trạng thái (như giải

hệ phương trình vi phân có nhiều biến) người ta cần một hệ có nhiều lớp gọi

là cấu trúc đa lớp Trong cấu trúc CNN đa lớp có nhiều biến trạng thái cho mỗi đầu vào Khái niệm đa lớp nhấn mạnh đến sự tương tác giữa các biến trong một lớp, giữa các lớp Có thể hình dung một hệ CNN đa lớp là kết hợp của nhiều lớp đơn xếp chồng lên nhau, ngoài tương tác giữa các tế bào trong một lớp còn có tương tác giữa các lớp

Khi có nhiều biến trạng thái ta có thể chọn nhiều kiểu tương tác đồng thời cho mỗi biến trạng thái khác nhau Thuộc tính này làm cho CNN cực kỳ linh hoạt và cho phép chúng ta giải quyết những bài toán xử lý phức tạp

Hình 1.9 Kiến trúc CNN hai chiều 3 lớp Một cách tổng quát trong CNN đa lớp, kích thước và hình trạng liên kết

lớp (nếu k = 2 nghĩa là ở lớp j có là ma trận 2 chiều MxN), j là chỉ số của lớp

kích thước của các lớp là giống nhau nên ta có thể bỏ chỉ số k, chỉ còn chỉ số

21

22

23

j (j) với mọi j{1,2, n} Ta thấy mỗi tế bào ta xét trong Hình 1.9 không chỉ liên kết với các tế bào trong lớp mà còn liên kết với các tế bào trong lớp trên

và dưới Một cách tổng quát chúng ta có thể coi kích thước của các lân cận của mỗi tế bào ở mỗi lớp là tùy ý

 Phân loại theo thời gian xử lý

-Discrete-Time Cellular Neural Network (DT-CNN): Xử lý các tín hiệu rời

rạc theo thời gian

-Continuous-Time Cellular Neural Network (CT-CNN): Xử lý các tín hiệu

liên tục theo thời gian

 Phân loại theo tín hiệu đầu vào

+ CNN tuyến tính (Linear CNN): Tín hiệu đưa vào xử lý là tín hiệu tuyến

tính CNN loại này được sử dụng cho xử lý các tín hiệu tuyến tính rất phù hợp cho một số thao tác cơ bản trong xử lý ảnh tuyến tính Mẫu CNN tuyến tính được ký hiệu:

A(i,j;l,k); B(i,j;k,l) + CNN phi tuyến (Non-Linear Cellular Neural Network-NLCNN): Tín hiệu

đưa vào sử lý là tín hiệu phi tuyến trong một số ứng dụng như giải phương trình vi phân, xử lý ảnh phi tuyến người ta sử dụng CNN phi tuyến Bản chất

+ CNN trễ: Trong quá trình xử lý có những lúc cần tạo ra những tín hiệu trễ

và người ta sử dụng CNN trễ Bản chất trễ ở đây được thực hiện với các mẫu

trễ và các tín hiệu vào/ra trễ, điện áp là hàm của biến thời gian trễ (T- t)

Tham số trễ thời gian t có thể được điều khiển thông qua các phần tử mạch (điện trở R, tụ điện C) mẫu trễ được ký hiệu:

( , ; , )

A i j k l và B i j k l( , ; , )

+ CNN hỗn độn (chaos): Một số trường hợp mạch CNN làm việc ở trạng thái

phi tuyến và có dao động không tuần hoàn trở thành trạng thái hỗn độn (chaos) Hiện tượng này trái ngược với trạng thái hoạt động bình thường của CNN Hiện nay, vấn đề này vẫn được tiếp tục nghiên cứu để ứng dụng cho một số bài toán như mã hóa, bảo mật

 Phân loại theo tương tác

+ CNN không ghép cặp: Là hệ CNN mà các tế bào có tương tác với tế bào

láng giềng nhưng không truyền thông tin cho nhau mà chỉ xử lý độc lập nghĩa

là không có hiện tượng lan truyền tín hiệu trong toàn hệ

+ CNN ghép cặp: Trái với CNN không ghép cặp hệ CNN này các tế bào trong

quá trình xử lý có truyền thông tin cho nhau để xử lý có tính toàn cục Với nhiều bài toán xử lý các thông tin trạng thái thay đổi liên tục có ảnh hưởng đến nhau thông qua hàm trạng thái thì CNN ghép cặp được sử dụng nhất là trong cấc bài toán giải phương trình đạo hàm riêng

Hình 1.10: CNN không gian bất biến với 3 láng giềng

Đầu vào U Trạng thái X Đầu ra Y

Chúng ta xét trường hợp tổng quát được mô tả trực quan về tương tác giữa các tế bào thông qua mẫu trong Hình 1.10 với hệ CNN có đủ các tham

số Cấu trúc luồng tín hiệu của một CNN với 3x3 láng giềng, 2 bóng hình nón bóng mầu tím là biểu tượng của trọng số bổ sung của điện áp đầu vào (giá trị của ma trận trọng số B) và bóng mầu vàng là biểu tượng của trọng số hồi tiếp

thái điện áp của tế bào trung tâm C(i,j) Cấu trúc hệ thống của tế bào C(i,j) được mô tả trong Hình 1.11 Mũi tên in đậm đánh dấu đường dữ liệu song

các đường mảnh theo thứ tự biểu thị ngưỡng, đầu vào, trạng thái và đầu ra, z,

uij, xij và yij

Từ cấu trúc tổng quát chúng ta có thể đi nghiên cứu cấu trúc của một số lớp CNN đơn giản:

+Lớp hồi tiếp bằng 0 C(0,B,z): Một CNN thuộc lớp hồi tiếp bằng 0 C(0,B,z)

nếu và chỉ nếu tất cả các mẫu phần tử hồi tiếp là 0, tức là mẫu A ≡ 0 Mỗi tế bào của CNN hồi tiếp bằng 0 được miêu tả bởi phương trình trạng thái:

Cấu trúc luồng tín hiệu của hồi tiếp bằng 0 với 3x3 láng giềng (Hình 1.11) Hình nón là biểu tượng của trọng số bổ sung của điện áp đầu vào của

Mô hình mạch điện của lớp C(0,B,z) như trong Hình 1.13:

Hình 1.13: Mạch điện của CNN có hồi tiếp bằng 0

+ Lớp đầu vào bằng 0 C(A,0,z): Một CNN thuộc lớp đầu vào bằng 0 C(A,0,z)

nếu và chỉ nếu tất cả các mẫu phần tử dẫn nhập là 0, tức là B ≡ 0, mỗi tế bào của CNN đầu vào bằng 0 được miêu tả bởi phương trình trạng thái:

x   x  A  Y  z

g

Mô hình trực quan về tương tác mẫu của lớp C(A,0,z) như trong Hình 1.14

Hình 1.14: CNN đầu vào bằng 0, C(A,0,z)

Đầu vào U Trạng thái X Đầu ra Y

Đầu vào U Trạng thái X Đầu ra Y

Cấu trúc luồng tín hiệu của CNN đầu vào bằng 0 với 3x3 láng giềng Hình nón màu vàng là biểu tượng của trọng số bổ sung của điện áp đầu ra của

điện được mô tả trong Hình 1.15 sau:

Hình 1.15: Mạch điệnCNN đầu vào bằng 0:C(A,0,z)

1.4 Phương trình đạo hàm riêng và mối quan hệ với CNN

1.4.1.Các khái niệm cơ bản về phương trình đạo hàm riêng

Định nghĩa: Phương trình đạo hàm riêng là phương trình có chứa đạo hàm riêng của hai hay nhiều hơn hai biến phải tìm Ví dụ:

phương trình (1.5) là cấp 1; cấp của phương trình (1.6) là cấp 2

Phương trình đạo hàm riêng được gọi là tuyến tính nếu hàm phải tìm

và các đạo hàm của nó chỉ xuất hiện với luỹ thừa bậc nhất và không có tích của chúng với nhau