Nghiên cứu công nghệ mạng nơron tế bào cnn và ứng dụng trong xử lý ảnh

Danh mục các ký hiệu và chữ viết tắt CNN Cellular Neural Network Mạng nơ ron tế bào CNN-UM CNN-Universal Machine Máy tính vạn năng CNN DSP Digital Signal Processing Xử lý tín hiệu số EDG

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI

-

LUẬN VĂN THẠC SĨ KHOA HỌC

NGHIÊN CỨU CÔNG NGHỆ MẠNG NƠ RON TẾ BÀO

Tôi xin cam đoan: Luận văn “Nghiên cứu công nghệ mạng nơ ron tế bào

CNN và ứng dụng trong xử lý ảnh” là công trình nghiên cứu riêng của tôi, không

sao chép từ bất cứ tài liệu nào

Tôi muốn gửi lời cảm ơn chân thành nhất tới TS Hoàng Mạnh Thắng, người thầy đã tận tình hướng dẫn và giúp đỡ tôi trong suốt quá trình làm luận văn Tôi xin gửi lời cảm ơn tới Bộ môn Kỹ thuật Máy tính - khoa Công nghệ thông tin - trường Đại học Sư phạm Hà Nội, và Bộ môn Điện tử Tin học Đại học Bách Khoa Hà Nội,

đã tạo những điều kiện tốt nhất cho tôi trong quá trình học tập và làm luận văn Xin cảm ơn những đồng nghiệp trong bộ môn Kỹ thuật Máy tính đã luôn khuyến khích, động viên, và giúp đỡ tôi trong thời gian học tập và công tác vừa qua

Tôi xin gửi lời cảm ơn sâu sắc nhất tới gia đình: cha mẹ, chồng, chị gái và những người thân trong gia đình đã luôn động viên, cổ vũ và hỗ trợ tôi trong suốt quá trình học tập và nghiên cứu để có được kết quả như hôm nay

Hà Nội, ngày 15 tháng 10 năm 2009

Học viên

Tạ Thị Kim Huệ

MỤC LỤC

MỤC LỤC

Danh mục các ký hiệu và chữ viết tắt

Danh mục các bảng biểu

Danh mục các hình vẽ

MỞ ĐẦU 1

Chương 1: Tìm hiểu về cấu trúc mạng Nơron tế bào CNN 4

1.1 Tổng quan 4

1.2 Cơ sở toán học của CNN 5

1.2.1 Các chú thích và định nghĩa cơ bản 5

1.2.2 Biểu diễn theo ma trận vector và điều kiện biên 9

1.2.3 Sự tồn tại và đơn trị của các nghiệm 13

1.2.4 Giới hạn của các nghiệm 17

1.2.5 Tính bất biến không gian của CNN 18

1.2.6 Ba phân lớp mạng nơ ron tế bào đơn giản 21

1.2.7 Lược đồ lưu lượng mô tả luồng tín hiệu dẫn nạp 25

1.3 Kết luận 26

Chương 2: Phân tích các đặc tính của mạng CNN 27

2.1 Các đặc tính của mạng CNN 2 chiều 27

2.1.1 Cấu trúc mạng CNN hai chiều 27

2.1.2 Dải động của CNN 30

2.1.3 Tính chất ổn định của CNN 33

2.1.4 Động lực học của mạng nơ ron tế bào phi tuyến và có trễ 42

2.2 Hỗn độn trong mạng nơ ron tế bào 44

2.2.1 Ví dụ về CNN 2 tế bào dao động 45

2.2.2 Ví dụ CNN hỗn độn với 2 tế bào và 1 đầu vào dạng sin 47

2.2.3 Rẽ nhánh và hỗn độn trong CNN 49

2.3 Mạng nơ ron tế bào nhiều lớp 50

2.4 Mối quan hệ của CNN với phương trình vi phân đạo hàm riêng và ô tô mát tế bào 52

Kết luận 54

Chương 3: Mô phỏng các hệ động lực CNN 55

3.1 Phân tích định lượng về mặt toán học 55

3.2 Hai đối tượng mẫu nghiên cứu: các mẫu EDGE và EDGEGRAY 63

3.2.1 CNN EDGE: Các mẫu CNN nhị phân dò đường biên 63

3.2.2 EDGEGRAY CNN 69

3.2.3 Ba bước xác định đồ thị dịch chuyển điểm điều khiển 76

3.3 Hệ thống phần mềm mô phỏng 77

3.3.1 Sự kết hợp của phương trình vi phân CNN tiêu chuẩn 77

3.3.2 Ảnh đầu vào 78

3.3.3 Phần mềm mô phỏng 78

3.4 Phần cứng bộ gia tốc số 83

3.5 Thực thi CNN tương tự 84

3.6 Thang chia tỷ lệ các tín hiệu 86

3.7 Discrete-time CNN (DTCNN) 87

3.8 Kết luận 88

Chương 4: Ứng dụng hệ động lực CNN trong xử lý ảnh 89

Tổng quan 89

4.1 Nhu cầu xử lý ảnh trong công nghiệp và an ninh quốc phòng 89

4.2 Xử lý ảnh bằng máy tính hệ lệnh tuần tự 92

4.3 Công nghệ CNN và hệ thống thu ảnh - xử lý song song 93

4.4 Mô hình hệ phỏng sinh học trong chế tạo thị giác nhân tạo 94

4.4.1 Thị giác sinh học 94

4.4.2 Mô hình võng mạc nhân tạo với công nghệ mạng CNN nhiều lớp 96

4.4.3 Chip tế bào thị giác 101

4.4.4 Máy tính thị giác (Visual computers) 103

4.5 Phương pháp xử lý ảnh vân tay sử dụng mạng CNN 104

4.5.1 Một số thuật toán nhận dạng vân tay 105

4.5.2 Nâng cấp ảnh vân tay đa mức xám sử dụng CNN 106

4.5.3 Phân tích đặc trưng vân tay dùng CNN 110

4.6 Kết luận 111

KẾT LUẬN 112

TÀI LIỆU THAM KHẢO 114

PHỤ LỤC 118

Danh mục các ký hiệu và chữ viết tắt

CNN Cellular Neural Network Mạng nơ ron tế bào

CNN-UM CNN-Universal Machine Máy tính vạn năng CNN

DSP Digital Signal Processing Xử lý tín hiệu số

EDGE Edge Dection template Mẫu dò đường biên

ODE Ordinary Differential Equation Phương trình vi phân thường VLSI Very Large Scale Integration Độ tích hợp rất cao

Danh mục các bảng biểu

Bảng 3.1: Ngôn ngữ diễn tả mô phỏng cho mẫu EDGE trong CSD (script) 81

Bảng 3.2: So sánh công nghệ xử lý ảnh số chuẩn và xử lý ảnh tương tự, thời gian tính toán μs (bao gồm cả thời gian truyền dữ liệu) 85

Bảng 3.3: So sánh các cấu trúc khác nhau của analogic CNN 86

Danh mục các hình vẽ Hình 1.1: Cấu trúc mạng nơ ron tế bào tiêu chuẩn 6

Hình 1.2: a) r=1 (lân cận 3x3), r=2 (lân cận 5x5) 6

Hình 1.3: Các cell biên 8

Hình 1.4: Mạch CNN với điều kiện biên cố định 10

Hình 1.5: Mạch CNN với điều kiện biên Neumann 11

Hình 1.6: Mạch CNN theo điều kiện biên tuần hoàn (Toroidal) 11

Hình 1.7: 3 sơ đồ đóng gói thường dùng 12

Hình 1.8: Cấu trúc băng ma trận A và Bˆ ˆ 12

Hình 1.9: Ví dụ về một mạch vô nghiệm sau thời gian giới hạn T 13

Hình 1.10: Mạch có vô số nghiệm riêng, với cùng trạng thái ban đầu x(0)=0 14

Hình 1.11: Mạch có finite escape time 14

Hình 1.12: CNN có nghiệm đơn trị t≥0 15

Hình 1.13: Mạch điện tương đương 17

Hình 1.14: Cấu trúc phân lớp của CNN 21

Hình 1.15: Phân lớp Zero-feedback (feedforward) ζ(0,B,z) 22

Hình 1.16: Phân lớp Zero-input (Autonomous) ζ(A, 0, z) 23

Hình 1.17: Phân lớp Uncoupled (scalar) ζ (Aº,B, z) 23

Hình 1.18: Cấu trúc Cell của một CNN tiêu chuẩn C(i,j) 24

Hình 1.19: Hình ảnh minh họa tế bào C(i,j) điển hình nhận đầu vào từ một nơ ron cảm biến phía bên trái và nơ ron lân cận phía dưới qua tế bào tiếp theo tương ứng 25

Hình 1.20: Lược đồ luồng tín hiệu hồi tiếp A kết hợp với mẫu A 26

Hình 1.21: Lược đồ dòng tín hiệu dẫn nạp đầu ra B kết hợp với mẫu B 26

Hình 2.1: Lân cận của cell C(i,j) lần lượt với r=1, r=2, r=3 27

Hình 2.2: Mô hình của một cell 28

Hình 2.3: Đường đặc tính của nguồn điều khiển phi tuyến 29

Hình 2.4: Đặc tính của điện trở phi tuyến trong phương trình mạch tế bào 39

Hình 2.5: Mạch tương đương trạng thái cân bằng của một cell trong CNN 39

Hình 2.6: a), b), c) Các định tuyến động và điểm cân bằng của mạch tương đương với các giá trị khác nhau của g(t) 40

Hình 2.6: d), e), f), g) Các định tuyến động và điểm cân bằng của mạch tương đương với các giá trị khác nhau của g(t) 41

Hình 2.7: Các mẫu vô hướng của các toán tử tế bào tương tác Đơn vị sử dụng 41

Hình 2.8: a) 1x2 CNN cùng các tế bào biên với điều kiện biên là 0, 00 01 02 03 10 13 20 21 22 23 0 y =y = y = y = y =y =y = y =y = y = 45

b) Đồ thị luồng dữ liệu tương ứng 45

Hình 2.9: Dạng sóng nghiệm tuần hoàn của x1( ),t x2( )t và quỹ đạo tương ưng trong trường hợp α=2, β=2, x1(0)=0.1,x2(0)=0.1 46

Hình 2.10 : Dạng nghiệm hỗn độn của x1( ),t x2( )t quỹ đạo tương ứng với trường hợp α=2, β=-1.2, x1(0)=0.1,x2(0)=0.1 48

Hình 2.11: Phổ năng lượng tần số tính toán số học từ nghiệm hỗn loạn x1(t) và x2(t) 49

Hình 2.12: Bản đồ Poincare trích xuất từ quỹ đạo hấp dẫn lạ thường ở hình 13c được gọi là “ hấp dẫn giầy nữ” 49

Hình 2.13 : Quỹ đạo hấp dẫn lạ thường của CNN 3x3 với p1=1,25; p2=1,1; p3=1; s=3,2; r=4,4 và giá trị ban đầu x(0)=(0,1;0,1;0,1) 50

Hình 3.1: Mô phỏng tính toán của CNN kích thước 4x4 58

Hình 3.2: 6 giá trị của điều kiện khởi tạo, cell C(2,2) có giá trị khởi tạo như nhau 59 Hình 3.3: Trạng thái cuối cùng tương ứng với trạng thái khởi tạo cho ở hình 3.2 60

Hình 3.4: Chế độ tạm thời của cell C(2,2) tương ứng với điều kiện khởi tạo ở hình 3.2 60

Hình 3.5: Chọn 4 trạng thái khởi tạo ban đầu 61

Hình 3.6: Trạng thái kết thúc tương ứng với trạng thái ban đầu cho ở hình 3.5 61

Hình 3.7: a/ đầu ra tương ứng với điều kiện khởi tạo ở hình 3.5, b/ Điểm cân bằng ổn định hệ thống tương ứng với trọng thái khởi tạo ở hình 3.5 61

Hình 3.8: Điều kiện khởi tạo khác 62

Hình 3.9: Đầu ra của CNN với quy luật thay đổi của nó đối với các mẫu vô hướng hình 2.7(a), (b) và với điều kiện ban đầu cho bởi hình 3.8 62

Hình 3.10: Trạng thái kết thúc tương ứng với đầu ra ở hình 3.9 62

Hình 3.11: Các cell tức thời tại 3 vị trí khác trong trong ảnh : trạng thái biến x , : Biến đầu ra ij y , ***: đầu ra và trạng thái là như nhau 65 ij

Hình 3.12: Định tuyến động tương ứng với mẫu dò đường biên 67

Hình 3.13: Tế bào trạng thái và đầu ra tức thời trong 30 nấc tại 3 vị trí khác nhau của ảnh trong ví dụ 3.5 biểu diễn các đường đậm và mỏng tương ứng 71

Hình 3.14: Định tuyến trạng thái động và đầu ra động trong trường hợp đặc biệt mức bù bằng 0, ω ij =0 74

Hình 3.15: Trạng thái định tuyến tĩnh với ω ij ≠0 75

Hình 3.16: Đồ thị dịch chuyển điểm điều khiển DP Γx(ω ij) 76

Hình 3.16: Các bộ vi xử lý vật lý cho nhiều tế bào CNN ảo 84

Hình 3.17: Giá trị hạn chế không đổi f h(.) 87

Hình 4.1: Thực hiện erosion và dilation ảnh nhị phân 93

Hình 4.2: Cấu trúc mắt người và các thành phần của võng mạc 94

Hình 4.3: Các kiểu liên kết nơron trong võng mạc và mô hình CNN 97

Hình 4.4 Cấu trúc xử lý của một mô hình võng mạc 99

Hình 4.5: Cấu trúc mô phỏng của võng mạc CNN 100

Hình 4.8: Mạng CNN 2D 101

Hình 4.9: Mô hình kết nối của mạng nơron tế bào 102

Hình 4.10: Quá trình tính toán của mạng nơron tế bào 102

Hình 4.11: Kiến trúc bên trong của một tế bào xử lý 103

Hình 4.12: Sơ đồ khối của máy tính thị giác 104

Hình 4.13: Máy tính thị giác trên PC104-plus và Máy tính thị giác trên PC để bàn 104

Hình 4.11: Mẫu vân tay 105

Hình 4.14: Mẫu vân tay 105

Hình 4.15: Một số kiểu của vân tay 105

Hình 4.16: Hệ thống nhận dạng vân tay .106

Hình 4.17: Nâng cấp ảnh vân tay dùng cân bằng Histogram 107

Hình 4.18: Các mẫu của các điểm đường viền có tham số CNN (A, B, z) 108

Hình 4.19: Sơ đồ khối làm mảnh đỉnh vân 108

Hình 4.20: Sơ đồ khối của tìm kiếm điểm đường viền 108

Hình 4.21: Cửa sổ 3x3 để trích đặc trưng 109

Hình 4.22: Sơ đồ khối quá trình matching vân tay dùng CNN 110

Hình 4.23: Kết quả thử nghiệm của một số phương pháp xử lý ảnh vân tay bằng CNN 110

MỞ ĐẦU

Mục đích, đối tượng và phạm vi nghiên cứu

Máy tính điện tử ra đời đã hơn 60 năm và đang đến gần giới hạn vật lý về kích thước và tốc độ xử lý Sự ra đời của mạng nơron tế bào CNN đã mở ra một thời đại mới cho sự phát triển của khoa học tính toán tiếp cận đến các phương thức

xử lý cũng như phương thức cảm nhận và hành động của các tổ chức trong cơ thể sinh vật sống

Các máy tính số hiện nay về cơ bản là loại máy logic với các dữ liệu rời rạc được mã hóa theo hệ nhị phân Tính chất cơ bản của nó là khả năng thực hiện thuật toán theo chương trình được lưu trong bộ nhớ Đây là loại máy tính vạn năng xử lý trên các số nguyên (Universal Machine on Integers) hay còn gọi là máy Turing (Turing Machine) Các phép tính cơ bản của nó là các phép số học và logic Thuật toán là các chuỗi logic của các phép tính cơ bản này

Sự ra đời của bóng bán dẫn năm 1948 và của các vi mạch tích hợp IC (Integrated Circuit) năm 1960 đã tạo ra các máy tính số có tính thực tiễn cao với giá thành rẻ và hiện nay đã trở thành một loại hàng hóa thông dụng Trước kia nhiều người tưởng rằng hoạt động của máy tính điện tử phản ánh cơ chế hoạt động của bộ não con người Tuy nhiên hiện nay vấn đề đã trở nên rõ ràng là nơron và các tế bào thần kinh có cơ chế hoạt động hoàn toàn khác

Hệ nơron tính toán thường xử lý mảng tín hiệu tương tự (analog) có tính liên tục về thời gian và biên độ Cấu trúc gồm nhiều lớp mảng 2chiều nơron có các kết nối mạng cục bộ (local) là chủ yếu, và kết nối toàn cục (global) là không nhiều Có

nơ ron được tích hợp với các tế bào cảm biến (sensing) và tế bào tác động (actuating) Các nơron hoạt động với độ trễ thay đổi và có cơ chế hoạt động dạng sóng kích hoạt Các dữ liệu và sự kiện (event) là các mảng tín hiệu phụ thuộc không gian và/hoặc thời gian

Rõ ràng với các tính chất cơ bản nêu trên máy tính số hiện nay không có khả năng tiếp cận đến khả năng xử lý của não người, đến khả năng xử lý của các sinh vật sống Để có thể chế tạo được hệ thống điện tử có khả năng tính toán tương tự như hệ thần kinh này, đòi hỏi phải thay đổi về kiến trúc, về thuật toán về công nghệ

và khả năng xử lý song song của hàng vạn hoặc hàng triệu bộ xử lý trên một chip Hiện nay hầu hết các bài toán xử lý ảnh đều có thể được giải quyết được bằng CNN với bộ công cụ phát triển cùng hệ thống các thư viện hoàn chỉnh

Ý nghĩa khoa học và thực tiễn của đề tài

Sự ra đời của CNN mở ra một hướng mới cho sự phát triển của khoa học tính toán CNN là công nghệ xử lý song song cực mạnh và đa năng Mạng Nơron tế bào CNN là một giải pháp mở đầu cho loại máy tính vạn năng xử lý dòng mảng dữ liệu Trong nhiều bài toán thực tế, việc xử lý ảnh trong thời gian thực là yêu cầu bắt buộc Tuy nhiên các phương pháp xử lý ảnh truyền thống lại đòi hỏi nhiều thời gian xử lý nhất là với những ảnh có kích thước lớn Để đáp ứng yêu cầu đó người ta đã và đang tìm kiếm nhiều phương pháp xử lý ảnh song song khác nhau nhằm giảm thời gian xử lý Mạng nơ ron tế bào (Cellular Neural Network – CNN) là một trong những công cụ xử lý ảnh thời gian thực hữu hiệu và đang được quan tâm nghiên cứu rộng rãi trên thế giới do có nhiều ưu điểm trong đó có bản chất xử lý song song

Nội dung của luận văn

Chương 1: Tìm hiểu về cấu trúc mạng nơ ron tế bào CNN

Phần này trình bày tổng quan về sự hình thành và phát triển công nghệ mạng nơ-ron tế bào CNN, cơ sở toán học xây dựng và kiến trúc của mạng CNN

Chương 2: Các đặc tính của mạng CNN

Đưa ra một số tính chất liên quan đến dải đặc tính động và trạng thái ổn định của mạng nơ ron tế bào được đề cập, các hệ động lực học của mạng nơ ron tế bào phi tuyến và có trễ, tính hỗn độn trong mạng nơ ron tế bào và mối quan hệ của CNN với phương trình vi phân đạo hàm riêng và ô tô mát tế bào

Chương 3: Mô phỏng mạng CNN

Phân tích và mô phỏng các hệ động lực CNN định lượng về mặt toán học và các phương thức số học để tính toán ra kết quả Sử dụng hệ thống mô phỏng bằng phần mềm sử dụng một trong các phương pháp số học để giải quyết việc thiết lập các ODE của các hệ động lực CNN Giới thiệu về phần mềm CNN Simulator- CANDY

Chương 4: Ứng dụng trong xử lý ảnh

Mạng nơ ron tế bào và công nghệ xử lý ảnh tốc độ cao trên cơ sở mạng nơ ron tế bào là một lĩnh vực khoa học công nghệ mới ở Việt nam và trên thế giới; có nhiều triển vọng cho nhiều ứng dụng đột phá Mục tiêu của chương này là giới thiệu một số ứng dụng xử lý ảnh nhanh, xử lý song song trên nền mạng nơ ron tế bào Giới thiệu hai ứng dụng cụ thể là Xây dựng mô hình thị giác nhân tạo và nhận dạng vân tay sử dụng công nghệ CNN

Kết luận

Chương 1: Tìm hiểu về cấu trúc mạng

, một mảng xử lý tín hiệu analog động hoặc là các tế bào Kiến trúc máy tính này là một máy tính vạn năng CNN3

, máy tính Analogic CNN bắt trước các cảm ứng xử lý sinh học và lưu trữ chương trình Những nghiên cứu gần đây về quang học và thang đo –nano, mở ra một hướng mới đạt tới cấp độ nguyên

tử và phân tử

CNN được nghiên cứu bởi Leon O Chua và Lin Yang tại Berkeley năm

1988 không giống như tế bào người máy tự động, bộ xử lý quản lý CNN nhận và phát ra các tín hiệu analog, thời gian liên tục và các giá trị tương tác cũng là các giá trị thực, đầu ra của mảng CNN đóng một vai trò rất quan trọng Hơn thế nữa CNN

là một cơ cấu tổ chức nghiêm ngặt với một hệ thống phức tạp Ý nghĩa của các mẫu

vô hướng, sự mô tả các dạng liên kết bên trong là yếu tố quyết định Điều này cho phép không chỉ mô phỏng mà còn thiết kế các hệ thống phức tạp

Stored programmability (Chương trình được lưu trữ) do John von Neuman

phát minh là ưu điểm của máy tính số với khả năng không giới hạn của việc số hóa tín hiệu, mở ra một hướng phát triển mới với các thuật toán số và phần mềm Thực vậy theo nguyên lý Turing- Church bất kỳ thuật toán trên số nguyên được quan niệm bởi con người có thể mô tả bằng hàm Đệ quy/Kỹ thuật Turing/Grammars

Máy tính vạn năng CNN4

là một mảng tín hiệu analog Là máy tính lưu giữ chương trình như một người thông minh không giới hạn dung lượng mảng các tín hiệu analog vạn năng, tới các thuật toán không gian-thời gian tương tự và phần mềm Thuật ngữ kiểu tính toán Analogic CNN là thực tế Có các toán tử thực thi bởi

vi xử lý ảo với 4096 hoặc 16000 bộ xử lý, lưu trữ, lập trình

Chip vạn năng CNN là một chip xử lý mảng, tương tự trí tuệ nhân tạo, lập trình và có chương trình lưu trữ Máy tính hoàn chỉnh trên một chip bao gồm một mảng 64x64 0.5micron CMOS các bộ xử lý tế bào, mỗi tế bào cung cấp bằng bộ cảm biến ảnh cho các đầu ra quang học trực tiếp của các ảnh hoặc các video còn giao tiếp và điều khiển mạch như một bộ nhớ logic và bộ nhớ tương tự nội bộ Mỗi

tế bào CNN được giao tiếp với các láng giềng gần nó nhất cũng như thế giới bên ngoài Mỗi máy tính mảng có thể xử lý 3 nghìn tỷ tương đương toán tử số trên 1s (trong chế độ tương tự) Thuật ngữ đo lường SPA (speed, power, area) chip vạn năng CNN tốt hơn bất kỳ bộ DSP nào

1.2 Cơ sở toán học của CNN

1.2.1 Các chú thích và định nghĩa cơ bản

Định nghĩa 1: Kiến trúc CNN tiêu chuẩn

CNN có kiến trúc tiêu chuẩn bao gồm một mảng chữ nhật kích thước MxN

của các Cell C(i,j) với các chiều (i, j ), i = 1, 2, , M, j = 1, 2, , N (Hình 1.1)

Khi M≠N ví dụ CNN có kích thước 5x512 phù hợp máy quét, máy fax hoặc máy copy

Hình 1.1: Cấu trúc mạng nơ ron tế bào tiêu chuẩn

Định nghĩa 2: Hiệu ứng cầu của tế bào C(i,j)

Hiệu ứng cầu của tế bào, S i j r( , ) có bán kính r của Cell C(i,j) được định nghĩa như sau, tất các các cell lân cận thỏa mãn điều kiện sau

Ta thu được S i j r( , )là lân cận (2r+1)x(2r+1) hình 1.2

+ Trong IC, mỗi cell nối tới tất cả các lân cận S i j r( , ) qua mạch “dẫn nạp”

+ Khi r>N/2 và M=N, CNN được kết nối hoàn chỉnh, mỗi cell được kết nối tới các cell khác và S i j r( , ) là một mảng hoàn chỉnh

Định nghĩa 3: Các tế bào thông thường (Regular Cells), và các tế bào biên

(Boundary Cells)

Một tế bào C(i,j) được gọi là regular cell nếu và chỉ nếu tất cả các cell lân cận C k l( , ) ∈S i j r( , ) tồn tại, nếu không C(i,j) được gọi là cell biên (hình 1.3) Cell

biên phía ngoài cùng xa nhất được gọi là Cell cạnh (edge cells) Không phải tất cả

các cell biên đều là cell cạnh nếu r>1

Định nghĩa 4: CNN tiêu chuẩn

Một lớp CNN kích thước MxN tiêu chuẩn được định nghĩa như sau Một mảng chữ nhật kích thước MxN của các cell C(i,j) xác định tại vị trí (i,j), i=1,2,3…M, j=1,2,…N Mỗi cell C(i,j) xác định bởi công thức toán học sau:

1 Phương trình trạng thái (state equation)

(1.2) Khi xij∈R y, kl∈R u, kl∈R v à zij∈R được gọi là trạng thái (state), đầu ra (output), đầu vào (input), ngưỡng (threshold) của cell C(i,j),

3 Các điều kiện biên

Điều kiện biên xác định y kl và u klvới các tế bào thuộc S i j r( , ) của các cell cạnh nhưng nằm ngoài mảng kích thước MxN

4 Trạng thái khởi tạo

(1.4) Đối với ứng dụng CNN trong xử lý ảnh Đầu vào u thường là cường độ kl

điểm ảnh thang độ xám kích thước MxN, thông thường 1− ≤u kl ≤ +1 khi đó mức

“trắng” được mã hóa là -1 và “đen” được mã hóa là +1 Đối với ảnh tĩnh, u là hằng kl

số với thời gian, đối với ảnh động (video) u là một hàm theo thời gian Các biến kl

khác (x(0),y,z) cũng đặc trưng cho ảnh

A(i,j;k,l), B(i,j;k,l) và zij thay đổi theo vị trí (i,j) và thời gian t Trong một số trường hợp khác cũng có thể coi A(i,j;k,l), B(i,j;k,l) và zij không đổi theo không gian và thời gian Trong hầu hết các trường hợp chung A(i,j;k,l), B(i,j;k,l) là các toán tử phi tuyến Các toán tử x t y t u kl( ), kl( ), kl( ),t x t y t v u tij( ), ij( ), à ( ), 0ij ≤ ≤t t0

Thu được các mẫu vô hướng

hệ số thực và có thể liên quan đến thời gian trễ (time delays)

Định nghĩa 5: CNN bất biến không gian và đẳng hướng

Một CNN bất biến không gian và đẳng hướng nếu và chỉ nếu các toán tử A(i,j;k,l), B(i,j;k,l) và toán tử ngưỡng zij không đổi theo không gian Trong trường hợp này ta có

(1.5) CNN tiêu chuẩn (với toán tử tiếp hợp tuyến tính) có phương trình trạng thái như sau (điều kiện tương tự phương trình 1.2)

(1.2*)

1.2.2 Biểu diễn theo ma trận vector và điều kiện biên

Hệ thống phương trình vi phân thường (ODE-Ordinary Differential Equations) n=MN xác định một CNN tiêu chuẩn được viết lại như sau

(1.6) Khi đó

~

ij

X là vector có chiều dài (2r+ 1) 2 các thành phần của vector bao gồm toàn

bộ biến x kl∈S i j r( , ) với {x kl:k− ≤i r l, − ≤j r} Biểu diễn phương trình (2.6) bằng phương trình vi phân ma trận MxN được biểu diễn với cấu trúc CNN 1-1 (one-to-one) tương ứng

(1.7)

Định nghĩa 6: Các cell ảo (virtual cells)

Bất kỳ cell C(k,l) với điều kiện k− ≤i r l, − ≤j r, và k∉{1, 2, ,M} và/hoặc

{1, 2, , }

l∉ N được gọi là cell ảo, x y uij, kl, kl và zij tương ứng là trạng thái ảo, đầu vào

ảo, đầu ra ảo, mức ngưỡng ảo

Điều kiện biên

Bất kỳ biến ảo xijở phương trình (1.6) xác định qua điều kiện biên thường sử dụng lân cận 3x3

1 Điều kiện biên cố định (Dirichlet)

Các cell ảo bên trái: y i,0=α1, u i,0= , β1 i= 1, 2, M

Các cell ảo bên phải: y i N, +1=α2, u i N, +1=β2, i= 1, 2, M

Các cell ảo ở đỉnh: y0,j =α3, u0,j=β3, j 1, 2, = N

Các cell ảo ở đáy: y M+1,j =α4, u M+1,j=β4, j 1, 2, = N

Khi đó α i và β ilà các hằng số (thường bằng 0)

Thực hiện mạch: Thêm một cột hoặc hang dọc theo đường biên và mỗi cell

có một đầu vào và đầu ra cố định bằng nguồn (Hình 1.4)

Hình 1.4: Mạch CNN với điều kiện biên cố định

2 Điều kiện biên Zero-flux (Neumann)

Các cell ảo bên trái: y i,0= y i,1, u i,0=u i,1, i= 1, 2, M

Các cell ảo bên phải: y i N, +1=y i N, , u i N, +1=u i N, , i= 1, 2, M

Các cell ảo ở đỉnh: y0,j = y1,j, u0,j=u1,j, j 1, 2, = N

Các cell ảo ở đáy: y M+1,j = y M j, , u M+1,j=u M j, , j 1, 2, = N

Điều kiện biên này thường áp dụng trong các trường hợp không có đầu vào

ví dụ uij=0 với mọi (i,j)

Bởi vì bất kỳ đầu vào nào đều có thể tạo ra năng lượng từ bên ngoài làm cho

hệ thông trở thành một “hệ thống mở”, CNN với đầu vào bằng 0 được gọi là

autonomous CNN, là loại CNN quan trọng với nhiều ứng dụng rộng rãi

3 Điều kiện biên tuần hoàn (Toidal)

Các cell ảo bên trái: y i,0= y i N, , u i,0=u i N, , i= 1, 2, M

Các cell ảo bên phải: y i N, +1=y i,1, u i N, +1=u i,1, i= 1, 2, M

Hình 1.5: Mạch CNN với điều kiện biên Neumann

Các cell ảo ở đỉnh: y0,j = y M j, , u0,j=u M j, , j 1, 2, = N

Các cell ảo ở đáy: y M+1,j = y1,j, u M+1,j=u1,j, j 1, 2, = N

Hình 1.6: Mạch CNN theo điều kiện biên tuần hoàn (Toroidal)

Nhận dạng mỗi cell từ hàng trên đỉnh tương ứng với cell ở hàng đáy, nhận dạng cell từ cột bên trái tương ứng với cell ở cột bên phải

Phương trình vi phân vector

Hầu hết các định lý, các phép toán hệ thống của phương trình Vi phân thường đều đưa về công thức dạng vector, chúng ta viết lại phương trình vi phân thường dạng ma trận MxN thành dạng vector MNx1 Có nhiều cách để thực hiện yêu cầu biến đổi trên, 3 cách thường dùng đó là

1 Sơ đồ đóng gói duyện theo hàng (Row-wise)

2 Sơ đồ đóng gói theo đường chéo (Diagonal)

3 Sơ đồ đóng gói duyệt theo cột (Column-wise)

Khi đó

[ˆ ˆ 1 2 ˆ n]

Hình 1.7: 3 sơ đồ đóng gói thường dùng

Sau khi bao gói lại thu được hệ thống phương trình dạng vector n=MN

(1.8) Hai ma trận A và Bˆ ˆlà ma trận n n× gồm các phần tử khác không lần lượt với trọng số tiếp hợp A(i,j;k,l) và B(i,j;k,l) tương đương với 3 sơ đồ đóng gói ở trên

q= N+1 cho sơ đồ đóng gói duyệt theo hàng

q= 2N-2 cho sơ đồ đóng gói theo đường chéo

q= 2N-1 cho sơ đồ đóng gói duyệt theo cột

Dải tương ứng với 3 lược đồ đóng gói ở trên co thể phân chia thành 2 hoặc nhiều băng nhỏ mỗi băng nhỏ là một ma trận thưa A và Bˆ ˆ là các ma trận lớn, ví dụ M=N=1000 (ứng dụng cho HDTV), n=1,000,000, q=1001,w=2003 cho sơ đồ đóng gói duyệt theo hàng, chỉ có 0.2% L= 6

10 (L là băng thông của ma trận đầy Điều này chỉ ra rằng A và Bˆ ˆ là các ma trận rất thưa

1.2.3 Sự tồn tại và đơn trị của các nghiệm

Một câu hỏi quan trọng về “sự tồn tại và đơn trị của các nhiệm” cho một CNN, câu hỏi này không phải là một vấn đề trong lý thuyết hệ thống và trong mạch tuyến tính, xem xét 3 mạch phi tuyến đơn giản sau đây

Mạch như hình 1.9a phương trình trạng thái của nó được đưa ra như sau

Đặc tính phía bên tay phải trong hình 1.9(b), nghiệm của phương trình (1.9)

với giá trị ban đầu x(0) =x0> 0được đưa ra như sau : 2

(1.11) 2

Đặc tính phía bên tay phải hình 1.10b, nghiệm của phương trình (1.11) với

điều kiện đầu x(0)=0 được đưa ra như sau:

0, 0 ( )

x t = − ≤ ≤≥ (1.12)

Với mọi T ∈ R Nghiệm này được thể hiện trên hình 1.10c với nhiều lựa

chọn khác nhau của T =T T1, 2, ,T N, với T nhận giá trị bất kỳ mạch có vô số nghiệm riêng

Hình 1.10: Mạch có vô số nghiệm riêng, với cùng trạng thái ban đầu x(0)=0 Xem xét mạch như hình 1.11a, phương trình trạng thái như sau

2

(1.13)

x=x

Đặc tính phía bên tay phải hình 1.11b nghiệm của phương trình (1.13) với

điều kiện đầu x(0)=1 được đưa ra như sau

1

(1.14) 1

Hình 1.11: Mạch có finite escape time

Ví dụ trong hình 1.11 chỉ ra rằng một mạch đơn giản gồm 2 phần tử phi

tuyến có thể không có nghiệm, hoặc có nghiệm tồn tại nhưng không phải là duy nhất hoặc nghiệm không liên tục khi t≥0 bằng cách nào chúng ta xác định được hay không mạch phi tuyến có giá trị nghiệm đơn trị với mọi t≥0 Đây là cơ sở quan trọng để xác định tiệm cận khi t→∞

Định lý 1: Sự tồn tại toàn cục và định lý đơn trị

CNN tiêu chuẩn mô tả bởi phương trình (1.2) thỏa mãn 3 giả thuyết sau đây H1: toán tử dẫn nạp là tuyến tính và không nhớ ví dụ

( , ; , ) kl và ( , ; , ) kl

A i j k l y B i j k l u là phép nhân vô hướng, khi đó A i j k l( , ; , ) và ( , ; , )B i j k l

là các số thực

H2: Đầu ra u tij( )và mức ngưỡngz tij( ) là hàm liên tục theo thời gian

H3: Hàm phi tuyến f(x) là Lipschitz liên tục trong trường hợp L là hằng số

với mọi x′ và x′′∈R

(1.15) Với bất kỳ trạng thái ban đầu xij(0) ∈R , CNN có nghiệm đơn trị t≥0 (hình 1.12)

[ ( ), , ( 1 n)]T

y= f x f x do đó y′ = f x( ) và ′ y′′ = f x( ′′ )

(1.17) Thu được

(1.18) Kết hợp phương trình (1.18) và (1.17) ta có

(1.19)

là hằng số Lipschitz toàn cục, độc lập với x và t

Do đó h(x,t) Lipschitz liên tục đồng dạng với mọi t, hơn thế nữa khi

đó Lˆđộc lập với x t a0, , và 0 b Chúng ta có thể sử dụng thủ tục tương tự để chỉ ra nghiệm đơn trị tồn tại sau 1/L(s) hoặc tại bất kỳ thời điểm nào

1.2.4 Giới hạn của các nghiệm

Định lý 2: Giới hạn của các nghiệm tường minh

Cho mọi trạng thái khởi tạo, đầu ra, và giá trị ngưỡng thỏa mãn

Trong trường hợp đặc biệt khi f( )τ = f0 là một hằng số, ta có

Mạch điện tương đương được thể hiện trên hình 1.13

Hình 1.13: Mạch điện tương đương

Chứng minh định lý 2:

(1.21) Khi đó αij( ) và t βij( )t được định nghĩa t≥0 trong định lý 1, áp dụng bổ đề 1, ta

có

(1.22)

Ta có bất đẳng thức sau

(1.23) Khi đó

Phần lớn các ứng dụng của CNN chỉ sử dụng CNN tiêu chuẩn bất biến không gian với lân cận 3x3 (r=1) Các cell C(i,j) ∈ S i j r( , ) với các mẫu như sau

Vai trò của 2 toán tử dẫn nạp và ngưỡng trong (1.21), ta có các nhận xét:

1 Toán tử dẫn nạp hồi tiếp A(i,j;k,l), trong không gian bất biến ta có thể viết

(1.30) Khi đó a mn =A m n( , )

(1.31)

Ma trận A kích thước 3x3 được gọi là mẫu vô hướng hồi tiếp và ký tự bao hàm tổng của các tích điểm, nên được gọi là tích điểm mẫu Trong toán rời rạc, toán tử này được gọi là toán tử “xoắn không gian” (hay còn gọi là “tích chập” trong xử lý số tín hiệu)

Ma trận 3x3 Y ij trong (1.31) thu được bởi việc di chuyển một mặt nạ mờ với kích thước cửa sổ 3x3 đến vị trí (i,j) của ma trận MxN đầu ra ảnh Y do vậy được gọi là ảnh đầu ra tại C(i,j) Một phần tử a kl là phần tử trung tâm, trọng số hoặc hệ

số, của mẫu hồi tiếp A, nếu và chỉ nếu (k,l)=(0,0)

Để thuận tiện phân tích mẫu A như sau, khi đó Aº và A lần lượt được gọi là các thành phần mẫu trung tâm và đường biên

Bº và Bgọi là mẫu dẫn nhập trung tâm và đường biên

3 Vai trò tham số ngưỡng z ij =z

Tính chất bất biến không gian của CNN được mô tả hoàn chỉnh như sau

(1.36) Phân tích (1.36) ta được

(1.37)

Đặt

(1.38)

hij: gọi là rate funtion (hàm tỷ lệ), gij: gọi là điểm điều khiển (driving DP), wij: hàm bù (offset level)

point-1.2.6 Ba phân lớp mạng nơ ron tế bào đơn giản

Mỗi CNN được xác định bởi 3 giá trị của các mẫu vô hướng ζ{A,B,z} gồm

19 số thực cho lân cận 3x3 (r=1) Vì các số thực là các số không đếm được, nên có

vô số mẫu CNN riêng rẽ, sau đây là 3 phân lớp con đơn giản nhất và dễ tính toán

Định nghĩa 7: Trọng số dẫn nạp kích thích (Excitatory) và trọng số dẫn nạp trễ (Inhibitory)

Trọng số dẫn nạp hồi tiếp a kl là hệ số kích thích nếu và chỉ nếu nó có giá trị dương Trọng số dẫn nạp là “kích thích” làm cho hàm tỷ lệ h x w ij( ij, ij)luôn dương với đầu vào dương và do đó tăng giá trị x ijtăng hàm tỷ lệ x t ij( )

Hình 1.14: Cấu trúc phân lớp của CNN

(a) Cấu trúc luồng tín hiệu của CNN với lân cận: 2 bóng hình nón tượng trưng cho trọng số tập trung của điện thế đầu vào (input voltage) và điện thế đầu ra (output voltage) của cell C(k, l) Є N1(i, j ) đến điện thế trạng thái của cell C(i, j)

(b) Cấu trúc của cell C(i, j ): Mũi tên được in đậm đánh dấu đường dữ liệu song song từ đầu vào tới đầu ra của các cell đường biên tương ứng u kl và y Mũi kl

tên nhạt hơn biểu diễn mức ngưỡng, đầu vào, trạng thái, và đầu ra tương ứng là , , và ij ij

Định nghĩa 8: Phân lớp Zero-feedback (feedforward) ζ(0,B,z) Hình (1.15)

Một CNN thuộc lớp Zero-feedback ζ(0,B,z) nếu và chỉ nếu tất cả các thành phần mẫu hồi tiếp bằng 0, A ≡ 0 Mỗi cell trong Zero-feedback CNN được mô tả như sau:

(1.39)

Hình 1.15: Phân lớp Zero-feedback (feedforward) ζ(0,B,z)

Hình nón tượng trưng trọng số tập trung điện thế đầu vào và đầu ra của cells C(k, l) Є N1(i, j ) đến cell C(i, j ) Mũi tên in dậm thể hiện tín hiệu đầu vào từ các cell đường biên Trong trường hợp này, không có tín hiệu tự hồi tiếp về cell C(i,j)

và không kết hợp với đầu ra của các cell đường biên

Định nghĩa 9: Phân lớp Zero-input (Autonomous) ζ(A, 0, z) (Hình 1.16)

CNN thuộc về lớp zero-input class ζ(A, 0, z) nếu và chỉ nếu tất cả các thành phần mẫu feed forward bằng 0, B ≡ 0 Mỗi cell của lớp zero-input CNN được mô tả bằng phương trình như sau

(1.40)

Hình nón tượng trưng cho trọng số tập trung điện thế đầu ra cells C(k, l) Є N1(i, j ) đến cell C(i, j )

Mũi tên in đậm chỉ tín hiệu hồi tiếp từ đầu ra của các cell đường biên Trong trườn hợp này không có tín hiệu đầu vào

Hình 1.16: Phân lớp Zero-input (Autonomous) ζ(A, 0, z) Định nghĩa 10: Phân lớp Uncoupled (scalar) ζ (Aº,B, z), hình 1.17

CNN thuộc lớp không liên kết ζ (Aº, B, z) nếu và chỉ nếu aij = 0 tại i = j, A

≡ 0 Mỗi cell của CNN (không liên kết) uncoupled được mô tả bằng phương trình vi phân gốc phi tuyến vô hướng, không cặp đôi với các cell lân cận của nó

(1.41)

Hình 1.17: Phân lớp Uncoupled (scalar) ζ (Aº,B, z)

Hình nón tượng trưng cho trọng số tập trung của điện áp đầu ra của các cell C(k, l) Є S1(i, j ) đến cell C(i, j ) Mũi tên đậm chỉ tín hiệu đầu vào từ các cell đường biên trong trường này, các dòng dữ liệu được đơn giản hóa nằm trong các

dòng được đánh đấu bởi các mũi tên mờ chỉ tồn tại sự tự phản hồi vô hướng, và không kết hợp với đầu ra của các cell đường biên

Chúng ta không đề cập chi tiết ý nghĩa vật lý và sinh học của các tham số khác nhau trong phương trình CNN, nhưng điểm nổi bật của vấn đề này là đưa ra

được một mạch điện thực tế của các cell Trong hình 1.18 nguồn dòng điều khiển áp

được sử dụng để thực thi các cặp tham số khác nhau Từ đó có thể dễ dàng thiết kế các mạch tích hợp CMOS

Hình 1.18: Cấu trúc Cell của một CNN tiêu chuẩn C(i,j)

Biểu tượng hình thoi là nguồn dòng điều khiển áp, giá trị dòng được đưa ra tương ứng để điều khiển u kl và y kl, a kl or b kl, loại trừ hình thoi phía ngoài cùng bên phải f x( ij) của lõi bên trong là nguồn dòng điều khiển áp phi tuyến, kết quả cho điện thế đầu ra y ij = f x( ij)

Hình 1.19: Hình ảnh minh họa tế bào C(i,j) điển hình nhận đầu vào từ một nơ ron cảm biến phía bên trái và nơ ron lân cận phía dưới qua tế bào tiếp theo tương ứng

1.2.7 Lược đồ lưu lượng mô tả luồng tín hiệu dẫn nạp

Để thuận tiện hơn trong việc sử dụng một lược đồ mô tả dòng tín hiệu dẫn

nạp cho các mẫu A và B hình 1.20 và 1.21, có 2 lược đồ biểu diễn chính xác

phương hướng của luồng tín hiệu từ các cell lân cận và tổ hợp các trọng số dẫn nạp

và

kl kl

a b tương ứng Loại trừ các ký tự {a00,a kl}đối với lược đồ luồng tín hiệu A, và

{b00,b kl}đối với lược đồ luồng tín hiệu B, 2 lược đồ luồng tín hiệu này là như nhau

và do đó dễ dàng để ghi nhớ Quan sát đường biên được tô đậm chỉ thị luồng tín hiệu đi vào cell C(i,j), ngược lại đường biên mờ chỉ thị luồng tín hiệu đi ra khỏi cell C(i,j) Mỗi trọng số dẫn nạp xuất hiện 2 lần trong mỗi lược đồ, do vậy chúng luôn kết hợp với một cặp đường biên, một đường tô đậm và một đường mờ với mũi tên chỉ cùng một hướng

Ví dụ, hệ số a−10kết hợp với 2 đường biên bắt đầu từ Cell phía bắc (N) và kết thúc ở cell phía nam (S) Bởi vì cell C(i-1,j) trên đỉnh là cell phía Bắc so với cell

trung tâm C(i,j) , và cell ở đáy là C(i+1.j) Cùng quan sát các ứng dụng đến các cặp theo chiều ngang và và tất cả các cặp theo đường chéo trên cùng một hướng của dường biên mờ-đậm, mỗi hệ số bằng 0, a kl =0 hoặc b kl =0 tương ứng với 2 đường biên sẽ không xuất hiện trên lược đồ luồng tín hiệu, do đó đối với các mẫu này chỉ

có một vài thực thể khác không, được kết hợp với lược đồ dòng tín hiệu dẫn nhập rất đơn giản

Hình 1.20: Lược đồ luồng tín hiệu hồi tiếp A kết hợp với mẫu A

a) Mẫu A với trọng số dẫn nạp tự hồi tiếp a (phụ lục 3) 00

b) Lược đồ luồng tín hiệu A

Hình 1.21: Lược đồ dòng tín hiệu dẫn nạp đầu ra B kết hợp với mẫu B

a) Mẫu B với trọng số tự dẫn nạp đầu vào b00

b) Lược đồ luồng tín hiệu B

1.3 Kết luận

Trong chương này trình bày về cơ sở toán học xây dựng hệ động lực CNN, giới thiệu kiến trúc tiêu chuẩn của CNN Các kiến trúc liên kết các tế bào, các lớp kết nối nội bộ, các hàm toán học tương ứng và những chú thích thường dùng, dạng động học sinh vật được mô tả Tầm quan trọng của liên kết nội bộ kiểu “trọng số dẫn nạp”, các mẫu vô hướng hoặc các gen được nhấn mạnh

Chương 2: Phân tích các đặc tính của

mạng CNN

Về lý thuyết có thể định nghĩa một mạng CNN có nhiều chiều, nhưng ở đây chúng ta tập trung trong trường hợp mạng CNN hai chiều cho bài toán xử lý ảnh nhanh Từ kết quả này có thể mở rộng ra các ứng dụng của CNN nhiều chiều

Một số tính chất liên quan đến dải đặc tính động và trạng thái ổn định của mạng nơ ron tế bào được đề cập Tính chất tương tác giữa tế bào với các tế bào lân cận gần nhất của mạng nơ ron tế bào có khả năng dễ dàng thực hiện bằng công nghệ VLSI hơn những mạng nơ ron khác Mặc dù mạng CNN chỉ có những tương tác cục

bộ với các tế bào lân cận gần nhất, nhưng mạng CNN cũng có nhiều đặc điểm toàn cục bởi tính lan truyền của mạng

2.1 Các đặc tính của mạng CNN 2 chiều

2.1.1 Cấu trúc mạng CNN hai chiều

Mạng CNN hai chiều ở hình 2.1

Hình 2.1: Lân cận của cell C(i,j) lần lượt với r=1, r=2, r=3

Cấu trúc của CNN cũng giống như Ôtômat tế bào, bất kỳ cell nào trong CNN chỉ kết nối tới cell lân cận, các tế bào liền kề lại có những ảnh hưởng tương tác lẫn nhau Các cell không kết nối trực tiếp với nhau có thể ảnh hưởng gián tiếp đến các cell khác bởi ảnh hưởng lan truyền động lực học liên tục theo thời gian của mạng CNN Xem xét một CNN kích thước M × N gồm M hàng và N cột

Cell ở hàng thứ j và cột thứ i gọi là cell(i,j, ký hiệu C(i,j)

Định nghĩa 1: Lân cận r-của cell C(i,j) được định nghĩa như sau

r- là số nguyên dương Hình 2.1 chỉ ra 3 lân cận của cùng một cell

Thông thường khi r=1 được gọi là lân cận 3×3, r=2 là lân cận 5×5 và r=3 là lân cận 7×7 Dễ dàng biểu diễn các cấu trúc đối xứng trong trường hợp nếu C(i,j)∈

( , )

r

N k l khi C(k,l) ∈ N k l r( , )cho toàn bộ C(i,j) và C(k,l) trong CNN Hình 2.2 là một

ví dụ về cấu trúc cell C(i,j) với các ký hiệu đầu vào, trạng thái và đầu ra lần lượt là u,

x và y các nút điện thế v xij của C(i,j) được gọi là trạng thái của cell và điều kiện ban

đầu của v xij được giả thiết có cường độ nhỏ hơn hoặc bằng 1 Các nút điện thế v xij

được gọi là đầu vào của C(i,j) Các nút điện thế vyij được gọi là đầu ra

Trong hình 2.2 trong mỗi C(i,j) chứa một nguồn áp độc lập Eij, một nguồn dòng độc lập I, một điện trở tuyến tính C, hai điện trở tuyến tính R x và R y và tối đa 2m nguồn áp điều khiển dòng tuyến tính ghép thành một cặp tới các cell lân cận qua điều khiển điện thế đầu vào vuij, và phản hồi từ điện thế đầu ra vyij của mỗi cell lân cận C(k,l), khi đó m là số lượng các cell lân cận I x y, ( , , , )i j k l và I x u, ( , , , )i j k l là hai nguồn dòng điều khiển áp tuyến tính, thỏa mãn I x y, ( , , , )i j k l = A i j k l v( , , , ) ykl và

Chỉ có các phần tử phi tuyến trong mỗi cell là nguồn dòng điều khiển áp tuyến tính phân đoạn Iyx = (1/R y) (f v xij) với đặc tính f(.) như hình 2.3 Trong đó hàm f(.) là hàm bão hòa có đặc tính được mô tả trong hình 2.3

Hình 2.3: Đường đặc tính của nguồn điều khiển phi tuyến

Động lực học của một tế bào CNN được mô tả bằng một hệ phương trình đồng nhất, bao gồm phương trình trạng thái, phương trình đầu vào, một số điều kiện ràng buộc, và một số thông số giả định

Phương trình trạng thái

(2.2a)

Phương trình đầu ra

(2.2b) Phương trình đầu vào

(2.2c) Điều kiện giàn buộc

(2.2d) và (2.2e) Các thông số giả định

(2.2f)

Động lực học của các tế bào CNN có cả cơ chế liên hệ ngược (feedback) từ đầu ra và liên hệ thuận (feedforward) qua đầu vào điều khiển Ảnh hưởng của đầu ra liên hệ ngược hồi tiếp phụ thuộc vào trọng số tương tác A(i,j;k,l) và được coi là toán

tử liên hệ ngược Tác động của đầu vào phụ thuộc vào trọng số B(i,j;k,l) được gọi là toán tử dẫn nạp đầu vào Một số nhận xét chung:

a) Tất cả các tế bào(cell) bên trong của mạng nơ ron tế bào có cùng cấu trúc mạch và giá trị các phần tử trong mạch Những tế bào bên trong này có (2r+1)2 tế bào lân cận, trong đó r là vùng lân cận, đã định nghĩa ở trên Các tế bào khác được gọi là tế bào bao quanh Mạng nơ ron tế bào là tập hợp của các phương trình vi phân phi tuyến của các tế bào trong mạng

b) Đặc tính động của mạng nơ ron tế bào bao gồm cả hai phần điều khiển đầu vào và phản hồi đầu ra Kết quả phản hồi đầu ra phụ thuộc vào trọng số liên kết A(i, j, k, l), kết quả của điều khiển đầu vào phụ thuộc vào trọng số B(i, j, k, l) Do

đó A(i, j, k, l) được coi như toán tử phản hồi, B(i, j, k, l) là toán tử điều khiển Ta còn gọi A và B là các mẫu (template) của mạng Ngoài ra ngưỡng Ibias còn được ký hiệu là hiệu dịch z cũng đóng vai trò quan trọng trong đặc tính động của mạng i

Trước khi thiết kế mạng neural tế bào vật lý cần thiết phải biết tới dải động

để đảm bảo đáp ứng giả thuyết về điều kiện về phương trình động lực tế bào được

đề cập trong phần trước

Định lý 1:

Tất cả các trạng thái v x i j trong mạng CNN có giới hạn tại mọi thời điểm t>0 được xác định như sau

(2.3) Chứng minh:

Ta có phương trình cell động

(2.4a) Khi đó

(2.6)

Khi đó

(2.7a)

Và

(2.7b) Khi v xij(0) và vuij thỏa mãn điều kiện (2d) và (2e) khi đó vyij( )t ≤ 1(2.8) với mọi t Từ phương trình (2.2b) cùng với (2.6) và (2.7) ta có