Tài liệu Công nghệ mạng noron tế bào CNN pdf

Công nghệ mạng noron tế bào CNN và khả nang ứng dụng trong các hệ co diện tử Tóm tắt: Thời gian qua mạng noron tế bào CNN Cellular Neural Network dã duợc nhiều nuớc trên thế giới dầu t

Công nghệ mạng noron tế bào CNN và khả nang ứng dụng trong

các hệ co diện tử

Tóm tắt: Thời gian qua mạng noron tế bào CNN (Cellular Neural

Network) dã duợc nhiều nuớc trên thế giới dầu tu nghiên cứu nhu một

công nghệ xử lý song song cực mạnh da nang có khả nang ứng dụng trong nhiều linh vực mà các chip vi xử lý, máy PC hiện hành không thực hiện

duợc Báo cáo này giới thiệu sự phát triển của mạng noron tế bào trong

thời gian qua và khả nang ứng dụng trong các hệ co diện tử trong tuong

lai Phần 1 báo cáo giới thiệu về co sở toán học của mạng no ron tế bào và nguyên lý họat dộng của máy tính vạn nang tế bào CNN Tiếp dến báo

cáo trình bày các huớng nghiên cứu về CNN dang duợc chú trọng trên thế giới nói chung và trong các phần tử và hệ thống co diện tử nói riêng Phần

3 giới thiệu khả nang ứng dụng của công nghệ CNN Phần 4 của báo cáo

dề cập dến các kết quả buớc dầu nghiên cứu về công nghệ CNN trong xử

lý ảnh tốc dộ cao tại Viện công nghệ thông tin, Viện Khoa học và công

nghệ Việt nam Cuối cùng là phần kết luận và tài liệu tham khảo

1 Công nghệ mạng noron tế bào CNN: Máy tính diện tử ra dời dã hon 60 nam và

dang dến gần giới hạn vật lý về kích thuớc và tốc dộ xử

lý Sự ra dời của mạng noron tế bào CNN dã mở ra một thời dại mới cho sự phát triển của khoa học tính toán tiếp cận dến các phuong thức xử lý cung nhu phuong thức cảm nhận và hành dộng của các tổ chức trong co thể sinh vật sống Ta biết rằng các máy tính số hiện nay về co bản là loại máy logic với các dữ liệu rời rạc duợc mã hóa theo hệ nhị phân Tính chất co bản của nó là khả nang thực hiện thuật toán theo chuong trình duợc luu trong bộ nhớ Ðây là loại máy tính vạn nang xử lý trên các số nguyên (Universal Machine on Integers) hay còn gọi là máy Turing (Turing Machine) Các phép tính co bản của nó là các phép số học và logic Thuật toán là các chuỗi logic của các phép tính co bản này Sự ra dời của bóng bán dẫn nam 1948 và của các vi mạch tích hợp IC (Integrated Circuit) nam 1960 dã tạo ra các máy tính số có tính thực tiễn cao với giá thành rẻ và hiện nay dã trở thành một loại hàng hóa thông dụng Truớc kia nhiều nguời tuởng rằng hoạt dộng của máy tính diện tử phản ánh co chế hoạt dộng của bộ não con nguời Tuy nhiên hiện nay vấn dề dã trở nên rõ ràng là noron và các tế bào thần kinh có co chế hoạt dộng hòan toàn khác Hệ noron tính tóan thuờng xử lý mảng tín hiệu tuong tự (analog) có tính liên tục về thời gian và biên dộ Cấu trúc gồm nhiều lớp mảng 2D noron có các kết nối mạng cục bộ (local) là chủ yếu, và kết nối toàn cục (global) là không nhiều Có

no ron duợc tích hợp với các tế bào cảm biến (sensing) và tế bào tác dộng

(actuating) Các noron hoạt dộng với dộ trễ thay dổi và có co chế hoạt dộng dạng sóng kích hoạt Các dữ liệu và sự kiện (event) là các mảng tín hiệu phụ thuộc không gian và/hoặc thời gian Rõ ràng với các tính chất co bản nêu trên máy tính số hiện

tạo duợc hệ thống diện tử có khả nang tính toán tuong tự nhu hệ thần kinh này, dòi hỏi ta phải thay dổi về kiến trúc, về thuật toán về công nghệ và khả nang xử lý song song của hàng vạn hoặc hàng triệu bộ xử lý trên một chip Mạng noron tế bào CNN (Cellular Neural Network) là một giải pháp mở dầu cho loại máy tính vạn nang xử

lý dòng mảng dữ liệu dầy tiềm nang này

Co sở toán học của mạng CNN CNN (Cellular Nonlinear/Neural Network) duợc Leon

O Chua và L.Yang giới thiệu nam 1988 [1],

[2], [3] Tu tuởng chung là sử dụng một mảng don giản các tế bào kết nối cục bộ dể xây

dựng một hệ thống xử lý tín hiệu analog dồ sộ Ðặc diểm mấu chốt của mạng noron là xử

lý song song không dồng bộ, liên tục và ảnh huởng toàn cục của các phần tử mạng Khối mạch co bản của mạng CNN duợc gọi là tế bào (cell) Nó chứa các phần tử mạch tuyến tính và phi tuyến Tiêu biểu là các tụ tuyến tính, các diện trở tuyến tính, các nguồn diều khiển tuyến tính, phi tuyến và các nguồn dộc lập Mỗi một tế bào trong CNN chỉ kết nối tới các tế bào láng giềng Các tế bào liền kề có thể ảnh huởng trực tiếp tới nhau Các tế bào không có liên kết trực tiếp có thể tác dộng dến các tế bào khác gián tiếp bởi sự tác dộng lan truyền của mạng CNN Mạng CNN có thể là mạng lớp don hoặc da lớp Một lớp don chứa các tế bào C trong dó i, j là hàng và cột nhu mô tả trong hình 1 Um

x n X(t= 0)Mẫu Ar x rm x n , Br x r ijb) Hình 1 a) So dồ của một cấu trúc CNN b) Liên kết cục bộ giữa các tế bào Mỗi một tế bào Cija) có các tế bào láng giềng CYklm x n duợc dịnh vị trong phạm vi hình cầu S(r) có bán kính r, tâm ở tế bào Cijij , mà r là một số nguyên duong Mỗi một tế bào là một bộ xử lý với các giá trị tín hiệu thực dầu vào u(t), trạng thái xij(t), và dầu ra yijij(t) Hệ dộng lực tế bào don giản nhất gọi là phuong trình CNN tiêu chuẩn duợc mô tả nhu sau: trong dó

zij

uklijByklijAzxx & (1) ).;().;(rSC klijijij

rSC kl)()(ijklijkl duợc gọi là nguỡng của tế bào C , A(ij,kl) và B(ij,kl) duợc gọi là các toán tử hồi tiếp và dẫn nhập Trong truờng hợp r=1 chúng là các ma trận 3 x 3 Tín hiệu trạng thái và tín hiệu dầu ra của mỗi

tế bào có quan hệ phi tuyến duợc mô tả trong phu ong trình (2): ij1 )( ijijijij)11(

2xxxfy (2) So dồ khối của tế bào CNN tiêu chuẩn duợc mô tả trong hình 2

Khi dua một mảng tín hiệu dầu vào u với 1 i  M và 1 j  N duợc dịnh nghia nhu một ảnh với giá trị pixel uijij , thì tập hợp giá trị (A,B,z) quyết dịnh lời giải của hệ dộng lực

CNN Tập hợp này chính là các ma trận trọng số của mạng noron CNN duợc gọi là các mẫu vô tính hoặc còn gọi là gen Trong không gian bất biến, các mẫu là các ma trận 3x3,

5x5, hoặc 7x7 tùy theo giá trị r của mạng là 1, 2 hay 3 Có nghia là mảng CNN có thể duợc dịnh nghia bởi 19 (hoặc 51 hoặc 99) tham số của A, B và z và không phụ thuộc vào kích cỡ M x N của mạng Khi dầu vào uij là ảnh tinh hoặc ảnh dộng, thì mạng CNN dóng vai trò nhu mạng xử lý ảnh

Máy tính vạn nang CNN (CNN Universal Machine on Flow) Ta hãy khảo sát kỹ hon về

mặt toán học dịnh nghia thế nào là máy tính vạn nang CNN Máy tính

CNN thực chất là máy tính xử lý dòng dữ liệu mảng nhu chuỗi ảnh video, mảng vecto

áp lực ở các tế bào xúc giác v.v… Chuỗi dữ liệu 2D (ảnh video) (t) duợc dịnh nghia nhu sau

  ( t ) :

{ 

(t) , t
T = [0, tijd

d

(t)
Cij1 ij

ij

1

inpu

t

 = Pijmax

+ t,

t0

input

j

Ở dây m và n là các số

nguyên, t

> 0 là khoảng thời gian khảo sát, 

R P: {p

ij

 output

},  p

0, t0

R

< 8;

p

(là hàm liên tục, khả vi và bị chặn)  có thể là biến vào, biến trạng thái hay bidầutế

bào (1 pixel) trong mảng m x n tế bào Ở thời diểm t = t’ ta có (t’) là một ảnh (n x m)

pixel

là cuờng dộ pixel (4) Mức xám của ảnh duợc mô tả trong vùng +1 và -1 (+1 là trắng và -1 là den) Ảnh màu duợc mô tả bằng tổ

hợp của nhiều lớp ảnh mxn pixel, mỗi lớp mô tả cuờng dộ của một màu (ví dụ hệ màu

R.G.B) Ảnh nhị phân duợc gọi là mặt nạ M

t + 2t… duợc gọi là dòng ảnh hay dòng video Lệnh co bản của máy tính CNN

duợc dịnh nghia là:

(t): = {

 (t)}, t
T = [0, td

] (6) Ở dây  là hàm của dòng ảnh Ví dụ

ta có thể chuyển dổi một video clip sang một video clip khác Ta dịnh nghia một phiến

hàm F biến dổi một dòng ảnh sang một ảnh nhu sau: P : = F (  ( t ) ) ( 7 ) N h u v ậ y m á y t í n h C N N c ó

c á c d ữ l i ệ u b a n d ầ u l à d ò n g

v i d e o , ả n h v à m ặ t n ạ :   ( 0 ) ,

P , M T o á n t ử

co bản của máy CNN là phép giải phuong trình vi phân dạo hàm riêng  trên dòng mảng

dữ liệu

(t) Thuật tóan (algorithm) của máy CNN chính là tổ hợp số học và logic của các dữ

liệu và tóan

3

tử trên dòng mảng dữ liệu (ảnh) này Ta gọi các thuật tóan chạy trên các dòng mảng dữ liệu ở máy CNN là hàm dệ quy lọai  (-recursive function), trong khi ở máy tính số Von Neumann

các thuật tóan chạy trên các số nguyên là các hàm dệ quy loại µ (µ-recursive function) Khả nang và dộ phức tạp tính tóan của máy tính CNN Ở trên ta dã dề cập dến lệnh co bản của máy

tính CNN là lời giải của các phuong trình vi phân dạo

hàm riêng PDE (Partial Differential Equation) phi tuyến loại phản ứng–khuyếch tán (nonlinear reaction–diffusion equation) Ta hãy di sâu hon dể hiểu rõ nguyên lý này Phuong trình dạo hàm

riêng loại phản ứng – khuyếch tán duợc mô tả về mặt toán học duới dạng: tyx

)),,((),,())),,(()),,((( ),,(

00tyxtyxtyxgradtyxcdiv t (8) Phuong trình trên mô tả một

loạt lớp phuong trình PDE bao gồm

- Phuong trình khuyếch tán tuyến tính khi 0 = 0 và  = 0 - Phuong trình khuyếch tán tuyến tính bị chặn khi 0(.)  0 và  = 0 và  = 0 Phuong trình sóng trigo phi tuyến khi 0(.)  0 -Phuong trình sóng trigo phi tuyến có giới hạn khi 0(.)  0 và (.)  0 Khi rời rạc hóa theo không gian phuong trình dạo hàm riêng trên trở thành một hệ phuong trình vi phân thuờng liên kết có dạng

td )())(( )(ztttt cj ijijijijiijij ijttg dt)(()(

txft) ijij1,1,,1,1 1))()()()(( 4

(.)(.)fCg  0

(9)

kết sau:







Với c0 = 0 và

c1

1

1

ij ij

212bbb Bbbb

bbb101212

ij 0

1

t B

z

z





k

l

k

l i j



tính khi z = 0 và f( )

=  - Phuong trình

khuyếch tán tuyến

tính bị chặn khi z  0

và f ( ) = 

-Phuong trình sóng

trigo phi tuyến khi z

= 0 và f ( ) = sign (

) - Phuong trình

sóng trigo phi tuyến

bị chặn khi zij 0 và

f ( ) = sign ( ) Tất

cả các dạng phuong

trình PDE trên dều có

thể lập trình trên

mạng CNN sử dụng

các mẫu liên

c ccc c00 z

101A ;;

000

)( 1

> 0 ta có lời giải phuong trình vi phân dạo hàm riêng khuyếch

tán và với c

>

c

> 0 ta có lời giải của phuong trình sóng trigo Nhu vậy bằng một lệnh [A, B, z ] ta có thể có lời giải cho phuong trình vi phân dạo hàm riêng phi tuyến dạng phản ứng – khuyếch tán trong thời gian 5µs

là thời gian quá dộ của mạch diện tử của 1 tế bào trong mạng CNN Máy CNN cung có tính vạn nang nhu các máy Turing [13] Với tính chất giải các phuong trình sóng trong một lệnh, ta còn gọi các máy tính vạn nang CNN là các máy tính sóng (Wave Computer) Ðể xác dịnh khả nang tính toán của máy tính ta cần có các số do cụ thể nhu tốc dộ, công suất tiêu thụ và diện tích (hoặc thể tích) của máy Ðối với chip CNN ACE16K ta có tốc dộ tính toán lên tới 12 Tera OPS Tốc dộ tính toán của máy CNN phụ thuộc chủ yếu vào các tham số của bài toán Ðộ phức tạp của tính toán phụ thuộc chủ yếu vào các tham số của PDE (các template) và không phụ thuộc vào kích cỡ của mảng Ðiều này trái nguợc với các máy tính số hiện nay

4

Ðiểm dặc thù trong dộ phức tạp tính toán ở máy tính CNN là tính chất liên tục trong

thời gian và trong giá trị [5], [7] Với tính chất này chênh lệch về dộ phức tạp của tính

toán giữa máy Turing và máy CNN là rất lớn có thể lên dến 1: 8000 lần khi xác dịnh

biên của các ảnh diện tim có nhiễu Sự khác nhau giữa máy tính số Turing và máy tính

vạn nang CNN duợc tóm tắt trong bảng 1

Máy tính Turing UMZ (Universal Machine Over Z)

- Hàm dệ quy từng phần trên số nguyên

2 Những kết quả nghiên cứu phát triển về công nghệ CNN

mxn

- Phuong trình vi phân 2D, 3D

- Hàm dệ quy  trên dòng ảnh

Flow) Truờng I/O Số nguyên Z F (dòng ảnh R) Lệnh co bản Logic Vi phân dạo hàm riêng Phuong thức hoạt dộng

Lặp Bán lặp Vùng tác dộng của lệnh co bản Cục bộ Toàn cục

Kiến trúc Máy Turing CNN vạn nang Mô hình tính toán - Cú pháp

Bảng 1: So sánh nguyên lý hoạt dộng của máy tính số và máy tính vạn nang

CNN

Mạng CNN có thể duợc thực hiện trên các vi mạch VLSI Các trọng số A, B, z duợc thể

hiện bằng các thông số kết cấu của mạch Bộ mẫu (A,B,z) chính là chuong trình của

mạng Các mẫu có thể xác dịnh hoàn toàn phuong thức hoạt dộng của mạng CNN với

dầu vào, trạng thái ban dầu của mỗi tế bào cung nhu những diều kiện biên cho truớc

Nhờ tính uu việt của việc tính toán thời gian thực, quá trình xử lý dòng dữ liệu ma trận

rất ph thể du hiện trong m kho

rất nh trúc m

tế bào nêu trên ta

có m

xử lý song song

mà phép tính co bản c

giải c phuong trình vi phân d

riêng phi tuy (PDE) Phép tính này du

hiện b

lệnh trong thời gian vài µs và chính là thời gian hội tụ của quá trình quá dộ của phuong

trình dộng lực co bản của tế bào CNN Trong khi dó ta biết rằng việc giải phuong trình

vi phân dạo hàm riêng ở máy tính số hiện hành là một vấn dề phức tạp dòi hỏi rất nhiều

thời gian tính toán Trong bài toán xử lý ảnh, mạng CNN duợc tích hợp với cảm biến

ảnh tạo thành chip thị giác (Visual Microprocessor) có khả nang xử lý ảnh với tốc dộ

phi thuờng Trong những nam gần dây việc chế tạo các chip CNN-UM dã dạt duợc rất

nhiều thành tựu: Các chip thế hệ dầu là ACE440 có kích thuớc mảng 20x22 diểm pixel

chỉ có thể xử lý ảnh nhị phân, sau dó là ACE4K có kích thuớc mảng 64x64 xử lý cả ảnh

nhị phân và ảnh mức xám Khi xử lý ảnh mức xám tốc dộ dạt dến 1000 frame/giây

(fps), còn với ảnh nhị phân có thể dạt 8000 fps Tốc dộ tính toán của chip có thể lên dến

vài TeraOPS Thế hệ chip CNN tiên tiến nhất hiện nay duợc tạo bởi một ma trận bộ xử

lý tuong tự 128x128 có khả nang lập trình, duợc gọi là ACE16K Trong ACE16K các tế

bào CNN kết hợp với các sensor có kiến trúc tuong tự nhu cấu trúc sinh học của võng

mạc mắt nguời Chip gồm 16384 CPU tế bào làm việc song song Toàn bộ quá trình

hoạt dộng tính toán của chip cung cấp khả nang xử lý hình ảnh kích thuớc 128x128 lên

dến 50.000 fps Mỗi tế bào tuong ứng với một diểm ảnh trong một hình ảnh Nếu hình

ảnh rộng hon kích cỡ 128x128 thì nó duợc xử lý lần luợt kế tiếp nhau và sau dó hợp

nhất với nhau Chip ACE16K này duợc sử dụng trong hệ thống Bi-i V2 Ðây là một

thiết bị camera video thông minh duợc giải thuởng nam 2003 tại Sturgat- Cộng hoà liên

bang Ðức, xử lý ảnh dộc

5

Máy tính CNN UMZ (Universal Machine Over

lập, thời gian thực, chịu duợc lỗi (Fault-tolerant), tiêu thụ nang luợng thấp (5W-15W), có

thể tích và trọng luợng nhỏ (< 1kg) Trong thời gian tới nguời ta sẽ tạo ra tế bào CNN tích hợp cả DSP và các máy tính quang tử, cho phép các mẫu B thao tác ở tốc dộ ánh sáng Các sensor xúc giác, thính giác cung sẽ duợc tích hợp vào các chip CNN-UM tạo

nên các máy cảm nhận - tính toán - quyết dịnh (sensory-computingactuating) [4] Trong

linh vực thuật toán và phần mềm cung có các thành tựu lớn: Các máy CNN-UM có thể tái cấu hình duợc, các mẫu có thể duợc thay dổi từ ngôn ngữ bậc cao trên máy tính PC sử dụng các hệ diều hành quen thuộc nhu Windows 2000, XP Thu viện các mẫu, các hàm API liên kết với hệ thống CNN-UM ngày càng phong phú Trong các thuật toán, các cấu

trúc da sóng hoặc da luồng (multi-wave or multi-thread structures) dã duợc sử dụng với

mức dộ phức tạp cao Các thuật toán với các mạng CNN nhiều lớp cung dang duợc phát

triển Xuất hiện một kiểu mô tả thuật toán mới - mô tả bằng dồ hoạ duợc sử dụng trong

máy tính CNN gọi là các biểu dồ luồng Rất nhiều mẫu của thế giới tự nhiên dã duợc ứng dụng trong CNN Về lý thuyết có nhiều kết quả công bố thuộc các linh vực xét tính ổn dịnh của các mẫu, các nghiên cứu về mạng CNN có quan hệ tới một số loại sóng mới, các thuật toán liên quan dến các vấn dề co bản của phuong trình vi phân dạo hàm riêng PDE

và các mẫu nhiều lớp

Các huớng nghiên cứu CNN trong linh vực co diện tử

Do tiềm nang về nang lực tính toán và khả nang ứng dụng rộng rãi trong nhiều linh vực của cuộc sống, công nghệ CNN dã ngày càng thu hút duợc sự quan tâm của nhiều nhà nghiên cứu khoa học trên thế giới Các huớng nghiên cứu trong thời gian tới về công nghệ CNN vẫn bao gồm cả lý thuyết và công nghệ, cả co bản và ứng dụng Liên quan dến linh vực co diện tử dáng chú ý nhất là việc tích hợp chip CNN với các cảm biến dịa hình (Topographic sensor) nhu cảm biến thị giác, xúc giác, nhiệt dộ và âm thanh cho ta các máy tính cảm biến (Sensor Computer)

Công nghệ CNN với thị giác và xúc giác nhân tạo Khi kết hợp cảm biến thị giác với mạng

noron tế bào ta duợc một chip vi xử lý thị giác là cốt lõi của máy tính CNN thị giác Khác với các camera thông minh hiện hành, chip vi xử lý thị giác CNN có khả nang lập trình tới từng pixel cho các bài toán xử lý ảnh phức tạp với tốc dộ cao Truớc dây co chế hoạt dộng

ở phần trong của mắt còn là vấn dề bí hiểm dối với các nhà thần kinh học Trong khi dó các kỹ su diện tử với sự say mê khám phá dã phát triển một số mô hình con nguoi bằng công nghệ bán dẫn Bản chất của các mô hình này là mạng CNN nhiều lớp có các kết nối cục bộ trong từng lớp ( là chính) và một số ít kết nối giữa các lớp Các lớp mảng CNN có

hệ số sóng lan truyền và hằng số thời gian khác nhau Các thực nghiệm với mô hình mắt 3 lớp với khoảng 5 tham số kết nối giữa các lớp dã cho ta khả nang tạo hầu hết các hiệu ứng sóng thuờng gặp Một báo cáo về mô hình mắt nhân tạo theo công nghệ mạng CNN cung duợc trình bày ở hội nghị này [11] Các mảng cảm biến xúc giác thuờng duợc chế tạo bởi công nghệ MEMS Việc kết hợp với mạng noron tế bào CNN cho phép tạo ra nhiều cảm biến xúc giác Hệ thống xúc giác ở dầu ngón tay chúng ta có các mảng cảm nhận với mô hình xử lý 4 kênh 4 kênh này có các dặc tính phụ thuộc không gian – thời gian khác nhau Vấn dề khó trong chế tạo cảm biến xúc giác là tại mỗi diểm cảm ứng taxel (tactile cell)