NGHIÊN CỨU VÀ ĐÁNH GIÁ ẢNH HƯỞNG CỦA CẤU TRÚC MẠNG KẾT NỐI ĐẾN HIỆU NĂNG CỦA SIÊU MÁY TÍNH

NGHIÊN CỨU VÀ ĐÁNH GIÁ ẢNH HƯỞNG CỦA CẤU TRÚC MẠNG KẾT NỐI ĐẾN HIỆU NĂNG CỦA SIÊU MÁY TÍNH Nội dung của luận văn bao gồm ba chương: Chương 1: Tổng quan về siêu máy tính. Chương 2: Cấu trúc các mạng kết nối của hệ thống đa xử lý ảnh hưởng đến hiệu năng siêu máy tính Chương 3: Đánh giá ảnh hưởng của cấu trúc mạng kết nối đến hiệu năng siêu máy tính.

HỌC VIỆN CÔNG NGHỆ BƯU CHÍNH VIỄN THÔNG

Người hướng dẫn khoa học: TS Hồ Khánh Lâm

Phản biện 1: ………

Phản biện 2: ………

Luận văn sẽ được bảo vệ trước Hội đồng chấm luận văn thạc sĩ tại Học việnCông nghệ Bưu chính Viễn thông

Vào lúc: giờ ngày tháng năm

Có thể tìm hiểu luận văn tại:

- Thư viện của Học viện Công nghệ Bưu chính Viễn thông

MỞ ĐẦU

Đã từ lâu, đi kèm với sự ra đời và phát triển mạnh mẽ của các phần cứng máy tính,đem lại lợi ích to lớn cho người sử dụng là sự xuất hiện cácsiêu máy tính đơn bộ xử lý hiệnnay đã đạt được tốc độ và hiệu năng mạnh mẽ, đáng kinh ngạc và đạt tới giới hạn về mặtphần cứng, về mặt vật lý của công nghệ sản xuất Điều này đã đóng lại xu thế đơn xử lý vàđòi hỏi phải có một kỹ thuật xử lý tiên tiến khác thay thế để nâng cao hơn nữa khả năng tínhtoán của hệ thống xử lý Hiện nay trên thế giới, các bộ xử lý tiên tiến, các hệ thống tính toántích hợp, phức tạp có tốc độ cao đều áp dụng kỹ thuật xử lý song song, coi đây như là một

kỹ thuật tiên tiến, khả thi, có tính mở cao

Từ các phân tích trên có thể thấy, giải pháp hiệu quả nhất để nâng cao hiệu năng xử

lý là ứng dụng các siêu máy tính Đây cũng là mục đích của đề tài “Nghiên cứu và đánh giáảnh hưởng của cấu trúc mạng kết nối đến hiệu năng của siêu máy tính” của luận văn

Nội dung của luận văn bao gồm ba chương:

 Chương 1: Tổng quan về siêu máy tính

 Chương 2: Cấu trúc các mạng kết nối của hệ thống đa xử lý ảnh hưởng đến hiệu năngsiêu máy tính

 Chương 3: Đánh giá ảnh hưởng của cấu trúc mạng kết nối đến hiệu năng siêu máytính

Chương 1 – TỔNG QUAN VỀ SIÊU MÁY TÍNH1.1 Sự phát triển của công nghệ siêu máy tính

Một siêu máy tính là một máy tính vượt trội trong khả năng và tốc độ xử lý Thuật

ngữ Siêu Tính Toán được dùng lần đầu trong báo New York World vào năm 1920 để nói đến những bảng tính (tabulators) lớn của IBM làm cho trường Đại học Columbia Siêu máy tính

hiện nay có tốc độ xử lý hàng trăm teraflop (một teraflop tương đương với hiệu suất mộtnghìn tỷ phép tính/giây) hay bằng tổng hiệu suất của 6.000 chiếc máy tính hiện đại nhất hiệnnay gộp lại (một máy có tốc độ khoảng từ 3-3,8gigaflop) Có thể hiểu siêu máy tính là hệthống những máy tính làm việc song song

Công nghệ siêu máy tính đã được giới thiệu trong những năm 1960 và được thiết kếđầu tiên bởi Seymour Cray ở CDC (Control Data Corporation), và sau đó là ở CrayResearch CDC 6600 được chế tạo năm 1964 được coi là siêu máy tính đầu tiên Các siêumáy tính của những năm 1970 chỉ sử dụng ít bộ xử lý Cray 1 với 80 MHz xuất hiện năm

1972 là một siêu máy tính thành công nhất Năm 1985, Cray 2 với 8 bộ xử lý được làm lạnhbằng chất lỏng, thực hiện tính toán với tốc độ 1.9 Gflops (1.9 tỷ phép tính số dấuphẩy/giây), và là siêu máy tính nhanh nhất thế giới cho đến 1990 Các siêu máy tính hiệnnay có thể sử dụng tới vài trăm ngàn bộ xử lý

Tốc độ tính toán của các hệ thống siêu máy tính ngày càng tăng nhanh Theo thống

kê trong website top500.org, cứ sau khoảng thời gian 6 tháng, tổng năng lực tính toán của

500 máy tính mạnh nhất thế Giới tăng trung bình 50%, lớn hơn sự tăng tốc độ của vi xử lýđơn theo định luật Moore (2 lần sau mỗi 18 tháng) Tính đến tháng 6/2010

1.2 Phần cứng và kiến trúc của siêu máy tính

Xét theo công suất (tốc độ tính toán, độ rộng từ xử lý, không gian đánh địa chỉ nhớ)siêu máy tính là loại mạnh nhất nhưng cũng là chi phí cao nhất (hàng trăm nghìn, hàng triệuUSD) Trong những năm 70 hầu hết là các siêu máy tính vector (vector supercomputer)chuyên ứng dụng để thực hiện các tính toán vector liên quan đến các cấu trúc dữ liệu nhưcác ma trận và các mảng đa chiều

Các hệ thống với số lượng lớn các bộ xử lý thường có thể được tạo ra bằng hai cách:Một là: Ví dụ, trong tính toán lưới (Grid computing) công suất tính toán của một số lượnglớn các máy tính phân tán, thuộc các nơi quản trị khác nhau, thích hợp được bất cứ khi nàosẵn sàng Hai là: Một số lớn các bộ xử lý được sử dụng kết hợp với nhau trong một cụm các

nút máy tính Mỗi nút máy tính sử dụng các bộ xử lý đa lõi (Multi-Core processors) kết hợpthành bộ xử lý trung tâm là một hướng phát triển chính của công nghệ siêu máy tính hiệnnay, bởi nó cho phép kết hợp đến hàng trăm ngàn bộ xử lý.

Hệ thống tính toán song song ghép cụm là các hệ thống máy tính song song được xâydựng từ các nút tính toán và thiết bị mạng thông dụng Mỗi nút tính toán đóng vai trò điềukhiển vào/ra là một hệ thống hoàn chỉnh, có khả năng làm việc độc lập Hệ thống tính toánsong song ghép cụm là cũng một máy tính song song, trong đó: Các tài nguyên tính toánbao gồm bộ vi xử lý và bộ nhớ trong tại mỗi nút máy tính, và các tài nguyên tính toán nàykết nối qua mạng (Interconnect network) truyền thông với nhau Mạng kết nối chỉ giới hạntrong một mạng cục bộ (LAN) nhưng có nhiều lựa chọn cấu hình khác nhau, trong đó cómột máy tính đóng vai trò máy chủ (Server), các máy tính còn lại đóng vai trò nút tính toán(Computing node)

Sự thiết lập hệ thống tính toán song song ghép cụm từ những máy tính có cấu trúcđơn giản sử dụng các công nghệ mạng phổ biến đã được bắt đầu từ năm 1994 với mô hìnhBeowulf Cluster của Thomas Sterling và Donal Becker Hệ thống tính toán song song ghépcụm rẻ hơn nhiều so với một siêu máy tính cùng sức mạnh Điều này làm cho các hệ thốngtính toán song song ghép cụm ngày càng phổ biến và đặc biệt phù hợp cho các nước đangphát triển, các trường đại học

Tất cả các siêu máy tính đều có kiến trúc song song ở các mức độ khác nhau, vàhầu hết có: Kiến trúc đường ống, bộ nhớ chia sẻ hoặc bộ nhớ phân tán, truy nhập bộnhớ không thống nhất NUMA (Non-Uniform Memory access), tổ chức các đĩa cứngđộc lập kết nối theo RAID (Redundant Array of Independent Disks), xử lý Vector hoặcSIMD, các hệ thống tệp tin song song (Parallel filesystems) Hầu hết các siêu máy tínhhiện đại là các thiết kế riêng sử dụng các bộ xử lý thương mại kết hợp với các mạngliên kết thiết kế riêng (Custom interconnects) như: Siêu cúp (Hypercube), mạng hìnhlưới (Mesh) 2 và 3 chiều, và mạng lưới khối lập phương 3 chiều (3D cubic grid – mạngtorus) (trong đó mỗi một nút kết nối với 6 nút lân cận) (IBM Gene Blue/L, Cray T3E).Các kết nối mạng có thể tĩnh hoặc động thông các các bộ chuyển mạch

Có hai xu hướng thiết kế siêu máy tính hiện nay: Sử dụng hoàn toàn các nútCPU – là các bộ xử lý đa năng đa lõi đa luồng (PowerPC, AMD Opteron, hoặc IntelXeon, Intel Core i7, ) và sử dụng kết hợp CPU + GPU cho từng nút máy tính

Các GPU của NVIDIA và ATI (AMD) đang là những đối thủ cạnh tranh trên thịtrường chip đồ họa ứng dụng không chỉ riêng cho xử lý đồ họa mà cho cả chế tạo siêumáy tính Các bàn chơi game hiện nay sử dụng các mở rộng SIMD trong các hệ thốngtrờ chơi điện tử Các nhà sản xuất thiết bị trò chơi điện tử vẫn cho rằng các máy tròchơi điện tử chính là những siêu máy tính, thực vậy, một số card đồ họa có tốc độ xử lýđến vài TFLOPS.

Cạnh tranh với GPU của NVIDIA và AMD, trong kế hoạch nhằm trang bị chonhững siêu máy tính tiết kiệm điện năng vào năm 2018, Intel đã trình bày ChipKnights Corner lần đầu tiên tại Hội nghị siêu máy tính SC11, có thiết kế hơn 50-lõi đểphục vụ cho những công việc tính toán chuyên dụng Intel cũng nói về Chip máy chủXeon E5 sắp tới, dựa trên vi cấu trúc Sandy Bridge

1.3 Năng lượng sử dụng và quản lý nhiệt của siêu máy tính

Làm mát tất cả hệ thống siêu máy tính là một vấn đề lớn, bởi vì các siêu máy tínhtiêu thụ điện năng rất lớn, vượt ngưỡng Megawatt Có nhiều phương pháp làm mát vàquản lý nhiệt của siêu máy tính, phụ thuộc vào mức độ phát triển của công nghệ siêumáy tính

 Làm mát bằng chất lỏng

 Hệ thống làm mát bằng hơi Flourinert

 Làm mát bằng nước ấm

 Làm mát bằng môi trường không khí tự nhiên

1.4 Hiệu năng của các siêu máy tính

1.4.1 Năng lực và khả năng tính toán

Các siêu máy tính có mục tiêu tối đa trong năng lực tính toán (Capability computing)hơn là khả năng tính toán (Capacity computing) Năng lực tính toán thường được cho là sự

sử dụng tối đa công suất tính toán để giải quyết bài toán lớn trong một quãng thời gian ngắnnhất Một hệ thống có năng lực có thể giải một bài toán có kích thước hoặc độ phức tạp màkhông một máy tính nào khác có thể giải được Ví dụ, ứng dụng mô phỏng thời tiết phứctạp Trái lại, khả năng tính toán thường được cho là sự sử dụng hiệu quả chi công suất tínhtoán để giải một số nhỏ các bài toán lớn nào đó hoặc một số lớn các bài toán nhỏ Ví dụ,nhiều truy nhập của người dùng đến cơ sở dữ liệu hoặc web site

1.4.2 Các số đo hiệu năng

Thông thường, tốc độ của các siêu máy tính được đo bằng FLOPS (FLoatingPoint Operations Per Second) Các số đo của FLOPS cho các cấp tốc độ là: GFLOPS(GigaFLOPS) = 109FLOPS, TFLOPS (TeraFLOPS) = 1012FLOPS, PFLOPS (PetaFLOPS)

= 1015FLOPS, Petascale = 1015(1000 trillion)FLOPS, Exascale = 1018FLOPS (1 quintillionFLOPS = 1 million teraflops) ZettaFLOPS = 1021FLOPS (1 sextillion FLOPS)

Không có một số đo riêng biệt nào phản ảnh hiệu năng toàn bộ của một hệ thống máytính Linpack Benchmark là công cụ đo xấp xỉ máy tính nhanh giải một số bài toán nhanhnhư thế nào và nó được sử dụng rộng rãi trong công nghiệp

1.5 Các ứng dụng của siêu máy tính

Siêu máy tính được sử dụng cho các nhiệm vụ tính toán siêu nhanh và các bài toán cókhối lượng dữ liệu lớn, như: Vật lý lượng tử, dự báo thời tiết, nghiên cứu khí hậu, khai thácdầu khí, mô hình hóa phân tử (Tính toán các cấu trúc và đặc tính của các thành phần hóahọc, các phân tử macro (Macromolecules) của sinh học, các polymer, và các tinh thể), vàcác mô phỏng vật lý (Như mô phỏng các máy bay trong các ống gió, mô phỏng vụ nổ củacác vũ khí hạt nhân, và nghiên cứu trong hỗn hợp hạt nhân, các nghiên cứu không gian vũtrụ Ngoài ra, các nhà cung cấp các dịch vụ viễn thông, internet lớn trên thế giới sử dụng các

hệ thống siêu máy tính cho các trung tâm dữ liệu đảm bảo các dịch vụ trên điện toán đámmây

Chương 2 –CẤU TRÚC CÁC MẠNG KẾT NỐI CỦA HỆ THỐNG ĐA

XỬ LÝ ẢNH HƯỞNG ĐẾN HIỆU NĂNG SIÊU MÁY TÍNH2.1 Phân loại theo Flynn

2.1.1 Một chuỗi lệnh một chuỗi dữ liệu SISD

SISD (Single instruction stream single data stream) có MI= 1, MD= 1 Đây là hệthống đơn xử lý, là máy tính kiến trúc Von Neumann cổ điển chỉ với một bộ xử lý Cáclệnh được thực hiện tuần tự nhưng có thể gối chồng theo đường ống Hầu hết các hệthống SISD hiện nay đều có đường ống lệnh, một số đơn vị chức năng, như các bộđồng xử lý toán học bổ xung, các đơn vị tính các vector, các bộ xử lý đồ họa và xử lývào/ra

Thường phân các máy tính SISD ra thành hai nhóm:

 SISD với một đơn vị chức năng hay các máy tính hướng tuần tự (Serial scalarcomputer

 SISD có nhiều hơn một đơn vị chức năng

Tốc độ thực hiện của các máy tính SISD được đo trong MIPS (Million ofinstructions per second)

2.1.2 Một chuỗi lệnh nhiều chuỗi dữ liệu SIMD

SIMD (Single instruction stream multiple data stream) có MI = 1, MD > 1.Trong các hệ thống máy tính SIMD có nhiều bộ xử lý làm việc song song với nhau,thực hiện một mệnh lệnh giống nhau nhưng với những dữ liệu khác nhau Mỗi bộ xử lý(Pi, i = 1, 2,…, n) có bộ nhớ cục bộ riêng (Mi, i=1, 2, …n)

2.1.3 Nhiều chuỗi lệnh một chuỗi dữ liệu MISD

MI> 1, MD= 1 Trong những hệ thống dạng này, một chuỗi dữ liệu từ bộ nhớ chung

M được chuyển đến chuỗi các bộ xử lý được điều khiển bởi từng bộ điều khiển CU riêng vàthực hiện các chuỗi lệnh khác nhau

Không có nhiều bộ xử lý song song phù hợp với nhóm này Có thể các máy tínhnhư Cray-1 và CYBER 205 của Control Data Corporation có tính năng xử lý đườngống (Pipeline processing) được liệt vào nhóm MISD

2.1.4 Nhiều chuỗi lệnh nhiều chuỗi dữ liệu MIMD

MI> 1, MD> 1 Trong hệ thống MIMD có tập hơp n bộ xử lý thực hiện đồng thời

n chuỗi lệnh trên các chuỗi dữ liệu khác nhau MIMD thường được gọi là hệ thống đa

xử lý bộ nhớ chia sẻ bộ

Các hệ thống có bộ nhớ chia sẻ (SIMD và MIMD) còn có thêm các phân chianhỏ:

 SM-R : bộ nhớ chia sẻ cho phép nhiều đọc đến cùng một chỗ

 SM-W : bộ nhớ chia sẻ cho phép ghi nhiều đến cùng một chỗ

 SM-RW: bộ nhớ chia sẻ cho phép nhiều cả ghi đọc đến cùng một chỗ

 SM: bộ nhớ chia sẻ không cho phép nhiều ghi và đọc

 TC: kết nối cặp chặt chẽ (phụ thuộc vào nhau): C.mmp, Burroughs D825, Cray-2,S1, Cray X-MP, HEP, PluribusC

 LC : kết nối cặp lỏng lẻo: IBM 370/168 MP, Univac 1100/80, Tandem/16, IBM3081/3084, C.m*, BBN Butterfly

 UC : không kết nối: Meiko Computing Surface, FPS T/40000, iPSC

Với MIMD có thêm phân chia:

 Bit-sliced MIMD: là các máy tính loại MIMD với các bộ xử lý chỉ thực hiện trên

1 bit trong một chu kỳ lệnh: Bit-sliced machines include; STARAN, MPP, DAP,CM-1

 Word-sliced MIMD: là các máy tính loại MIMD với các bộ xử lý thực hiện trêntoàn bộ một từ trong một chu kỳ lệnh: ILLIAC-IV, PEPE, BSP

2.2 Các loại kết nối tĩnh của mạng kết nối

Các loại cấu hình kết nối tĩnh của mạng kết nối N

Phân biệt kết nối tĩnh(cố định) và động(nhờ chuyển mạch).

1 Một số thông số cấu hình của cấu hình mạng kết nối

 Độ phức tạp liên kết: toàn bộ số liên kết trong mạng

 Cấp độ của nút (node degree): Số nút liên kết với một nút (number ofincident nodes)

 Đường kính của mạng (network diameter): khoảng cách định tuyến dài nhấttrong mạng giữa 2 nút (hay độ dài của tuyến dài nhất trong mạng (maximum

routing distance, hay maximum hop distance).

 Khoảng cách trung bình (average distance): là khoảng cách định tuyến trungbình giữa tất cả các cặp nút (average routing distance hay average hop distance)

 Độ rộng chia đôi (bisection width): số tối thiểu các liên kết mà sự lấy chúng

ra khỏi mạng sẽ tách mạng và cắt mạng thành 2 nửa

 Độ phức tạp sinh trưởng (growth complexity): số nút có thể được bổ xungthêm

2 Bus chia sẻ đơn (single shared bus)

Kiểu bus đơn này được sử dụng nhiều trong các hệ thống máy kiến trúc VonNeumann cổ điển với một bus hệ thống Nhưng một nhược điểm lớn là khi số lượngcác thành phần xử lý và thành phần nhớ tăng lên sẽ làm tăng đụng độ cạnh tranh chiếmbus, dẫn đến tăng thời gian chờ đợi được phục của các thành phần xử lý và thành phầnnhớ, và tốc độ truyền thông bị suy giảm Khi đó cần phải tăng tốc độ bus Độ sẵn sàngcủa kết nối bus thấp

3 Nhiều Bus (multi-bus)

Mạng nhiều Bus khắc phục nhược điểm của Bus đơn, trong đó, một số thànhphần xử lý và thành phần nhớ kết nối với một Bus, những thành phần xử lý và thànhphần nhớ khác lại kết nối với một Bus khác, hoặc có chúng kết nối cùng trên một sốBus, như vậy sẽ giảm quá tải cho các Bus, sự đụng độ truy nhập Bus giảm tối thiểu.Nhược điểm của mạng: khi có sự cố xảy ra đối với một Bus nào đó, thì hiệu xuất mạnggiảm đi rõ rệt và lỗi tăng lên

4 Các Bus giao nhau (crossbar buses)

Trong cấu trúc kết nối Bus giao nhau, mỗi thành phần xử lý kết nối với tất cảthành phần nhớ và tương tự, mỗi thành phần nhớ kết nối với tất cả thành phần xử lý.Như vậy ta có một kết nối kiểu ma trận hai chiều n x m Cấu trúc này khắc phục nhượcđiểm của cấu trúc nhiều Bus Trường hợp xấu nhất có thể xảy ra: nếu tất cả các thànhphần xử lý cùng truy nhập vào một thành phần nhớ Kết nối này đã được áp dụng một

số hệ thống máy tính lớn

5 Chuỗi (Linear Array): Cấu trúc chuỗi (chain) là một mảng tuyến tính (lineararray) các bộ xử lý (gồm CPU, memory, I/O), nên thường được

gọi là cấu trúc mảng tuyến tính, có các kết trực tiếp chỉ với các nút xử lý kề cận trunggian.

Cấu trúc chuỗi khác với cấu trúc bus đơn ở chỗ không phải tất cả các nút đều có thểđọc tất cả các bản tin Đặc biệt, các nút trong khoảng ‘xuôi dòng’ từ nguồn và ‘ngược dòng’

từ đích sẽ không có cơ hội đọc bản tin Điều này làm khó khăn thực hiện chuyển các bản tintoàn cục Một điều khác biệt với cấu trúc bus nữa là chuỗi cho phép một số các gói của bảntin đồng thời được vận chuyển đảm bảo chúng không gối đè lên nhau

6 Kết nối hình cây: Cấu trúc hình cây có dạng giống với các cây tự nhiên.Chúng bắt đầu với một nút ở đỉnh gọi là gốc (root) Nút gốc kết nối với các nút khácnhờ các cành Những nút ở cành lại kết nối với các nút nhờ các cành rẽ tiếp tạo ra mộtcây có nhiều cành cao và thấp, hay một cấu trúc kết nối các nút xử lý đa tầng Một nút

xử lý ở một tầng kết nối truyền thông trực tiếp với một nút ở tầng trên và một số nút xử

lý ở tầng dưới

Cấu trúc cây có một số loại:

 Cây nhị phân: Trong cây nhị phân, hay còn gọi là cây nhị phân đầy đủ, mỗimột nút xử lý ở một tầng (trừ gốc) có 3 nút kề cận: 1 nút cha và 2 nút con Giữa hai nút kề

cận chỉ một đường dẫn duy nhất và là liên kết 2 chiều Nếu có cây nhị phân có tổng số N nút, trong đó có n nút bên trong (kể cả gốc), thì nó có các thông số như sau: n+1 nút kết thúc (ngọn), tổng số nút N = 2n+1, cấp độ của nút là 3, số liên kết L=2n-1, chiều cao h (số tầng) là h ≥ log2(n+1) và n = 2h – 1, độ rộng chia đôi là 1, và đường kính của cây là

)12(log2log

 Cây tam phân: Trong cây tam phân (ternary tree) mỗi một nút (trừ gốc) có 4

nút kề cần: 1 nút cha, 3 nút con Nếu có n nút bên trong (kể cả gốc) thì có 2n +1 nút ngọn,

cả cây có N= 3n+1 nút, 3n-1 cành, và chiều cao h ≥ log3(2n+1) Cây tam phân có ưu điểm

hơn cây nhị phân là có nhiều nhánh cây hơn, do đó kết nối được nhiều nút con hơn, nhưng

cũng như cây nhị phân nhược điểm lớn của nó lại càng lên cao càng gia tăng sự chậm chế vànghẽn nút cổ chai.

 Cây béo: Cây béo là một cách khắc phục nhược điểm nghẽn nút của các câynhị phân, tam phân bằng cách bổ xung thêm các kết nối giữa các nút con ở cùng tầng dưới(trừ các nút ở các cành ngoài) nhưng thuộc các nút cha khác nhau ở tầng trên

 Cây X: Cây X cũng là một cách khắc phục nghẽn nút cổ chai bằng bổ xungthêm một kết nối giữa 2 nút ở cùng tầng dưới nhưng thuộc 2 nút cha ở tầng trên Các cây X

và béo không còn là các cây rẽ nhánh (disjoint) vì có các vòng lặp

 Cây hình chuỗi hạt: Một trong những vấn đề lớn trong các cấu trúc cây ở trên

là tìm kiến và phân loại (sort) Các thuật toán tìm kiếm có thể thực hiện tốt ở trong cây hình

chuỗi hạt (diamon tree) Trong cây chuỗi hạt, số lượng các nút N thỏa mãn công thức tổng

của cấp số nhân (sum of geometric progression): N = (d W - 1)/(d - 1)

Trong đó số lượng các nút N tăng theo độ sâu (hay chiều cao) của cây là W, hay theo

sự tăng của hệ số phân đầu ra của nút (fan-out), d Số lượng các liên kết của cây chuỗi hạt được tính bằng: L = (d W - d)/(d - 1)

Độ phức tạp sinh trưởng G của cây được tính theo : G = (d-1)/(N+1)

Độ phức tạp sinh trưởng của các loại cây là cao so với các cấu trúc khác

 Cây có cấu trúc không thống nhất: Các cây cấu trúc kim tự tháp (pyramid) làmột tập hợp con của cấu trúc cây Kim tự tháp có thể có được từ vẽ lại một cây tứ phân(quaternary tree) Tất cả các đặc tính cấu hình của cây kim tự tháp tương tự như cây tứphân

7 Vòng (1D-Torus):Nhược điểm của cấu chuỗi có thể được khắc phục bằng cấutrúc vòng (Ring) Tất cả các nút xử lý có thể truyền thông với nhau ngay cả nếu các bản tin

chỉ có thể chuyển theo một hướng Nếu vòng có N nút thì nó cũng có N liên kết (hay độ phức hợp liên kết bằng N), nghĩa độ phức tạp liên kết phụ thuộc số nút, O(N) Vòng có thể

vận chuyển các bản tin theo cả hai hướng do đó nó là vòng 2 chiều Thường có tuyến dài

và tuyến ngắn giữa các nút truyền thông với nhau Thuật toán định tuyến thực hiện định

tuyến theo tuyến ngắn nhất nếu tuyến đó đang rỗi Vòng có mức phức tạp O(N) Đường kính của mạng vòng D = N/2 nếu liên kết 2 chiều (số N chẵn), và D = N-1 nếu lên kết chỉ một

chiều (số N lẻ) Cấp của tất cả nút trong mạng vòng là 2 Khoảng cách trung bình (N +1)/3,

độ rộng chia đôi (bisection width): 2

Vòng có các đặc tính tương tự như chuỗi và không phù hợp cho các hệ thống máytính song song với nhiều bộ xử lý Nó phù hợp cho kết nối LAN của các bộ xử lý có kết nốilỏng lẻo và truyền thông không thường xuyên

8 Vòng sợi dây:Vòng sợi dây (chordal ring) là một cấu hình mở rộng thêm các kếtnối giữa các cặp nút trong tập hợp gồm các nút ở cách xa nhau

9 Các cấu hình lưới: Vòng sợi dây có ưu điểm so với vòng 2 chiều là nó có ‘cắtngắn’ (short cut) trong đường dẫn giữa các nút khác nhau Đường kính của vòng sợi dây làmột hàm phụ thuộc vào số nút trong vòng và ‘độ dài’ của dây Có một số tuyến cho bản tintới đích, nhưng thuật toán định tuyến phức tạp hơn Nếu vòng sợi có tổng số nút là n thìtổng số liên kết là 2n Máy tính song song ILLIAC-IV có mạng kết nối cấu trúc vòng sợigồm 64 nút, trong đó các sợi dây kết nối các cặp nút cách xa 9 nút

Các cấu hình lưới là các kết nối các nút theo các mẫu đan lưới theo 2, hoặc 3 hướng

Có nhiều loại cấu hình lưới: luới vuông (grid, mesh), lưới 6 cạnh (hexagonal grid), lướivòng (torus), lưới toroidal (toroidal grid), lưới 3 chiều (3-D grid),…

 Lưới vuông (2D mesh):

Tổng số nút của lưới vuông là N, và n=2, là số chiều, p là số nút của một chiều lưới,

2 ) 1 ( 2 )

chia đôi là 1 1 / 2

N p

p d   Cấp độ của nút từ d 2n Độ phức tạp sinh trưởng là 2N1/2 1

Ví dụ, với nếu p = 5, ta có N 52 25, L2p(p1)40, D8 Vì có nhiều đường dẫngiữa nguồn và đích nên mạng có độ sẵn sàng cao, thuật toán định tuyến có nhiều lựa chọnđường dẫn tối ưu Mạng cũng cho dễ dàng mở rộng bởi các nút đang kết nối không phảithay đổi phần cứng

 Lưới vòng (2D Torus): Lưới vòng có cấu hình gồm một lưới vuông 2D vàthêm các cạnh bổ xung vòng quanh, do đó nó còn được gọi là Torus hay 2D Torus Trong

lưới vòng (2D Torus) tất cả các nút đều có cấp độ d = 4 (4 kết nối) và nằm trên giao điểm

của các đường vòng quấn xung quanh từ trên xuống dưới, từ phải sang trái Nó có số nút ít,băng thông cao, tăng được không gian sử dụng cho các chip xử lý, và vì các vòng là thống