Trong một vài thập niên gần đây, sự phát triển của mạng máy tính đã tạo điều kiện cho sự phát triển của các hệ thống phân tán. Cùng với sự phát triển đó, các xử lý tính toán đòi hỏi khả năng xử lý mạnh trước đấy vốn là độc quyền của các máy tính lớn (main frame), nhưng nay đang dần chuyển sang các hệ thống xử lý phân tán. Trong các hệ thống xử lý phân tán, mô hình xử lý song song phân cụm đang chiếm một vị trí quan trọng.
Trang 1M C L C ỤC LỤC ỤC LỤC
MỤC LỤC 1
1 Tổng quan về tính toán song song phân cụm 2
1.1 Phân cụm và tính toán phân cụm 2
1.1.1 Phân cụm là gì ? 2
1.1.2 Tính toán song song phân cụm là gì ? 3
1.2 Phân loại các phân cụm tính toán 3
1.2.1 Phân cụm Thông lượng (Throughput Cluster) 4
1.2.2 Phân cụm Khả năng (Capability cluster) 5
1.3 Các ưu và nhược điểm của phân cụm và tính toán song song phân cụm : 6
1.4 Mô hình kiến trúc và các thành phần của hệ thống tính toán song song phân cụm 7
1.4.1 Các nút tính toán và các thiết bị phần cứng kết nối : 8
1.4.2 Các công cụ quản trị hệ thống phân cụm tính toán: 10
1.5 Hệ thống quản lý tài nguyên và phân tải PBS 12
1.5.1 Chức năng của PBS 12
1.5.2 Các thành phần chính 14
2 Mô hình ứng dụng cụ thể trong thực tế : Hệ thống Bkluster 16
2.1 Các thành phần của BKCluster 16
2.2 Hoạt động 17
Trang 21 Tổng quan về tính toán song song phân cụm
1.1. Phân cụm và tính toán phân cụm
Trong một vài thập niên gần đây, sự phát triển của mạng máy tính đãtạo điều kiện cho sự phát triển của các hệ thống phân tán Cùng với
sự phát triển đó, các xử lý tính toán đòi hỏi khả năng xử lý mạnhtrước đấy vốn là độc quyền của các máy tính lớn (main frame), nhưngnay đang dần chuyển sang các hệ thống xử lý phân tán Trong các hệthống xử lý phân tán, mô hình xử lý song song phân cụm đang chiếmmột vị trí quan trọng
1.1.1 Phân cụm là gì ?
Phân cụm (cluster) là một thuật ngữ còn khá mơ hồ trong nền côngnghiệp máy tính Tùy theo ngữ cảnh mà nó được hiểu theo những ýnghĩa khác nhau Hiểu theo nghĩa chung nhất, phân cụm là thuật ngữdùng để chỉ một kiến trúc hệ thống song song bao gồm một tập cácmáy tính được liên kết một cách vật lý với nhau thông qua một mạngmáy tính tốc độ cao và được coi là một máy tính duy nhất nhằm thựchiện một công việc phức tạp nào đó Mỗi máy tính trong cluster đóđuợc gọi là một nút tính toán (compute- node)
Trước đây, khi phải giải quyết một bài toán phức tạp, một máy tínhđơn gặp phải rất nhiều khó khăn, đặc biệt là chi phí về thời gian thựchiện, thường thì chi phí thời gian thực hiện là không thể chấp nhậnđược Sự ra đời của phân cụm nhằm nâng cao khả năng xử lý, tínhtoán dựa trên sự kết hợp các máy tính lại, kết hợp sức mạnh tính toáncủa nhiều máy tính Điều này tạo ra một sức mạnh tính toán cao hơn
và có thể đáp ứng được các yêu cầu để thực hiện các bài toán phứctạp Nhưng việc kết hợp các máy tính đơn lại với nhau không có nghĩa
sẽ tạo ra được một hệ thống có sức mạnh tính toán bằng tổng sức
Trang 3mạnh tính toán của từng nút trong đó Hiệu năng của toàn bộ hệthống sẽ bị ảnh hưởng bởi nhiều yếu tố khác nhau.
1.1.2 Tính toán song song phân cụm là gì ?
Tính toán (xử lý) phân cụm là các tính toán (xử lý) dựa trên các phâncụm, sử dụng sức mạnh xử lý của phân cụm để giải quyết một bàitoán phức tạp nào đó Đây là môt trong những công nghệ tính toán,
xử lý hàng đầu trong môi trường tính toán hiệu năng cao Thường cácbài toán đầu vào là các bài toán đòi hỏi nhiều chi phi về tài nguyêntính toán Nếu sử dụng mô hình tính toán thông thường, dựa trên sứcmạnh xử lý đơn lẻ của từng máy tính đơn vi xử lý thì hoàn toàn khôngthể chấp nhận được Nếu như sử dụng các máy tính lớn đa vi xử lýthì thời gian xử lý có thể chấp nhận được nhưng chi phí cho máy tínhlớn là quá cao, vượt ngoài khả năng đáp ứng của người sử dụng Vìvậy, công nghệ tính toán song song phân cụm là một trong nhữnggiải pháp hàng đầu được lựa chọn
1.2. Phân loại các phân cụm tính toán
Môi trường tính toán hiệu năng cao là mảnh đất màu mỡ đối với sựphát triển của công nghệ tính toán song song phân cụm Hiện nay,trên thế giới có khá nhiều công ty sản xuất dẫn đầu trong nhưng côngnghệ tính toán hiệu năng cao như IBM, HP, Sun v.v… cung cấp các hệthống phân cụm với nhưng quy mô, phân loại khác nhau, nhưng nhìnmột cách tổng quát thì có thể phân loại các phân cụm và tính toánphân cụm thành 2 loại chính dựa trên đặc tính sử dụng tài nguyêntính toán của bài toán đầu vào do phân cụm đó xử lý là Phân cụmThông lượng và Phân cụm Năng lực
Trang 41.2.1 Phân cụm Thông lượng (Throughput Cluster)
Phân cụm Thông lượng được triển khai để thực hiện các lớp bài toánnhỏ tương đối giống nhau Mỗi một nút tính toán trong phân cụm này
có đầy đủ năng lực và tài nguyên tính toán để giải quyết bất cứ mộtbài toàn nhỏ nào thuộc lớp các bài toán mà phân cụm có thể đáp ứng.Phân cụm loại này được tối ưu để làm tăng khả năng xử lý các bàitoán bằng cách phân phối các bài toán về các nút tính toán, điều nàydẫn đến khả năng xử lý tăng lên, tải làm việc chung sẽ được phân đều
và được thực hiện song song Việc phân phối bài toán vào từng núttrong phân cụm được thực hiện nhờ các công cụ cân bằng tải Đây làmột công cụ quan trọng, được sử dụng nhiều trong các hệ thống phâncụm tính toán loại này Công cụ cân bằng tải dựa trên tải đầu vào củaphân cụm, sử dụng những giải thuật và cơ chế cân bằng tải, sẽ xácđịnh các tải tương ứng cho từng nút trong hệ thống phân cụm Việcxác định được các tải tương ứng với từng nút rất quan trọng, điều nàyảnh hưởng rất lớn đến hiệu năng của toàn bộ hệ thống Sự phân tảikhông hợp lý sẽ làm giảm hiệu năng, thậm chí có thể làm cho bàitoán đầu vào không thể thực hiện được trên hệ thống
Trang 5Hình 1 Phân cụm thông lượng
1.2.2 Phân cụm Khả năng (Capability cluster)
Phân cụm Khả năng được triển khai để thực hiện các bài toán đặc biệt
mà khi thực thi trên các hệ thống đơn thường không có hiệu quả cao.Như chúng ta đã biết, các hệ thống phân cụm với một tập các nút tínhtoán sẽ có chi phí rẻ hơn so với một hệ thống đơn nhất với cùng sốlượng vi xử lý Với hệ thống phân cụm loại này, các nút tính toán sẽcùng nhau chia sẻ bài toán, mỗi nút sẽ thực hiện một phần bài toántương ứng với đúng khả năng thực hiện của mình Các phần bài toán
đó sẽ được thực hiện trên các nút song song và đồng thời Việc phân
rã bài toán thành các phần để chạy trên các nút tính toán phụ thuộcnhiều vào các giải thuật và kỹ thuật lập trình song song
Hình 2 Phân cụm Khả năng
Trang 61.3. Các ưu và nhược điểm của phân cụm và tính toán song song phân cụm :
Chúng ta có thể thấy rõ hai lý do chính và cũng là ưu điểm của côngnghệ phân cụm và tính toán song song phân cụm đối với các côngnghệ tính toán cổ điển với máy tính lớn đa vi xử lý là tỉ số giữa giáthành/hiệu năng và tính khả mở
Sau đây là môt số ưu điểm chính của của phân cụm và tính toán songsong phân cụm :
Chi phí thấp : điều này có thể thấy rõ ràng và là một trongnhững ưu điểm chính của phân cụm và tính toán song songphân cụm Chi phí bỏ ra để có được một hệ thống phân cụm tínhtoán song song thường nhỏ hơn rất nhiều so với chi phí cho một
hệ thống máy tính lớn có hiệu năng tương đương
Tính khả mở : với nhiều bài toán có tải tương đối lớn, có thểthấy rõ rằng khả năng xử lý của một đơn vị tính toán đơn vi xử
lý không thể đáp ứng được, ít nhất là ràng buộc về mặt thời gianthực hiện Khi đó, phân cụm và tính toán song song phân cụm làmột cách đơn giản để giải quyết bài toán mà vẫn thỏa mãn đượcnhững ràng buộc có sẵn đó
Tính đáp ứng : dễ dàng thích ứng với các hình trạng khác nhau,chẳng hạn như hình trạng mạng kết nối các nút tính toán vớinhau Điều này hết sức quan trọng vì các nhà cung cấp thườngchỉ đưa ra các hình trạng(cấu hình) rất hạn chế
Tính tin cậy, sẵn sàng và dịch vụ : Một hệ thống lớn có nhiềuthành phần thường hay gặp phải lỗi hơn những hệ thống nhỏ.Điều này là khá dễ hiểu, vì một hệ thống lớn thường phức tạp và
có nhiều thành phân hơn các hệ thống nhỏ Khi một thành phầnchính là phần cứng hoặc phần mềm gặp lỗi thì thường làm toàn
bộ hệ thống lỗi Đối với các hệ thống lớn khi gặp lỗi của mộtthành phần thường làm ảnh hưởng nghiêm trọng đến sức mạnh
Trang 7tính toán của toàn bộ hệ thống Nhưng trong trường hợp củaphân cụm tính toán thì ảnh hưởng do lỗi của môt thành phầntrong hệ thống là không đáng kể và thường dễ giải quyết Khimột hệ thống phân cụm thực hiện các công việc, chúng ta hoàntoàn có khả năng bổ sung thêm tài nguyên phục vụ tính toáncho toàn bộ hệ thống, chẳng hạn có thể thêm một vài nút tínhtoán vào phân cụm trong khi phân cụm đó vẫn đang thực hiệntính toán và xử lý Việc loại bỏ một nút nào đó gặp lỗi trong hệthống phân cụm cũng có thể thực hiện nhờ khả năng dung thứlỗi ( Fault tolerent).
Đổi mới công nghệ nhanh : vì đây là một trong nhưng công nghệhàng đầu trong môi trường tính toán hiệu năng cao Do đó, sựđổi mới công nghệ nhanh chóng là hoàn toàn dễ hiểu
1.4. Mô hình kiến trúc và các thành phần của hệ thống tính toán song song phân cụm
Một phân cụm tính toán được cấu thành bởi nhiều thành phần phầncứng và phần mềm khác nhau và sự tương tác giữa các thành phần làrất phức tạp Việc xây dựng mô hình kiến trúc và xác định rõ cácthành phần của hệ thống tính toán song song phân cụm cũng như sựtương tác qua lại giữa chúng gặp phải nhiều khó khăn và đòi hỏinhiều công sức Nhưng công việc này hết sức quan trọng và cần thiết.Kết quả đạt được chính là mô hình phân lớp của một hệ thống tínhtoán song song phân cụm điển hình :
Trang 8Hình 3 Mô hình phân lớp của phân cụm tính toánDựa vào mô hình phân lớp của hệ thống tính toán song song phâncụm ở trên, chúng ta có thể thấy rõ được các thành phần chính vàphần nào vị trí, quan hệ của chúng:
Các ứng dụng người dùng
Các công cụ phát triển và thư viện lập trình song song
Giao thức truyền thông
Phần cứng kết nối
Các nút tính toán
Các công cụ quản trị phân cụm tính toán
1.4.1 Các nút tính toán và các thiết bị phần cứng kết nối :
Như đã nói ở trên, một hệ thống phân cụm tính toán song song sẽbao gồm một tập các nút Mỗi nút này có thể là một máy tính đơn vi
xử lý hoặc đa vi xử lý nhưng tùy vào nhiệm vụ chức năng của chúng
mà có thể phân loại như sau:
Các nút tính toán : đây là loại nút chính của một hệ thống phâncụm tính toán Chức năng của loại nút này chính là thực hiện cácthao tác tính toán xử lý
Trang 9 Các nút quản trị hệ thống phân cụm : đây là các nút thực hiệnnhiệm vụ quản trị toàn bộ hệ thống phân cụm tính toán.
Các nút lưu trữ : đây là các nút làm nhiệm vụ lưu trữ dữ liệu vàđáp ứng các đòi hỏi về mặt dữ liệu đối với các nút khác trongphân cụm tính toán
Các nút hiển thị nội dung : đây là các nút làm nhiệm vụ hiển thịthông tin đảm bảo sự tương tác giữa phân cụm và người sửdụng
Tùy vào cấu hình cụ thể của phân cụm tính toán mà có thể có hoặckhông có đầy đủ các loại nút, nhưng để đảm bảo một hệ thống phâncụm tính toán hoạt động được phải có ít nhất các nút tính toán và cácnút quản trị hệ thống phân cụm
Ngoài ra, trong một hệ thống phân cụm tính toán, để kết nối các nútlại với nhau, đòi hỏi phải có các thiết bị phần cứng liên kết, kết nối.Các thiết bị phần cứng đó sẽ tạo thành môt mạng kết nối các nút,thông thường là một mạng kết nối tốc độ cao (Fast Ethernet, ATMthường được sử dụng) và có phạm vi kết nối nhỏ Thông qua mạngkết nối này, các nút trong hệ thống phân cụm có thể liên lạc, trao đổi
dữ liệu với nhau Kết quả là các nút kết nối với nhau trong hệ thốngphân cụm sẽ tạo thành một khối thống nhất, nếu đứng từ bên ngoài
hệ thống nhìn vào có thể coi như một máy tính đơn nhất, có sứcmạnh tổng hợp của nhiều nút
Trang 10Hình 4 Các loại nút trong phân cụm tính toán
1.4.2 Các công cụ quản trị hệ thống phân cụm tính toán:
Mỗi hệ thống phân cụm tính toán là sự kết hợp của nhiều máy tính,hay nói cách khác là nhiều nút liên kết lại với nhau thông qua mộtmạng kết nối tốc độ cao Chúng ta có thể thấy rõ một hệ thống vớinhiều thành phần liên kết với nhau như vậy là khá phức tạp Việcđiều hành quản trị, đảm bảo hoạt động thống suốt cho hệ thống đòihỏi phải có các công cụ và phần mềm chuyên dụng đảm nhiệm Do
đó, các công cụ và phần mềm quản trị phân cụm là một thành phầnquan trọng và không thể thiếu được trong một hệ thống phân cụmtính toán
Các công cụ quản trị hệ thống phân cụm tính toán : là các gói phầnmềm làm nhiệm vụ quản trị hệ thống phân cụm tính toán, đảm bảocho các hoạt động được tiến hành một cách thông suốt và làm tănghiệu năng hoạt động của toàn bộ hệ thống
Trang 11Tùy theo các cấu hình cụ thể của hệ thống phân cụm và của các góiphần mềm quản trị hệ thống phân cụm mà chúng được cài đặt trêncác nút quản trị, các nút lưu trữ và các nút tính toán.
Hiện nay, trên thế giới, trong môi trường tính toán phân tán hiệunăng cao, có khá nhiều công cụ quản trị hệ thống phân cụm Mỗicông cụ lại có những điểm mạnh, điểm yếu riêng nhưng chúng ta cóthể phân chúng vào hai nhóm chính: các công cụ quản trị hệ thốngphân cụm tính toán trong môi trường kinh doanh và các công cụ quảntrị hệ thống phân cụm tính toán trong môi trường khoa học
Codine - Computing in Distrib
Network Envn
Germany
LSF - Load Sharing Facility Platform Computing,
CanadaNQE - Network Queuing Envn Craysoft Corp., USA
Bảng 1-1:Các gói phần mềm quản trị trong môi trường kinh doanh
Tên gói công cụ Nhà sản xuât
CCS - Computing Centre
Software
Paderborn,Germany
University, USADJM - Distributed Job Manager Minnesota
SupercomputingPRM - Prospero Resource
Manager
University ofSouthern CaliforniaPBS - Portable Batch System NASA Amass &
LLNL, USA
Trang 12Bảng 1-1:Các gói phần mềm quản trị trong môi trường nghiên cứu
khoa học
1.5. Hệ thống quản lý tài nguyên và phân tải PBS
PBS là một hệ phân tải linh động được phát triển riêng cho việc quản
lý tài nguyên tính toán không gian của NASA PBS hiện nay đã trởthành một hệ phân tải hàng đầu trong các siêu máy tính và trở thànhchuẩn cho các hệ thống bó trên Linux
1.5.1 Chức năng của PBS
PBS cung cấp rất nhiều chức năng và lợi ích cho các hệ thống tínhtoán hiệu năng cao Sau đây là một số chức năng quan trọng nhấtcủa PBS:
Chia sẻ tài nguyên cung cấp một cơ chế lập lịch cho các côngviệc một cách trong suốt trên bất kỳ một hệ thống PBS nào, bởibất kỳ người sử dụng nào có thẩm quyền Công việc có thể đượcyêu cầu từ một máy client bất kỳ, cục bộ hay từ xa
Giao diện sử dụng đồ hoạ giúp người sử dụng chuyển các yêucầu tính toán ở chế độ lô (batch) hoặc chế độ tương tác(interactive); truy vấn các công việc, hàng đợi công việc và tìnhtrạng hệ thống; và theo dõi sự tiến triển của các công việc.Ngoài ra PBS cũng hỗ trợ giao diện sử dụng chế độ dòng lệnhcho những người sử dụng chuyên nghiệp
Cơ chế bảo mật cho phép quản trị thiết lập hoặc huỷ bỏ việctruy cập đến PBS của một người sử dụng, một nhóm người, mộtmáy hoặc một mạng nào đó
Nhật ký cho phép ghi lại tất cả các hoạt động trên của hệ thốngtheo từng người, từng nhóm người hoặc từng máy
Trang 13 Tự động chuyển tệp là cơ chế sao chép các tệp cần thiết choviệc thực hiện một công việc trên các máy trạm tính toán Cáctệp cần chuyển có thể là các tệp dữ liệu hoặc các tệp thực thi.
Hỗ trợ các công việc song song cho phép hoạt động cùng với cácthư viện lập trình song song như MPI, PVM và HPF Các chươngtrình có thể được lập lịch để chạy trên các hệ đa bộ xử lý hoặctrên các hệ thống đa máy tính
Hỗ trợ tính toán lưới cung cấp công nghệ siêu tính toán computing)và tính toán lưới, bao gồm việc hỗ trợ cho GGT(Globus Grid Toolkit)
(meta- Giao diện lập trình được PBS cung cấp để người lập trình có thể
tự viết các lệnh mới cho PBS, tích hợp PBS vào các ứng dụngcủa họ hoặc cài đặt các cơ chế lập lịch riêng
Tự động phân tải là cơ chế cho phép phân tải các công việc trêncác tài nguyên của hệ thống bó
Hỗ trợ nhiều hệ thống máy tính và nhiều hệ điều hành bao gồm
o Cray using Unicos 8, 9, 10 or MK2
o IBM 590, IBM SP using AIX 4
o Silicon Graphics systems using IRIX 5.x or 6.x
o Sun Sparc using SunOS 4.1 or Solaris 2.5 (5.5)
o AMD/Intel/Cyrix systems using Linux or FreeBSD
