ĐỀ CƯƠNG CHI TIẾT HỌC PHẦN MẠNG NEURON

Bên cạnh đó, học phần trang bị các kiến thức về kiến trúc một số dạng mạng neuron khác nhau như: Hamming, Hopfield, MLP … Ngoài ra, cung cấp các kiến thức về quy tắc học tương ứng với từ

Trang 1

HỌC VIỆN KỸ THUẬT QUÂN SỰ

KHOA CÔNG NGHỆ THÔNG TIN

CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM

Độc lập – Tự do – Hạnh phúc

ĐỀ CƯƠNG CHI TIẾT HỌC PHẦN

MẠNG NEURON

1 Thông tin về giáo viên

TT Họ tên giáo viên Học hàm Học vị Đơn vị công tác (Bộ môn)

2 Nguyễn Việt Hùng GV TS Bộ môn Khoa học máy tính

Thời gian, địa điểm làm việc: Bộ môn Khoa học máy tính - khoa Công nghệ thông tin

Địa chỉ liên hệ: Bộ môn Khoa học máy tính- Khoa CNTT - HVKTQS

Điện thoại, email: 0912-071428, viethung.mta@gmail.com

Các hướng nghiên cứu chính: Trí tuệ nhân tạo, Mạng nơron nhân tạo và các ứng dụng; Xử lý ảnh và video; Tính toán song song

2 Thông tin chung về học phần

- Tên học phần: Mạng neuron

- Mã học phần:

- Số tín chỉ: 3

- Học phần:

 Bắt buộc:

 Lựa chọn: 

- Các học phần tiên quyết: Lý thuyết xác suất thống kê, Trí tuệ nhân tạo

- Các học phần kế tiếp:

- Các yêu cầu đối với học phần (nếu có):

- Giờ tín chỉ đối với các hoạt động:

 Nghe giảng lý thuyết: 45 tiết

 Làm bài tập trên lớp:

 Thảo luận:

 Thực hành, thực tập (ở PTN, nhà máy, thực tập ):

 Hoạt động theo nhóm:

 Tự học: 90 tiết

- Địa chỉ Khoa/ Bộ môn phụ trách học phần: 100 Hoàng Quốc Việt – Bộ môn Khoa học máy tính – Khoa Công nghệ thông tin – Học viện Kỹ thuật Quân sự

3 Mục tiêu của học phần

- Kiến thức: Trang bị cho người học một số hiểu biết ban đầu về mạng Neuron

Trang 2

- Kỹ năng: Người học viên có thể ứng dụng mạng neuron để giải quyết các vấn đề trong khoa học, bài toán thực tế

- Thái độ, chuyên cần: Cần có thái độ nghiêm túc trong nghe giảng và làm bài tập đầy đủ

4 Tóm tắt nội dung học phần (khoảng 150 từ)

Đây là học phần thuộc chuyên ngành Khoa học máy tính Học phần giới thiệu về

sự hình thành hướng nghiên cứu mạng neuro cũng như điểm mạnh, điểm yếu của mạng neuron Bên cạnh đó, học phần trang bị các kiến thức về kiến trúc một số dạng mạng neuron khác nhau như: Hamming, Hopfield, MLP … Ngoài ra, cung cấp các kiến thức về quy tắc học tương ứng với từng loại mạng như: Perceptron, Hebb, Widrow-Hoff,… Phần cuối của học phần giới thiệu một số ứng dụng của mạng neuron trong nhiều lĩnh vực như: nhận dạng, kinh tế xã hội… Để học tốt học phần, người học cần có khái niệm về trí tuệ nhân tạo, xác suất thống kê và ngôn ngữ lập trình

5 Nội dung chi tiết học phần (tên các chương, mục, tiểu mục)

tiết

TLT

K

1

Giới thiệu chung về mạng neuron

1.1 Lịch sử hình thành mạng neuron

1.2 Giới thiệu một số khái niệm cơ bản

1.3 Điểm mạnh, điểm yếu của mạng neuron

3 1,2,3

2

Mô hình neuron và kiến trúc mạng

2.1 Mô hình neuron

2.2 Kiến trúc mạng

2.3 Perceptron

2.4 Mạng Hamming

2.5 Mạng Hopfield

2.6 Tổng kết chương 2

2.7 Xây dựng ứng dụng mạng Hopfield

6 1,2,3

3

Quy tắc học Perceptron

3.1 Các quy tắc học

3.2 Kiến trúc của Perceptron

3.3 Quy tắc học của Perceptron

3.4 Perceptron nhiều đầu ra

3.5 Quy tắc học của Perceptron nhiều đầu ra

3 1,2,3,4

,5,6

4 Quy tắc học Hebb

1,3,4,5 ,6

Trang 3

Chương Nội dung Số

tiết

TLT

K 4.2 Quy tắc Hebb

4.3 Quy tắc giả nghịch đảo

4.4 Các ứng dụng

4.5 Các biến dạng của quy tắc học Hebb

5

Quy tắc học Widrow-Hoff

5.1 Mạng ADALINE

5.2 Lỗi bình phương trung bình

5.3 Thuật toán bình phương tối thiểu

5.4 Phân tích sự hội tụ

5.5 Các lọc thích nghi

5.7 Xây dựng ứng dụng mạng ADALINE

6 1,3,4,5

,6

6

Sự lan truyền ngược

6.1 Perceptron nhiều tầng

6.2 Thuật toán lan truyền ngược

6.3 Các ví dụ

6.4 Sử dụng lan truyền ngược

6.5 Các biến dạng của lan truyền ngược

6 1,3,4,5

,6

7

Quy tắc học liên kết

7.1 Mạng liên kết đơn

7.2 Quy tắc Hebb không giám sát

7.3 Mạng nhận dạng đơn giản

7.4 Các quy tắc hình sao

7.5 Mạng tái hiện đơn giản

3 1,3,4,5

,6

8

Mạng cạnh tranh

8.1 Mạng Hamming

8.2 Tầng cạnh tranh

8.3 Các tầng cạnh tranh trong sinh học

8.4 Các ánh xạ đặc tính tự tổ chức

8.5 Học kiểu lượng tử hoá véc tơ

6 1,3,4,5

,6

Trang 4

Chương Nội dung Số

tiết

TLT

K 8.6 Tổng kết chương 8

8.7 Xây dựng ứng dụng mạng cạnh tranh

9

Mạng hồi quy

9.1 Kiến trúc mạng hồi quy

9.2 Mạng Jordan và mạng Elman

9.3 Huấn luyện mạng hồi quy

9.4 Mạng Hopfield

9.5 Hàm năng lượng và sự hội tụ của mạng Hopfield

9.6 Huấn luyện mạng Hopfield

6 1,3,4,5

,6

10

Mạng hàm cơ sở bán kính (RBF) 10.1 Kiến trúc mạng RBF

10.2 Các loại hàm bán kính cơ sở

10.3 Thuật toán huấn luyện RBF

10.4 Các ứng dụng sử dụng mạng RBF

3 1,3,4,5

,6

6 Giáo trình, tài liệu tham khảo

Tình trạng tài liệu

Có trên thư viện

Giáo viên hoặc Khoa

có, cho mượn để TV pho tô hoặc

có File Điện

tử

Đề nghị mua mới

Đề nghị biên soạn mới

1 Neural Network Design; Hagan, Demuth,

Beale; PWS Publishing Company, USA; 1996 x

2 Mạng Nơ ron nhân tạo; Lê minh Trung,

Trương Văn Thiện; Nxb Thống kê; 1999 x

3 Neural Neworks; Eric Davalo, Patric Naim;

4 Neural Network Toolbox (R12.1); The

5 Neural and Adaptive Systems: Fundamentals

through Simulations; NeuroSolutions, Wiley;

2000

x

6 Artificial Neural Networks in Real Life

Applications (395 pp); e-books; 2006 x

Trang 5

7 Hình thức tổ chức dạy học

7.1 Lịch trình chung: (Ghi tổng số giờ cho mỗi cột)

Nội dung

Hình thức tổ chức dạy học học phần

Tổng

Lên lớp

Thực hành, thí nghiệm, thực tập

Tự học,

tự nghiên cứu

Lý thuyết Bài tập Thảo luận

Giới thiệu

chung về

mạng

neuron

Mô hình

neuron và

kiến trúc

mạng

Quy tắc

học

Perceptron

Quy tắc

học

Widrow-Hoff

Sự lan

truyền

ngược

Quy tắc

học liên

kết

Mạng

Mạng hồi

Mạng hàm

cơ sở bán

kính

7.2 Lịch trình tổ chức dạy học cụ thể

Bài giảng 1: Giới thiệu chung về mạng neuron Chương I

Tiết thứ: 1 - 3 Tuần thứ: 1

Trang 6

- Mục đích, yêu cầu:

 Nắm sơ lược về Học phần, các chính sách riêng của giáo viên, địa chỉ Giáo viên, bầu lớp trưởng Học phần

 Nắm được lịch sử hình thành mạng neuron;

 Tìm hiểu quá trình phát triển mạng nơron;

 Phân tích các ứng dụng mạng nơron; điểm mạnh, yếu của mạng nơron

- Hình thức tổ chức dạy học: Lý thuyết, thảo luận, tự học, tự nghiên cứu

- Thời gian: Lý thuyết, thảo luận: 3t; Tự học, tự nghiên cứu: 6t

- Địa điểm: Giảng đường do P2 phân công

1.1 Lịch sử hình thành mạng neuron (1t)

1.2 Giới thiệu một số khái niệm cơ bản.(1t)

1.3 Điểm mạnh, điểm yếu của mạng neuron.(1t)

- Yêu cầu SV chuẩn bị:

Mượn tài liệu phục vụ cho học phần và copy tài liệu giáo viên giao

Bài giảng2: Mô hình neuron và kiến trúc mạng Chương II

 Nắm được các tham số của neuron nhân tạo;

 Hiểu được mô hình mạng nơron nhân tạo, kiến trúc mạng;

 Hiểu mô hình, kiến trúc Perceptron

2.1 Mô hình neuron (1t)

2.2 Kiến trúc mạng (1t)

2.3 Giới thiệu mô hình Perceptron (1t)

Chuẩn bị trước nội dung học tập theo slide

Trang 7

Bài giảng 3: Mô hình neuron và kiến trúc mạng (tiếp) Chương II

 Nắm được các phương pháp huấn luyện mạng;

 Hiểu được mô hình mạng cạnh tranh Hamming;

 Hiểu mô hình mạng hồi quy Hopfield

2.1 Tổng quan về huấn luyện mạng (1t)

2.2 Giới thiệu mạng Hamming (1t)

2.3 Giới thiệu mạng Hopfield (1t)

Bài giảng 4: Quy tắc học Perceptron Chương III

 Nắm được mô hình, kiên trúc Perceptron;

 Nắm chắc quy tắc học Perceptron 1 đầu ra;

 Hiểu quy tắc học Perceptron nhiều đầu ra

3.1 Các quy tắc học (0.5t)

3.2 Kiến trúc của Perceptron (0.5t)

Trang 8

3.3 Quy tắc học của Perceptron (1t)

3.4 Perceptron nhiều đầu ra (0.5t)

3.5 Quy tắc học của Perceptron nhiều đầu ra (0.5t)

Làm bài tập về nhà

Bài giảng 5: Quy tắc học Hebb Chương IV

 Nắm được mô hình, kiên trúc bộ liên kết tuyến tính;

 Nắm chắc quy tắc học Hebb;

 Nắm chắc quy tắc giả nghịch đảo;

 Hiểu các biến dạng của quy tắc học Hebb

4.1 Bộ liên kết tuyến tính (0.5t)

4.2 Quy tắc Hebb (0.5t)

4.3 Quy tắc giả nghịch đảo (1t)

4.4 Các ứng dụng (0.5t)

4.5 Các biến dạng của quy tắc học Hebb (0.5t)

Làm bài tập về nhà, gửi giáo viên vào tuần tới

Bài giảng 6: Quy tắc học Widrow-Hoff Chương V

Trang 9

 Nắm được mô hình, kiên trúc mạng ADALINE;

 Hiểu phương pháp tối ưu nhờ hàm lượng giá; Lỗi bình phương trung bình

 Tìm hiểu thuật toán bình phương tối thiểu

5.1 Mạng ADALINE (1t)

5.2 Lỗi bình phương trung bình (1t)

5.3 Thuật toán bình phương tối thiểu (1t)

Bài giảng 7: Quy tắc học Widrow-Hoff (tiếp) Chương V

 Tìm hiểu thuật toán bình phương tối thiểu (tiếp)

 Nắm chắc quy tắc học Widrow-Hoff

 Xây dựng được ứng dụng mạng ADALINE phân lớp dữ liệu

5.3 Thuật toán bình phương tối thiểu (tiếp – 1t)

5.4 Phân tích sự hội tụ (1t)

5.5 Xây dựng ứng dụng mạng ADALINE (1t)

Xây dựng ứng dụng và gửi lại cho giáo viên vào tuần tới

Bài giảng 8: Mạng MLP và thuật toán lan truyền ngược

Trang 10

Chương VI

 Nắm được điểm yếu của Perceptron 1 lớp và sự cần thiết của Perceptron nhiều lớp

 Hiểu kiến trúc của Perceptron nhiều lớp

 Tìm hiểu thuật toán lan truyền ngược

6.1 Tồn tại của perceptron 1 lớp (1t)

6.2 Perceptron nhiều tầng (1t)

6.3 Thuật toán lan truyền ngược (1t)

Bài giảng 9: Mạng MLP và thuật toán lan truyền ngược (tiếp)

Chương VI

 Nắm chắc thuật toán lan truyền ngược

 Nắm được một số phương pháp cải tiến thuật toán lan truyền ngược

 Nắm được các vấn đề của lan truyền ngược

 Xây dựng ứng dụng sử dụng MLP và thuật toán lan truyền ngược

6.3 Thuật toán lan truyền ngược (1t – tiếp)

6.4 Các ví dụ (1t)

6.5 Các biến dạng của lan truyền ngược (1t)

Trang 11

Xây dựng ứng dụng dự đoán chuỗi thời gian sử dụng MLP và thuật toán lan truyền ngược

Bài giảng 10: Quy tắc học liên kết Chương VII

 Hiểu kiến trúc mạng liên kết đơn, mạng nhận dạng đơn giản và tái hiện đơn giản

 Nắm quy tắc Hebb không giám sát

 Nắm quy tắc hình sao

7.1 Mạng liên kết đơn.(0.5t)

7.2 Quy tắc Hebb không giám sát (0.5t)

7.3 Mạng nhận dạng đơn giản (1t)

7.4 Các quy tắc hình sao (0.5t)

7.5 Mạng tái hiện đơn giản (0.5t)

Xây dựng ứng dụng nhận dạng đơn giản

Bài giảng 11: Mạng cạnh tranh và quy tắc học thi đấu Chương VIII

 Hiểu hình thái cạnh tranh trong sinh học

 Nắm được kiến trúc mạng cạnh tranh

 Tìm hiểu thuật toán học thi đấu

Trang 12

8.1 Mạng Hamming (1t)

8.2 Tầng cạnh tranh (1t)

8.3 Các tầng cạnh tranh trong sinh học (1t)

Bài giảng 12: Mạng cạnh tranh và quy tắc học thi đấu (tiếp) Chương VIII

 Nắm chắc mô hình ánh xạ đặc trưng tự tổ chức và luật học Kohonen

 Nắm được kiến trúc mạng LVQ và quy tắc học lượng tử hóa vector

 Xây dựng ứng dụng phân cụm dữ liệu dùng SOM

8.4 Ánh xạ đặc trưng tự tổ chức (1t)

8.5 Học kiểu lượng tử hoá véc tơ (1t)

8.6 Xây dựng ứng dụng mạng cạnh tranh (1t)

Xây dựng ứng dụng phân cụm dữ liệu dùng SOM

Bài giảng 13: Mạng hồi quy Chương IX

 Hiểu kiến trúc hồi quy của mạng nơron nhân tạo

 Nắm chắc kiến trúc của mạng Jordan và mạng Elman

Trang 13

 Nắm được phương pháp huấn luyện mạng hồi quy

9.1 Kiến trúc mạng hồi quy (1t)

9.2 Mạng Jordan và mạng Elman (1t)

9.3 Huấn luyện mạng hồi quy (1t)

Bài giảng 14: Mạng hồi quy (tiếp) Chương IX

 Nắm chắc kiến trúc mạng Hopfield

 Hiểu khái niệm năng lượng mạng Hopfield và chứng minh được sự hội tụ của mạng Hopfield

 Nắm chắc quy tắc huấn luyện mạng Hopfiled

9.4 Mạng Hopfield (1t)

9.5 Hàm năng lượng và sự hội tụ của mạng Hopfield (1t)

9.6 Huấn luyện mạng Hopfield (1t)

Xây dựng ứng dụng mạng Hopfield

Bài giảng 15: Mạng hàm cơ sở bán kính Chương X

Định dạng
Số trang	15
Dung lượng	203,01 KB