Khóa luận: ĐH Quốc gia HN- mạng Nơron RBF và thuật toán HDH huấn luyện mạng RBF vào việc giải quyết bài toán nội suy sấp xỉ với dữ liệu nhiễu trắng - Tailieu123.org

5
MỤC LỤC
Lê Xuân Minh Hoàng 1
HÀ NỘI - 2010 1
Lê Xuân Minh Hoàng 2
HÀ NỘI – 2010 2
MỞ ĐẦU 9
CHƯƠNG 1 BÀI TOÁN NỘI SUY, XẤP XỈ HÀM SỐ VÀ MẠNG NƠRON RBF 13
Hình 1: Minh họa bài toán nội suy hàm một biến..............................................................13
1.2.1 Mạng nơron sinh học:........................................................................................................16
Hình 2: Minh họa một Neuron thần kinh sinh học.............................................................16
1.2.2 Mạng Nơron nhân tạo........................................................................................................17
Hình 3: Cấu tạo một Nơron nhân tạo................................................................................17
1) Hàm ngưỡng................................................................................................................ 18
.......................................................................................................................................... 18
.......................................................................................................................................... 18
Hình 4: Đồ thị hàm ngưỡng..............................................................................................18
2) Hàm tuyến tính.............................................................................................................18
.......................................................................................................................................... 18
.......................................................................................................................................... 18
Hình 5: Đồ thị hàm tuyến tính...........................................................................................18
3) Hàm sigmoid.................................................................................................................18
.......................................................................................................................................... 18
.......................................................................................................................................... 18
Hình 6: Đồ thị hàm sigmoid..............................................................................................18
4) Hàm tank......................................................................................................................19
.......................................................................................................................................... 19
.......................................................................................................................................... 19
Hình 7: Đồ thị hàm tank....................................................................................................19
5) Hàm bán kính (Gauss).................................................................................................19
.......................................................................................................................................... 19
.......................................................................................................................................... 19
Hình 8: Đồ thị hàm Gauss................................................................................................19
Hình 9: Kiến trúc mạng Nơron truyền tới..........................................................................20
1.3 MẠNG NƠRON RBF 20
1.3.1 Kỹ thuật hàm cơ sở bán kính và mạng nơron RBF...........................................................20
Hình 10: Minh họa sự ảnh hưởng của hàm bán kính.......................................................21
1.3.2 Kiến trúc mạng Nơron RBF...............................................................................................22
Hình 11: Kiến trúc của mạng RBF....................................................................................22
1.3.3 Đặc điểm huấn luyện của mạng Nơron RBF.....................................................................22
2.1.  THUẬT TOÁN LẶP HDH HAI PHA HUẤN LUYỆN MẠNG RBF 24
2.1.1 Phương pháp lặp đơn giải hệ phương trình tuyến tính......................................................24
2.1.2 Thuật toán lặp hai pha huấn luyện mạng RBF...................................................................24
2.1.3. Mô tả thuật toán................................................................................................................25
Hình 12: Thuật toán HDH huấn luyện mạng RBF.............................................................26
2.1.4. Nhận xét...........................................................................................................................26
2.2 THUẬT TOÁN LẶP HDH MỘT PHA HUẤN LUYỆN MẠNG RBF VỚI 
BỘ DỮ LIỆU CÁCH ĐỀU 27
2.2.1 Biểu diễn các mốc nội suy.................................................................................................27
2.2.2. Mô tả thuật toán :............................................................................................................. 27

6
2.2.3. Nhận xét...........................................................................................................................28
4.1. NHIỄU TRẮNG VÀ BÀI TOÁN XẤP XỈ NỘI SUY VỚI DỮ LIỆU 
NHIỄU 29
4.1.1. Bản chất của nhiễu trắng..................................................................................................29
Hình 13 Dữ liệu có nhiễu trắng và hàm số chuẩn.............................................................30
3.1.2 Phân phối chuẩn................................................................................................................ 30
Hình 14 Hàm mật độ xác suất của phân phối chuẩn với phương sai kỳ vọng khác nhau 31
3.1.3 Bài toán nội suy xấp xỉ hàm với dữ liệu nhiễu trắng..........................................................31
3.2 PHƯƠNG PHÁP HỒI QUY TUYẾN TÍNH K HÀNG XÓM GẦN NHẤT
32
3.2.1  Phát biểu bài toán hồi quy................................................................................................32
3.2.2  Mô tả phương pháp kNN..................................................................................................32
3.3  Ý TƯỞNG VÀ PHƯƠNG PHÁP GIẢI QUYẾT BÀI TOÁN NỘI SUY 
XẤP XỈ VỚI DỮ NHIỆU NHIỄU 33
Hình 15 Thể hiện lưới cách trên cơ sở miền giá trị của các mốc ban đầu........................34
4.1 LẬP TRÌNH SINH NHIỄU TRẮNG THEO PHÂN PHỔI CHUẨN 35
4.1.1 Phương pháp Box-Muller...................................................................................................35
4.1.2 Sinh nhiễu trắng từ hàm rand() trong C++.........................................................................36
4.2 LẬP TRÌNH GIẢI HỆ PHƯƠNG TRÌNH CỦA BÀI TOÁN HỒI QUY 
TUYẾN TÍNH KNN 36
4.3 GIỚI THIỆU PHẦN MỀM XẤP XỈ NỘI SUY VỚI DỮ LIỆU NHIỄU 37
4.3.1 Tổng quan phần mềm........................................................................................................37
4.3.2 Tổ chức dữ liệu.................................................................................................................. 37
4.3.3 Giao diện và chức năng.....................................................................................................39
4.3.3.1  Tab “Nhập dữ liệu theo file”......................................................................................39
Hình 16 Giao diện nhập dữ liệu theo file..........................................................................39
4.3.3.2  Tab “Tự nhập”...........................................................................................................41
Hình 17 Giao diện nhập dữ liệu thủ công.........................................................................41
KẾT QUẢ THÍ NGHIỆM 42
5.1 THÍ NGHIỆM VỀ VIỆC THAY ĐỔI KÍCH THƯỚC LƯỚI 42
Hình 18 Sai số khi chọn các kích cỡ khác nhau của lưới dữ liệu cho bộ dữ liệu 100 mốc 
ngẫu nhiên, không áp dụng heuristic “ăn gian”.................................................................43
Hình 19 Sai số khi chọn các kích cỡ khác nhau của lưới dữ liệu cho bộ dữ liệu 200 mốc 
ngẫu nhiên, không áp dụng heuristic “ăn gian”.................................................................44
Hình 20 Sai số khi áp dụng các kích cỡ khác nhau của lưới dữ liệu cho bộ dữ liệu ngẫu 
nhiên 100 mốc, có heuristic “ăn gian”...............................................................................44
Hình 21 Sai số khi chọn các kích cỡ khác của lưới dữ liệu cho bộ dữ liệu 200 mốc ngẫu 
nhiên, có áp dụng heuristic “ăn gian”................................................................................45
5.2 THÍ NGHIỆM VỀ VIỆC CHỌN K 45
Hình 22 Bảng so sánh sai số của phương pháp kNN-HDH khi áp dụng cho hàm y1 với 
các cách chọn k khác nhau..............................................................................................46
Hình 23 Bảng so sánh sai số của phương pháp kNN-HDH khi áp dụng cho hàm y2 với 
các cách chọn k khác nhau..............................................................................................47
5.3 THÍ NGHIỆM KHI TĂNG SỐ CHIỀU 48
Hình 24: Bảng so sánh sai số của phương pháp kNN-HDH khi dùng và không dùng 
Heuristic, với số chiều tăng dần........................................................................................48
5.4 SO SÁNH HIỆU QUẢ VỚI PHƯƠNG PHÁP KHÁC 49
Hình 25: Bảng so sánh kết quả với phương pháp GIC.....................................................49

LÝ THUYẾT TOÁN

Kinh doanh - tiếp thị

Quản trị, internet, marketing

Giáo dục đào tạo

Các tài liệu, đề thi liên quan đến các môn học của học sinh và bài giảng của giáo viên

Công nghệ thông tin

Tài liệu lĩnh vực công nghệ thông tin

Học tiếng Anh

Các tài liệu liên quan đến học tiếng Anh