Tổng quan về khai phá dữ liệu, mạng nơ ron nhân tạo (Artificial neural network), ứng dụng mạng nơ ron nhân tạo cho bài toán dự đoán phụ tải điện - Tailieu123.org

Luận văn - báo cáo

Thạc sĩ cao học

Kinh tế quản lý

Khoa học tự nhiên

Kinh tế - Thương mại

Lý luận chính trị

Kỹ thuật

Báo cáo, luận văn khác

Kỹ năng mềm

Mẫu slide

Mẫu slide cho thuyết trình

Mẫu slide cho giáo án điện tử

Mẫu slide khác

Mẫu slide - Template

Kinh doanh - tiếp thị

Marketing, bán hàng

PR truyền thông

Kế hoạch kinh doanh

Tài liệu kinh doanh, tiếp thị khác

Thương mại điện tử

Kinh tế - Quản lý

Bài giảng, giáo trình

Tài liệu kinh tế khác

Tài chính - Ngân hàng

Tài chính doanh nghiệp

Kế toán, kiểm toán

Ngân hàng - tín dụng

Tài liệu tài chính - ngân hàng khác

Biểu mẫu - Văn bản

Mẫu hợp đồng

Mẫu đơn từ

Biểu mẫu, văn bản khác

Thủ tục hành chính

Giáo dục đào tạo

Tài liệu, đề thi môn Toán

Tài liệu, đề thi môn Ngữ Văn

Tài liệu, đề thi THPT các trường

Tài liệu, đề thi Vật Lý

Tài liệu, đề thi Sinh Học

Tài liệu, đề thi Hóa Học

Tài liệu, đề thi Lịch Sử

Tài liệu, đề thi học sinh giỏi

Tài liệu, đề thi khác

Giải bài tập các môn

Giáo án bài giảng

Giáo án, bài giảng lớp 6

Giáo án, bài giảng lớp 7

Giáo án, bài giảng lớp 8

Giáo án, bài giảng lớp 9

Giáo án, bài giảng lớp 10

Giáo án, bài giảng lớp 11

Giáo án, bài giảng lớp 12

Giáo án, bài giảng tiểu học

Giáo án, bài giảng khác

Công nghệ thông tin

Văn bản pháp luật

Thuế - Lệ phí - Kinh phí

Văn bản pháp luật khác

Học tiếng Anh

Tài liệu học tiếng Anh khác

Y học- sức khỏe

Tài liệu y học - sức khỏe khác

Các bài văn khấn nôm

Lĩnh vực khác

Kinh doanh - tiếp thị

Kinh tế - Quản lý

Tài chính - Ngân hàng

Tổng quan về khai phá dữ liệu, mạng nơ ron nhân tạo (Artificial neural network), ứng dụng mạng nơ ron nhân tạo cho bài toán dự đoán phụ tải điện

1531

522

Định dạng

Báo cáo tài liệu vi phạm

HỌC VIỆN CÔNG NGHỆ BƯU CHÍNH VIỄN THÔNG

---------------------------------------

NGUYỄN THỊ VÂN ANH

SỬ DỤNG MẠNG NƠ RON TRONG KHAI PHÁ DỮ LIỆU

CHUYÊN NGÀNH : TRUYỀN DỮ LIỆU VÀ MẠNG MÁY TÍNH

MÃ SỐ: 60.48.15

TÓM TẮT LUẬN VĂN THẠC SĨ KỸ THUẬT

NGƯỜI HƯỚNG DẪN KHOA HỌC : TS. VŨ VĂN THỎA

Hà Nội - 2010

MỞ ĐẦU

Trong môi trường cạnh tranh người ta ngày càng cần có

nhiều thông tin với tốc độ nhanh để trợ giúp việc ra quyết định

và ngày càng nhiều câu hỏi mang tính chất định tính cần phải

trả lời dựa trên một khối lượng khổng lồ dữ liệu đã có. Do đó

thực tế đã làm phát triển một khuynh hướng kỹ thuật mới làm

sao để khai thác tốt cơ sở dữ liệu trong các doanh nghiệp đó là

kỹ thuật khai phá dữ liệu (data mining), vận dụng kỹ thuật đó

thì dữ liệu giao dịch đóng một vai trò rất quan trọng cho việc

hoạch định kế hoạch kinh doanh trên thương trường vào những

năm tiếp theo. Kỹ thuật này đã được sử dụng tại nhiều nơi và đã

cho kết quả khả quan trong nhiều tổ chức trong và ngoài nước

và trên thế giới.

Chương 1: Tổng quan về khai phá dữ liệu

Chương 2: Mạng nơ ron nhân tạo (Artificial neural network)

Chương 3: Ứng dụng mạng nơ ron nhân tạo cho bài toán dự

đoán phụ tải điện.

Kết luận và hướng nghiên cứu tiếp theo.

Các từ khóa:

Khai phá dữ liệu (datamining), học máy

(machine learning), mạng nơ ron (neural network), MLP

(Multi-layer Perceptron), SOM (Self-organizer map).

asymmetric fuzzy weight - Decision Support Systems, Vol

24, 1998, 105-126 p.

[12] Rachel Konrad, Data mining: Digging user info for

gold, ZDNET News, February 7, 2001,

[13] Rekesh Arawal, Ramakrishnan Srikant, Fast Algorithms

for Mining Association, IBM Almadem Research Center

650 Harry Road, San Jose, CA 95120.

[14] Stuart Russell and Peter Norvig, Artificial Intelligence -

A Modern Approach. @2003, 1995 by Pearson

Education, Inc.

[15] Trần Bách, Lưới điện và hệ thống điện. NXB Khoa học

và kỹ thuật

[16] The Gartner Group,

[17]

Zhe Liao, Jun Wang - Forecasting model of global stock

index by stochastic time effective neural network- Expert

Systems with Application, Vol.37 (2010), 834-841.

TÀI LIỆU THAM KHẢO

[1] Ben Krose and Patrick van der Smagt, An Introduction to

Neural Networks, @1996 University of Amsterdam.

[2] David Hand, Heikki Mannila, and Padhraic Smyth,

Principles of Data Mining, MIT Press, Cambridge, MA,

2001.

[3] Daniel T. Larose, Discovering Knowledge in Data: An

Introduction to Datamining, NXB. Wiley Interscience.

[4] The Gartner Group,

[5] Joseph. P. Bigus, Datamining with Neural Network,

@1996 by The McGraw-Hill Companies, Inc.

[6] Lã Văn Út, Phân tích và điều khiển ổn định Hệ thống

điện, NXB Khoa học và kỹ thuật

[7] Martin T. Hagan, Howard B. Demuth, Neural Network

Design, copyright@1996 by PWS Publishing Company,

USA.

[8] Mehmed Kantardzic, Data Mining: Concepts, Models,

[9] Mehdi Khashei, Mehdi Bijari - An Artificial neural

network (p, d, q) model for timeseries forecasting -

Expert Systems with Application, Vol. 37(2010) 479-489

[10] M. Becvali, M.Cellura, V. Lo Brano, A. Marvuglia-

Forecasting daily urban electric load using artificial

neural networks - Energy Conversion and Management

Vol. 45 (2004) 2879-2900 p.

[11] R. J. Kuo, K. C. Xue - A decision support system for

sales forecasting through fuzzy neural networks with

Chương 1. Tổng quan về khai phá dữ

liệu 1.1 Khái niệm

Theo Gartner Group [4] “Khai phá dữ liệu là quá trình

khám phá các tương quan, mẫu và các xu thế mới có ý nghĩa

bằng việc dịch chuyển thông qua lượng lớn các dữ liệu được

lưu trữ, và sử dụng các công nghệ nhận dạng mẫu cũng như

các công nghệ thống kê, toán”.

Ta có thể phân khai phá dữ liệu thành một trong hai loại sau:

1. Khai phá dữ liệu có tính dự đoán: tức là là sản xuất ra

mô hình của hệ thống được mô tả bởi tập dữ liệu được cho.

2. Khai phá dữ liệu có tính mô tả: tức là sản xuất ra thông

tin mới, không tầm thường dựa trên tập dữ liệu có sẵn.

1.2 Các nhiệm vụ của khai phá dữ liệu

1.2.1 Mô tả: Đôi khi, các nhà nghiên cứu và phân tích đơn

giản là cố gắng tìm cách mô tả các mẫu và các xu thế nằm

trong dữ liệu. Các mô hình khai phá dữ liệu nên là minh

bạch ở mức có thể.

1.2.2 Ước lượng: Ước lượng tương tự như phân loại trừ

việc biến mục đích là số chứ không phải là loại.

1.2.3 Dự đoán: Dự đoán giá cả thị trường ba tháng trong

tương lai, dự đoán tăng phần trăm trong tai nạn giao thông

năm tiếp theo nếu giới hạn tốc độ được tăng lên

1.2.4 Phân loại: Trong phân loại, có một biến loại mục đích,

như là mức thu nhập, có thể được phân đoạn thành ba lớp

hoặc ba loại: thu nhập cao, thu nhập giữa và thu nhập thấp

1.2.5 Phân cụm (Clustering): Phân cụm nhằm vào việc

nhóm các bản ghi, hoặc các trường hợp thành các lớp đối

tượng tương tự.

1.2.6 Luật kết hợp: Nhiệm vụ kết hợp cho khai phá dữ liệu

là công việc tìm kiếm các thuộc tính “đi cùng nhau”, khám

phá các luật cho việc xác định mối quan hệ giữa hai hoặc

nhiều hơn thuộc tính.

1.3 Quá trình khai phá dữ liệu

1.3.1 Phát biểu bài toán và đề ra giả thiết

Trong bước này, một người lên mô hình thường xác định một

tập các biến cho sự phụ thuộc không biết trước, và nếu có thể, một

dạng chung của sự phụ thuộc này là một giả thiết đầu tiên.

1.3.2 Thu thập dữ liệu

Bước này liên quan tới việc dữ liệu được sưu tập và sinh ra

như thế nào. Với hướng tiếp cận này, thì dữ liệu ngẫu nhiên sẽ

được sinh, được giả thiết trong phần lớn các ứng dụng khai phá

dữ liệu.

1.3.3 Tiền xử lý dữ liệu

Trong hướng tiếp cận quan sát, dữ liệu thường được “sưu

tập” từ các cơ sở dữ liệu đang tồn tại, các kho dữ liệu, và các

trung tâm dữ liệu. Tiền xử lý dữ liệu thường bao gồm ít nhất hai

nhiệm vụ sau:

a) Phát hiện (và loại bỏ) các dữ liệu ngoại

lai. 4

như là quá trình học và nội dung học của chúng. Đến nay, có

rất nhiều mô hình mạng nơ ron nhân tạo, tuy nhiên do giới hạn

của luận văn chúng tôi tìm hiểu sâu về hai mô hình đó là mạng

tự tổ chức (SOM) và mạng truyền thẳng đa tầng (MLP) đây là

hai mô hình được sử dụng phổ biến và rộng rãi cho các bài toán

có dữ liệu lớn, có độ biến thiên cao và ưu điểm của kỹ thuật

này chính là khả năng tính xấp xỉ chính xác cho bất kỳ hàm cần

dự đoán nào.

Cuối cùng, để ứng dụng quá trình khai phá dữ liệu sử dụng

kỹ thuật mạng nơ ron, trong chương 3, chúng tôi giới thiệu bài

toán phụ tải điện năng, một trong những bài toán phù hợp với

việc sử dụng mạng nơ ron, với đầu ra dự đoán là phụ tải điện

ngắn hạn trong vòng 24 giờ tới.

 Với việc thu thập dữ liệu 2 năm 2005 và 2006, chúng tôi đã

chuẩn hóa hơn 600 vec tơ làm đầu vào cho mạng nơ ron.



 Với việc sử dụng mạng SOM, chúng tôi đã xây dựng được

cấu trúc lưới SOM tối ưu nhất là 8 8, tiếp theo chúng tôi

tiến hành phân cụm hiệu quả sử dụng giải thuật K-means

với số cụm tốt nhất là 9.



 Để dự đoán phụ tải điện năng trong 24 giờ tới, chúng tôi sử

dụng kết quả phân cụm của SOM cùng với một số dữ liệu

phụ tải điện quá khứ để tiến hành huấn luyện cho một mạng

truyền thẳng đa tầng (MLP) với thiết kế 50 nút tầng ẩn và

24 đầu ra cho các giá trị phụ tải điện của các giờ trong ngày.

Kết quả thu được là hết sức khả quan và có khả năng ứng dụng

trong việc dự đoán phụ tải cho bên quản lý hệ thống điện miền

Bắc.

và sai số giữa phụ tải dự đoán và phụ tải thực tế là rất nhỏ, trong

khi đó đường phụ tải dự đoán ở khoảng từ 1h chiều đến 4h chiều

có sai số là khá lớn. Điều này phần lớn xảy ra do dữ liệu phụ tải

không được đúng trong khoảng đó. Ngoài ra, trong luận văn này,

chúng tôi chỉ dự đoán phụ tải qua dữ liệu phụ tải điện trong quá

khứ, nếu muốn được chính xác hơn ta sẽ cần thêm một số điều

kiện của thời tiết như nhiệt độ, độ ẩm, … thì đường dự đoán phụ

tải điện và phụ tải điện thực tế sẽ có sai số bé hơn.

Kết luận

Luận văn trình bày với cấu trúc 3 chương, với mục đích thể

hiện việc khai phá dữ liệu thông qua kỹ thuật mạng nơ ron và

minh họa cụ thể qua bài toán phụ tải điện năng. Các kết quả

chính của luận văn là:

Ở chương 1, chúng tôi đã nghiên cứu tổng quan về khai phá

dữ liệu, phân loại khai phá dữ liệu, đưa ra được các nhiệm vụ

của khai phá dữ liệu đó là mô tả, ước lượng, dự đoán, phân loại,

phân cụm và cuối cùng là luật kết hợp. Tiếp theo, là phân tích

về quá trình khai phá dữ liệu bao gồm 5 bước: Phát biểu bài

toán và đề ra giả thiết. Thu thập dữ liệu. Tiền xử lý dữ liệu.

Ước lượng mô hình. Diễn giải mô hình và đưa ra kết luận.

Ở chương 2, chúng tôi đi vào nghiên cứu về kỹ thuật mạng

nơ ron, là một trong các phương pháp được ứng dụng nhiều và

mang lại hiệu quả cao trong các nhiệm vụ khai phá dữ liệu. Bắt

đầu với việc giới thiệu về mạng nơ ron sinh học, rồi lên mô

hình toán cụ thể cho một nơ ron nhân tạo, chúng tôi tìm hiểu

tiếp về kiến trúc của mạng nơ ron nhân tạo gồm mạng truyền

thẳng, mạng hồi quy, và khả năng học sửa lỗi của mạng nơ ron

b) Lên tỉ lệ, mã hóa, và lựa chọn các thuộc tính.

Hai lớp nhiệm vụ tiền xử lý này chỉ là các ví dụ mô tả của

một phạm vi lớn các hoạt động tiền xử lý trong một quá trình

khai phá dữ liệu.

1.3.4 Ước lượng mô hình

Sự lựa chọn và thực hiện kỹ thuật khai phá dữ liệu thích hợp

là nhiệm vụ chính trong giai đoạn này. Quá trình này không dễ

dàng, trong thực hành việc thực thi dựa trên một vài mô hình,

và kèm theo là nhiệm vụ chọn được cái tốt. Phần đầu tiên của

dữ liệu được gọi là tập học, phần tiếp theo được gọi là tập xác

nhận, cũng được gọi là tập kiểm tra. Một mô hình được nhận ra

thông qua quá trình khai phá dữ liệu sử dụng các kỹ thuật học

quy nạp có thể được ước lượng sử dụng tham số tốc độ lỗi

chuẩn như một phép đo việc thực hiện của nó.

1.3.5 Diễn giải mô hình và đưa ra kết luận

Trong phần lớn các bài toán, các mô hình khai phá dữ liệu hỗ

trợ trong phần ra quyết định. Do vậy, các mô hình thực sự hữu

ích thì cần thiết phải diễn giải được bởi vì con người không chắc

chắn dựa vào các quyết định của chúng trên các mô hình “khép

kín” phức tạp. Để ý rằng các đích của sự chính xác của một mô

hình trái ngược với sự chính xác của sự diễn giải của nó. Thông

thường, các mô hình đơn giản là diễn giải được nhiều hơn,

nhưng chúng cũng kém chính xác hơn. Các phương pháp khai

phá dữ liệu hiện đại được mong đợi gặt hái các kết quả chính

xác cao sử dụng các mô hình có số chiều cao.

LÝ THUYẾT TOÁN

Kinh doanh - tiếp thị

Quản trị, internet, marketing

Giáo dục đào tạo

Các tài liệu, đề thi liên quan đến các môn học của học sinh và bài giảng của giáo viên

Công nghệ thông tin

Tài liệu lĩnh vực công nghệ thông tin

Học tiếng Anh

Các tài liệu liên quan đến học tiếng Anh