Luận án Phát triển một số phương pháp học trọng số cho mạng nơ ron tế bào bậc hai

Tên luận án:

PHÁT TRIỂN MỘT SỐ PHƯƠNG PHÁP HỌC TRỌNG SỐ CHO MẠNG NƠ RON TẾ BÀO BẬC HAI

Ngành:

Kỹ thuật điện tử

Tóm tắt nội dung tài liệu:

Luận án tiến sĩ này, "PHÁT TRIỂN MỘT MỘT SỐ PHƯƠNG PHÁP HỌC TRỌNG SỐ CHO MẠNG NƠ RON TẾ BÀO BẬC HAI," tập trung vào việc phát triển các thuật toán học tiên tiến cho Mạng nơ ron tế bào bậc cao (SOCeNNs), một cấu trúc mạng nơ ron hồi quy dựa trên đề xuất của Nguyễn Quang Hoan và cộng sự. Luận án giải quyết nhu cầu về các phương pháp hiệu quả để xác định trọng số trong SOCeNNs nhằm tối ưu hóa hiệu suất.

Nghiên cứu đề xuất và phát triển ba nhóm thuật toán chính:

1. Thuật toán SORPLA (Second-Order Recurrent Perceptron Learning Algorithm): Đây là một thuật toán học dựa trên Perceptron được thiết kế cho mạng nơ ron tế bào bậc hai, chuyển đổi SOCeNNs thành một mạng truyền thẳng tương đương. Luận án cung cấp một chứng minh lý thuyết mới về tính hội tụ của SORPLA, mở rộng từ luật học Widrow-Hoff (LMS) cho các nơ ron tế bào sử dụng hàm bão hòa tuyến tính từng đoạn. Mặc dù SORPLA đảm bảo tính hội tụ, nó có thể chỉ đạt được tối ưu cục bộ.
2. Giải thuật Di truyền (GA) cho SOCeNNs (GACeNNs/GASOCeNNs): Để khắc phục hạn chế về tối ưu cục bộ của các phương pháp dựa trên gradient, một giải thuật di truyền được phát triển để tính toán các bộ trọng số cho mạng nơ ron tế bào bậc nhất và bậc hai. GA tận dụng cơ chế chọn lọc tự nhiên để tìm kiếm không gian giải pháp rộng lớn hơn, hướng tới việc đạt được tối ưu toàn cục.
3. Thuật toán lai GA-SORPLA (GASORPLA): Nhằm kết hợp ưu điểm của cả hai phương pháp, luận án giới thiệu thuật toán lai GASORPLA. Thuật toán này hoạt động theo hai giai đoạn: giai đoạn đầu sử dụng GA để xác định miền giá trị tối ưu toàn cục cho bộ trọng số khởi tạo, sau đó giai đoạn hai áp dụng SORPLA để tinh chỉnh các giá trị trọng số, đảm bảo cả tối ưu toàn cục và hội tụ chính xác.

Các thử nghiệm được thực hiện trên máy tính cá nhân bằng cách mô phỏng trên MATLAB và các chương trình Python. Kết quả thử nghiệm cho thấy khả năng ứng dụng cao của mạng nơ ron tế bào trong các bài toán thực tế, đặc biệt là tách biên ảnh. Các bộ trọng số được tính toán bằng SORPLA cho thấy tốc độ hội tụ nhanh hơn và chất lượng tách biên ảnh tốt hơn so với các bộ trọng số khởi tạo ngẫu nhiên hoặc RPLA cho mạng bậc nhất. Đặc biệt, GASORPLA cho kết quả tách biên rõ ràng và chính xác hơn cho các đối tượng phức tạp.

Những đóng góp chính của luận án bao gồm việc phát triển các luật học Perceptron hồi quy cho SOCeNNs, chứng minh tính hội tụ của SORPLA, và xây dựng các thuật toán GA cùng thuật toán lai (GA-RPLA và GA-SORPLA) để nâng cao chất lượng học cho mạng nơ ron tế bào bậc hai.