Developing variable neighborhood search techniques for continuous optimization problems

Doktora TeziMetasezgisel yöntemlerden biri olan Değişken Komşuluk Arama (DKA) algoritması, ayrık optimizasyon problemlerine uygulanmak amacıyla geliştirilmiş bir metottur. Literatürde, sürekli optimizasyon problemleri için DKA'nın diğer metasezgisel algoritmalar ile birlikte kullanıldığı hibrit yapılar mevcuttur. Ayrıca, literatürde DKA'nın yapay zeka yöntemleri ile birlikte kullanıldığı çalışma sayısı azdır ve kural çıkarımına yönelik her hangi bir çalışmaya rastlanılmamıştır. Bu tez çalışmasında sınıflandırma problemleri için, eğitilmiş yapay sinir ağlarından (EYSA) bilgi kazanımına yönelik (sınıflandırma kuralları şeklinde) bir algoritma geliştirilmiştir. Geliştirilen algoritma, YSA' daki bağlantı ağırlıklarında bulunan gizli bilgiyi keşfetmek için eğitilmiş yapay sinir ağları üzerinde çalıştırılmıştır. DKA metasezgisel algoritması iki adımlı hiyerarşik bir yapıya sahiptir. İlk adımda çok katmanlı bir sinir ağı eğitilmekte ve ağırlıkları çıkarılmaktadır. İkinci adımda, elde edilen ağırlıklar DKA algoritması ile sınıflandırma kurallarının üretimi için kullanılmaktadır. Önerilen algoritma iki farklı veri kümesi (Echo ve WBC) üzerinde deneysel olarak değerlendirilmiş ve literatürde yer alan diğer yöntemler ile karşılaştırılmıştır. Veri kümeleri üzerinde yapılan analizler, geliştirilen algoritmanın doğru ve etkin sınıflandırma kuralları üretebildiğini göstermektedir.Variable Neighborhood Search (VNS) algorithm, one of metaheuristic methods, is a method developed to be applied to discrete optimization problems. In literature, are available hybrid structures using the VNS method along with different algorithm for continuous optimization problems. Additionally, have been observed that the small number of studies using the VNS method along with artificial intelligence methods in the literature and hasn't been found a study for rule extraction. This thesis study presented a method of extraction correct and intelligible rules from trained artificial neural networks (TANN) using variable neighborhood search (VNS) metaheuristic method. The developed method, were run on trained artificial neural networks to discover of confidential information contained in ANN connection weight. VNS metaheuristic algorithm has a two-step hierarchical structure. In the first step, a multi-layer neural network has been trained and weights are removed. In the second step, the weights obtained are used for the production of classification rules. The suggested algorithm was assessed experientially on two different data group (Echo and WBC) and was compared with other methods in the current literature. The analyses on the test data sets show the fact that the developed algorithm can produce accurate and effective classification rules