DİNAMİK SİNİR AĞLARI

Dinamik sinir ağları nöronları ve bu nöronlar ile oluşturulan ağ yapısı, nöron içerisinde geribesleme yollarının ve bellek elemanlarının var olması dolayısıyla dinamik bir davranış göstermektedir.

Dinamik sinir ağlarında kullanılan nöronlar yapısal olarak sinaptik ve somatik olmak üzere iki ayrı parçadan oluşur. Sinaptik kısımda ayrık zamanlı bir transfer fonksiyonu gerçeklenir, somatik kısımda ise bir eğim kazancı ve bir aktivasyon fonksiyonu vardır.

Hata geriye yayma yöntemini bu modelde kullanırken sinaptik kısmı oluşturan fark denkleminin transfer fonksiyonunu bulmamız gerekir daha sonra en küçük kareler ile değişkenlerin kısmı türevleri yardımıyla yeni değerler elde edilir.

DANIŞMANLI ÖĞRENME

Yapay sinir ağlarından öğrenme 2 temel şekilde gerçekleştirilmektedir. Bunlardan ilki ve bizim daha yoğun olarak üzerinde duracağımız kısım danışmanlı öğrenme, diğeri ise danışmansız öğrenmedir.

Öğrenmenin nasıl olacağına Donald Hebb bir çözüm getirmiştir ve yapay sinir ağlarında öğrenme onun adıyla anılan bir kuralla açıklanmaktadır. Bu kuralda temel fikir iki sinir bağlantısı arasındaki ağırlık katsayısı sinirlerin aynı zamanda etkinleşmesine bağlıdır. Hebb sinir faaliyetlerini örnek alarak bunların hafızada basit bir yerde yerleşebileceğini varsaymış ve bu kurama göre sinirlerin birbirlerini ortaklaşa uyardıklarını ve bu uyarım sonucunda aralarındaki sinaptik bağlantı katsayılarının kendi etkinlikleri çarpımı oranında artacağını ortaya koymuştur.

Yapay sinir ağlarından bilgi nöronlar arasındaki ağırlıklarda depolanır. Bu işlevde öğrenme kısaca belirli işlevi yerine getirecek şekilde ağırlıkların düzenlenmesidir.  Bu ağırlıkların düzenlenmesinde pek çok metot denenmiştir bunları başlıca 2 guruba ayırabiliriz. Danışmanlı öğrenme ve danışmansız öğrenme.

Aşağıda önemli öğrenme kurallarından bir kaçı yer almaktadır.

 Hebb Kuralı

Eğer bir sinir başka bir sinirden giriş alırsa ve her ikisi de matematiksel olarak aynı işaretli ise sinirler arasındaki boyut kuvvetlendirilir.

Hopfield Kuralı

 Bu kural kuvvetlendirme ve zayıflatmanın derecesini belirleyebilmesi dışında Hebb kuralından farksızdır. Burada eğer istenilen çıkış ve girişin matematiksel işaretleri aynı ise bağlantı katsayılarını öğrenme oranında  arttır, tersi ise azalt demektedir.

Delta Kuralı

En çok kullanılan kurallardan birisidir. Bir sinirin gerçek çıkışı ile istenilen çıkışı arasındaki farkı azaltmak için giriş bağlantı güçlerini sürekli arttırmaya dayanır. Bu kural ağ hatasının karesini minimize etmek için bağlantı boyutlarını değiştirir. Hata bir önceki katmana geri çoğaltılır. Her bir zaman dilimi için bir hata şeklinde gerçekleşen geri çoğaltma işlemi ilk katmana ulaşıncaya kadar devam eder.

Eğimli İniş Kuralı

Bu kural delta kuralına benzer çünkü transfer fonksiyonunun türevi bağlantı ağırlıklarına uygulanmadan önce, delta hatasını düzeltmek için kullanılır. Bir ağın farklı katmanları için öğrenme oranları, öğrenme işleminin daha hızlı olmasını sağlamıştır.

Kohonen Öğrenme Kuralı

Bu kuralda da sinirler doğada olduğu gibi öğrenmek için elverişli durum veya ölçülerini güncellemek için yarışırlar. En büyük çıkış ile işlenen sinir, kazananı ilan eder ve komşularına bağlantı boyutlarını güncellemeleri için izin verir.

Danışmalı öğrenmede ise gerçek çıkış ile istenilen çıkış karşılaştırılır. Buradaki hata değerleri kullanılarak ağırlıklar öyle ayarlanır ki bir sonraki aşamada hata azaltılmaya çalışılır. Dayanışmalı öğrenmede yapay sinir ağları kullanılmadan önce eğitilmelidir. Yani gerçek verilerle karşılaşmadan önce olası durumlara hazırlıklı olmasını sağlayacak eğitim verileri kullanılır. Bu eğitim verilerine yakın girdiler geldiğinde hata az olmaktadır. Yapay sinir ağları böyle eğitilerek her türlü olası duruma karşı belirli veriler üretebilir hale gelmektedirler. Öğrenme aşaması bittiğinde yapay sinir ağları kullanılmaya başlayacağında katsayılar sabit kalır. Bazı ağ yapılarında ağ çalışırken çok küçük oranda eğitmeye izin verilir. Bunun nedeni eğitim kümesinin ayarlanmasının çok hassan olmasıdır. Eğitim kümesine fazla veri girilirse yapay sinir ağı ezberleme işlemi yapabilir. Bunun yanı sıra yeni öğrenilen kötü veriler öğrenilen verilerinde unutulmasına neden olur.