Aktivasyon fonksiyonları

Biyolojik nöronlarda olduğu gibi yapay sinir ağlarında da belirli bir girdiye verilen değer hücrenin aktivasyon değerini aştığında “ya hep ya hiç” prensibine göre bir tepki üretir. Yapay sinir ağlarında bu tepki farklı formlarda olabilmektedir. Sigmoid, hiperbolik tanjant, sert geçişli tipte farklı aktivasyon fonksiyonları bulunmaktadır.

Sınıflandırma problemi

Sınıflandırma problemi yapay sinir ağlarının özellikle üzerinde durduğu başlıklardan biridir. Bu konuda iki veya daha çok türün birbirinden ayrılmasında yapay sinir ağlarına başvurulmaktadır. Ve tür sayısı arttıkça optimizasyon yöntemleri geliştirmek gerekmektedir. Yapay sinir ağlarından nöronların bağlantı katsayılarını güncellemek çok sık kullanılan bir yöntemdir. 

En küçük kareler yöntemi

Sınıflandırma probleminde olduğu gibi elimizde belirli elemanlar ve bunların hangi sınıfa ait olduğu bilgisi yer alsın. Bu durumda bu cisimleri birbirinden en iyi ayıran doğru istendiğinde ne yapmak gerekmektedir. Böyle bir problemde N adet değişkenin sınıflandırılması problemi N-1 boyutlu bir yüzeye karşılık gelmektedir ve her bir eleman için anlık hatalar hesaplanıp birbiriyle toplanması sonucu toplam hata bulunur. Yöntem bu toplam hatayı minimum düzeye indirme çabası için bulunmuştur. Bunun içinde düşüm modeli sıklıkla kullanılmatadır.

YAPAY SİNİR AĞLARI MODELLERİ

Yapay sinir ağları modelleri genel olarak yapı itibariyle birbirlerine benzerler. Sistemin özelliklerine göre belli girdi ve çıktılara sahiptirler ve burada kullanılacak nöron sayısı sistemden bakılarak belirlenebilir. Fakat gizli katman nöronlarının sayısını belirlemede herhangi bir kesin yöntem yoktur. Bu sorunu aşabilmenin tek yolu deneme yanılmadır. Bunun haricinde gerekli nöron sayısı ve yapısal hali oluşturulduktan sonra önemli olan bir diğer nokta ise öğrenme ve ezberleme arasındaki ince noktayı yakalayabilmekte ve yaptığımız işlemlerin verimli olabilmesini sağlayabilmektedir.   

İleri sürümlü sinir ağları modeli

Aşağıdaki şekilde görülmekte olan ağ yapısı ileri sürümlü sinir ağı olarak adlandırılmaktadır. Bunun nedeni geri besleme bağlantılarının olmaması ve iletimin ileri yönde devam etmesindendir.

Bu yapıda giriş katmanı giriş vektörünü gizli katmanlara iletmekle yükümlüdür ve nonlineer bir davranışa sahip değildir. Dolayısıyla giriş katmanındaki her bir nöronun çıkışında bağlı olduğu giriş değerleri gözükür. Bir diğer önemli nokta ise aktivasyon fonksiyonunun türevlenebilir olup olmamasıdır. Eğer türevlenemiyor ise hata geriye yayma yönteminin kullanılması için uygun olmamaktadır.

Burada önemli olan eğim düşümü yöntemi kullanarak Ø’nin   hangi değerinde en küçük olduğunu bulabilmektir. Bu işlemler iteratif olarak hesaplanmaktadır. Burada η değeri önem kazanmaktadır. Çünkü çok küçük bir değerde olması iterasyonun uzamasına büyük olması ise optimal nokra etrafında osilasyona neden olmaktadır. η  büyüklüğüne genelde adım büyüklüğü de denmektedir ve genelde deneme yoluyla belirlenir.

Hata geriye yayma yönteminin türetimi için ;

Yöntemin türetiminde akış katmanındaki nöronlar için farklı, gizli katman için ayrı uygulanmaktadır. Bu parametre güncelleme kuralı her bir çıkış nöronundan gelen hata bilgisini kullanarak bu hataların toplamından oluşan hatayı, uyarlanabilir parametreler kullanarak minimize etmeyi amaçlar. Burada 

Bu yöntemde N değişken için N+1 boyutlu bir uzaydaki yüzey üzerinde minimum hatanın olduğu nokta aranır. Bunun için teğetler alınır fakat bu iş yorucu ve uzun bir iştir. Yapılabilecek daha mantıklı bir hareket işlemi adım büyüklüğü üzerinde oynamalar yaparak kontrol etmek olabilir.

Öğrenme ve ezberleme olayları probleme göre farklıdır. Lojik fonksiyonlar öğrenme sınıfına girer çünkü mümkün olabilecek girişler sınırlıdır ve en küçük kareler yöntemi ile bulunabilecek hata sıfıra yakın olacaktır. Yalnız farklı bir problemde hata çok daha fazla olabilir bunun nedeni ideal bir yapı oluşturmak için teoride sonsuz adet örnekleme ile sinir ağı eğitilmelidir. Bu durumda eğitim ve test çiftleri oluşturarak test çiftlerine verilen hata değerleri kontrol edilir. Test çifti oluşturulurken mümkün olduğunca eğitim çiftlerinden farklı çiftler seçilmeye çalışılır.

GAUSS MERKEZCİL TABAN FONKSİYONLU SİNİR AĞLARI

 Yapısal olarak normal sinir ağları gibidir. Giriş, çıkış ve gizli katmanları bulunur fakat gizli katmanları sadece 1 adettir ve bu gizli katmanda nonlineer aktivasyon fonksiyonuna sahip nöronlar bulunur. Özellikle giriş vektörünün bulunduğu uzayı alt uzaylara bölerek işler.

Hata geriye yayma yöntemi ile parametre güncellerken maliyet fonksiyonunun minimizasyonunu yapmak için ağ yapısında kullanılan nöronların c_i , σ_i  ve ağ üzerindeki ağırlık katsayısı w_i parametre olarak verilir.

Adaptif sistemlerde dışarıdan gelen işaretin veya verinin sistem çıkışında verdiği sonuç hatalı olabilmekte veya beklenen değerle uyuşmayabilmektedir. Bu gibi durumlarda hata hesaplanarak beklenen değerler elde etmek için sistemin yapısı değiştirilebiliyorsa sistemimiz karşılaşılan durumlara adapte olabiliyor denmektedir. Bu nedenle bu tür sistemler adaptif sistemler sınıfına girmektedir.

Yapay sinir ağları yöntemi de nöronlar arası bağlantıları ve bunların katsayılarını, öğrenme katsayısı, momentum katsayısı gibi değişkenlerini değiştirerek duruma adapte olabilmektedir.

YAPAY SİNİR AĞLARI

Yapay sinir ağları 1943 yılında bir nöropsikiyatrist tarafından canlı sistemlerdeki sinir hücreleri örnek alınarak geliştirilmiştir. Fakat ilk yıllarda fazla başarı sağlayamamıştır.  1969 yılında yazılan bir kitap ile konu tekrar gündeme gelmiştir ve 1990lı yıllarda bu alanda gerçekleşen ilerlemeler hız kazanmıştır.

Yapay sinir ağlarındaki nöronlar bizdeki sinir hücrelerine benzetilmektedir. Sinirler arası bağlantılar burada katsayılarla ifade edilmiş ve belirli eşik değerleri üstünde aktif olma özelliği YSA ile de sağlanmıştır. Bu sistemleri donanımsal olarak gerçeklemekte mümkündür.

Yapay sinir ağları sınıflandırma, tahmin ve modelleme amaçlı sıklıkla kullanılmaktadır. Sayısal bilgisayarlarla karşılaştırıldıklarında ;