Ders-2 shallow neural network yazısında, tek gizli katmanlı sinir ağları mimarisini gördük. Sinir ağlarında kullanılan bazı kritik terimlerden de bahsettik.
Bu yüzden, iki veya daha fazla gizli katmandan oluşan “YAPAY SİNİR AĞI – ANN”, Deep neural network – Derin sinir ağı olarak bilinir.
Derin sinir ağlarının eğitim işlemi DEEP LEARNING – DERİN ÖĞRENME olarak adlandırılır. Derin öğrenmedeki, “Deep” ya da “Derin” terimi sinir ağındaki gizli katman sayısını ifade eder.
Shallow neural network (sığ sinir ağı) mimarisinde, 3 tip katmanı konuştuk. Giriş katmanı (input layer), Gizli katman (hidden layer) ve Çıkış katmanı (output layer). Bu katmanlar derin sinir ağlarında da mevcuttur. Derin sinir ağları, 1 gizli katman yerine minimum iki veya daha çok gizli katmana sahiptir.
Girdilerin ve parametrelerin benzer matris gösterimi derin sinir ağlarında da shallow neural network ile aynıdır. Kullanılan gizli katman sayısına göre ağırlık ve bias vektörlerinin sayısı artar.
Shallow neural network’te kullanılan hesaplama prosedürleri, aynen deep neural network mimarisinde de kullanılır. Ancak, derin sinir ağında, gizli katman sayısı arttıkça, hesaplama işlemine ekstra adım ekleme ihtiyacı doğar.
Sinir Ağlarında katmanları saymak için kullanılan Kurallar:
Tek katmanlı, iki katmanlı, dört katmanlı sinir ağları gibi ifadeler görmüşsünüzdür. Sinir ağlarında katmanları sayarken farklı kurallar kullanılır.
- Yalnızca gizli katmanı saymak : bu yöntem sinir ağlarında katman sayarken, en çok kullanılan yöntemdir. Burada yalnızca gizli katmanlar sayılır. Giriş ve çıkış katmanları sayılmaz. Örneğin bir sinir ağında, 2 gizli katman varsa, 2 katmanlı sinir ağı olarak adlandırılır. Giriş ve çıkış katmanları ile, ağda aslında 4 katman vardır.
- Tüm katmanları saymak : düz metottur. Burada, giriş, gizli ve çıkış katmanları, tüm katmanlar sayılır. Örneğin 2 gizli katmanı olan bir sinir ağında, 4 katmanlı sinir ağı olarak hesaplanır ve adlandırılır.
- Yalnızca ağırlığa sahip katmanları saymak : giriş katmanı hariç, ağırlığa sahip tüm diğer katmanlar. Bu yüzden bir sinir ağında n-1 katman vardır diyebiliriz. (n : katman sayısı) . Bir sinir ağında, 2 gizli katman varsa, 3 katmanlı sinir ağıdır deriz.
