Uzun bir diziyi izlediğinizi düşünün. Yeni bölümde bir karakter “Onu bana sen söylemiştin” dediğinde, sahneyi anlamak için üç bölüm önce olanları hatırlamanız gerekir. Öte yandan o bölümde birinin ne renk ceket giydiğini hatırlamanıza gerek yoktur. Beyniniz neyin önemli olduğunu seçer, önemli olanı saklar, gerisini bırakır.
Sıralı veride, yani kelimelerin bir cümlede, EEG ölçümlerinin zamanda art arda geldiği verilerde de durum aynıdır. Şu anki adımı anlamak için öncekileri bilmek gerekir. LSTM (Long Short-Term Memory, Uzun Kısa Süreli Bellek) ağları bu iş için tasarlandı.
Bir Defter Ve Üç Kapı
LSTM’yi, elinde bir defter tutan bir izleyici gibi düşünebilirsiniz. Her yeni sahnede bu defterle ilgili üç karar verir:
- Unutma kapısı: Defterdeki hangi notlar artık önemsiz? Ceketin rengi silinebilir.
- Giriş kapısı: Bu sahnede deftere yazmaya değer yeni ne oldu? İki karakterin tartışması not edilmeli.
- Çıkış kapısı: Şu anki sahneyi anlamak için defterdeki notların hangisine bakmalıyım?
Bu “kapılar” aslında birer ayar düğmesi. Ağ, eğitim sırasında bu düğmeleri ne zaman ne kadar açıp kapatacağını kendi öğreniyor.
Neden Önemli?
LSTM’den önceki basit sıralı ağların büyük bir sorunu vardı: unutkanlık. Birkaç adım geride kalan bilgi hızla siliniyordu. Defter fikri, önemli bir bilginin uzun süre korunmasını sağladı. LSTM’ler bu sayede yıllarca konuşma tanıma, çeviri ve hava durumu tahmini gibi alanlarda yaygın kullanıldı.
EEG’de LSTM
EEG, saniyede yüzlerce ölçümden oluşan uzun bir zaman serisi. Bir duygusal tepkiyi ya da dikkatin dağıldığı anı yakalamak için tek bir ana değil, sinyalin zaman içinde nasıl değiştiğine bakmak gerekiyor. LSTM’ler, sinyali adım adım okuyup önemli değişimleri “hatırlayarak” bu tür örüntüleri öğrenebiliyor.
Bir sonraki yazıda, her şeyi sırayla okumak yerine tüm diziye aynı anda bakan Transformer mimarisini anlatacağız.
Kaynaklar
- Hochreiter, S., Schmidhuber, J. (1997). Long Short-Term Memory. Neural Computation, 9(8), 1735–1780. DOI: 10.1162/neco.1997.9.8.1735