Self-attention ve cross-attention arasındaki fark nedir ve her biri ne için kullanılır?

Kendi Kendine Dikkat — giriş dizisinin öğelerinin, önem ağırlıklarını hesaplamak için birbirleriyle etkileşime girdiği bir mekanizmadır. Her öğe, aynı dizinin diğer tüm öğelerine 'dikkatle bakar' ve hangilerinin şu anki adım için daha önemli olduğunu anlamaya çalışır. Bu, dizileri işlemek için dönüştürücülerde anahtar bir bileşendir, örneğin dil modellerinde.

Çapraz Dikkat — iki farklı dizinin olduğu durumlarda kullanılır: biri sorgu (query) olarak, diğeri ise anahtarlar ve değerler (key, value) olarak hizmet eder. Çapraz dikkat, modelin ilk diziyi işlerken ikinci dizinin ilgili bölümlerine odaklanmasını sağlar. Örneğin, çeviri veya metin üretimi görevlerinde çapraz dikkat, decoder çıkışını encoder çıkışıyla bağlar.

Özetle:

• Kendi kendine dikkat, modelin aynı dizinin bağlamını dikkate almasına yardımcı olur.
• Çapraz dikkat, iki farklı diziyi bağlar ve birinin diğerinden bilgi almasını sağlar.

Örnek: Çeviri için bir dönüştürücüde, kendi kendine dikkat encoder ve decoder içinde uygulanır, çapraz dikkat ise encoder ve decoder arasında gerçekleşir.