Yapay Zeka Neden Negatif Komutları Anlamakta Zorlanır?

Psikolojide çok meşhur bir deney vardır: Size "Önümüzdeki 10 saniye boyunca ne düşünürseniz düşünün ama sakın pembe bir fil düşünmeyin!" dersem, zihninizde anında beliren ilk şey kocaman kulaklı, parlak pembe bir fil olur. Çünkü insan beyni bir kavramı reddetmek veya yok saymak için önce o kavramı zihninde canlandırmak zorundadır.

İşin komik tarafı, milyarlarca dolarlık süper bilgisayarlarda eğitilen görsel üretim yapay zekaları da tıpkı bizim gibi bu tuzağa düşüyor. Bir görsel modeline "Bana gözlüksüz ve sakalsız bir adam çiz" veya "Masada kesinlikle elma olmasın" dediğinizde, yapay zeka inadına adamın burnuna en kalın çerçeveli gözlüğü takıp masayı elmalarla doldurabiliyor. Peki bu kadar gelişmiş algoritmalar neden basit bir "-sız / -siz" ekini veya "olmasın" kelimesini anlamakta bu kadar zorlanıyor?

Suçlu: "Dikkat" (Attention) Mekanizmasının Çalışma Şekli

Modern yapay zeka modelleri cümleleri bizim gibi dilbilgisi kurallarıyla değil, kelimelerin birbirleriyle ve piksellerle olan yakınlığını ölçen Çapraz Dikkat (Cross-Attention) matrisleriyle okur. Siz bir komut yazdığınızda, metin kodlayıcı her kelimeyi çok boyutlu uzayda birer sayı dizisine (vektöre) dönüştürür.

Görüntü oluşturulurken yapay zeka rastgele bir karıncalanma (gürültü) ekranıyla başlar ve her adımda kelimelerinize bakarak pikselleri şekillendirir. Cümlenin içinde "Gözlük" veya "Fil" kelimesini gördüğü anda, sinir ağındaki "gözlük" ve "fil" nöronları ışıl ışıl parlamaya başlar. Yanındaki "yok", "olmasın", "hariç" gibi soyut mantıksal operatörlerin görsel dünyada somut bir piksel karşılığı yoktur. Sonuç? Model "olmasın" kelimesini nereye çizeceğini bilemez ama "gözlük" kelimesini çok iyi bildiği için heyecanla tuvale gözlük çizmeye girişir!

İnternetteki Fotoğraf Alt Yazılarının Gizli Kusuru

Bu durumun ikinci sebebi ise yapay zekanın eğitildiği milyarlarca internet fotoğrafıdır. Düşünün, internete bir manzara fotoğrafı yükleyen hiç kimse altına "İçinde dinozor, uzay gemisi ve şemsiye olmayan güzel bir orman" yazmaz. İnsanlar fotoğrafların altına sadece fotoğrafta var olan şeyleri yazarlar.

Dolayısıyla yapay zeka eğitim hayatı boyunca "negatif tanımlama" içeren neredeyse hiçbir veri görmemiştir. Onun dünyasında bir kelimenin cümlede geçmesi, o nesnenin resimde bulunması gerektiği anlamına gelir.

Çözüm: Vektör Uzayında Direksiyonu Ters Kırmak

Mühendisler yapay zekaya dilbilgisiyle laf anlatamayacaklarını anlayınca sorunu saf matematikle çözdüler: Negatif Yönlendirme (Negative Prompting / Classifier-Free Guidance). Birçok gelişmiş arayüzde gördüğünüz o ayrı "Negatif Komut" kutusu aslında çok kurnazca çalışır:

• Yapay zeka önce sizin istediğiniz resmi çizerken gideceği yönü hesaplar.
• Sonra negatif kutuya yazdığınız "gözlük" kelimesine bakar ve "Ben buraya gözlük çizmek isteseydim pikselleri hangi yöne doğru değiştirirdim?" diye ikinci bir hesap yapar.
• Son adımda ise bu "gözlük vektörünü" ana resimden matematiksel olarak çıkarır (yani direksiyonu tam ters yöne kırar).

Yani bir dahaki sefere sohbet penceresinden yapay zekaya resim çizdirirken "Sakın yağmur yağmasın" demek yerine doğrudan "Güneşli, açık ve masmavi gökyüzü" deyin. Unutmayın, hem insan beyni hem de yapay sinir ağları neyi istemediğinizi değil, neyi görmek istediğinizi duymaya programlanmıştır.