Bu durumla ilk karşılaştığınızda kendinizi biraz garip hissedersiniz. Bir kafeye girip çeşit çeşit bagel sandviçlerin resmedildiği bir menüye bakarsınız; ama her illüstrasyon tuhaf bir şekilde kusursuzdur, aşırı simetriktir, fazlasıyla pürüzsüzdür – ve içinizde bir şeyin yolunda gitmediğine dair bir his uyanır. Kendinizi fazla şüpheci sanabilirsiniz ama yanılmıyorsunuz: yapay zekanın ürettiği menü görselleri artık restoranlarda karşımıza çıkıyor. Bunun nedeni, bu modellerin dar ve “göze hoş gelen” tek bir estetik anlayışla eğitilmiş olması; nedenini tam açıklayamasanız bile bu görseller size yanlış geliyor.
Bazı illüstrasyonlar bariz şekilde sahte duruyor – mesela peyniri o kadar kabarık ve erimiş görünen bir burrito ki, yemekten çok bir sanat eserini andırıyor. Ama çoğu zaman görseller o kadar “normal” duruyor ki, ancak dikkatli baktığınızda bir tuhaflık fark ediyorsunuz.
Yapay zeka tespit ve doğrulama şirketi Reality Defender’ın Teknoloji Direktörü (CTO) Alex Lisle, TechCrunch’a verdiği demeçte bu durumu, bir uzaylının pizzanın ne olduğunu gerçekten anlamadan pizza yapmaya çalışmasına benzetiyor. (Reality Defender’ın kendisi de, tam olarak bu tür sorunlar nedeniyle ortaya çıkan, yapay zeka içeriklerini tespit eden ve doğrulayan girişimlerden biri.)
Lisle’a göre bu modellerin nasıl eğitildiğine bakıldığında, görsellerin neden bu kadar tek tip bir estetiğe sahip olduğu daha iyi anlaşılıyor: her dondurma topu kusursuz bir yuvarlaklıkta, karidesler ise sanki kendi kuyruklarını yiyormuş gibi tuhaf bir şekilde çizilmiş durumda. Lisle bu görüntüleri “Lovecraft tarzı yemek canavarları” olarak nitelendiriyor.
Sohbet botları ve Midjourney gibi görsel üreten yapay zeka araçlarının arkasındaki büyük dil modelleri (LLM’ler) ve difüzyon modelleri, devasa miktarda veriyle eğitiliyor. Bu modeller, eğitildikleri verilerdeki kalıpları öğrenerek, kullanıcı “bana bir burger restoranı için menü hazırla” gibi bir istekte bulunduğunda ne beklediğini tahmin etmeye çalışıyor.
Lisle, ortaya çıkan görsellerin çoğunun neden 2015 yılı Chili’s menüsüne benzediğini şöyle açıklıyor: çünkü modeller işlevlerini büyük ölçüde bu tür örneklerden öğrenmiş.
Şirketler için yeni ve özgün eğitim verisi bulmak son derece değerli. Öyle ki Amazon’un, nadir bulunan kitapları tarayıp yapay zeka eğitim verisine eklemek için özel olarak temin ettiği, ardından da bu kitapları yok ettiği ortaya çıktı. Bu denli büyük veri kümelerine, zamanla yapay zeka tarafından üretilmiş içeriklerin karışması neredeyse kaçınılmaz. Ancak bir yapay zeka modeli, kendi ürettiği içerikle fazla eğitildiğinde “model çöküşü” adı verilen bir riskle karşı karşıya kalıyor.
Lisle bunu deli dana hastalığına benzetiyor: bir modelin ürettiği çıktılar tekrar tekrar kendisine eğitim verisi olarak verildiğinde, bu bir tür “içten üreme” gibi işliyor ve bir noktadan sonra sistemin bütünü bozuluyor. Ama Lisle, burada gördüğümüz şeyin doğrudan bir model çöküşü olmadığını, daha çok bir “yakınsama” (birbirine benzeme) durumu olduğunu söylüyor.
Yakınsama, model çöküşüne göre daha hafif bir sorun: yapay zekanın ürettiği içeriği tamamen işe yaramaz hale getirmiyor, sadece kalitesini ve çeşitliliğini düşürüyor.
Örneğin, bir yapay zekadan hızlı yemek restoranı için menü tasarlaması istendiğinde, model büyük ihtimalle Wendy’s, Burger King ya da McDonald’s gibi tanınmış zincirlerin menülerini referans alıyor. Bu zincirlerin menüleri zaten birbirine oldukça benziyor; dolayısıyla yapay zekanın ürettiği görseller de bu ortak tarzı taklit ediyor. Üstelik bu görseller tekrar eğitim verisine karışırsa, söz konusu tarz daha da pekişmiş oluyor.
Öte yandan, menülerdeki ve reklamlardaki yemek görselleri zaten her zaman gerçeğinden daha iştah açıcı gösterilir – tıpkı bir McDonald’s reklamındaki Big Mac’in, her katmanı özenle yerleştirilmiş, mümkün olduğunca çekici görünmesi için bir sahne tasarımcısı tarafından düzenlenmesi gibi. Yapay zeka bu abartılı “mükemmellik” etkisini daha da ileri götürüyor.
Elon Üniversitesi’nde “Dijital Geleceği Tasarlamak” merkezinin direktörü Lee Rainie, TechCrunch’a yaptığı açıklamada, bu veri kümelerinin “hoşa gitme” ve “rahatsız edici olmama” ölçütlerine göre optimize edildiğini, bunun da bir tür tekdüzeleşmeye yol açtığını söylüyor. Rainie’ye göre yapay zeka, gerek görsellerde gerek dilde, işin özgün ve keskin yanlarını törpüleyip düzleştiriyor.
Bu pürüzsüzleştirme etkisi, bireysel düzeyde de gözlemleniyor. X’te “Labtec” adlı bir kullanıcı, ChatGPT’de oluşturduğu bir menüyü art arda 100 kez düzenlediğinde, yemeklerin gerçek halinden giderek nasıl uzaklaştığını gösteren bir paylaşım yaptı. (Aynı deneyi biz de tekrarladık ve benzer sonuçlar elde ettik.)
Labtec, ortaya çıkan son görüntünün kendisini gerçekten rahatsız ettiğini belirtti.
Görünen o ki restoranlar da bu soruna maruz kalıyor: yapay zeka ile oluşturdukları menülerde sadece fiyat ya da ürün adı gibi küçük detayları güncellemek için görselleri defalarca yeniden düzenletiyorlar. Ancak her düzenlemeyle birlikte yemek görselleri biraz daha “yuvarlak” ve yapay bir pürüzsüzlüğe bürünüyor gibi görünüyor.
Rainie, insanların bir görselin yapay zeka ürünü olduğunu -tam olarak nedenini açıklayamasalar bile- neredeyse içgüdüsel olarak anladıklarını söylüyor. Ona göre insanlar bunu görünce fark ediyor ve bu da, yapay zeka menüleri kullanan restoranlara yönelik tepkilerin bu kadar güçlü olmasının nedenlerinden biri.
Bu yapay zeka menülerine duyulan tepkinin bilimsel bir açıklaması da var. Almanya’daki Duisburg-Essen Üniversitesi’nden araştırmacılar, yapay zeka tarafından üretilen yemek görsellerinde bir tür “tekinsiz vadi” (uncanny valley) etkisi tespit etti: gerçeğe ne kadar yakın görünürse görsün, aslında gerçek olmadığı belli olan görseller (örneğin çizim, ikon ya da çizgi film tarzındaki illüstrasyonlar) insanlarda daha az rahatsızlık yaratırken; gerçeğe çok benzeyen ama tam olarak “doğru” durmayan görseller çok daha fazla tiksinti uyandırıyor. Yapay zekaya dair genel kültürel algı da bu rahatsızlığı daha da güçlendiriyor.
İnsanların bu görsellere bu denli olumsuz tepki vermesi, restoranların yapay zeka ile menü oluşturma çabalarından vazgeçmeleri için tek başına yeterli bir neden olabilir. Ama bu “aşırı mükemmel” hamburger ekmeklerinin arkasındaki sorun, aslında yemek masasının çok ötesine uzanıyor.
Lisle son olarak şunu vurguluyor: “Görmek ve duymak” bugüne kadar hep “inanmak” anlamına gelmiştir; hatta mahkemeler bile en güvenilir delil türünün ses kayıtları ve video görüntüleri olduğu varsayımı üzerine kurulmuştur. Ancak artık durum böyle değil – dünya, iyi ya da kötü, kökünden değişti.
Görsel: DigitalTalks için ChatGPT tarafından yaratılmıştır.