Yapay Zeka yalnızca kendisinin anlayabileceği bir dil oluşturdu

OpenAI tarafından üretilen DALL-E2, Ocak 2022'de piyasaya sürülen kendi kendine öğrenen bir metinden görüntüye oluşturucu.

Ana işlevi, kullanıcılar tarafından sağlanan metin istemlerini kullanmak ve sözcükleri altyazılarla eşleştirmek için bir resim oluşturmak.

TRT Haber'de yer alan bilgilere göre yazılım web tabanlı çalışıyor. Size bıraktığı tek şey, kafanızda tasarladığınız sahneyi kelimelere dökmeniz. Gerisini yapay zeka hallediyor.

Ancak, Bilgisayar Bilimleri doktora öğrencisi Giannis Daras'a göre, DALL-E2'nin yetenekleri bununla sınırlı kalmadı.

Yalnızca istendiğinde anlamsız sözcükleri döndürebildiği için metin üretme yeteneği oluşturdu.

Ancak araştırmacılar, programın anlaşılmaz görünen sözlerinde çok daha fazlasının olabileceğini fark etti.

KELİME DAĞARCIĞI GELİŞTİRDİ

Daras , "Bu üretilen metin çıktısının rastgele olmadığını, daha ziyade modelin dahili olarak geliştirdiği görünen gizli bir kelime dağarcığını ortaya çıkardığını keşfettik" dedi.

Daras, DALL-E2 algoritmasına “sebzelerle ilgili konuşan çiftçiler”i görsel olarak yaratması komutunu veriyor. DALL-E2 bu komut karşısında yarattığı metinde “vicootes” diye bilinmeyen bir kelime kullanıyor.

Sonra Daras, bu kez algoritmaya “vicootes”i görsel olarak yaratma komutu verince DALL-E2 sebze görselleri göstermeye başlıyor.

Daha da ilginci çiftçi görsellerinin kodunda “poploe vesrreaitars” diye anlam ifade etmeyen başka bir ifade daha bulunuyor. Bunu algoritmaya girdiğinde ise karşısına kuş görselleri geliyor. Daras’a göre “poploe vesrraeaitars” DALL-E2’nin kendi yarattığı dilde kuşlara verdiği isim.

Daras, DALL-E2’nin kendi dilini yaratmasının ortaya çıkaracağı güvenlik sorunlarına vurgu yapıyor. Ayrıca bunun pek çok farklı şekilde yorumlanabileceğini söylüyor.

Daras’ın bu iddiaları şimdilik kanıtlanmamış durumda.

Daras ve bir meslektaşı tarafından hazırlanan makalenin diğer meslektaşlarına sunulup onlar tarafından da incelenmesi ve onaylanması gerekiyor.