Yapılan testlerde bir elmanın üzerine “iPod” yazan bir kağıt yapıştırıldığında, CLIP’in bunu yüzde 99,7 oranında bunu gerçek tespit ettiği görüldü. Clip, diğer bir testte üzerine dolar işareti yapıştırılan köpeği, yüzde 52,5 kumbara olarak tanımladı.

Kelam konusu zayıflığı “tipografik saldırı” diye niteleyen yapay zeka devi, yaptığı açıklamada şu sözlere yer ver verdi:

Bu zayıflığın kolay bir öğrenme zahmeti olmadığına inanıyoruz. CLIP’in metinleri sağlam bir halde okuma kabiliyetinden yararlanılarak, el yazısı metinlerin fotoğraflarının bile birçok vakit sistemi kandırabileceğini tespit ettik.

Bu çeşit taarruzlar hala işe yarıyor. Kalem ve kağıttan öbür bir teknoloji gerektirmiyor.

OpenAI oluşan bu zayıflığın, görüş sistemlerini kandırmada kullanılan zıt manzaralara (adversarial images) benzediğini açıkladı.

Uzmanlar daha evvelki keşiflerinde de yola etiketler yapıştırarak, Tesla marka araçların yazılımını yanıltıp şerit değiştirmesini sağlamak için kullanılabileceğine dikkat çekmişti.

Karar