Yapay zeka destekli kameralar artık yalnızca görüntü kaydetmekle kalmıyor; görüntülerdeki insanları, nesneleri ve hareketleri de otomatik olarak sınıflandırabiliyor. Berlin merkezli sanatçı Simon Weckert‘ın geliştirdiği Digital Camouflage ise bu sistemlerin çalışma biçimindeki zayıf noktalardan yararlanmayı amaçlıyor.
Digital Camouflage yapay zekanın insan algısını nasıl bozuyor?
Gömleğin üzerinde yer alan pembe, turuncu ve yeşil tonlardaki soyut desenler, yapay zekânın insan vücudunu tanımlarken kullandığı görsel ipuçlarını bozacak şekilde hazırlandı. Renk geçişleri, iç içe geçen şekiller ve kesintiye uğrayan vücut hatları; algoritmanın baş, omuz, gövde ve uzuvları tek bir insan figürü olarak birleştirmesini zorlaştırıyor.
Digital Camouflage’ın deseni, “adversarial attack” olarak adlandırılan bir yöntemden yararlanılarak geliştirildi. Bu yaklaşımda görüntüye insan gözü için sıradan görünen, ancak yapay zekâ modelinin karar sürecini yanıltan görsel unsurlar ekleniyor. Weckert da farklı desenleri yapay zekâ modelleri üzerinde tekrar tekrar deneyerek gömleğin son tasarımına ulaştı.
Gömlek, tüm gözetim sistemlerine karşı görünmezlik vadetmiyor
Proje, Berlin’in Kottbusser Tor bölgesinde başlatılan yapay zekâ destekli video gözetim uygulamasına tepki olarak ortaya çıktı. Berlin’deki pilot sistemin yüz tanımadan ziyade hareketleri ve olağan dışı davranışları tespit etmek amacıyla kullanılacağı belirtiliyor. Sistem olası bir tehlikeye işaret ettiğinde nihai değerlendirme yine görevli personel tarafından yapılıyor. Berlin’deki pilot uygulamanın ilerleyen dönemde başka bölgelere de taşınması planlanıyor.
Weckert, gömleği açık kaynaklı gerçek zamanlı nesne algılama modeli YOLO üzerinde test etti. Denemelerde sistem çevredeki diğer kişileri algılarken Digital Camouflage giyen kişiyi zaman zaman insan olarak sınıflandıramadı. Ancak sanatçı, tasarımın Berlin’de kullanılan sistem veya tüm ticari gözetim teknolojileri karşısında aynı sonucu vereceğine yönelik bir iddiada bulunmuyor.
Bu nedenle Digital Camouflage, kullanıcıya eksiksiz bir anonimlik sağlayan güvenlik ürünü olarak değil; kamusal alanlarda giderek yaygınlaşan otomatik gözetim teknolojilerinin güvenilirliğini ve sınırlarını tartışmaya açan sanatsal bir çalışma olarak konumlandırılıyor. Gömleğin satışından elde edilen gelirin bir bölümü de dijital hakları savunan kuruluşlara aktarılıyor.