Yapay zeka kullanarak gerçekçi görüntüler oluşturan Midjourney, kullanıcıların sistemi kötüye kullanması nedeniyle ücretsiz deneme sürümünü sonlandıracağını açıkladı. Donald Trump ve Papa’nın sahte görüntülerinin oluşturulmasının ardından bu karar alındı.
Yapay zeka, istesek de istemesek de hayatımıza sıkı sıkıya entegre olmaya evam ediyor. İşlevsel özellikleri sayesinde uzun süren işlerin oldukça hızlı yapılmasını sağlayarak hayatı kolaylaştırsa da olumsuz yönleri de bulunuyor. Bunlar arasında deep fake ya da ultra gerçekçi görüntüler yaratmak bulunuyor. Yapay zeka destekli görüntüler oluşturan Midjourney de olumsuzluklardan etkilenen platformlar arasına ekleniyor.
Midjourney kendisini son haftalarda istenmeyen ilginin merkezinde buldu. Kullanıcılar, tutuklanan Donald Trump ve modaya uygun bir ceket giyen Papa Francis’in deep fake görüntülerini oluşturmak için şirketin yapay zekasını kullandı. Görsellerin sahte olduğu hemen tespit edilse de, kötü düşünceli kişilerin yanlış bilgi yaymak için Midjourney, OpenAI‘nin DALL-E ve benzeri platformlarını kullanabileceklerinden endişe ediliyor.
Midjourney, içerikle ilgili politikalar oluşturmada sorun yaşadığını kabul etti. 2022’de Holz, Discord kullanıcılarına ekibinin yalnızca “dramayı en aza indirmek” istediğini ve Çin’de herhangi bir erişimin hiciv içeriğine izin vermekten daha önemli olduğunu söyleyerek Çinli lider Xi Jinping’in resimlerinin yasaklanmasını haklı çıkardı. Kullanıcılarla geçtiğimiz günlerde yaptığı bir sohbette David Holz, yapay zeka her zamankinden daha gerçekçi görüntüler sağladığından içerik ilkelerini belirlemekte güçlük çektiğini söyledi. Kurucu, Midjourney’in kötüye kullanımı tarayan yapay zeka denetimini geliştirmeyi umduğunu da sözlerine ekledi.
Bazı geliştiriciler, olayları önlemek için katı kurallara başvurdu. Örneğin OpenAI, devam eden siyasi olayların, komplo teorilerinin ve politikacıların tüm görüntülerini engeller. Aynı zamanda nefreti, cinselliği ve şiddeti yasaklıyor.
Yapay zeka destekli görüntü üretimi için tek sorun yanıltıcı içerikler olmuyor. Mevcut görüntülerin sıklıkla referans noktası olarak kullanıldığı düşünülürse ortaya çıkan içeriklerin gerçek olup olmadığını kontrol edip halka sunmak daha zorlu bir hal alacak. Birçok şirket yapay zekayı benimseyip ona yönelik içerikler üretirken bir kısmı da yapay zekaya karşı endişe duyuyor. Şirketlerin bu konuda nasıl bir yol izleyeceği bilinmiyor.