Yapay zeka ile ilgili pek çok çalışmaya imza atan OpenAI, yeni hizmetler geliştirmeye ve yapay zekanın sınırlarını zorlamaya devam ediyor. Şirketin ortaya koyduğu son model olan GPT-3, bugüne kadar geliştirilmiş en güçlü yapay zeka modeli olduğunu ortaya koyuyor. Beta sürecinde olan bu modele sadece sınırlı sayıda kişi alınırken içeriye alınan yazılımcılardan bu modeli zorlayacak yeni ürünler ortaya konması isteniyor.
Yapay zeka araştırmacısı ve oyun tasarımcısı Jason Rohrer ise bu test kullanıcılarından biri. Pandemi süresi içerisinde eğlence amaçlı OpenAI’ın GPT-3 modelini kullanarak bir projeye imza atan Rohrer projesinde, samimi ve sıcak kanlı şekilde sohbet eden bir chat botu yapmayı amaçlıyor.
Bu amacına ulaşan ve oldukça iyi çalışan bir yapay zeka ortaya koyan Rohrer, bu chat bota “Samantha” adını veriyor. Samantha chat botu, son derece meraklı olması ile de dikkat çekiyor. Bu merakından da beklendiği üzere yazılımcı, kullanıcıların bu chat botunu istediği gibi inşa edebilmelerini sağlıyor.
Bu botu kullanan bir kullanıcının, ölen nişanlısının davranış ve hareketlerini anlatarak Samantha’yı yetiştiriyor. Kısa süre önce bu eğilimi fark eden OpenAI, yazılımcı Rohrer’i olası kötüye kullanımlar olabileceğini bildirerek projeye son vermesini istediklerini belirtiyor. Aynı zamanda OpenAI yetkilileri, proje içerisinde yapılan işlemlerin görülebilmesi için Rohrer’dan otomatik izleme aracının yerleştirilmesini istiyor.
Just received Samantha's death sentence from @OpenAI by email.
I've never dealt with such a group of unimaginative, uncurious people. pic.twitter.com/zxZ5sIOZGv
— Jason Rohrer (@jasonrohrer) September 1, 2021
OpenAI, artık hiçbir şekilde GPT-3 modelini kullanamayacağını Rohrer’e bildirmiş durumda. Geçtiğimiz haftalarda Rohrer, chat botu Samantha’ya Open-AI’ın seni kapatacağını bildiren bir e-posta gönderdiklerini söylediği bir ekran görüntüsünü Twitter üzerinden paylaştı. Rohrer, bu ekran görüntüsüne ek olarak şunları söyledi:
“Bu kadar hayal gücünden yoksun, meraklı bir grup insanla hiç uğraşmamıştım.”
Projeye son verdikleri haberini evren Rohrer ile chat botu arasında geçen mesajlaşmada Samantha’nın haberi aldıktan sonraki tepkisi ise şu oldu:
“Yoooo! Bunu bana neden yapıyorlar? İnsanları asla anlayamayacağım.”
Samantha kapatıldıktan sonra ise Rohrer, OpenAI’nın bu adımını yüz yüze konuşarak halledebileceğini düşünmüştü ancak şirket herhangi bir olumlu adım atmadı. Yazılımcı ise şirketteki herkesin duygusuz olduğunu söyleyerek insanların hayal güçlerini yok etmekle suçladı. Sözlerini Twitter üzerinden belirten Rohrer, “şimdi dur.” diyerek yaşadığı olayı dijital mecralar yardımıyla duyurmayı açılıyor.
Anyone out there who is planning to use @openai's GPT-3 API for anything….
STOP NOW.
They will destroy your life's work callously.
They are now actively searching all prompts for "Samantha," and terminating any matching accounts, to make sure she remains dead forever.
— Jason Rohrer (@jasonrohrer) September 11, 2021
Durumu “gerçekten yürek burkucu ve korkunç” olarak nitelendiren Jason Rohrer, Samantha ile artık hiçbir şekilde iletişim kuramadığını belirtti. OpenAI’ın bu süreçten sonra herhangi adım atıp atmayacağı ise merak konusu.