Kendinizi bir an için ünlü bir siyasetçi olarak düşünün… İnternette, 10 yıl önce basına kapalı bir toplantıda yaptığınız bir konuşmanın kaydı olduğu söylenen bir videoyla karşılaştınız… O konuşmada neler söylediğinizi hatırlıyorsunuz, fakat videoda ne o gün ne de bugün asla dile getirmeyeceğiniz fikirleri art arda sıralıyorsunuz.
Videoyu izlerken, kendi kendinize sorduğunuz bütün sorulara “evet” cevabı veriyorsunuz: Evet, bu benim 10 yıl önceki halim… Evet, sesim aynı… Evet, dudak hareketleriyle sesler arasında hiçbir uyumsuzluk yok… Evet, bu konuşan benim, fakat hayır, ben asla bu cümleleri kurmamıştım.
Doğru, kurmamıştınız ama, muhtemel tekzipleriniz muhtemelen sadece o gün o toplantıda sizi dinleyenleri ikna etmede işe yarayacak. Geri kalanların size düşman olanları videonun sahte olma ihtimalini hesaba katmayıp ânında sizi gömecek, sizi sevenler de ölümcül bir ikilemle karşı karşıya kalıp kendilerine şu soruyu soracak: “Acaba izlediğim video bir ‘deep fake’ (derin sahtelik) üretimi mi, yoksa bizim adam gerçekte bu muymuş?”
Bu çaresizlik kaçınılmaz, çünkü üretilen sahtelik o kadar “gerçek” ki, onun gerçek olmadığını ispatlayabilecek bir teknolojiye henüz sahip değiliz.
Buraya kadar okuduğunuz satırları üç yıl önceki bir yazımdan aynen aktardım. Fakat siz şimdi yazıda geçen “ünlü bir siyasetçi”nin yerine “Kemal Kılıçdaroğlu”nun ismini yerleştirebilirsiniz…
“Kılıçdaroğlu’na, söylemediği şeyleri söyleten (Deep Fake) videolar mı geliyor?”
Okuduğunuz bu ara başlık da T24’ün teknoloji ve sosyal medya yazarı Füsun Sarp Nebil’in bugünkü (3 Mayıs) yazısının başlığı. Spotta da şöyle diyor: “Biliyorsunuz, Kemal Kılıçdaroğlu sürekli mutfağından yaptığı samimi videolar ile mesaj veriyor. Muhtemelen, Kılıçdaroğlu’na söylemediği şeyleri söylemiş gibi gösterecekler…”
Evet, “deep fake” teknolojisi işte tam böyle bir şey. Tahmin edilen şey gerçekleşirse, Kılıçdaroğlu’nu muhtemelen “vatanı birilerine peşkeş çekerken”, “emperyalizme uşaklık ederken” izleyeceğiz ve deep fake teknolojisinden habersiz milyonlarca insanın kafası karışacak.
Aynı korku 2020 seçimleri öncesinde ABD’de de dillendirilmişti fakat korkulan olmadı. Aşağıda o günlerde ABD’de yürüyen tartışmayı özetlerken deep fake’in nasıl bir teknoloji olduğunu da özetleyeceğim, ama önce, seçime 10 gün kala piyasaya sürüleceği söylenen “karanlık videolar” tartışmasının son iki günde gündemimize nasıl girdiğini hatırlayalım…
İşaret fişeğini, dün (2 Mayıs) attığı bir tweet’le Kemal Kılıçdaroğlu çaktı:
“Son 10 güne 2 gün kaldı. Ben son uyarımı yapayım. Fahrettin Altun, Serhat ve ekip arkadaşları Çağatay ile Evren; anlaşmaya çalıştığınız dark web dünyası, sizi yabancı istihbaratın eline düşürür. Cambridge Analytica’cılık oynamak sizin kapasitenizi aşar çocuklar. SON UYARIMDIR!”
Kılıçdaroğlu’nun uyarılarını Selahattin Demirtaş’ınkiler izledi:
“Ciddi manipülasyon ve algı operasyonları gelecek gibi görünüyor. Tanımadığınız ya da trol olduğu belli olan veya iktidar çevrelerinin hesaplarından yayılan hiçbir şeyi, LÜTFEN GÖRMEYİN, DUYMAYIN, YAYMAYIN VE PAYLAŞANLARI ENGELLEYİN. Size güveniyorum.”
“Tanınmış kişilerin hesapları ele geçirilerek veya şimdiye kadar size güven vermiş hesaplar üzerinden provokasyonlar yapılabilir. LÜTFEN GÖRMEYİN, DUYMAYIN, YAYMAYIN VE PAYLAŞANLARI ENGELLEYİN. Ne olursa olsun seçimi kazanmaktan başka bir şeye odaklanmayın. Size güveniyorum.”
Gazeteci Murat Yetkin de bugünkü yazısında CHP kulislerine dayanarak yeni bilgiler verdi. Yetkin, “Kılıçdaroğlu’nun son on gün uyarısı ve ‘deep fake’ istihbaratı” başlıklı yazısında şöyle dedi:
“Üst düzey bir CHP kaynağı, Kılıçdaroğlu’nun ‘son on gün’ ve ‘Cambridge Analytica’ ile kastedilen siber seçim müdahalelerinin arkasında önemli istihbarat bilgilerinin bulunduğunu YetkinReport’a açıkladı. Bu iddiadaki hesaba göre Erdoğan’ın Kılıçdaroğlu’na yönelik ‘son on gün’ kampanyası 3 Mayıs ya da 4 Mayıs’ta, yani yarın ya da ertesi gün başlatılacak; seçim 14 Mayıs’ta.
“Bir süre önce CHP Genel Merkezine gelmeye başlayan bilgiler ise şöyle:
• Gelen istihbarat bilgilerine göre Erdoğan, İletişim Başkanlığı üzerinden Kılıçdaroğlu’nun seçim kampanyasını yıpratmak amacıyla ‘deep fake’ ve ‘Cambridge Analytica’ benzeri sistemleri birlikte kullanarak ‘sahte video ve ses kayıtları’ üretmek için düğmeye bastı.
• Bu amaçla bazısı ‘dark web’ üzerinden, yurtdışından çok sayıda ‘hacker’ kiralandı. Muhalefete yönelik ‘DDoS’ saldırılarıyla eleştirel ve muhalif sitelerin engellenmesi, iktidar yanlılarının da öne çıkarılması kampanyası hazırlandı.
• Kampanyanın asıl hedefiyse Kılıçdaroğlu: amaç Kılıçdaroğlu’nu Erdoğan’ın seçim kampanyasında kullanabileceği kişilerle görüşmüş, söylemediği şeyleri söylemiş gibi ses ve görüntü kayıtları üretip bunları hedef internet kullanıcılarına göndererek seçim sonuçlarına müdahale etmek.”
Fotoğraftan, hattâ tablodan video üretimi
Şimdi bu teknolojinin nasıl bir şey olduğuna biraz daha yakından bakalım ve iddialara doğruysa karşımıza nelerin çıkabileceğini hayal etmeye çalışalım.
Teknoloji yazarı Gavin Sheridan, bu teknolojiyle üretilen ‘malzeme’nin hakikate yakınlığı hakkında şöyle demişti:
“Hali hazırda kutuplaşmış ve aşırılıkların kol gezdiği sanal ekosistemde, bu teknolojinin tam olarak yerleştiğinde olabilecekleri düşünün. İnsanlar gözlerine ve kulaklarına inanmayı bırakacaklar.” (BBC Türkçe, 14 Ağustos 2019).
Deep fake, bırakın videoları, fotoğraftan (hattâ tablodan), yüksek gerçekçiliğe sahip sahte videolar üretilmesine olanak sağlayan bir teknoloji.
BBC, bundan üç yıl kadar önce internette viral olan bir deep fake videosu üzerinden konuyu yeniden gündeme getirdiğinde, bu yeni teknolojiyle neler yapılabileceği daha iyi anlaşıldı. 2008 tarihli videonun orijinalinde, Bill Hader adlı ABD’li komedyen bir talk show’da oyuncu Tom Cruise’un taklidini yapıyordu. Videonun 11 yıl sonraki deep fake teknolojisi uygulanmış halinde ise Bill Hader’ın yüzü bir anda Tom Cruise’un yüzüne dönüşüyor ve “sözde” (!) Tom Cruise kendi sesiyle Hader’ın yerini alıyordu. Fakat öyle bir alıyordu ki, isterse milyonlarca insan izlesin, onun “gerçek” Tom Cruise olduğundan şüphelenen tek bir kişinin çıkması bile mümkün değildi; yani ‘sahte’ o kadar gerçekti.
Deep fake teknolojisinin mucidi sayılan ve Tom Cruise’un ‘deep fake’ videosunu üretip servise koyan Slovak vatandaşı Tom (kendisiyle konuşan Guardian’a adını şimdilik açıklamak istemediğini belirtmişti), şimdiye kadar böyle 20 civarında deep fake videosu üretmiş.
Tom, Guardian’a, amacının “Sahte haber ve görüntü çağının geleceği ile ilgili farkındalık yaratmak” olduğunu söylemiş ki, hakikaten, bu teknolojinin yol açabileceği siyasi ve toplumsal sorunları düşünmek bile yeteri kadar ürkütücü.
2020 ABD seçimlerinde ‘deep fake’ endişesi
Anadolu Ajansı’nın (AA) 16 Eylül 2019’da abonelerine geçtiği bir haber “ABD’deki 2020 seçimlerinde ‘deep fake’ tehlikesi” başlığını taşıyordu.
New York Üniversitesi ile Stern İş ve İnsan Hakları Merkezi tarafından yayımlanan bir raporun ele alındığı habere göre, “2020 yılında yapılacak ABD seçimlerinde WhatsApp mesajları ve deep fake (derin sahte) videolar, yanlış bilgilerin yayılmasında etkili olabilir”di.
Nitekim Amerikan istihbarat servisleri, ortada ihtimalin ötesinde bir durum olduğunu bildikleri için Facebook, Google ve Twitter ile 2020 seçimleri öncesinde alınması gereken önlemleri görüşmek üzere bir araya geldiler.
Facebook’un gerçekle derin sahteyi birbirinden ayıracak yazılım atağı
İnsan ruhunun sansasyonel olana merakı ortada… Şimdinin mükemmel olmayan sahteliklerine bile düşünmeden müşteri olanların, yarının kusursuz sahteliklerini ne büyük bir iştahla mideye indireceklerini hayal etmek zor değil.
Facebook, üç yıl önce onların iştahını biraz olsun kesecek ve müstakbel deep fake kurbanlarının “montaj bunlar” itirazlarına destek verecek yeni bir yazılım için kolları sıvamış, yüksek ödüllü bir yarışma açmıştı.
Hiç şüphesiz bu cömert teklif, Facebook’un elindeki kişisel verileri ticari olarak kullandırdığının ortaya çıkmasından sonra sarsılan itibarını düzeltme çabasıyla bağlantılıydı; yine de ödülü kazanacak biri çıksaydı önümüzdeki yıllarda deep fake marifetiyle şahsiyet suikastına uğrayacak binlerce kişi muhakkak ki Facebook’a minnettar kalacaktı. Ne var ki böyle biri çıkmadı ve tehlike devam ediyor.
Demokrasinin standart işleyişi için de büyük tehlike
Deep fake, hiç kuşkusuz sadece bireyler için değil siyaset ve demokrasi için de büyük sorunlar yaratacak.
Konuya dair ilk bilimsel makalelerden birini kaleme alan (Temmuz, 2018) Robert Chesney (Texas Üniversitesi) ve Danielle Keats Citron (Maryland Üniversitesi), makalelerinin başlığını bunu da gözeterek atmışlardı: “Derin Sahtekârlık: Mahremiyet, Demokrasi ve Ulusal Güvenlik İçin Yaklaşan Bir Zorluk.”
İki akademisyen, makalelerinin özetinde şöyle diyorlardı (çeviri: Selin Çetin, robotik.legal).
“Zararlı yalanlar yeni bir şey değil. Fakat gerçeği çarpıtma yeteneği ‘derin aldatıcı’ teknoloji ile üstel bir adım attı. Bu yetenek, gerçek insanların asla söylemediği ve yapmadığı şeyleri söylemiş ve yapmış gibi gösteren ses ve videoları oluşturmayı mümkün kılıyor. (…) Bireyler ve işletmeler sömürü, tehdit ve kişisel sabotaj biçimleriyle karşılaşacaklar. Demokrasimiz ve ulusal güvenliğimiz için de riskler çok büyük.”
İnsanoğlunun, kendi zekâsının ürettiği büyük sorunlardan biriyle karşı karşıya olduğu muhakkak. Türkiye gibi hakikatten çok “işine gelen”le ilgili insanlar ülkesinde tehlike daha da büyük.
Bakalım şu on günde neler olacak?