Deepfake, bir kişinin mevcut metni, resmi, videoyu veya sesi alıp daha sonra manipüle ettiği bir teknolojidir. Yani bir kişinin gelişmiş yapay zeka (AI) ve sinir ağı (NN) teknolojisini kullanarak bir başkası gibi görünmesi için sahte yeni bir kimlik yarattığı medya teknolojisidir. Birkaç yıl önce ilk ortaya çıktığı yıllarda zararsız olan sonra, deepfake teknolojisi, sonraları adeta kötü niyetli bir silaha haline gelmiştir. Bu makalede, bu deepfake teknolojisinin tam olarak ne olduğu, nasıl çalıştığı, hangi farklı formlarda olduğu ve bir deepfake’yi nasıl tespit edebileceği hakkında bilgiler yer almaktadır.

Deepfake Nedir?

Deepfake, bir kişinin mevcut metni, resmi, videoyu veya sesi alıp daha sonra manipüle ettiği, yani gelişmiş yapay zekâ (AI) ve sinir ağı (NN) kullanarak birine benzemesi için kullandığı sahte medya teknolojisindeki terimlerden biridir. Örneğin birinin ağzına küfürlü kelimeler koymak, bir film kahramanını en sevilen Hollywood süperstarı ile değiştirmek ya da Michael Jackson gibi dans etmek deepfake sayesinde videolar oluşturmak mümkündür. Deepfake içeriği gün geçtikçe katlanarak büyümeye devam etmektedir. Ne yazık ki, deepfake teknolojisi defalarca siyasi olarak öne çıkmak için, rakibin imajını karalamak veya finansal sahtekârlık yapıyormuş lens etmek için kullanılmaktadır. Günümüzde üç temel derinlik türüne ve çalışmalarına izin veren veri bilimini bakıldığında araştırmacıların ve güvenlik danışmanlarının deepfakeslerin kötü niyetli kullanımını engellemek için üzerinde çalıştıkları deepfake algılama teknolojileri bulunmaktadır.

Derin Metin

Yapay zekânın (AI) ve doğal dil işlemenin (NLP) ilk günlerinde, bir makinenin resim veya yazma gibi yaratıcı bir etkinlik yapmasının zor olacağı öne sürülmüştür. 2020 yılına kadar hızlı ileri; araştırmacılar ve veri bilimi profesyonellerinin artımlı çalışmaları tarafından yıllar boyunca inşa edilen güçlü dil modelleri ve kütüphaneleri ile AI tarafından üretilen en yüksek dereceli nesir, artık insani öz ve tutarlılıkla yazılabilmektedir.

GPT-2

Örneğin, Silikon Vadisi’nden araştırma laboratuvarı Open AI tarafından yayınlanan metin oluşturma sisteminin en son cinsini GPT-2 olarak ele alındığında, bu teknoloji, tutarlı metinleri en az bilgi istemiyle çıkarma yeteneği ile hem uzman hem de alan uzmanlarını etkilemiştir. Open AI mühendisleri hurdaya çıkarılan yani web sayfalarından ilgili veri çıkarma yöntemiyle, GPT-2 AI modellemesi ve eğitimi için bir milyar parametreyle birleştirilen 8 milyondan fazla metin belgesi kullanmışlardır. Deepfake ve yapay teknolojilerden yararlanan derin öğrenme gibi diğer teknolojilerin özü, yazılımın veri setleri aracılığıyla beslendiği geçmiş verileri kullanarak kendini düşünmesi ve uyarlaması için eğitimde yatmaktadır. Örneğin GPT-2’yi kullanılarak başlığa yumruk atabilmek ve deepfake metin algoritması bu başlığın etrafında hayali bir haber hikâyesi oluşturmak mümkündür.

Birçok medya evi, yazılımın kendileri tarafından yazılan hikâyeler veya bloglar oluşturmak için deepfake algoritmaları kullanmaktadırlar. Araştırmacılar, Middlebury Terörizm Enstitüsü, Uluslararası Araştırmalar Merkezi ve Terörle Mücadele Merkezi (CTEC) gibi aşırı uç örgütler tarafından ırksal üstünlük ya da radikal mesajlar yayan radikal mesajlar yaymak için kötüye kullanılabilecek bir araç olduğu konusunda uyarılarda bulunmaktadırlar.

Sosyal Medyada Deepfakes

Deepfake teknolojisi Hikayeler veya bloglar yazarken, normal bir kullanıcının fark etmesi zor olan sahte bir çevrimiçi profil oluşturmak için de kullanılabilmektedir. Örneğin, LinkedIn ve Twitter gibi sosyal paylaşım sitelerinde var olmayan Maisy Kinsley adında bir Bloomberg gazeteci, muhtemelen bir deepfaketir. Profil resmi garip, belki de bilgisayar tarafından oluşturulmuştur. Bunun nedeni büyük olasılıkla Maisy Kinsley’in tekrar tekrar Tesla hisse senedi satıcılarıyla sosyal medyada bağlantı kurmaya çalışmasıdır. Satıcı profili, daha iyi bir finansal fayda sağlamak için oluşturulmuştur, yani hisse senedinin hisse fiyatı düşecek, düşük bir fiyattan daha da düşük fiyatta satın alarak yüksek karlar elde etmek içindir. Stratejik ve Uluslararası Araştırmalar Merkezi’nde çalıştığı söylenen Katie Jones adında bir başka profilin, casusluk niyeti ile yapılan bir deepfake olduğu bulunmuştur.

Metinsel Derinliklerin Algılanması

Allen Yapay Zekâ Enstitüsü’nden araştırmacılar, çevrimiçi yüzen sentetik içeriği tespit etmek için Grover adlı bir yazılım aracı geliştirmişlerdir. Araştırmacılar, bu yazılımın % 92 oranında deepfake tarafından yazılmış makaleleri tespit edebildiğini iddia etmişlerdir. Grover, açık kaynaklı bir web arşivi ve tarayıcısı olan Common Crawl’dan derlenen bir test kümesinde çalışmaktadır. Benzer şekilde, Harvard ve MIT-IBM Watson laboratuvarından bir bilim adamı ve ekibi, girilen metnin AI tarafından üretilip üretilmediğini ayırt etmeyi amaçlayan bir web aracı olan Dev Dil Modeli Test Odası’nı tasarlamak için bir araya gelmişlerdir.