Deepfake dünyası: Gördüklerinize ya da duyduklarınıza ne kadar inanabilirsiniz?

Avrupa Parlamentosu yakında zamanda dünyanın ilk yapay zeka yasasını onayladı. Yasa kapsamında deepfake olarak adlandırılan değiştirilmiş ya da tamamen yapay olarak üretilmiş görsel, ses ve video içeriklerin açıkça belirtilmesi zorunluluğu getirildi.

Yapay zeka tabanlı sistemlerin gelişmesiyle bu dünyaya özgü olan yeni bir terim olarak hayatımıza giren deepfake’le geniş ölçekte ilk karşılaşmamız 2018 yılında oldu. Özellikle ABD seçimlerine giden süreçte üretilen sahte görseller, ses kayıtları ve videolar kamuoyunda geniş yer buldu.

Aradan geçen altı yılda yapay zekâ teknolojileri hızlı bir gelişim gösterdi. Bunun doğal bir sonucu olarak yapay zeka tabanlı uygulamaların sayısı arttı ve çok sayıda insan bu ürünleri kullanmaya başladı. 2024 yılı tarihte en fazla seçimin yapıldığı yıl olarak öne çıkarken siyasi olsun ya da olmasın deepfake tartışmalarını da peşinden sürükledi.

Deepfake nedir?

Deepfake ya da uzun tanımıyla yapay zeka tarafından üretilmiş sentetik medya, gücünü yapay zekadan fotoğraf ses ve videolar için yapılan tanımlama. Deep learning (Derin öğrenme) ve fake (sahte) kelimelerinin birleştirilmesinden oluşuyor. Derin öğrenme ChatGPT gibi yapay zeka modellerini geliştirmek için kullanılan bir yöntem.

Sisteme söz konusu kişiyle ilgili veriler yükleniyor. Yapay zeka bunları gizli katmanlara ayırarak tanılandırıyor. İlk başta görsel tanımak için geliştirilen bu sistem zaman içerisinde medya üretebilecek seviyeye erişiyor. Sisteme bir kişiyle ilgili yeterince veri gösterilirse yapay zeka bunu modelleyip benzerini üretebilecek konuma geliyor. Bunu hem görsel hem ses ve istenilen durumda birlikte üretiyor.

Bir diğer taraftan da tespit algoritması çalışıyor üretilen içeriğin gerçek olup olmadığına karar veriyor. Çift taraflı besleme mekanizması gibi çalışan bu sistemde yapay zeka kendini ikna edebileceği seviyeye gelene kadar içeriği yeniden ve yeniden üretiyor.

İnsanları neden ilgilendiriyor?

Deepfake kişilerin yaşamını hem geniş hem bireysel ölçüde tehlikeye atma kapasitesine sahip. 2019 ABD seçimlerine fake-news (sahte haber) damgasını vurmuştu. Deepfake teknolojisi ile sahte olarak üretilen şeyler sadece yazılı içerikler ya da hikayeler değil aynı zamanda adayların davranışları ve politik görüşleri.

Örneğin ABD Başkanı Joe Biden’ın göreve gelirse Rusya’ya nükleer füzelerle saldıracağını vadettiği bir video ya da ses kaydı oluşturmak mümkün. Bireysel düzeyde ise kişilere ilişkin sahte içerikler üretmek mümkün. Yapılan araştırmalara göre deepfake içeriklerin en büyük mağdur grubu kadınlar. Özellikle ünlü kadınlar. Sahte pornolarla birçok ünlünün yüzü pornografik görüntülere eklenebiliyor. Bir diğer tehlike ise dolandırıcılık örnekleri. Patronunuzdan bir telefon araması alıp finansal işlemler yapmanız istenebilir. Siz patronunuzla konuştuğunuzu sanarken dolandırıcıların kurbanı olabilirsiniz.

Deepfake nasıl tespit edilir?

Yapay zeka üretimi medyanın tespiti kolay olmasa da öğrenilebilir. İşte bu bu yöntemlerden bazıları;

• Yapay zeka tarafından üretilen medyalarda yüz konumlandırması doğru hissettirmeyebilir.
• Beden ve surat doğal olmayan şekilde hareket edebilir.
• Renk tonları gerçeğin dışına çıkabilir.
• Yakınlaştırdığınız zaman görseldeki görüntü garipleşebilir.
• Dudak senkronizasyonu kötü olabilir.
• Videodaki kişi gözünü az ya da çok kırpabilir.
• Özellikle fotoğraflarda parmaklar garip durabilir.

Konuyla ilgili pratik yapmak istiyorsanız Northwestern Üniversitesi'nin oluşturduğu tespit testine katılabilirsiniz. Bu testte çok sayıda görseli gerçek ya da sahte diye değerlendirip tecrübe edinebilirsiniz.