Deepfake Tehdidi Büyüyor: Yapay Zeka Kalkanı Devrede
Uzmanlar, gerçekçiliği her geçen gün artan ve ciddi güvenlik riskleri oluşturan yapay zekâ destekli ‘deepfake’ içeriklerle mücadelenin en etkili yolunun yine yapay zekâ teknolojilerinden geçtiğini belirtiyor. Bu teknoloji, hem bir tehdit hem de bir çözüm olarak karşımıza çıkıyor.
Dünya Fikri Mülkiyet Örgütü (WIPO), deepfake teknolojisini şu şekilde tanımlamaktadır:
İnsan yüzlerinin başka bedenlere yerleştirilmesi ya da seslerin manipüle edilerek gerçeğe çok yakın medya içerikleri üretilmesi.
Deepfake Saldırılarının Artan Ölçeği
Entrust Siber Güvenlik Enstitüsü tarafından yayımlanan rapora göre, 2024 yılı boyunca neredeyse her beş dakikada bir yeni bir deepfake içerik üretildi. Bu teknoloji kullanılarak hazırlanan sahte içeriklerde ABD Dışişleri Bakanı Marco Rubio, İtalya Savunma Bakanı Guido Crosetto ve Taylor Swift ile Joe Rogan gibi dünyaca ünlü isimler hedef alındı. Hatta bazı dolandırıcılık vakalarında, bu kişilerin sesleri taklit edilerek halktan para talep edildiği veya sahte devlet yardımı vaatleriyle insanları kandırmaya çalıştıkları görüldü.
Derin Sahtekarlığın Yıkıcı Etkileri Nelerdir?
Deepfake içeriklerin yol açtığı tehlikeler oldukça çeşitlidir. Bu sahte içerikler, üst düzey kamu görevlileriyle yapılmış gibi gösterilen sahte görüşmeler aracılığıyla kritik ve gizli bilgilerin sızdırılmasına yol açabilir.
Hassas Veri Sızıntısı ve Dolandırıcılık
Siber güvenlik firması QiD‘nin CEO’su Kinny Chan, bu tür saldırıların temel amacını şöyle açıklıyor:
Bu saldırılar genellikle ya hassas bilgilere ulaşmayı ya da özel sunuculara erişim sağlamayı hedefler.
Bireylerin davranışlarını manipüle etme potansiyeli de bir diğer ciddi tehdittir. Örneğin, geçtiğimiz yıl dönemin ABD Başkanı Joe Biden’ın sesi taklit edilerek seçmenlere eyalet seçimlerine katılmamaları yönünde yanıltıcı çağrılar yapılmıştı.
Dezenformasyon ve Güven Erozyonu
Avrupa Parlamentosu, deepfake teknolojisinin eğlence ve yaratıcılık gibi alanlarda potansiyel faydaları olsa da, yalan haber üretimi, rıza dışı içerik oluşturulması ve dijital medyaya duyulan güvenin temelden sarsılması gibi büyük riskler taşıdığını vurguluyor. Yapılan tahminlere göre, Avrupa Birliği genelinde bu yıl paylaşılacak deepfake içerik sayısı 8 milyona ulaşabilirken, bu rakam 2023’te sadece 500 bindi.
Yapay Zeka, Sahtekarlığa Karşı Nasıl Savaşıyor?
Deepfake ile mücadelede yapay zekâ, sahte ve gerçek içerikleri ayırt edebilen gelişmiş modellerle çözüm sunuyor.
- Veri Deseni Analizi: Lüksemburg Üniversitesi’ndeki araştırmacılar, yapay zekâ modellerini yalnızca gerçek görsellerle eğiterek bir savunma mekanizması geliştirdi. Araştırmacı Enjie Ghorbel, “Sistemimizi sadece gerçek veri desenlerini tanıyacak şekilde eğittik. İncelenen bir veri, bu desenlerle uyuşmuyorsa, onun sahte olduğunu anlıyoruz,” dedi.
- Ses Analizi: Pindrop Security şirketinin CEO’su Vijay Balasubramaniyan ise ses klonlama yazılımlarını tespit edebilen bir sistem önerdi. Bu teknoloji, bir insanın sesindeki milyonlarca veri noktasını analiz ederek en küçük sapmaları bile yakalayabiliyor.
Balasubramaniyan, deepfake teknolojisinin geleceği hakkında umutlu bir bakış açısı sunuyor:
İsterseniz umutsuz bir tablo çizebilirsiniz ama dezenformasyona teslim olmayacağız. Deepfake, tıpkı e-posta spam’leri gibi, başlangıçta büyük bir tehdit olup zamanla kontrol altına alınan bir sorun haline gelecektir.
Yeni Yasal Düzenleme Kapıda
1 Ağustos’ta yürürlüğe girecek olan Avrupa Birliği Yapay Zekâ Yasası, bu alanda önemli bir adım atıyor. Yasa, deepfake’ler dahil olmak üzere yapay zekâ tarafından üretilen tüm içeriklerin zorunlu olarak etiketlenmesini gerektirecek. Bu sayede kullanıcılar, internette gördükleri bir içeriğin gerçek mi yoksa yapay mı olduğunu kolayca anlayabilecek.