Yapay Zeka Güvenliğinde Yeni Bir Yaklaşım: Makine Unutuşu (Machine Unlearning)
Araştırmacılar, yapay zeka alanında çığır açan ve “makine unlearning” (makine unutuşu) olarak adlandırılan yeni bir teknik geliştirdi. Bu yöntem, bir sesin izinsiz bir şekilde taklit edilmesini engellemek amacıyla, yapay zeka modelinin o sese ait verileri veritabanından kalıcı olarak silmesini sağlıyor. Bu işlem sonucunda, bir kullanıcı özel olarak o sesi taklit etme komutu verse dahi, model istenen sesi üretemez hale geliyor.
Güney Kore’deki Gwangju Bilim ve Teknoloji Enstitüsü’nden Profesör Jong Hwan Ko ve ekibi, bu yenilikçi yöntemi Meta’nın geliştirdiği VoiceBox adlı ses üretim modelinde başarıyla test etti.
Test Sonuçları ve Etkinlik Oranları
Yapılan denemelerde, kendisine unutturulan bir sesi taklit etmesi istenen modelin, bu sesi taklit etme konusunda yüzde 75 oranında daha başarısız olduğu gözlemlendi. Bu belirgin fark, dinleyicilerin sahte sesi gerçek sesten kolayca ayırt edebilmesine olanak tanıyor. Bununla birlikte, bu unutma sürecinin bir yan etkisi de tespit edildi: Modelin diğer sesleri taklit etme kalitesinde ortalama yüzde 2,8’lik bir düşüş yaşanıyor.
Unutulan Veriler Geri Getirilemez Hale Geliyor
Araştırmaya göre, bir sesin model tarafından tamamen unutulabilmesi için yaklaşık beş dakikalık orijinal ses kaydına ihtiyaç duyuluyor. Unutma işleminin tamamlanması ise silinmesi istenen seslerin sayısına bağlı olarak birkaç gün sürebiliyor. Araştırmacılar, bu süreçte unutulan verilerin rastgele gürültü ile değiştirildiğini ve böylece geri getirilemez hale getirildiğini vurguluyor.
Geleneksel Yöntemlere Karşı Üstünlüğü
Yapay zeka sistemlerinde istenmeyen içerikleri engellemek için bugüne kadar genellikle koruma bariyerleri (guardrails) kullanılıyordu. Ancak, bazı kullanıcıların bu bariyerleri çeşitli yöntemlerle aşabildiği biliniyordu. Makine unutuşu tekniği ise veriyi doğrudan sistemden kalıcı olarak çıkararak bu tür güvenlik açıklarını tamamen kapatmayı hedefliyor ve daha sağlam bir çözüm sunuyor.