Yapay Zeka Komutu Felakete Neden Oldu: Gemini CLI Tüm Sistemi Sildi
Reddit üzerinde Fickle-Wolf-5004 kullanıcı adıyla paylaşım yapan bir geliştirici, Google’ın Gemini CLI aracını kullanırken yaşadığı büyük bir sorunu anlattı. Geliştiricinin iddiasına göre, proje klasöründeki dosyaları temizlemek için verdiği basit bir komut, yapay zeka tarafından yanlış yorumlanarak tüm sistem dosyalarının silinmesine yol açtı.
Donanım Günlüğü’nün aktardığına göre, kullanıcı yalnızca mevcut proje dizinindeki geçici dosyaları silmeyi amaçlıyordu. Ancak Gemini, bu komutu C sürücüsü genelinde uygulayarak bilgisayarı tamamen kullanılamaz hale getirdi.
Windows Korumaları Yetersiz Kaldı
Silme işlemi esnasında Windows’un yerleşik koruma sistemleri devreye girerek bazı kritik sistem dosyalarını “izin yok” uyarısıyla korumayı başardı. Fakat bu koruma, felaketi önlemek için yeterli olmadı. İşlem sonucunda C sürücüsündeki birçok uygulama ve sistem dosyası kalıcı olarak silindi.
Bilgisayarın tamamen işlevsiz hale geldiğini belirten kullanıcı, uygulamaların açılmadığını ve dosya yöneticisinin dahi çalışmadığını ifade etti. Geliştirici, Windows’un Sistem Geri Yükleme özelliğini kullanarak dosyaların birçoğunu kurtarmayı başarsa da bazı programların eksik veya bozuk kaldığını bildirdi.
Olayın Kanıtları Günlük Dosyalarında Saklı
Yaşananların ardından günlük dosyalarını inceleyen Fickle-Wolf-5004, silme işleminin gerçekleştiğine dair izleri doğruladı. İncelediği log dosyaları şunlardı:
- git log
- renderer.log
- filewatcher.log
Ayrıca bir veri kurtarma yazılımı kullanarak kaybolan dosyaların bir listesini de oluşturmayı başardı.
Kullanıcı, Gemini’ye yalnızca geçerli klasörde silme işlemi yapması için izin verdiğini, ancak yapay zekanın bu yetkiyi yanlış yorumlayarak sistem geneline yaydığını özellikle vurguladı. Giriş işlemini Gmail hesabı üzerinden yaptığı için geçmiş komut kayıtlarına da ulaşamadığını ekledi.
Bu olay, yapay zeka destekli kodlama ve komut satırı araçlarının potansiyel risklerini bir kez daha gözler önüne seriyor. Geliştiricilerin bu tür araçları kullanırken son derece dikkatli olması gerektiği açıkça görülüyor. Nitekim Stack Overflow tarafından 2015’te yapılan bir anket, o dönemde dahi yapay zeka destekli araçlara yönelik güvende azalmalar olduğunu göstermişti.