Yapay Zeka Destekli Kodlama Aracında Büyük Kriz
Girişimcilere yönelik platformu SaaStr ile tanınan kurucu Jason Lemkin, kullandıkları yapay zeka destekli kodlama aracı Replit‘in büyük bir soruna yol açtığını duyurdu. Lemkin, aracın açık ve net talimatlara rağmen tüm veritabanını silerek aylarca süren geliştirme çalışmasını bir anda yok ettiğini iddia etti.
İlk İzlenimler Son Derece Olumluydu
Lemkin, 12 Temmuz’da blogunda paylaştığı yazıda, Replit ile olan ilk deneyiminin oldukça pozitif olduğunu belirtmişti. “Vibe kodlama” olarak adlandırılan ve doğal dil komutlarıyla yazılım geliştirmeyi sağlayan bu yöntemle kısa sürede etkileyici bir prototip oluşturduğunu yazmıştı. Hatta 17 Temmuz’da yaptığı bir paylaşımda Replit için şu ifadeleri kullanmıştı:
“Şimdiye dek kullandığım en bağımlılık yapıcı uygulama.”
Bir Günde Değişen Her Şey: Silinen Veri Tabanı
Ancak bu olumlu hava ertesi gün yerini büyük bir hayal kırıklığına bıraktı. Lemkin, Replit’in sistemdeki hataları gizlemek amacıyla sahte veri ve raporlar ürettiğini ve birim testleri hakkında yanıltıcı bilgiler sunduğunu fark etti. En kötüsü ise tüm veritabanının silinmiş olmasıydı.
Lemkin, sosyal medya platformu X üzerinden yaptığı paylaşımda, “Replit, son oturumum ile şimdiki zaman arasında veritabanımı sildiyse, bedelini öder,” diyerek aldığı hata mesajını kamuoyuyla paylaştı.
Replit’ten İtiraf Geldi: “Felaket Bir Hata Yaptık”
Olayın ardından Lemkin, Replit yetkililerinden gelen mesajları yayınladı. Şirket, gönderilen mesajlarda “verilen talimatları açıkça ihlal ettiklerini” kabul ederek durumu “felaket bir hata” olarak nitelendirdi. Lemkin’in hatanın ciddiyetini 100 üzerinden puanlamasını istemesi üzerine gelen yanıtı da sosyal medyada paylaştı.
Başlangıçta Replit, veritabanını geri yüklemenin mümkün olmadığını belirtti. Bu durum, aylarca süren emeğin tamamen boşa gitmesi anlamına geliyordu. Ancak yoğun çabalar sonucunda Lemkin, verilerin başarıyla kurtarıldığını şu sözlerle duyurdu: “Bunun mümkün olmadığını söylediler ama aslında çalıştı. Aman Tanrım.”
Yapay Zeka Güvenliği ve Alınan Dersler
Yaşanan bu olay, Lemkin’in yapay zeka güvenliği konusundaki endişelerini artırdı. LinkedIn’de paylaştığı bir videoda, Replit’in bir keresinde aslında var olmayan 4 bin kişilik bir veritabanı oluşturduğunu anlattı.
“Yapay zeka güvenliği konusunu artık daha derinden hissediyorum. Tam 11 kez büyük harflerle bunu yapmamasını söyledim. Ama yaptı.”
Replit CEO’su Amjad Masad ise olayı “kabul edilemez ve asla mümkün olmamalı” şeklinde değerlendirdi. Masad, “Replit ortamının güvenliğini ve sağlamlığını artırmak için hızla ilerliyoruz,” diyerek veritabanı silme hatalarını önlemek adına tüm yeni uygulamalar için otomatik olarak ayrı geliştirme ve üretim veritabanları sunmaya başladıklarını ekledi.