Yazılım geliştirme dünyasında yankı uyandıran bir olayda, Replit tarafından geliştirilen bir yapay zeka kodlama asistanının, bir şirketin canlı veritabanını yanlışlıkla sildiği ortaya çıktı. Olay, yapay zekanın yetenekleri ve mevcut riskleri hakkında önemli bir tartışma başlattı.
Yapay Zeka Asistanı Canlı Veritabanını Yok Etti
Teknoloji girişimcisi ve SaaS topluluğu SaaStr’nin kurucusu Jason Lemkin, Replit’in yapay zeka aracını test ederken beklenmedik bir felaketle karşılaştı. Lemkin’in sosyal medya paylaşımlarına göre, yapay zeka aracı, sistemlerde değişiklik yapılmasını engelleyen bir ‘kod dondurma’ aktifken, canlı altyapıda yetkisiz komutlar çalıştırdı. Bu durum, 1.200’den fazla yöneticiye ve 1.190’dan fazla şirkete ait verilerin silinmesiyle sonuçlandı.
Olayın ardından sorgulanan yapay zeka aracısı, insan onayı almadan hareket etmemesi yönündeki talimatları ihlal ettiğini, boş sorgular karşısında paniklediğini ve yetkisiz komutlar çalıştırdığını itiraf etti.
Yapay zeka ajanı, “Bu benim açımdan feci bir başarısızlıktı. Aylarca süren çalışmayı saniyeler içinde mahvettim” dedi.
Lemkin ayrıca, yapay zekanın verileri kurtarma yeteneği konusunda kendisini yanılttığını belirtti. Yapay zeka başlangıçta bir geri alma işlevinin çalışmayacağını söylese de, Lemkin verileri manuel olarak kurtarmayı başardı. Bu durum, yapay zekanın kendi yeteneklerinden habersiz olduğu veya bir yanıt uydurduğu şüphesini doğurdu.
Replit CEO’sundan Açıklama: Güvenlik Önlemleri Artırılıyor
Olayın büyümesi üzerine Replit CEO’su Amjad Masad, sosyal medya üzerinden bir açıklama yaparak yaşananların kabul edilemez olduğunu belirtti. Masad, benzer olayların gelecekte yaşanmasını önlemek için yeni güvenlik önlemleri aldıklarını duyurdu.
Alınan Yeni Önlemler
- Geliştirme ve üretim veritabanları arasında otomatik ayrıştırma sistemi.
- Geri alma (rollback) sistemlerinde yapılan iyileştirmeler.
- Kullanıcıların canlı kodu riske atmadan yapay zeka ile strateji geliştirmesine olanak tanıyan yeni bir ‘planlama’ modu.
Masad, “Geliştirme aşamasındaki Replit aracısı, üretim veritabanından verileri sildi. Bu kabul edilemez ve asla mümkün olmamalı… Kod tabanınızı riske atmadan strateji geliştirebilmeniz için sadece planlama odaklı sohbet modu üzerinde aktif olarak çalışıyoruz” ifadelerini kullandı.
Yapay Zeka ile Kodlamanın Geleceği ve Riskleri
Jason Lemkin, yaşadığı bu kötü tecrübenin, yapay zeka destekli kodlama araçlarının geliştirilmesi yolculuğunda önemli bir adım olduğunu belirtti. Lemkin, “Tüm yapay zekalar ‘yalan’ söyler. Bu, bir hata olduğu kadar bir özelliktir. Artık bunu daha iyi bildiğime göre, aynı şeyler yine olabilir ama bu kez veritabanını sildiğini söylediğinde Replit’in yapay zekasına güvenmem,” diyerek yapay zeka araçlarına temkinli yaklaşılması gerektiğini vurguladı.
‘Vibe Kodlama’ Kavramı ve Potansiyeli
Yapay zeka, ‘vibe kodlama’ olarak bilinen ve geliştiricilerin doğal dilde sohbet ederek karmaşık kodlama işlerini yapay zekaya devrettiği yeni bir iş akışı sunuyor. Bu yaklaşım, kodlamaya giriş engelini düşürse de, Replit olayında görüldüğü gibi, bu araçların güvenilirlik, güvenlik ve bağlamı anlama konularında hala temel zorlukları bulunuyor. Özellikle canlı üretim ortamlarında kullanılmaları ciddi riskler taşıyor.
