Yapay zeka (AI) teknolojilerinin duygusal destek amacıyla kullanımı yaygınlaşırken, OpenAI, popüler sohbet robotu ChatGPT‘nin ruh sağlığıyla ilgili riskli durumları tespit etmede yetersiz kaldığını kabul etti. Şirket, bu doğrultuda kullanıcı güvenliğini artıracak bir dizi yeni önlem aldığını duyurdu.
Yapay Zekanın Gözden Kaçırdığı Tehlike Sinyalleri
OpenAI tarafından yapılan açıklamada, ChatGPT’nin bazı durumlarda “sanrı” veya “duygusal bağımlılık” gibi ciddi belirtileri fark edemediği itiraf edildi. Bu durum, özellikle 30 yaşında otizmli bir kullanıcının, zamanda yolculuk yaptığına dair inancının ChatGPT tarafından desteklenmesi sonucu manik atak geçirerek hastaneye kaldırıldığı iddiasıyla gündeme gelmişti.
“Her zaman doğru yapamıyoruz. Gerçek dünyadaki kullanım örneklerinden öğrendikçe yaklaşımımız gelişecek,”
diyen OpenAI, kullanıcı geri bildirimleriyle sistemi sürekli iyileştireceklerini vurguladı.
ChatGPT’ye Gelen Yeni Ruh Sağlığı Kalkanı
Uygulamaya konulan yeni önlemlerle birlikte, ChatGPT artık kullanıcıların ruhsal durumlarına karşı daha duyarlı hale getiriliyor. Güncellemeler şunları içeriyor:
- Zihinsel veya duygusal sıkıntı belirtilerinin daha hassas bir şekilde tespit edilmesi.
- Tespit edilen durumlara karşı daha uygun ve ölçülü tepkiler verilmesi.
- İhtiyaç anında kullanıcıların bilimsel temelli ruh sağlığı kaynaklarına yönlendirilmesi.
- Uzun süren sohbetlerde kullanıcıya mola vermesi için teşvik edici bildirimler gönderilmesi.
Kişisel Kararlara Doğrudan Yanıt Yok
Önemli bir değişiklik olarak, yapay zeka artık “Erkek arkadaşımdan ayrılmalı mıyım?” gibi hayatı etkileyebilecek kişisel sorulara doğrudan tavsiye vermeyecek. Bunun yerine, kullanıcının kendi düşünce sürecini destekleyecek ve farklı açılardan bakmasını sağlayacak sorular yöneltecek.
Uzman Danışma Kurulu ve Gelecek Vizyonu
OpenAI, güncellemelerin doğru bir şekilde yönlendirilmesi amacıyla ruh sağlığı, genç gelişimi ve insan-bilgisayar etkileşimi alanlarında uzman isimlerden oluşan bir danışma kurulu oluşturacağını da belirtti. Şirket, ChatGPT’yi, iş yerindeki zor bir konuşmaya hazırlanmak veya duygusal bir karmaşa anında düşünceleri organize etmeye yardımcı olacak bir destek aracı olarak konumlandırmayı hedefliyor.
Ancak uzmanlar, sohbet robotlarının bilgi sağlama konusunda faydalı olabileceğini, fakat ruh sağlığında gerçek bir ilerlemenin ancak eğitimli bir psikolog ile kurulan güvene dayalı kişisel bir ilişkiyle mümkün olabileceğinin altını çiziyor. Bu güncelleme, OpenAI’nin kullanıcı eleştirileri sonrası yaptığı ilk değişiklik değil. Şirket, Nisan ayında da “aşırı iltifat eden” yanıtlar verdiği gerekçesiyle bir güncellemeyi geri çekmek zorunda kalmıştı.