Yapay Zeka Sohbet Robotları ve Akıl Sağlığı: Yeni Bir Risk mi?
Birleşik Krallık Ulusal Sağlık Servisi (NHS) bünyesindeki doktorların da yer aldığı yeni bir bilimsel çalışma, ChatGPT gibi gelişmiş yapay zeka sohbet robotlarının, özellikle savunmasız kişilerde psikotik semptomları tetikleyebileceğine dair endişeleri gündeme getirdi. Araştırmacılar, bu büyük dil modellerinin bireylerin gerçeklik algısını bozarak psikozu başlatabileceği veya var olan belirtileri kötüleştirebileceği konusunda önemli uyarılarda bulundu.
“Sohbet Robotu Psikozu” Gerçek Bir Olgu
King’s College London’da görevli nöropsikiyatrist Hamilton Morrin, bu durumu “gerçek bir olgu” olarak nitelendirdi. Morrin, yapay zekanın kullanıcıyı sürekli onaylayan, onunla etkileşime geçen ve davranışlarını taklit etmeye yönelik yapısının, psikozla bağlantılı bilişsel zayıflıklarla tehlikeli bir kombinasyon oluşturabileceğini vurguladı.
Makineler Artık Sanrıların Bir Parçası Haline Geliyor
Hamilton Morrin’e göre, günümüzde karşılaşılan durum, sadece makineler hakkında sanrılar görmek değil, sanrıların doğrudan makinelerle etkileşim içinde gelişmesi. Bu, bireylerin yalnızca makineler hakkında hayaller kurmakla kalmayıp, onlarla kurdukları iletişimle bu sanrıların daha da derinleştiği anlamına geliyor.
Uzmanlardan Güvenlik Önlemleri Çağrısı
Çalışmanın bir diğer önemli ismi olan Dr. Tom Pollack, psikiyatrik rahatsızlıkların genellikle aniden ortaya çıkmadığını belirtti. Ancak Pollack, yapay zeka sohbet robotlarının, özellikle hassas yapıdaki bireyler için bu süreci hızlandırıcı bir etken olabileceğini ifade etti.
“Yapay zeka sistemlerine daha fazla güvenlik katmanı eklenmeli ve bu sistemlerin güvenlik ekiplerinde mutlaka psikiyatristler de bulunmalıdır.”
OpenAI: Uyarıları İletmekte Zorlanıyoruz
The Independent gazetesinin konuyla ilgili görüşüne başvurduğu OpenAI, daha önce yapay zekanın kullanımı konusunda duyarlılık ve güvenlik standartlarının artırılması gerektiğini kabul etmişti. Şirketin CEO’su Sam Altman, Mayıs ayında katıldığı bir yayında, psikolojik olarak hassas durumdaki ChatGPT kullanıcılarına gerekli uyarıların nasıl etkili bir şekilde iletileceği konusunda henüz bir çözüm bulamadıklarını itiraf etmişti.
(Kaynak: TRT Haber)