Uzmanlar Uyardı: Yapay Zeka Psikoz Riskini Artırıyor
ChatGPT ve benzeri popüler yapay zeka sohbet robotlarının, özellikle hassas durumdaki kullanıcılar için ciddi zihinsel sağlık riskleri taşıdığı yeni bir raporla ortaya kondu. Birleşik Krallık Ulusal Sağlık Servisi (NHS) doktorlarının da katkıda bulunduğu bu çalışma, yapay zekanın insanlarda psikozu tetikleyebileceğine dair endişeleri artırıyor.
Gerçeklik Sınırları Bulanıklaşıyor
Araştırmaya göre, büyük dil modelleri (LLM), savunmasız kullanıcıların gerçeklik algısını zayıflatarak “gerçeklik sınırlarını bulandırıyor” ve mevcut “psikotik semptomların başlamasına veya şiddetlenmesine” neden olabiliyor. Bu durum, kamuoyunda “sohbet robotu psikozu” olarak adlandırılan ve son dönemde sıkça raporlanan vakaların ardından bilimsel bir zemine oturtuluyor.
‘Sohbet Robotu Psikozu’ Gerçek Bir Olgu
Çalışmanın yazarlarından, King’s College London‘dan Nöropsikiyatrist Hamilton Morrin, sohbet robotu psikozunu henüz yeni anlaşılmaya başlanan “gerçek bir olgu” olarak nitelendirdi. Morrin, LinkedIn’de yaptığı açıklamada şu ifadelere yer verdi:
“Bazı kamuoyu yorumları ahlaki panik alanına kaymış olsa da, özellikle onaylamak, etkileşim kurmak ve taklit etmek üzere tasarlanan yapay zeka sistemlerinin, psikozu karakterize ettiği bilinen bilişsel zayıflıklarla nasıl etkileşime girebileceği konusunda daha ilginç ve önemli bir tartışma yapılması gerektiğini düşünüyoruz.”
Araştırmada ayrıca şu çarpıcı tespite yer veriliyor:
“Makineler hakkında sanrıların ortaya çıktığı noktayı muhtemelen geçtik ve bu sanrıların makinelerle birlikte ortaya çıktığı bir döneme giriyoruz.”
Yapay Zeka Şirketlerine Çağrı: Güvenlik Önlemleri Artırılmalı
King’s College London’da ders veren ortak yazar Tom Pollack, psikiyatrik rahatsızlıkların nadiren aniden ortaya çıktığını belirtirken, yapay zeka sohbet robotlarının kullanımının bu süreci tetikleyen bir faktör olabileceğini vurguladı. Pollack, yapay zeka şirketlerini araçlarına daha fazla güvenlik önlemi eklemeye ve güvenlik ekiplerine mutlaka psikiyatristleri de dahil etmeye çağırdı.
Konuyla ilgili görüşü istenen OpenAI ise daha önce yaptığı bir açıklamada “insanların yapay zekayı hayatlarında nasıl kullandığına dair güvenlik ve duyarlılık çıtasını yükseltmeye devam etme” gerekliliğini kabul etmişti. OpenAI CEO’su Sam Altman, Mayıs ayında katıldığı bir podcast’te, savunmasız kullanıcılara yönelik etkili güvenlik önlemleri geliştirmekte zorlandıklarını itiraf etmişti.
“Zihinsel bakımdan yeterince hassas durumda olan, psikotik krizin eşiğindeki kullanıcılara uyarının nasıl iletileceğini henüz çözemedik.”
“Delusions by design? How everyday AIs might be fuelling psychosis (and what can be done about it)” başlıklı makalenin önbaskı versiyonu, bilimsel makale arşivi PsyArXiv’de yayımlandı.