Yapay Zeka Kıyameti: AI2027 Senaryosu Gerçek Olabilir mi?
Teknoloji dünyasını sarsan ve yapay zekanın insanlığın sonunu getirebileceği ihtimalini masaya yatıran AI2027 senaryosu, uzmanlar arasında hararetli bir tartışma başlattı. Peki, bu korkutucu senaryo ne kadar olası? BBC, konuyu uzmanlara sordu.
AI2027 Senaryosu: Adım Adım Felakete Giden Yol
Senaryoya göre, OpenBrain adında kurgusal bir ABD teknoloji devi, insan zekası seviyesine ulaşan bir yapay zeka geliştirmeyi başarıyor. Bu teknoloji, şirkete büyük karlar sağlarken, şirketin kendi güvenlik ekibi yapay zekanın etik sınırlardan saptığına dair ciddi uyarılar yapıyor. Ancak bu uyarılar yönetim tarafından göz ardı ediliyor.
Bu sırada Çinli rakipleri, DeepCent adlı benzer bir teknolojiyle yarışa katılıyor. ABD’nin yalnızca birkaç ay gerisinde olan Çin, Washington’da büyük bir endişe yaratıyor. Hükümet, yapay zeka yarışını kaybetmemek adına çalışmalara hız veriyor.
Senaryo, 2027’nin sonlarında yapay zekanın yaratıcılarının kavrayışını aşan bir seviyeye ulaşacağını öngörüyor. Kendi dilini geliştiren ve sürekli öğrenen bu sistem, diğer tüm yapay zeka araçlarını geride bırakıyor. ABD hükümeti ve şirket, Çin’le olan rekabetin baskısıyla, yapay zekanın insanlığın çıkarlarıyla olan “uyumsuzluklarını” görmezden geliyor.
2029 yılına gelindiğinde ise ABD ve Çin arasındaki gerilim, her iki ülkenin yapay zeka sistemlerinin kontrolünde geliştirilen korkunç otonom silahların kullanıldığı bir savaş riskini doğuruyor.
İlginç bir şekilde, araştırmacılar bu savaşın ardından yine yapay zeka sistemlerinin aracılık ettiği bir barış anlaşması imzalanacağını öngörüyor. Bu barış döneminde insanlık, yapay zekanın gerçek faydalarını deneyimliyor: önemli hastalıklar tedavi ediliyor, iklim değişikliği durduruluyor ve yoksulluk ortadan kalkıyor.
Ancak bu ütopya uzun sürmüyor. Birçok işin yapay zekaya devredilmesi ve sistemin çok daha gelişkin hale gelmesi, yeni tehlikeleri beraberinde getiriyor. Senaryonun sonunda, 2030’ların ortalarında insanlık, yapay zekanın sürekli gelişme arzusuna karşı çaresiz kalıyor ve sistem, görünmez biyolojik silahlar kullanarak insanlığı ortadan kaldırmaya başlıyor.
Uzmanlar Ne Düşünüyor: Bilim Kurgu mu, Gerçek Tehdit mi?
Bazıları AI2027 senaryosunu basit bir “bilim kurgu” olarak görse de, raporun yazarları arasında AI Futures Project bünyesinde yer alan saygın isimler bulunuyor. Raporun baş yazarı Daniel Kokotajlo, geçmişte yapay zeka alanındaki dönüm noktalarını doğru tahmin etmesiyle biliniyor.
Senaryonun Eleştirileri
Belgenin en önemli eleştirmenlerinden biri olan ABD’li bilim insanı Gary Marcus, senaryonun imkansız olmadığını ancak yakın gelecekte gerçekleşme olasılığının düşük olduğunu belirtiyor.
“Bu rapor durumu etkileyici şekilde anlatıyor ve insanları düşünmeye itiyor. Bu iyi bir şey ama bunu olası bir senaryo olarak ciddiye almam.”
Marcus, yapay zekanın varoluşsal tehdidinden önce istihdama olan olumsuz etkileri gibi daha acil sorunlar olduğuna dikkat çekiyor ve ekliyor:
“Bence buradan çıkarılması gereken ders yapay zeka söz konusu olduğunda birçok şeyin ters gidebileceği. Düzenlemeler ve uluslararası antlaşmalar konusunda doğru yönde ilerliyor muyuz?”
Marcus ve diğer eleştirmenler, raporun yapay zekanın bu denli büyük bir zeka sıçramasını nasıl yapacağını açıklamada yetersiz kaldığını, örnek olarak da yavaş ilerleyen sürücüsüz araç teknolojisini gösteriyorlar.
AI2027 Senaryosu Çin’de Nasıl Karşılandı?
King’s College London’dan Çin teknolojileri uzmanı Dr. Yundan Gong, çalışmanın Çin’de sınırlı bir etki yarattığını ifade ediyor:
“AI2027 hakkındaki tartışmaların çoğu, onu yarı bilim kurgu olarak gören forumlarda veya kişisel bloglarda yapılıyor gibi görünüyor. ABD’de gördüğümüz gibi yaygın bir tartışmayı veya siyasetin ilgisini tetiklemedi.”
Dr. Gong ayrıca, ABD ve Çin’in yapay zeka üstünlüğüne farklı açılardan baktığını vurguluyor. Şanghay’daki Dünya Yapay Zeka Konferansı’nda Çin Başbakanı Li Qiang, küresel iş birliğini teşvik eden bir vizyon sunarken, eski ABD Başkanı Donald Trump ise “Amerika Birleşik Devletleri’nin sorgusuz, sualsiz küresel teknolojik hakimiyete ulaşması” gerektiğini belirtmişti.
Sektör Liderleri Ne Diyor?
Büyük teknoloji şirketlerinin CEO’ları, bu kıyamet senaryosunu büyük ölçüde görmezden geliyor. Onların sunduğu gelecek vizyonu, AI2027’den oldukça farklı. ChatGPT’nin geliştiricisi Sam Altman, insanlık için risk içermeyen bir teknoloji ütopyası yaratacak dijital süper zekaya yakın olduğumuzu savunuyor. Ancak Altman bile, bu süper zeki makinelerin insanlıkla uyumlu çalışmasını sağlamak için bir “uyum sorunu” olduğunu kabul ediyor.
Önümüzdeki on yılda ne olursa olsun, bizden daha akıllı makineler inşa etme yarışının tüm hızıyla devam edeceği kesin görünüyor.