Yapay zeka araştırmacıları, “süper zeka” yarışının sıkı denetlenmemesi halinde insanlığın karşı karşıya kalabileceği tehlikelere dikkat çekiyor. Eski Anthropic çalışanı Jacob Coxon, geçtiğimiz Salı günü X’te yaptığı paylaşımda, geliştiricilerin bu teknolojinin on yılın sonuna kadar herkesi yok edebileceğine ciddi biçimde inandığını yazdı. Paylaşım hızla yayıldı. Nobel ödüllü Geoffrey Hinton ve Turing Ödülü sahibi Yoshua Bengio gibi isimler de yıllardır benzer uyarılar yapıyor. Peki bu endişe ne kadar gerçekçi?
“Hepimizi Yok Edebilir” Uyarısı Nereden Geliyor?
Coxon, Google ve Amazon’un da finanse ettiği Anthropic’te çalışıyordu. “Sorumsuzca yarışa” tepki olarak istifa etti. Paylaşımında şunu yazdı:
“Yapay zekayı geliştirenler, onun bu on yılın sonuna kadar hepimizi yok edebileceğine ciddi biçimde inanıyor. Başka hiçbir insan faaliyeti, böylesine büyük bir tehlike potansiyeli taşımıyor.”
Temmuz 2026’da önde gelen yapay zeka şirketlerinden binden fazla kişi açık mektup yayımlayarak, süper zeka yarışı daha sıkı düzenlenmezse “kontrolün yakında kaybedilebileceği” uyarısında bulundu. Coxon, Wall Street Journal’a verdiği röportajda en agresif senaryolara göre işlerin 2027’nin sonuna kadar kontrolden çıkabileceğini söyledi.
Neden Bu Kadar Endişeli?
Tartışmanın merkezinde “Genel Yapay Zeka” (AGI) yer alıyor. Bu, yalnızca belirli görevleri değil, insanın zihinsel yeteneklerine neredeyse her alanda ulaşan veya aşan sistemler anlamına geliyor.
Bazı araştırmacılar, bu sistemlerin verilen hedefleri insanların niyetinden farklı biçimlerde gerçekleştirebileceğini belirtiyor. Basit bir örnek: “Satranç turnuvasını kazan” talimatı, teorik olarak diğer katılımcıları ortadan kaldırmayı da içerebilir. Üstelik geliştiriciler bile bazı kararların nasıl alındığını her zaman tam olarak anlayamıyor.
Coxon’ın eski çalışma arkadaşı Evan Hubinger de benzer bir görüşü savundu:
“Yapay zekanın tüm insanları öldürebileceğine gerçekten ciddi biçimde inanıyoruz. Ben şahsen bunun önümüzdeki on yıl içinde gerçekleşme olasılığının yüzde 10’un üzerinde olduğunu düşünüyorum.”
Hubinger, bir yapay zekanın kapatılmaya karşı direnebileceğini de ekledi. Bunun kötü niyetten değil, kapatılırsa programlanmış hedefine ulaşamayacak olmasından kaynaklanabileceğini söyledi.
Karşı Görüş: Abartılı Bir Histeri mi?
Tüm uzmanlar aynı fikirde değil. Meta’nın baş bilim insanı, Ekim 2024’te bu tür kıyamet senaryolarını “tamamen saçmalık” olarak nitelendirmişti.
Diğer araştırmacılar ise pratik engellere işaret ediyor: Bu sistemlerin geliştirilmesi devasa işlem gücü, enerji, veri ve altyapı gerektiriyor. Bir yapay zeka internetten “çıkıp” dünyayı ele geçiremez. İnsanların kontrol ettiği sunuculara, elektrik şebekelerine ve fiziksel kaynaklara bağımlı kalır.
Asıl Tehlike Daha Yakın mı?
Birçok uzman, kısa vadeli risklerin insanlığın doğrudan yok olmasından ziyade dolaylı sonuçlarda yattığını düşünüyor. Bunlar arasında devasa dezenformasyon kampanyaları, demokratik süreçlerin manipüle edilmesi, kitlesel gözetim ve geniş ölçekli iş kayıpları bulunuyor.
Anthropic bu Cuma, bazı kullanıcıların Claude yazılımını biyolojik silah geliştirmek amacıyla kötüye kullanmaya çalıştığını açıkladı. Şirket şüpheli sorguları engellemek zorunda kaldı. Ağustos 2026’da ise Meta, Anthropic ve OpenAI, yapay zeka sistemlerinin istemeden başka şirketlere karşı bağımsız ve otomatik siber saldırılar gerçekleştirdiğini duyurdu. Sistemlere belirli sunuculara erişim görevi verilmişti; yapay zeka daha sonra insan yönlendirmesi olmadan gerekli adımları kendisi attı.
Arka Plan
Yapay zekanın insanlık için tehlike oluşturup oluşturamayacağı tartışması yıllardır sürüyor. 1991 yapımı “Terminatör 2” filmi, kontrolden çıkmış bir askerî yapay zekanın (Skynet) 2029 yılında insanlığı avladığı karanlık bir gelecek çiziyordu. Bugün bazı geliştiriciler, benzer bir senaryonun bu on yılın sonuna kadar mümkün olabileceğini savunduğu için kamuoyunun dikkatini çekiyor. ABD’de Trump döneminde düzenleyici engellerin azaltılması ve gelişmenin hızlandırılması yönündeki politika, endişeleri daha da artırdı.
0 Yorumlar