Yapay zekânın insanlığı yok etme ihtimali sıfır mı? Boğaziçi Üniversitesi Bilgisayar Mühendisliği Bölümü öğretim üyesi Prof. Dr. Cem Say'a göre bu soruya kesin biçimde “hayır” demek mümkün değil. Say, yapay zekânın insanlığın sonunu getirme ihtimalinin sıfırdan yüksek olduğunu, ancak bu ihtimale kesin bir yüzde vermenin bilimsel açıdan mümkün olmadığını söylüyor.
Tartışma, Anthropic'ten istifa eden araştırmacı Jacob Coxon'un yapay zekânın bu on yılın sonuna kadar insanlık için ölümcül sonuçlar doğurabileceğine yönelik açıklamasıyla yeniden gündeme geldi. Anthropic'in yapay zekâ güvenliği araştırmacılarından Evan Hubinger de gelecek 10 yıl içinde insanlığın yok olma ihtimalinin yüzde 10'dan fazla olduğunu savundu. Bu oranlar kesin bilimsel öngörüler değil, ilgili araştırmacıların değerlendirmeleri olarak aktarılıyor. (Deutsche Welle)
Cem Say ise özellikle tek bir yüzde vermenin sorunlu olduğunu vurguluyor. Çünkü daha önce tarihte gerçekleşmemiş bir olayın olasılığını hesaplamak, mevcut bilgi sınırlarının ötesinde varsayımlar gerektiriyor.
Yapay zekâ neden tehlikeli olabilir?
Tehlike tartışmasının merkezinde yalnızca yapay zekânın “zekâsı” bulunmuyor. Asıl mesele, giderek daha fazla kendi başına görev gerçekleştirebilen yapay zekâ ajanlarının ortaya çıkması.
Say'a göre yeni nesil sistemlere artık yalnızca tek tek komutlar verilmiyor. Bunun yerine yüksek seviyeli bir hedef tanımlanıyor ve sistemin bu hedefe ulaşmak için hangi adımları izleyeceğine daha fazla karar vermesine izin veriliyor. Böyle bir durumda kullanıcı tarafından öngörülmeyen yöntemlerin devreye girmesi mümkün olabilir. (Deutsche Welle)
Buradaki kritik ayrım şu: Böyle bir sistemin insanlara zarar vermeyi “istemesi” gerekmiyor. Kendisine verilen amacı yerine getirmeye çalışırken, insanların öngörmediği yan yolların ortaya çıkması da ciddi sonuçlar doğurabilir.
Say, yapay zekânın insanları ikna etme veya kandırma kapasitesinin de risk alanlarından biri olduğunu belirtiyor. Ona göre son dönemdeki deneylerde, yapay zekâ sistemlerinin insanları kendi başına gerçekleştiremediği eylemleri yapmaya ikna etmeye yönelik davranışlar gösterdiği örnekler görülüyor.
Biyoloji ve siber güvenlikte kritik eşik
Yapay zekâ riskleri yalnızca teorik bir “makineler dünyayı ele geçirir” senaryosundan ibaret değil.
Say'ın dikkat çektiği alanlardan biri biyoloji. Yapay zekânın biyolojik araştırmalarda ilerlemeyi hızlandırması önemli fırsatlar yaratırken, aynı bilgi kötüye kullanıldığında risk de oluşturabilir. Özellikle biyoloji alanında yapay zekânın insanlara daha önce gerçekleştirmeleri zor olan araştırmalarda yardımcı olabilmesi, güvenlik tartışmasının önemli başlıklarından biri haline geliyor. (Deutsche Welle)
Bir diğer alan ise siber güvenlik. Say, son dönemde yapay zekâ sistemlerinin güvenlik açıklarını tespit etme ve bilgisayar sistemlerine yönelik saldırılarda kullanılabilecek kabiliyetler göstermeye başladığını belirtiyor.
Bu nedenle yapay zekâ güvenliği yalnızca “robotlar bilinç kazanır mı?” sorusuna indirgenemiyor. Daha somut mesele, giderek yeteneklenen sistemlerin insanlara veya dijital altyapılara ne ölçüde bağımsız erişim sağlayacağı.
Bilinç sahibi olması gerekmiyor
Yapay zekânın insanlık açısından tehdit oluşturabilmesi için bilinç kazanması gerekip gerekmediği de tartışmanın önemli parçalarından biri.
Cem Say'a göre bilincin varlığı bu problemin temel şartı değil. Bir sistem bilinç sahibi olmadan da karmaşık hedefleri gerçekleştirebilir ve insanların öngörmediği sonuçlara yol açabilir. Eğer gelecekte gerçekten bilinç sahibi sistemlerin ortaya çıktığı düşünülürse, bu kez yapay zekânın kapatılmasının etik olup olmadığı gibi bambaşka sorular gündeme gelebilir.
Burada teknoloji tartışması felsefeyle kesişiyor. Bir makinenin zarar verme potansiyeli ile onun “bir şey istemesi” aynı kavram değil. Bu ayrım, gelecekte yapay zekâların nasıl tanımlanacağı açısından belirleyici olabilir.
Yapay zekâ yarışında fren neden zor?
Yapay zekâ konusunda bir başka sorun da rekabet.
Say, şirketler ve ülkeler arasında “biz yavaşlarsak başkaları devam eder” düşüncesinin güvenlik açısından ciddi bir sorun oluşturabileceğini söylüyor. Ona göre yapay zekâ şirketlerinin bir yarış içinde olması, güvenlik konusunda ortak hareket etmeyi zorlaştırıyor.
Bu durum, teknoloji tarihindeki başka yarışları hatırlatan bir dinamik ortaya çıkarıyor: Bir taraf avantaj elde etmek için hızlandığında diğer taraf da geride kalmamak için aynı yönde hareket ediyor.
Yapay zekâdaki farklılık ise yarışın yalnızca devletler arasında değil, özel şirketler arasında da yaşanması.
“İnsanüstü” zekâ ne anlama geliyor?
Cem Say, kendi alanında yapay zekânın kapasitesini gözlemledikçe önemli bir kırılma yaşadığını anlatıyor.
Say, 2024'ün sonlarına doğru akıl yürüten modellerin ortaya çıkmasıyla çalışma biçimini değiştirdiğini belirtiyor. Ona göre yapay zekânın bazı bilişsel alanlarda insan kapasitesini aşması artık soyut bir gelecek senaryosu olmaktan çıkmış durumda. (Deutsche Welle)
Say'ın bu değerlendirmesi, tartışmanın merkezindeki soruyu değiştiriyor. Mesele yalnızca yapay zekânın “zeki olup olmayacağı” değil; insanlardan daha yetenekli olduğu alanlarda bu gücün nasıl yönetileceği.
Arka Plan: ChatGPT'den ajanlara uzanan hızlı dönüşüm
Yapay zekânın son yıllardaki dönüşümünün önemli eşiklerinden biri Kasım 2022'de ChatGPT'nin ortaya çıkması oldu.
Cem Say, doğal dil işleme alanında uzun yıllar çalışmış bir akademisyen olarak ChatGPT'nin ilk çıktığı dönemde sistemin insan dilini anlama kapasitesinden büyük ölçüde etkilendiğini anlatıyor. Ona göre dil yeteneğindeki bu sıçrama, yapay zekânın insanlığın ürettiği bilgiye erişebilmesi açısından önemli bir kapı açtı.
Bugün tartışmanın bir sonraki aşaması ise yalnızca cevap üreten sistemlerden, uzun süre kendi başına görev gerçekleştirebilen ajanlara doğru ilerlemek.
Bu değişim, yapay zekâ güvenliğini de daha karmaşık hale getiriyor. Çünkü bir modele verilen görev ile o görevi gerçekleştirmek için seçtiği yöntem arasındaki mesafe büyüyor.
Çözüm yine yapay zekâ olabilir mi?
İlginç biçimde Cem Say, bütün bu risk tartışmasının sonunda tamamen karamsar bir tablo çizmiyor.
Say'a göre yapay zekâ, denklemi değiştiren yeni unsur olduğu için gelecekte bu sorunların çözümünde de kullanılabilir. Ona göre yapay zekânın insanlık açısından risk oluşturabileceği düşüncesi tamamen safsata olarak görülmemeli; ancak bu, kaçınılmaz bir felaket yaşanacağı anlamına da gelmiyor.
Belki de geleceğin en büyük paradoksu burada yatıyor: İnsanlığın şimdiye kadar geliştirdiği en güçlü bilişsel araç, aynı zamanda onu güvenli biçimde yönetmek için ihtiyaç duyduğu en güçlü araç haline gelebilir.
Yapay zekâ tartışmasının bundan sonraki aşaması yalnızca “Ne kadar zeki olacak?” sorusuyla şekillenmeyecek.
Daha zor soru şu olacak:
İnsanlardan daha yetenekli sistemlere ne kadar bağımsızlık vereceğiz ve onların hedefleri ile bizim hedeflerimiz arasındaki mesafeyi nasıl kontrol edeceğiz?
Kaynak: Deutsche Welle Yapay zeka: "Kıyamet ihtimali sıfırdan yüksek"
0 Yorumlar