ChatGPT Metinleri Artık Görünmez Filigran Taşıyor: AI’yi Kim Tespit Edecek?
OpenAI, Avrupa Birliği’nde ChatGPT ve Codex tarafından üretilen metinlere görünmez filigran eklemeye hazırlanıyor. Şirket, bu adımı AB Yapay Zekâ Yasası’na uyum sağlamak için attığını duyurdu. textGrain adı verilen teknoloji, okuyucunun göremediği istatistiksel bir sinyal bırakarak metnin yapay zekâ tarafından üretildiğini makine tarafından tespit edilebilir hale getiriyor. Uygulama, önümüzdeki haftalarda AB’deki uygun ChatGPT ve Codex çıktılarına yayılacak.
Görünmez İşaret Nasıl İşliyor?
textGrain, metne gizli karakter, boşluk veya ekstra token eklemiyor. Bunun yerine modelin kelime ve kelime parçaları arasındaki tercihlerini hafifçe yönlendiriyor. Bu tercihler, metin boyunca bir örüntü oluşturuyor. OpenAI’nin dedektörü daha sonra bu örüntüyü arıyor. Filigran, metnin kendi kelimelerine gömüldüğü için kopyala-yapıştır işlemiyle silinmiyor.
Filigran, metni üreten kişiye, kuruma veya girilen komuta dair hiçbir bilgi taşımıyor. OpenAI, teknolojinin model kalitesinde anlamlı bir düşüş yaratmadığını ve üretim hızına etkisinin ihmal edilebilir düzeyde kaldığını belirtiyor. API kullanıcıları dünya genelinde seçili modeller için bu özelliği isteğe bağlı olarak açabilecek; varsayılan olarak kapalı kalacak.
Tespit Sınırları ve Tartışmalı Noktalar
Sistem kusursuz değil. Kısa yanıtlar, kod parçaları, matematik cevapları ve son derece olgusal metinlerde filigranın yerleşmesi daha zor. AB’nin şeffaflık kuralları da bunu dikkate alıyor: 200 token’dan (yaklaşık 150 İngilizce kelime) kısa çıktılar ve kod parçacıkları filigran zorunluluğu dışında tutuluyor.
Düzenleme veya çeviri filigranı zayıflatabiliyor. Substantial rewriting, paraphrasing veya çeviri, sinyali tespit edilemez hale getirebiliyor. Bu nedenle filigranın bulunması, metnin tamamının yapay zekâ tarafından yazıldığını kanıtlamıyor; bulunamaması da insan eliyle yazıldığını göstermiyor. Dedektör erişimi şu an onaylı araştırmacılar ve uzman kuruluşlarla sınırlı tutuluyor.
Arka Plan: Yapay Zekâ Metinlerini İşaretleme Çabaları
OpenAI, 2023’te kendi AI sınıflandırıcısını düşük doğruluk oranı nedeniyle kapatmıştı. O dönemde şirket, metinler için daha etkili köken teknikleri üzerinde çalıştığını açıklamıştı. textGrain, bu sürecin gelinen noktası. Şirket halihazırda görseller için Content Credentials ve SynthID, ses için ise SynthID gibi sistemler kullanıyor. Metin filigranı, bu ailenin en yeni üyesi olarak AB regülasyonuna yanıt veriyor.
Yapay zekâ üretimi metinlerin görünmez biçimde işaretlenmesi, yalnızca teknik bir uyum adımı değil. İçerik güvenilirliği, akademik dürüstlük ve medya doğrulama süreçlerinde yeni bir katman oluşturuyor. Filigranın varlığı, “bu metin kim tarafından yazıldı?” sorusunu tamamen çözmüyor; ancak soruyu daha görünür kılıyor. OpenAI’nin AB’ye özel rollout’u, regülasyonun teknolojiye yön verdiği bir dönemin somut örneği haline geliyor.
Lotra Haber'in zamansız ve entelektüel içeriklerini gözden kaçırmamak için bu sayfayı tarayıcınızın yer işaretlerine (favorilerine) eklemeyi ve bizi sosyal medya hesaplarımızdan takip etmeyi unutmayın!
📌 İlginizi Çekebilir: OpenAI o1: Yapay Zekâ Cevap Vermeden Önce Düşünüyor
https://lotrahaber.blogspot.com/2026/10/openai-o1-yapay-zeka-akil-yurutme.html
0 Yorumlar