Yapay zekâ devi OpenAI, Avrupa Birliği Yapay Zekâ Yasası’nın getirdiği şeffaflık kurallarına uyum sağlamak amacıyla stratejik bir adım attı. Şirket, önümüzdeki haftalardan itibaren AB genelindeki ChatGPT ve Codex kullanıcılarının ürettiği metin çıktılarına “textGrain” adı verilen görünmez bir dijital filigranlama teknolojisi entegre edeceğini duyurdu.
Sistem Nasıl Çalışacak?
OpenAI tarafından yapılan açıklamaya göre bu teknoloji, metinlerin üzerine gizli karakterler, görünmez boşluklar ya da özel kodlar ekleme yöntemiyle çalışmıyor. Bunun yerine sistem, yapay zekâ modelinin kelimeleri ve kelime öbeklerini seçme algoritmasında çıplak gözle fark edilemeyecek kadar küçük değişiklikler yapıyor.
Metnin yapısına gizlenen bu istatistiksel örüntü, yalnızca özel tarama araçları tarafından tespit edilebilecek. Kullanıcılar metni kopyalayıp başka bir yere yapıştırdığında dahi bu dijital iz metinle birlikte taşınmaya devam edecek.
İlk Etapta Sadece Avrupa Birliği’nde Geçerli
Yeni filigranlama sistemi, başlangıçta küresel bir standart haline getirilmeyecek ve sadece AB ülkelerindeki kullanıcıları kapsayacak. Ancak OpenAI, dünya genelindeki kurumsal API müşterilerine esneklik tanıyarak, bu özelliği kendi sistemlerinde isteğe bağlı (opt-in) olarak aktif hale getirme imkanı sunacağını belirtti.
Support Irishturks
Yüzde Yüz Kesin Sonuç Vermiyor
Geliştirilen teknolojinin henüz erken bir aşamada olduğunu kabul eden OpenAI, sistemin bazı açıklarını da paylaştı. Özellikle kısa metinlerde ya da kelime havuzunun çok dar olduğu içeriklerde filigranın tespit edilmesi zorlaşıyor. Ayrıca yapay zekânın ürettiği metin üzerinde ciddi düzenlemeler yapılması, kelimelerin değiştirilmesi veya metnin başka bir dile çevrilmesi durumunda filigran izi büyük ölçüde zayıflıyor.
Şirket, yanlış anlaşılmaların ve hatalı suçlamaların önüne geçmek adına, filigranları tespit edecek dedektör aracını ilk aşamada kamuya açmayacağını; erişimi yalnızca onaylı araştırmacılar ve uzman kuruluşlarla sınırlı tutacağını açıkladı.
Avrupa’da yaşanan diğer gelişmelerden ve güncel analizlerden haberdar olmak için bağlantıya tıklayabilirsiniz.
Bir yanıt yazın