OpenAI, yapay zeka tarafından oluşturulan metinlerin ayırt edilmesine yönelik yeni bir uygulamaya geçiyor. Avrupa Birliği'nin yapay zeka düzenlemelerine uyum kapsamında geliştirilen textGrain, önümüzdeki haftalarda AB'deki uygun ChatGPT ve Codex kullanıcıları için kullanılmaya başlanacak.
Sistem şimdilik dünya genelinde varsayılan olarak uygulanmayacak.
FİLİGRAN GÖZLE GÖRÜLMEYECEK
textGrain, metne görünür bir ibare ya da klasik anlamda bir işaret eklemiyor. Bunun yerine modelin kelime seçimlerine istatistiksel bir sinyal yerleştiriliyor. OpenAI'nin geliştirdiği algılama aracı da metinde bu sinyalin bulunup bulunmadığını kontrol ediyor.
Ancak sistem kesin sonuç veren bir yapay zeka dedektörü değil. Filigran bazı metinlerde tespit edilemeyebileceği gibi, filigran taşımayan bir metnin yanlış değerlendirilmesi de mümkün.
METİN DEĞİŞTİRİLDİKÇE TESPİT ZORLAŞIYOR
OpenAI'nin testlerinde dikkat çeken noktalardan biri, metin üzerinde yapılan düzenlemelerin filigranın tespit edilmesini zorlaştırması oldu. 400 kelime parçacığıyla yapılan bir testte kelimelerin yüzde 10'unun eş anlamlılarıyla değiştirilmesiyle tespit oranı yaklaşık yüzde 92'den yüzde 66'ya düştü. Değişiklik oranı yüzde 25'e çıktığında tespit oranı yüzde 17'ye kadar geriledi.
Çeviri ve yeniden yazma gibi işlemler de sistemin performansını etkileyebiliyor.
KİMİN YAZDIRDIĞINI GÖSTERMEYECEK
Filigran, metni oluşturan kullanıcıyı, hesabı veya kullanılan istemi göstermeyecek. Bir metinde insan müdahalesinin ne kadar olduğunu ya da içeriğin doğru olup olmadığını belirlemek de sistemin işlevleri arasında bulunmuyor.
OpenAI, algılama aracını ilk aşamada herkese açmayacak. Erişim onaylanan araştırmacılar ve uzman kuruluşlarla sınırlı olacak. API kullanıcıları ise desteklenen modellerde filigranlı metin üretimini isteğe bağlı olarak kullanabilecek.
