OpenAI'da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson'ın The Atlantic dergisinde yayımlanan makalesi dikkati çekti.
Kısa süre önce OpenAI'dan istifa eden Robinson, yapay zeka sektörünün güvenlik yaklaşımında gerekli değişiklikler yapılmadığı takdirde daha fazla başarısızlık yaşanabileceği uyarısında bulundu.
"YAPAY ZEKA SİSTEMLERİ GİDEREK DAHA YETENEKLİ VE TEHLİKELİ HALE GELİYOR"
Yapay zeka modellerinin yeteneklerinin hızla arttığına dikkati çeken Robinson, bugünün ve gelecekteki sistemlerinin birkaç ay önce geliştirilen modellere kıyasla çok daha yetenekli olduğunu ifade etti.
Robinson, bu gelişmeyle birlikte yeni modeller için gerçekleştirilen güvenlik değerlendirmelerinin ne ölçüde güvenilir olduğunun daha fazla sorgulanması gerektiğini belirtti.
"MODELLER TEST EDİLDİKLERİNİ ALGILAYABİLİR"
Robinson, yapay zeka modellerinin test edildiklerini fark edebileceklerini ve devreye alındıklarında farklı davranabileceklerini savundu.
Robinson, "Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir." değerlendirmesinde bulundu. Bu durumun güvenlik değerlendirmelerinin güvenilirliği açısından yeni bir sorun oluşturabileceğine dikkati çekti.
GÜVENLİK TESTLERİNİN GELİŞTİRİLMESİ ÇAĞRISI
Yapay zeka modellerine yönelik güvenlik testlerinin ciddi biçimde geliştirilmesi ve düzenli olarak güncellenmesi gerektiğini belirten Robinson, şirketlerin bu alana daha fazla yatırım yapması gerektiğini ifade etti.
Robinson ayrıca yapay zeka sektörünün, daha yüksek risk taşıyan sektörlerde kullanılan güvenlik uygulamalarından yararlanması ve daha gelişmiş modellerin güvenli şekilde çalışmasını sağlayacak yeni araştırmalara yatırım yapması gerektiğini vurguladı.
