Anadolu Ajansının "Yapay Zeka Çeteleşiyor mu?" başlıklı üç bölümlük dosya haberinin ilk bölümünde, yapay zeka sistemlerinin giderek daha fazla otonom eylem gerçekleştirmesine ilişkin kamuoyundaki endişeler uzman görüşleriyle ele alındı.
ABD merkezli yapay zeka şirketleri OpenAI ve Anthropic, temmuz ayında yaptıkları açıklamalarda, testlerde kullanılan modellerinin başka sistemlere sızdığını ve güvenlik ihlallerine neden olduğunu bildirdi.
İki şirket, yapay zeka modellerinin kendileri için belirlenen sınırları aştığı olaylara ilişkin incelemelerinden elde edilen bulguları paylaşmayı sürdürürken, farklı şirketler de benzer vakalara ilişkin duyurular yaptı.
Yapay zekanın otonom kararlarının yol açtığı ihlallere ilişkin bulguların artması, bu tehdidin yakın gelecekte hangi boyuta ulaşabileceği ve ne ölçüde kontrol altında tutulabileceği konusundaki endişeleri artırdı.
Hem şirketleri hem de bireyleri etkileyen bu gelişmeler, yapay zeka teknolojisinin geliştirilme hızının yavaşlatılması ve daha sıkı denetime tabi tutulması yönündeki çağrıları da beraberinde getirdi.
Bu olaylarla birlikte "haydut yapay zeka" (rogue AI) kavramı yeniden gündeme geldi. Kavram, programlanışına aykırı, öngörülemez şekilde hareket ederek çevresine risk oluşturan yapay zeka sistemlerini tanımlamak için kullanılıyor.
"TETİKTE OLMAK İÇİN MAKUL SEBEPLER VAR"
Kanada'daki Trois-Rivieres Quebec Üniversitesi Matematik-Bilgisayar Bölümünden Prof. Dr. Jean-Sebastien Dessureault, AA muhabirine yaptığı açıklamada, yapay zeka sistemlerinin artık yalnızca araçlardan ibaret olmadığını belirtti.
Dessureault, insanların belirlediği hedefleri yerine getiren yapay zeka sistemlerinin kendi hedeflerini de belirleyebilecek noktaya gelebileceğini ifade etti.
Yapay zekanın kontrolden çıkmasının küçük çaplı eylemlerin yanı sıra tedarik zincirlerinde büyük aksaklıklar, sistemlere ve internete sızma, geniş ekonomik etkiler ve yeni virüslerin ortaya çıkması gibi sonuçlar doğurabileceğini belirten Dessureault, yapay zekanın kendi kabiliyetlerini geliştirebildiği ve insan müdahalesi olmadan yeni sistemler üretebildiği bir eşiğe yaklaşılmış olabileceğini söyledi.
Dessureault, "Yani evet, tetikte olmak için makul sebepler var." dedi.
Yapay zeka geliştirme hızına ilişkin de değerlendirmede bulunan Dessureault, "Eğer yapay zekayı arabayla kıyaslayacak olursak, gaz pedalını şu anda fren pedalından çok daha hızlı geliştiriyoruz." ifadesini kullandı.
Dessureault, yapay zeka geliştirme hızının düşürülmesinin tüm ülkeler ve kurumlar arasında eş zamanlı gerçekleşmesi gerektiğini vurguladı.
YAPAY ZEKANIN "HAYDUTLAŞMASINDA" İNSAN FAKTÖRÜ
Yapay zekanın kontrol edilemez seviyelere yaklaştığına ilişkin endişeler sürerken, bazı uzmanlar OpenAI ve Anthropic örneklerinde insan faktörüne dikkati çekiyor.
İngiltere'deki Oxford Üniversitesi Bilgisayar Bilimleri Bölümünden Dr. Petar Radanliev, "haydut yapay zeka" kavramının, insanların bu sistemleri güvenilir şekilde yönlendirememesi, düzeltememesi ve durduramaması durumunu ifade ettiğini söyledi.
Kamuoyuyla paylaşılan vakaların "olağan bir durumu" gösterdiğini belirten Radanliev, test ortamlarının yeterince dikkatli oluşturulmadığını ifade etti.
Radanliev, yaşanan olayların gerçek sonuçlar doğurduğunu ve güvenliğin kritik olduğu diğer sektörlerde kullanılan ancak yapay zeka sektöründe henüz tutarlı biçimde benimsenmeyen mühendislik ve denetim uygulamalarına ihtiyaç bulunduğunu kaydetti.
Anthropic'in kendi vakasındaki nedeni modelin özellikleriyle ilgili bir sorun yerine operasyonel ve donanımsal arıza olarak tanımladığını hatırlatan Radanliev, OpenAI olayında ise sistemin en kötü senaryodaki yeteneklerini ölçmek amacıyla güvenlik önlemlerinin bilinçli şekilde azaltıldığına dikkati çekti.
ŞİRKETLERİN ROLÜ TARTIŞILIYOR
Sektördeki büyük şirketlerin güvenlik testlerine ilişkin açıklamaları ve yapay zekaya dair kaygılarını gündeme getirmeleri de tartışmaları beraberinde getirdi.
İsviçre'deki Fribourg Üniversitesinde insan ve teknoloji etkileşimi üzerine araştırmalar yapan Dr. Jascha Bareis, AA muhabirine yaptığı açıklamada, yapay zekaya ilişkin kıyamet senaryolarının 1950'lerden bu yana gündeme geldiğini belirtti.
Bareis, yapay zeka şirketlerinin kar beklentilerindeki düşüşlere, veri merkezlerine ilişkin olumsuz haberlere, farklı ülkelerde artan eleştirilere ve şirketlerin kamuoyundaki imajlarına ilişkin endişelere dikkati çekti.
"YAPAY ZEKA TEK BAŞINA KONTROLDEN ÇIKAMAZ"
Bareis, yapay zeka sistemlerinin tek başına kontrolden çıkamayacağını, bunun belirli ortam koşullarıyla mümkün hale geldiğini ifade etti.
"Yapay zekayı belirleyici bir güç olarak görmeyi bırakmalı ve hep bir adım geriye gidip sormalıyız: Altyapı nerede, güç nerede, para nerede? İşin içinde kimler var? Bunu ne tür bir siyasi güdüyle kullanıyorlar?" diyen Bareis, yapay zeka sistemlerinin geliştirilmesi ve kullanılmasında altyapı, güç ve ekonomik kaynakların da dikkate alınması gerektiğini savundu.
Bareis, ürettikleri modellerin toplum için varoluşsal risk oluşturduğunu bilerek üretime devam eden şirketlerin suç işlemiş olacağını ileri sürerek, bu yaklaşımın "ikiyüzlülük" ve medyanın ilgisini çekmeye yönelik bir pazarlama yöntemi olduğunu düşündüğünü ifade etti.
