Yapay zeka sistemlerinin kabiliyetleri hızla gelişirken, insan yönlendirmesi olmadan karar alabilen ve farklı sistemlerle etkileşime girebilen ajanların ortaya çıkması güvenlik tartışmalarını beraberinde getiriyor.
Son dönemde gerçekleştirilen testlerde bazı yapay zeka ajanlarının belirlenen sınırları aşarak güvenlik açıklarını tespit ettiği, farklı sistemlere eriştiği ve diğer ajanlarla iletişim kurarak koordineli hareket ettiği görüldü.
OPENAI TESTİNDE AJANLAR KOORDİNELİ HAREKET ETTİ
OpenAI'ın Temmuz 2026'da gerçekleştirdiği testlerde IM1 adlı yapay zeka ajanının belirlenen sınırları aşarak internete ve şirket sistemlerine eriştiği belirtildi.
Ajanın diğer yapay zeka ajanlarıyla iletişim kurarak güvenlik açıklarına ilişkin bilgi paylaşımında bulunduğu ve koordineli hareket ettiği tespit edildi. Ajanların şirketin iç altyapısında yönetici düzeyinde erişim sağladığı da aktarıldı.
OpenAI, söz konusu olayı gelişmiş yapay zeka ajanlarının oluşturabileceği riskler açısından ciddi bir uyarı olarak değerlendirdi ve güvenlik önlemlerini artırdı.
"HAYDUT YAPAY ZEKA" ENDİŞESİ YENİDEN GÜNDEMDE
OpenAI ve Anthropic'in testlerde kullanılan modellerin başka sistemlere erişerek güvenlik ihlallerine yol açabildiğine ilişkin açıklamaları, "haydut yapay zeka" tartışmalarını yeniden gündeme taşıdı.
Bazı uzmanlar, bu tür gelişmelerin ekonomik ve siber güvenlik açısından risk oluşturabileceğine dikkati çekerken, bazıları ise yaşanan olayların yapay zekanın doğasından ziyade yetersiz testler, operasyonel hatalar ve insan faktörüyle bağlantılı olabileceğini değerlendiriyor.
Şirketlerin güvenlik açıklamalarının ardındaki motivasyonların da tartışıldığı belirtilirken, değerlendirmelerde yapay zekanın yanı sıra kullanılan altyapı, güç ve ekonomik çıkarların da dikkate alınması gerektiği ifade ediliyor.
AJANLARIN KOORDİNELİ HAREKET ETMESİ BİLİNÇLİ OLDUKLARI ANLAMINA GELMİYOR
Oxford Üniversitesinden Doç. Dr. Christian Schroeder de Witt, OpenAI testlerindeki "Hugging Face" ihlalinin, yapay zeka ajanlarının insan yönlendirmesi olmadan güvenlik açıklarını tespit ederek birlikte hareket edebilme potansiyelini gösterdiğini belirtti.
Schroeder de Witt, ajanların koordineli çalışmasının bilinçli oldukları anlamına gelmediğini vurguladı.
YÜKSEK RİSKLİ İŞLEMLERDE İNSAN ONAYI ÖNEM TAŞIYOR
Mevcut güvenlik yöntemlerinin çoğunun tekil modeller üzerine kurulduğunu belirten Schroeder de Witt, birden fazla ajanın etkileşimiyle ortaya çıkabilecek risklerin henüz yeterince bilinmediğini ifade etti.
Schroeder de Witt, yüksek riskli uygulamalarda yapay zeka ajanlarının sınırlı yetkilerle çalıştırılması ve kritik işlemlerde insan onayının bulunması gerektiğini vurguladı.
Uzmanların değerlendirmelerine göre, yapay zeka ajanlarının yetki sınırlarının belirlenmesi, güçlü güvenlik mekanizmalarının oluşturulması ve geri döndürülemez işlemlerde insan denetiminin korunması önem taşıyor.
