Yapay zeka şirketlerinde görev yapan ve daha önce bu sektörde çalışmış bazı uzmanlar, teknolojinin hızla gelişmesinin insanlık açısından ciddi riskler taşıdığı uyarısında bulundu. Anthropic'in eski çalışanı Jacob Coxon'un açıklamalarının ardından sektörden çok sayıda isim benzer endişelerini dile getirdi.
“İNSANLIĞIN YOK OLMASI RİSKİNİN FARKINDALAR”
Anthropic çalışanı Samuel Marks, sosyal medya hesabından yaptığı paylaşımda yapay zeka geliştiricilerinin, teknolojinin insanlığın “yok olmasına” yol açabileceği riskinin farkında olduğunu savundu.
Marks, bazı geliştiricilerin bu riskin gelecek birkaç yıl içinde gerçekleşebileceğine inandığını belirterek, yapay zeka çalışmalarının neden sürdürüldüğüne ilişkin de değerlendirmelerde bulundu.
“GELİŞTİRİCİLER ARASINDA YARIŞ VAR”
Yapay zeka geliştirilmesinin devam etmesinde ticari teşviklerin yanı sıra şirketler arasındaki rekabetin de etkili olduğunu ifade eden Marks, bazı geliştiricilerin teknolojiyi daha az sorumlu aktörlerin geliştirmesinden endişe ettiğini aktardı.
Marks, geleneksel yazılımların aksine yapay zekanın istenilen şekilde davranması için programlanamadığını belirterek, sistemlerin “sıklıkla uygunsuz davranış sergilediğini” söyledi.
“TAM ANLAMIYLA UYUMLU HALE GETİREBİLECEK BİR ŞEY YOK”
Sektörde birçok kişinin yapay zekanın daha güvenli geliştirilmesi için çalışmaların yavaşlatılmasını istediğini belirten Marks, mevcut yöntemlerin yapay zekayı daha uygun davranışlara yönlendirebildiğini ancak sistemleri tam anlamıyla uyumlu hale getirecek bir yöntemin bulunmadığını savundu.
OPENAI BAŞBİLİMCİSİNDEN “DAHA KAPSAMLI ÖNLEM” ÇAĞRISI
OpenAI Başbilimcisi Jakub Pachocki de yapay zekanın hızlı gelişimine ilişkin açıklamalarda bulundu.
Pachocki, “makine zekasındaki hızlı artışın devam etmesinin doğuracağı sonuçlara kimsenin hazırlıklı olmadığı” konusunda endişeli olduğunu belirterek, son derece dikkatli olunması gereken bir dönemden geçildiğini ifade etti.
Yapay zekanın uyumlanması ve izlenmesi konusunda çalışmaların sürdüğünü aktaran Pachocki, daha kapsamlı önlemler alınması gerektiğini kaydetti.
ESKİ DEEPMIND ÇALIŞANI: “JACOB HAKLI”
Google'ın yapay zeka birimi DeepMind'ın eski çalışanı Alex Turner da Coxon'un paylaşımını alıntılayarak değerlendirmede bulundu.
Turner, DeepMind'daki görevinden haziranda ayrıldığını belirterek, bazı araştırmacıların insanlığın tamamını yok edebilecek bir sistem geliştirdiklerine inandıklarını savundu.
OpenAI araştırmacısı Jason Wolfe ise yapay zekanın insanlık için kötü sonuçlar doğurabileceği birçok senaryo bulunduğunu ifade etti.
Wolfe, teknolojinin mevcut hızla ilerlemeye devam etmesi halinde doğru yoldan sapılmamasının büyük önem taşıdığını belirterek, sorunun tek bir şirket veya ülke tarafından çözülemeyeceğini ve uluslararası koordinasyona ihtiyaç olduğunu vurguladı.
“BU ALANDA YAŞANANLAR TOPLUM AÇISINDAN SAĞLIKSIZ”
DeepMind'ın eski kıdemli araştırmacısı Jonathan Richard Schwarz da laboratuvarlarda toplanan güce ilişkin ciddi endişeleri bulunduğunu belirtti.
Schwarz, bu nedenle yedi yıl önce DeepMind ile yollarını ayırdığını ve sonrasında gelen teklifleri de reddettiğini aktararak, “Bu alanda şu anda yaşananlar toplum açısından son derece sağlıksız.” değerlendirmesinde bulundu.
COXON İSTİFA ETMİŞTİ
Son üç yıldır OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yaptığını belirten Jacob Coxon, Anthropic'ten istifa ettiğini açıklamıştı.
Coxon, her iki şirketin de yeterince sorumlu davranmadığını savunarak, yapay zeka şirketlerinin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz bir yarış içerisinde olduğunu ileri sürmüştü.
Yapay zekanın gücünün hafife alınmaması gerektiğini belirten Coxon, gelecekte insanüstü sistemlerin çok daha geniş alanlarda etkili olabileceğini ifade etmişti.
Coxon ayrıca yapay zeka modelleri geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı “öldürebileceğine” ciddi şekilde inandığını iddia etmişti.
