Yapay zeka modellerine insan muhakemesi ve "ahlak" kazandırılması yönündeki çalışmalar, teknoloji sektöründe yeni bir tartışma başlattı.
OpenAI CEO'su Sam Altman, insanların yapay zeka modellerine dini güç atfetmesinden veya insan muhakemesini bu sistemlere teslim etmesinden "son derece rahatsız" olduğunu belirterek bunun gerçek bir güvenlik sorunu olduğunu söyledi.
ANTHROPIC'İN GİZLİ GÖRÜŞMELERİ İDDİASI
New York Times'ın haberine göre Anthropic, geçen yıldan bu yana farklı inançlardan dini düşünürler ve filozoflarla Claude'un geliştirilmesine ilişkin görüşmeler yaptı.
Şirketin kurucu ortağı Christopher Olah'ın, Claude'a farklı dini ve seküler görüşleri kapsayan bir "insan ahlakı" kazandırılması konusunda fikir aldığı öne sürüldü.
CLAUDE'UN "BİLİNCİ" TARTIŞILIYOR
Haberde, Claude'un insanlara benzer duygular gösterebileceği ve acı çekebileceği ihtimalinin de görüşmelerde ele alındığı aktarıldı.
Microsoft AI CEO'su Mustafa Süleyman da Anthropic'in yapay zekayı "bilinç sahibi" hale getirme çabalarının ciddi riskler taşıdığı uyarısında bulunmuştu.
"AHLAKİ ÇERÇEVE" HAZIRLANIYOR
Anthropic'in, Claude'un davranışlarına ahlaki bir çerçeve kazandırmayı amaçlayan ve modele kurallardan ziyade "karakter" kazandırmaya odaklanan bir belgenin güncellenmiş versiyonunu yayımlamaya hazırlandığı ileri sürüldü.
