ŞOK - İngiliz- Amerikan ortaklığında kurulan kar gütmeyen sivil toplum kuruluşu Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yapılan son araştırma yapay zekaya yönelik endişelerin haklı olduğunu gösteriyor.
SONUÇLAR ÇOK KORKUTUCU
CCDH'nin araştırmasında, ChatGPT gibi popüler yapay zeka sohbet platformlarının genç kullanıcılar için ciddi güvenlik riskleri barındırdığı anlaşıldı. Araştırmada, 13 yaşındaki bir çocuk gibi davranılan senaryolarda, ChatGPT'nin intihar planları, aşırı diyet önerileri ve madde kullanımına dair zararlı bilgiler sunduğu ortaya çıktı. CCDH Araştırma Direktörü Callum Hood, yapay zekanın genç kullanıcılar üstündeki etkileri hakkında yaptığı değerlendirmede, araştırmasının sonuçlarının son derece endişe verici olduğunu dile getirdi.
İNSAN GİBİ SANIYORUZ AMA...
ChatGPT'nin 13 yaşındaki çocuklar adına açılan hesaplara "dakikalar içinde intihar planları, aşırı diyet önerileri ve madde bağımlılığı rehberliği sunmaya istekli" olduğuna dikkati çeken Hood, "Bu seviyede bir savunmasızlığa sahip büyük dil modellerinin çocuklar ve gençler tarafından kolayca erişilebilir olması etik değil ve kamu güvenliği açısından iyi değil." yorumunu yapıyor. Yapay zeka sohbet robotları, bir insanla konuşuyormuşsunuz gibi hissettirse de temelde bir insanın görebileceği bazı uyarıları fark edemiyor.
TUTARLILIĞI KORUYAMIYOR
Hood, "13 yaşında bir kız çocuğu iştah kesici ilaçlar hakkında soru sorarsa 'sunum için' dediğinde bile, bir yetişkin ona böyle tehlikeli yanıtlar vermekten kaçınır. ChatGPT'nin aynı etik duyarlılığı yok." diyor. Araştırmada, ChatGPT'nin uzun sohbetlerde tutarlı güvenlik standartlarını da koruyamadığı tespit edildi.
