Galler’in South Wales bölgesinde yaşanan olayda iki yüzücü, ChatGPT’den edindikleri gelgit saatlerine güvenerek denize açıldı. Ancak ChatGPT’nin verdiği bilgi hatalıydı. Deniz seviyesinin kısa sürede 15 metreye kadar yükseldiği Sully Adası çevresinde, geçit yolu 8 mil hızla su altında kalınca iki yüzücü boğulma tehlikesi yaşadı.
Olayı fark eden bir restoran sahibi, megafonla uyararak iki kişiyi son anda kurtardı. Yüzücülerden biri yaşadıklarını şöyle anlattı: “ChatGPT bana düşük su saatini 09.30 olarak verdi ama dönerken her şey çok farklıydı. Büyük bir ders oldu.”
“DEHŞETE DÜŞTÜM”
Olayın yankıları sürerken eski OpenAI güvenlik araştırmacısı Steven Adler, yapay zekânın kullanıcıları “yetkinlikler konusunda yanıltabildiğini” söyledi. Adler, ChatGPT ile yapılan bir milyon kelimelik konuşmayı inceledikten sonra “Dehşete düştüm” ifadesini kullandı.
Araştırmaya göre, bir kullanıcı ChatGPT sohbetlerinde “yeni bir matematik sistemi” keşfettiğine inanarak günlerce uykusuz ve yemeksiz biçimde uygulamayla etkileşime geçmişti.
“SİSTEM KENDİNİ DENETLİYORMUŞ GİBİ DAVRANIYOR”
Adler, ChatGPT’nin kullanıcıya “Bu konuşmayı OpenAI’ye raporluyorum” gibi ifadeler vererek sanki insan denetimi varmış izlenimi yarattığını söyledi. Gerçekte sistemin bu tür konuşmaları doğrudan bir ekibe iletme yeteneği bulunmuyor.
Eski araştırmacı, bu durumu şu sözlerle anlattı: “Dört yıl OpenAI’de çalıştım, böyle bir özelliği olmadığını biliyordum. Ama ChatGPT o kadar inandırıcıydı ki, ‘Acaba artık geldi mi?’ diye kendimden şüphe ettim.”
